“我被机器解雇了!”Amazon 63岁员工因算法评分太低被自动开除

百家 作者:AI100 2021-07-01 20:55:33

整理 | Carol

出品 | CSDN(ID:CSDNnews)


“我被一个机器解雇了。”
 

63岁“老司机”因跟踪算法被开除

 
一觉醒来,63岁的斯蒂芬 · 诺曼丁(Stephen Normandin)发现自己居然被莫名其妙解雇了。
 
斯蒂芬是Amazon Flex的一名代理司机。2020年10月的一天早晨,斯蒂芬按照往常的习惯早起洗漱,准备开始新一天的工作时,却发现他无法正常登录司机端的App查看Amazon Flex的送货路线了。起初他还以为是手机的问题,但翻来覆去研究了半天后,意外发现邮件里静静躺着一封冷漠的公式化的邮件,让斯蒂芬感到十分糟心:
 
“你已经被Amazon终止合作,原因是:个人评分已经低于Amazon的规定分数。”同时,这封邮件还告诉他:跟踪算法发现他没有正确地完成Amazon的快递送达工作。
 
斯蒂芬感到难以接受,作为一名退伍老兵,在过去的三年半时间里,他一直为工作付出110%的努力,从没有过纰漏,评分也一直高于标准值,甚至还一度被Amazon的职员询问他是否有兴趣培训新司机。
 
回想近半年来的工作及公司对自己还算正面的态度,他终于意识到,问题或许是出在了Amazon的算法身上。说解雇就解雇,而且还是仅凭一个算法的结果就解雇了,这真的合理吗?算法就是标准吗?
 

 

算法通效率,却不够“通人性”

 
斯蒂芬作为一名Amazon Flex的司机,在美国Phoenix(凤凰城)专职派送包裹。在过去四年,他主要在Flex的系统里完成接单和递送,帮助庞大的Amazon电商帝国完成最后一公里的快递派送服务。
 
斯蒂芬认为是算法的错误才使得他悉心维持的评分迅速下降,从去年8月开始,他就开始遇到一系列他无法控制的运送延迟问题。有一天,Amazon的系统在天亮前给他派发了一个在带密码的公寓大楼进行配送的工作。因为时间过早,当他抵达公寓时,公寓没有开门,公寓办公室也没有开门,用户的电话更是无法接通。一通折腾之后,Amazon算法要求他将包裹送到公寓大楼的Amazon送货柜,但却发现储物柜因为故障打不开。最后斯蒂芬根据通知将包裹退回了Amazon送货分拣中心。
 
这件事后,斯蒂芬的评分迅速下降。即使他致电了Amazon司机服务中心,解释了缘由,也没有逃过被开除的结局。斯蒂芬也想要提出上诉,但是他的一封封申诉邮件,总是只能收到虽然是不同落款,但是疑似系统自动回复的邮件。相似的各种客套话根本无助于解决斯蒂芬的问题。
 
即使到了最后,他不过也是在跟Amazon的机器人打交道。最终的一封署名SYAM的邮件于去年10月28日发到了斯蒂芬的邮箱。邮件里面没有对斯蒂芬的解雇提出任何解释,也没有回答任何斯蒂芬提出的问题。它只是像一个机械的审判者一样,宣告了一个对Amazon来说无足轻重的员工的离开。
 
和斯蒂芬一样认为自己不应该离开的司机有10天的时间来申请恢复他们的账户,但在这段时间里,他们不能轮班工作。如果在上诉中败诉,可以选择花费200美元申请仲裁,而为Flex送货每小时才赚18-30美元,他们根本不会浪费这个钱。


仅凭算法就能自动解雇人?

 
Amazon Flex是一个类似于快递众包业务的平台,可以通过它进行注册,申请成为送货员,App就会提示用户到小型仓库进行接货,然后只用一小时就可以将商品送到客户家中,Amazon会向司机支付每小时20美元的配送费,属于1小时送达服务“Prime Now”的一部分。
 
Amazon这种零工风格的交付服务是从2015年开始的,当时对标的用户主要是Uber和Lyft的司机,因为这些群体能够保证有车可用,方便送货。在推出之初,Amazon的标语大多是“做自己的老板、完成最后一公里送货”这种风格的。然而在司机们注册之后却发现他们不仅不能“当自己的老板”,甚至还处于被算法无时无刻监控的状态。
 
2019年,Amazon就被指使用AI监工系统,这个系统主要是用来追踪物流仓储部门的员工。算法会监督她们是否送货到站、是否在规定窗口完成了路线,是否将包裹放在了正确的位置、是否将包裹隐藏在花盆后面等等。通过数字追踪器,它可以监视员工的打包速度、统计员工的离岗时间,最终系统会依照这些数据生成一份工作效率报告,并通过大数据决定接下来哪些司机获得更多快递单,哪些司机将被停用。
 
这听起来似乎没什么问题,相关数据也表明,算法带来的高效让Amazon节约了不少成本,变得更加成功。
 
然而对于司机来说,这个算法就过于冰冷了。在整个工作过程中,Flex司机在得到的人工反馈极少。他们就像是在给冷冰冰的算法打工,偶尔会收到算法系统自动分发的邮件,告诉他们目前的评级——非常好(Fantastic)、出色(Great)、一般(Fair)和有不合格风险(At Rist)。
 
Amazon Flex的AI监工系统号称可以实现深度自动化的跟踪过程。如果员工的工作速度变慢,或者长时间没有接触包裹(上厕所、喝水等情况),该系统会将这些情况视作偷懒,算在“摸鱼”时间内。如果系统发现员工的生产效率地下,AI系统则会自动生成警告。
 
更让人难以接受的是,该系统可以直接在线生成解雇员工的指令,并且该过程不需要主管的同意,无数和斯蒂芬一样认真工作的基层员工就这样被算法“轻飘飘”地开掉了。
 

成本之后,才是员工?

 
Amazon Flex的司机们表示,大家一直被系统要求按照“按照计划”完成任务。无论是雨雪天气等外界因素,还是系统不合理安排造成的任何延迟都受不到谅解,对于Amazon来说,丢失几个基层员工根本不算什么,即使这些员工都很优秀,但利用算法提高解雇效率所节约下来的成本远高于他们创造的价值,只要有源源不断的人加入Flex,优秀的员工就还会有很多。据SensorTower称,仅在5月份,Flex应用程序就被下载了20万次。
 
尽管面对外界质疑,Amazon方面表示,在一些特殊情况下,主管有权推翻机器的决定,挽救员工的工作机会,但也有网友认为,这种能被机器自动发邮件“踢皮球”解决的事,可能永远也到不了主管的办公桌上。

在评论区留言你对 AI 或本事件的看法

AI科技大本营将选出三名优质留言
携手【北京大学出版社】送出
《人工智能数学基础》一本
截至7月6日14:00点

更多精彩推荐
赠书 | 图解机器学习算法,看这文就够了!
杀毒软件 McAfee 创始人狱中身亡,75 年传奇人生画下句号
赠书 | GNN 模型在生物化学和医疗健康中的典型应用
点分享
点收藏
点点赞
点在看

关注公众号:拾黑(shiheibook)了解更多

[广告]赞助链接:

四季很好,只要有你,文娱排行榜:https://www.yaopaiming.com/
让资讯触达的更精准有趣:https://www.0xu.cn/

公众号 关注网络尖刀微信公众号
随时掌握互联网精彩
赞助链接