未來,評估你工作表現(xiàn)、決定是否解雇你的,可能就是AI。

跟車過近,記1分;闖紅燈,記10分……

別誤會(huì),這不是交警在進(jìn)行扣分,而是AI在對司機(jī)打分。

甚至,一旦AI打分結(jié)果“不太樂觀”,輕則影響薪酬,重則丟掉工作。

“這是徹底的人格侮辱�！币晃粺o法忍受被監(jiān)控,而最終選擇辭職的司機(jī)憤懣表示。

送貨司機(jī),正在被車內(nèi)攝像頭“監(jiān)控”

以上評分系統(tǒng)來自于一份被曝光的機(jī)密文件,而這份文件的歸屬者是海外電商物流巨頭亞馬遜。

文件內(nèi)容顯示,亞馬遜在送貨車內(nèi)安裝了4個(gè)攝像頭。

這4個(gè)攝像頭中,1個(gè)直接對準(zhǔn)司機(jī),另外3個(gè)則分別面向擋風(fēng)玻璃和兩個(gè)側(cè)窗。

這意味著,除了汽車尾部,不管司機(jī)在車身周圍什么方位,一舉一動(dòng)都可以被攝像頭捕捉到。同樣的,是否闖紅燈、跟車距離等駕駛行為也會(huì)被拍下。

行車過程中,攝像頭會(huì)始終處于打開狀態(tài),并實(shí)時(shí)監(jiān)督駕駛員的肢體語言、車輛速度,當(dāng)檢測到違規(guī)行為,系統(tǒng)就會(huì)使用“語音警報(bào)”來告知駕駛員,并記錄在案。

而依據(jù)這些行為,系統(tǒng)會(huì)進(jìn)行評分,比如跟車過近等多數(shù)情況會(huì)記1分,而闖紅燈等違反停止標(biāo)志的情況則會(huì)被記10分。

基于這套評分系統(tǒng),亞馬遜的簽約配送公司每周都會(huì)收到駕駛員的記分卡,最好表現(xiàn)是“驚艷”,最差則會(huì)是“糟糕”。

而配送公司的老板也會(huì)參考這一評分決定司機(jī)的薪酬,甚至如果安全分?jǐn)?shù)被評為“糟糕”,司機(jī)還有可能丟失續(xù)聘資格。

面對攝像頭,司機(jī)感覺到“人格侮辱”,亞馬遜繼續(xù)標(biāo)榜“安全”

這已經(jīng)不是第一次亞馬遜嘗試用AI評估司機(jī)了。

而在這一方針的執(zhí)行上,亞馬遜是循序漸進(jìn)的。

它先是使用開發(fā)出了應(yīng)用程序“Mentor”,該程序會(huì)不斷監(jiān)控司機(jī)的駕駛、電話使用和位置,并為配送公司反饋得分,以作為評估司機(jī)表現(xiàn)的參考。

雖然這一系統(tǒng)的推行遭到了來自司機(jī)和其他一些群體的反對,但是亞馬遜方面并沒有放棄。

與此同時(shí),在這套算法系統(tǒng)下,不少已經(jīng)工作數(shù)年時(shí)間的亞馬遜司機(jī)遭遇了“不合理的”解雇。

比如已經(jīng)遞送包裹近4年,卻在去年被解雇的斯蒂芬·諾曼丁,解雇理由是“算法判定他沒有做好自己的工作”。

而實(shí)際情況是,諾曼丁之所以沒有“做好工作”,是因?yàn)榕蓡螘r(shí)間太早,在大樓沒開門顧客電話未能接通、亞馬遜送貨柜出現(xiàn)故障打不開的前提下,沒有完成貨物配送。

“這真的讓我很難過,這事關(guān)我的名譽(yù)。他們說我沒干活兒,但我很清楚我干了。”

這之后,諾曼丁多次嘗試給亞馬遜,甚至貝佐斯發(fā)送郵件,要求撤銷解雇。但無一例外的,他總是收到系統(tǒng)自動(dòng)回復(fù)的郵件。

雖然諾曼丁的故事引起了大眾的關(guān)注,但是亞馬遜并沒有停止“監(jiān)控”司機(jī),更是在今年2月份宣布,將在車內(nèi)安裝AI攝像頭。并且強(qiáng)制規(guī)定,司機(jī)要不接受被攝像頭實(shí)時(shí)拍攝,要不就失去這份工作。

該決定一經(jīng)宣布,再次引起了亞馬遜快遞司機(jī)的不滿。

比如選擇辭職的Vic,他明確表示,遠(yuǎn)程或許行車數(shù)據(jù)還尚可接受,但是實(shí)時(shí)獲取個(gè)人視頻就是完全的“人格侮辱”了。

同時(shí),數(shù)據(jù)安全也是Vic所擔(dān)心的,因?yàn)檫@些數(shù)據(jù)在當(dāng)?shù)氐慕桓吨行氖且粋�(gè)獨(dú)立的亞馬遜承包商,而他們根本無法確定,亞馬遜是否會(huì)保護(hù)司機(jī)的匿名性。

在Vic將事情發(fā)布在論壇,并被路透社等廣泛報(bào)道后,“亞馬遜用攝像頭監(jiān)控司機(jī)”一事也引起了美國國會(huì)議員的關(guān)注,有5名民主黨參議員聯(lián)名表達(dá)了對視頻監(jiān)控的擔(dān)憂,并在公開信中要求貝佐斯提供有關(guān)攝像頭使用環(huán)境和透明度的更多信息。

對于這些問題,亞馬遜方面并沒有明確給出答案,僅表示攝像頭將能夠?yàn)轳{駛員提供實(shí)時(shí)警報(bào),從而幫助他們在路上保持安全。

此次秘密文件和評分系統(tǒng)曝光后,亞馬遜發(fā)言人進(jìn)一步表示:“我們在200多萬英里的駕駛路徑上試點(diǎn)了這項(xiàng)技術(shù),結(jié)果顯著提升了安全性——事故減少了48%,違反停止標(biāo)志的情況減少了20%,不系安全帶的情況減少了60%,駕駛分心的情況減少45%�！�

亞馬遜員工,被困在算法里

在“考察員工”,尤其是基層員工這件事上,亞馬遜可謂是非常喜歡用AI,甚至可以排上頭部。

除了以上提到的,用軟件、攝像頭跟蹤司機(jī)動(dòng)態(tài)、記錄司機(jī)行為,比如在物流中心的十幾萬名員工,他們的一切行為也要接受AI的跟蹤與評估。

依據(jù)2019年的報(bào)道,亞馬遜內(nèi)部構(gòu)建了一套AI系統(tǒng),可以追蹤每一名物流倉儲(chǔ)部門員工的工作效率,統(tǒng)計(jì)每一名員工的“摸魚時(shí)間”(因?yàn)樾菹�時(shí)間外喝水、上廁所等而太長時(shí)間沒有接觸包裹)。

而一旦系統(tǒng)判定“摸魚時(shí)間”太長,就會(huì)在線生成解雇指令,直接繞過主管開除員工。據(jù)悉,2019年曝光時(shí),已經(jīng)有近900名員工因?yàn)楸贿@套AI系統(tǒng)判定“工作效率低”而被解雇。

這一“壓力”下,有調(diào)查顯示,74%的亞馬遜倉庫員工根本不敢正常去上廁所,因?yàn)樘�耽擱時(shí)間。

此外,亞馬遜還在利用AI算法管理平臺(tái)上的數(shù)百萬第三方商家,并由此引發(fā)了一些來自賣家的投訴,因?yàn)樗麄儽幌到y(tǒng)錯(cuò)誤地指控銷售假貨和抬高價(jià)格,從而被趕出平臺(tái)。

以上種種案例可以看到,亞馬遜在利用AI“監(jiān)控”員工上已經(jīng)是一個(gè)老玩家了。

至于因?yàn)橄到y(tǒng)誤判而造成的負(fù)面影響,甚至引發(fā)社會(huì)性輿論,有前亞馬遜經(jīng)理表示亞馬遜并不在乎:它知道把工作委托給機(jī)器會(huì)導(dǎo)致誤判,可能還會(huì)鬧出頭條新聞,但公司認(rèn)為,繼續(xù)相信算法,比雇人逐一調(diào)查、改正錯(cuò)誤便宜得多。

最后

就事論事而言,在“用AI監(jiān)控員工”這件事上,亞馬遜雖然是典型代表,但卻并不是唯一的。

有數(shù)據(jù)統(tǒng)計(jì),早在2018年,全球就有22%的企業(yè)在用AI監(jiān)控員工的活動(dòng)數(shù)據(jù);17%的企業(yè)監(jiān)控員工的電腦使用;16%的企業(yè)則會(huì)記錄員工的電子郵件。

比如沃爾瑪,會(huì)依據(jù)包裝袋的聲音和掃條碼的速度,由AI系統(tǒng)來判定員工是否在認(rèn)真工作。

再看國內(nèi),此前也有一家清潔公司要求員工佩戴智能手表,并通過手表監(jiān)測員工的活動(dòng)范圍與勞動(dòng)時(shí)間。

只不過,從越來越多的公司開始將AI用于公司業(yè)務(wù)、員工管理來看,這已經(jīng)成為一個(gè)趨勢,而在智能化時(shí)代,這也會(huì)是一個(gè)常規(guī)現(xiàn)象。

只是看到這里我們不禁疑惑:用AI監(jiān)控員工,就只能這樣“壓迫”員工嗎?

這其中并沒有絕對的答案。就比如要求員工佩戴智能手表,除了前面提到的監(jiān)測員工活動(dòng)軌跡和勞動(dòng)時(shí)間,還可以實(shí)時(shí)監(jiān)測員工心肺情況,一旦出現(xiàn)緊急狀況,便能夠第一時(shí)間通報(bào)處理。

又比如亞馬遜用于監(jiān)控司機(jī)的攝像頭與后臺(tái)系統(tǒng),從安全性角度出發(fā),這一系統(tǒng)的實(shí)施警告功能確有其正面效用,確保司機(jī)的人身安全,而出于資本家的考量,將司機(jī)表現(xiàn)與評分掛鉤也無可厚非,但完全依賴AI而“不在乎”結(jié)果的準(zhǔn)確性,以及隱私安全的保護(hù),卻是不該出現(xiàn)的。

最終,關(guān)于“AI監(jiān)控員工”的話題,還是走向了這幾個(gè)字——人性與安全。

作者:韓璐