↑↑↑ 點擊上方藍字

關注AI世界公眾號

專注AI的新媒體，分享AI領域的新思想。

鎖手機”“刷臉購物”“刷臉驗證身份辦理銀行卡”……我們與生俱來的“臉”除了與顏值形象掛鉤，也在逐漸演變成中國人身份的識別標識，逐漸深入我們的日常生活。

但當人臉識別遇上現(xiàn)實，也不乏跪地躺槍，慘不忍睹的時候，比如今天我們上次提及的亞馬遜Rekognition（亞馬遜人臉識別從120名官員中認出了26名罪犯）。

除了這個可笑“事故”之外，歐盟又傳來人臉識別罰單消息。

近日，瑞典數(shù)據(jù)監(jiān)管機構（The Swedish Data Inspection Authority，下稱“DPA”）對當?shù)匾凰�高中開出第一張基于歐盟《通用數(shù)據(jù)保護條例》（GDPR）的罰單，金額為20萬瑞典克朗（約合人民幣14．8萬元）。

據(jù)悉，該校使用人臉識別系統(tǒng)記錄學生的出勤率，而瑞典DPA通過對系統(tǒng)試行期間涉及的22名學生進行調查，最終認定學校董事會對學生個人信息的處理不符合GDPR的規(guī)定。

事實上，隨著人臉識別技術的廣泛應用，歐洲已經(jīng)開始考慮對人臉識別等人工智能（AI）技術進行立法規(guī)管，限制公司和公共機構“不加區(qū)分地使用人臉識別技術”，并賦予所有歐洲居民明確的決定權。

1

瑞典高中使用人臉識別監(jiān)控違反GDPR

8月21日，瑞典DPA在官網(wǎng)公布了GDPR生效以來的首張罰單。與其他歐盟國家普遍拿科技巨頭“開刀”不同，瑞典DPA的處罰對象是斯蓋樂夫提的一所高中。

該校為了統(tǒng)計學生的出勤率，在校園內試行人臉識別系統(tǒng)。在實施試驗的三周內，共涉及到22名學生。

學校強調，他們事先獲得了學生的同意。

但是，瑞典DPA律師Ranja Bunni指出：＂事先獲得學生同意＂的說法不可接受，因為學生是在學校董事會管理之下的”。也就是說，無法判斷這里的“同意”是否為學生的獨立意志。

經(jīng)調查， 瑞典DPA認為，在日常環(huán)境中對學生進行攝像監(jiān)控等行為侵犯了學生的隱私。因為學校統(tǒng)計學生出勤率完全可以通過其他方式完成，而這些方式都比人臉識別技術對學生權益的侵害要小得多。

因此，瑞典DPA以該校董事會處理個人信息不符合GDPR規(guī)定為由，對其處以20萬瑞典克朗（約合人民幣14．8萬元）的罰款。據(jù)悉，罰款金額最高可以達到一千萬克朗（約合人民幣740萬元）。

記者了解到，在瑞典，記錄每節(jié)課的出勤率是法律要求。據(jù)IT公司Tieto統(tǒng)計，每年瑞典老師需要花費17，280小時在記錄出勤率的工作上，這相當于10個全職工作的時間。

“人臉識別技術還處在起步階段，但是發(fā)展非常迅速，我們看到了建立一個適用于所有參與者的清晰準則的巨大需求�！比鸬銬PA負責人Lena Lindgren Schelin表示。

2

歐盟正在探索嚴厲的人臉識別技術立法

不僅是在瑞典，英國數(shù)據(jù)保護監(jiān)管機構（ICO）也剛剛對一起人臉識別相關事件發(fā)起調查。

據(jù)英國媒體披露，倫敦國王十字車站地區(qū)安裝了帶有人臉識別系統(tǒng)的閉路電視攝像頭，可以監(jiān)控這一帶辦公室、商場的人流情況。據(jù)房地產開發(fā)商表示，這些攝像頭不僅有人臉識別和追蹤功能，背后還有復雜的系統(tǒng)支撐，可以保護公眾隱私。

日前，ICO已對此展開調查�！霸谌粘Ｉ�活中掃描人臉以識別他們的身份，這種對隱私的潛在威脅值得所有人重視”，ICO專員Elizabeth Denham認為，“尤其是沒有經(jīng)過告知或理解的情況下”。

據(jù)《金融時報》報道， 歐盟委員會的高級官員透露，他們正在計劃一項關于人臉識別數(shù)據(jù)使用的立法，這將賦予所有歐洲居民明確的決定權，而這項立法也是歐洲AI監(jiān)管改革的一部分。

還有官員指出，這項立法的目的在于限制公司和公共機構“不加區(qū)分地使用人臉識別技術”。歐洲居民將有權“知道人臉識別數(shù)據(jù)何時被使用”，即使有例外情況，也將是在“嚴格限制”之下，以確保適當使用。

《金融時報》還提到，在一份相關文件中，歐盟提出希望制定一套“AI監(jiān)管的世界性標準”，并建立“足以保護個人的明確，可預測和統(tǒng)一的規(guī)則”。它將在GDPR的現(xiàn)有義務之上更進一步，將目標鎖定為“帶來特定風險”的人臉識別等技術。

“AI應用可能對基本權利構成重大風險，不受管制的AI系統(tǒng)可能會做出影響人們卻又無法解釋的決定，還無法溯源或者找到相關負責人”，該文件稱。

公開資料顯示，歐盟委員會將在11月迎來新一任主席——Ursula von der Leyen。她計劃在其上任的前100天內推出新的AI管理法規(guī)，為人類和AI倫理提供一個“經(jīng)過協(xié)調的歐洲方法”。

其實除了歐盟，美國舊金山議員丁右立（Phil Ting）早已就提議禁止使用人臉識別技術軟件系統(tǒng)，并且表示類似于低級錯誤識別結果將會給人們帶來巨大的負面影響，當你被人認為是一個罪犯， “可能會影響你找工作的能力、影響你買房租房的能力�！边@遠不是一項技術犯了一個可笑的錯誤那么簡單，而是確確實實會有活生生的人們，受到這一錯誤帶來的實際影響。

科技進步、人工智能給我們的生活帶來的方便和快捷不言而喻，但是科技作為工具，能否使用的好最終還是掌握在人的手里，尤其是像這種涉及人們隱私的技術——人臉識別，是不是需要禁止或者是否要嚴加看管，在中國我們也需要一個保護自己隱私的權利！

歡迎加入“AI世界”

可以掃碼添加小編  申請入群