如今，人工智能的工作方式產生了很大的變化。在很多情況下，你甚至不知道后臺是人工智能系統在做決策。Crawford以人力資源系統為例：“很多公司正在使用人工智能系統掃描求職簡歷，以決定你是否值得面試�！甭犐先�，這極大的提升了人力資源部門的效率，但亞馬遜所研發(fā)的一個人工智能系統打破了這種美好的幻想。

據報道，亞馬遜耗時兩年，設計了一個人工智能自動簡歷掃描儀。但是該公司后來發(fā)現，該系統對所有女性申請者都存在偏見，以至于如果你的簡歷上出現了“女性”這個詞，都會被排至末尾。

“這件事告訴，自動化這些工具實際上比你想象的要困難得多，因為亞馬遜擁有一些非常棒的工程師，他們明確知道自己在做什么，也不希望這樣的結果，因為他們沒有發(fā)布這個工具。但這件事卻透露了另一個重要細節(jié)，即他們所使用的訓練數據，基本上都是來自白人樣本，”Crawford說。

顯然，要想讓這些系統能夠發(fā)揮原本的作用，讓它們成為中立和客觀的完美系統，我們必須更加挑剔�！斑@就是Whittaker和我成立這家研究所的原因，我們想要能夠通過研究，對這些人工智能系統進行審核，”Crawford說道。

實際上，行業(yè)里的很多公司也已經開始了自我審核，比如谷歌和Facebook。有些甚至成立了道德委員會，希望能夠逆轉來自文化上的歧視。

在被問及政府監(jiān)管問題時，Crawford表示對美國還沒有任何形式的聯邦隱私法感到驚訝：“這在當今時代有點不尋常，到目前為止，只有州一級存在類似法案，比如加州就通過了全美最強的隱私法案，2020年生效�！�

當然，很多人依然對此感到不滿，尤其是與歐洲相比較。歐盟于2018年推行了通用數據保護條例（GDPR），雖然不是一項完美的立法，但卻在國際上產生了影響。這也讓美國政府面臨著尷尬的境地，因為美國企業(yè)可能會受到其他國家的監(jiān)管。

Crawford說：“我認為現在是開始制定法規(guī)、實現法規(guī)的關鍵時刻。這也將是未來五年里最重要的事情之一。聯邦政府需要對人工智能及其附屬技術如何被監(jiān)管做出決策�！�

Klobuchar參議員提出，可以使用罰款等手段來加強聯邦貿易委員會的資金來源。而Nancy Pelosi也表示應該成立一個與AI相關的聯邦機構歐來監(jiān)控數據。

“這將會是一場大辯論！”Crawford說道。“在成立相關機構的過程中，需要眾多專家的建議。比如在醫(yī)療保健領域，你需要醫(yī)生和護士工會，你需要了解美國保險系統的神秘運作方式。你需要把他們放在與人工智能專家平等的位置上，通過實際行動來驗證和確保這些系統是安全和有益的�！�