如何避免數(shù)字專政？

Yuval：關(guān)鍵問題就是如何管理數(shù)據(jù)的歸屬權(quán)。因?yàn)槲覀儾豢赡芡Ｖ股�物學(xué)領(lǐng)域的研發(fā)，也不能停止研究計(jì)算機(jī)科學(xué)和人工智能。所以之前的公式中，最好控制的就是數(shù)據(jù)，但這也非常困難。目前雖然已經(jīng)作出了一些舉措，但要控制數(shù)據(jù)這同時(shí)涉及哲學(xué)和政治兩個(gè)方面。擁有數(shù)據(jù)，以及管理數(shù)據(jù)所有權(quán)，到底是什么意思？在過去幾千年里，我們已經(jīng)充分理解了，什么是土地?fù)碛袡?quán)，但很少了解什么是數(shù)據(jù)擁有權(quán)，以及應(yīng)該如何進(jìn)行管理。但這正是我們要解決的問題。

我承認(rèn)AI沒有某些人想的那么強(qiáng)大。但我們必須把握這個(gè)度，我們不需要完全了解人類的AI，只需要它比我們更了解自己。這并不困難，因?yàn)楹芏嗳烁�本不了解自己，所以�?jīng)常犯下決策錯(cuò)誤，包括理財(cái)和愛情等方面。所以將這些判斷題交給算法，可能仍然很糟糕，但只要比我們做的好一些，那么這種趨勢(shì)仍然會(huì)存在。

將來可能會(huì)出現(xiàn)這種情景，你可以寫出各種的算法幫助你了解自己。但如果這些算法不止把這些信息分享給你，也把它們交給廣告商或者政府會(huì)怎樣？我覺得我們不應(yīng)該只思考太遙遠(yuǎn)、太極端的情景，而是更關(guān)注我們生活中的例子。

人工智能存在著機(jī)遇和風(fēng)險(xiǎn)，目前最重要的事情是什么？

李飛飛：我們現(xiàn)在有太多的事情可以做，這一點(diǎn)我非常同意Yuval的看法。斯坦福大學(xué)認(rèn)為，未來的人工智能應(yīng)該是以人為本的，我們需要堅(jiān)持三個(gè)主要原則。

第一，要投資具有人類思維特征的人工智能技術(shù)。目前大多數(shù)人工智能都依賴于數(shù)據(jù)，以及對(duì)數(shù)據(jù)的管理政策，這樣可以控制人工智能帶來的影響。但我們應(yīng)該開發(fā)一種可以解釋人工智能的技術(shù)，以及能對(duì)人類智力產(chǎn)生更細(xì)微的理解的技術(shù)。同時(shí)還要投資那些不太依賴于數(shù)據(jù)的人工智能，它能反應(yīng)人類的直覺、知識(shí)和創(chuàng)造性等。

第二，為人工智能的研究設(shè)立更多的準(zhǔn)則。讓經(jīng)濟(jì)、道德、法律、哲學(xué)、歷史和認(rèn)知科學(xué)等多個(gè)領(lǐng)域的人參與研究。任何單一領(lǐng)域的研究人員都不能單獨(dú)解決這個(gè)問題。

最后，除了上述操作性的建議，我認(rèn)為我們?cè)谧鲞@些事情時(shí)，我們應(yīng)該抱著警惕和理解，同時(shí)又要將這種技術(shù)運(yùn)用到正途。

如果我們自己都不了解自己，那么計(jì)算機(jī)可能比我們更容易解釋這些決策嗎？

李飛飛：兩位數(shù)的乘法對(duì)我們來說很難，但對(duì)計(jì)算機(jī)來說很簡(jiǎn)單。有些事情人類覺得困難的，未必難得倒機(jī)器。畢竟這些算法都是基于非常簡(jiǎn)單的數(shù)學(xué)邏輯。對(duì)此我們采用了包含數(shù)百萬個(gè)節(jié)點(diǎn)的神經(jīng)網(wǎng)絡(luò)。誠(chéng)然，決策的解釋很困難，但相關(guān)研究已經(jīng)在進(jìn)行，一旦成功它將會(huì)帶來突破性的進(jìn)展。而且有了這種技術(shù)，人們就很難用人工智能去作弊。

Yuval：但是人工智能的決策邏輯可能和人類完全不同，哪怕它解釋了，我們恐怕也無法理解。例如申請(qǐng)銀行貸款被拒，人工智能可能會(huì)告訴你，這些數(shù)據(jù)有數(shù)萬個(gè)來源，同時(shí)進(jìn)行了加權(quán)和統(tǒng)計(jì)分析，某些數(shù)據(jù)的權(quán)重為什么是這么多……這完全可以寫一本書。

科學(xué)越來越難向公眾解釋很多理論和發(fā)現(xiàn)，這也是為什么很多人對(duì)氣候變化持懷疑態(tài)度。這不是科學(xué)家的錯(cuò)，而是科學(xué)技術(shù)越來越復(fù)雜，而人類社會(huì)更復(fù)雜。人類的思維無法理解它，正如它無法理解為什么要拒絕一個(gè)人的貸款申請(qǐng)。

我們應(yīng)該如何確保數(shù)據(jù)沒有種族傾向？

李飛飛：說實(shí)話我個(gè)人也回答不上這個(gè)問題，但機(jī)器學(xué)習(xí)系統(tǒng)存在偏見已經(jīng)是個(gè)既定的事實(shí)。但這種偏見的成因非常復(fù)雜。斯坦福大學(xué)有人專門研究這個(gè)問題，如何去除數(shù)據(jù)的偏見，讓決策更加中立，同時(shí)也有人類學(xué)家在談?wù)撌裁词瞧�見，什么是公平。什么情況下的偏見是好的，什么情況下是壞的。之前就有研究通過臉部識(shí)別算法發(fā)現(xiàn)好萊塢女演員的出鏡率更低。

Yuval：至于是否應(yīng)該剔除數(shù)據(jù)中的種族特征或是性別特征，還需要具體分析。這也是一個(gè)需要工程師和倫理學(xué)家、心理學(xué)家以及政治科學(xué)家合作的地方。將來還可能包括生物學(xué)家。這又回到了一個(gè)問題上，我們應(yīng)該怎么做？也許我們應(yīng)該在未來的程序員培訓(xùn)過程中加入倫理課程。在那些設(shè)計(jì)人工智能工具的大公司里，同樣也要配備倫理專家這樣的團(tuán)隊(duì)，他們需要考慮設(shè)計(jì)人員會(huì)在不經(jīng)意間加入哪些偏見，它會(huì)給政治或文化方面帶來什么樣的影響。而不是等到惡果出現(xiàn)了，才追悔莫及。

是否存在道德和人工智能預(yù)測(cè)精準(zhǔn)性的問題？與全力研發(fā)技術(shù)相比，邊研究技術(shù)邊考慮道德問題，進(jìn)度是否會(huì)更慢？

Yuval：這就是一個(gè)類似軍備競(jìng)賽的問題。我覺得，這是AI目前面臨非常危險(xiǎn)的一個(gè)問題。越來越多的國(guó)家意識(shí)到這種技術(shù)的重要性，都擔(dān)心自己會(huì)被別的國(guó)家甩在后面。避免這種軍備競(jìng)賽的唯一方法，就是進(jìn)行更充分的交流。這聽起來有些虛幻，因?yàn)槲覀儸F(xiàn)在完全是在背道而馳。我們的工作就是要讓人們明白，AI的惡性競(jìng)爭(zhēng)就類似于核戰(zhàn)爭(zhēng)，誰都不會(huì)成為贏家。美國(guó)人可能會(huì)說自己是好人，但這個(gè)人工智能領(lǐng)域的領(lǐng)先者，只服務(wù)于美國(guó)自己的利益，誰又能相信它的公正性？

Yuval：我認(rèn)為全球合作可能非常脆弱。核武器的軍備競(jìng)賽雖然會(huì)讓一大批核彈問世，但是人們從沒使用過它，人工智能不一樣，它一直在被使用，最終孕育出一個(gè)集權(quán)政體。因此我認(rèn)為它更加危險(xiǎn)。

如果不同的國(guó)家之間存在巨大的技術(shù)差距，那會(huì)發(fā)生什么？會(huì)像19世紀(jì)工業(yè)革命那樣，少數(shù)掌握工業(yè)力量的國(guó)家統(tǒng)治了整個(gè)世界的經(jīng)濟(jì)和政治？如何避免悲劇重演？哪怕沒有戰(zhàn)爭(zhēng)，全球大多數(shù)人仍然處于被剝削狀態(tài)，大部分人的勞動(dòng)所得最終都屬于少數(shù)幾個(gè)國(guó)家。

李飛飛：不同地區(qū)的技術(shù)研究進(jìn)度的確不同。不同于19世紀(jì)和20世紀(jì)，技術(shù)正在以非�？斓乃俣热�球化。任何基礎(chǔ)性的科研論文都能在網(wǎng)上查到。不同國(guó)家可能因?yàn)橹贫炔煌�，在技術(shù)研究上可能存在一定差距，但我認(rèn)為你所描述的情況，還是很難發(fā)生的。

Yuval：我說的可不只是科研論文。是的，論文是全世界共享的，但如果我生活在也門、尼加拉瓜、印尼或者加沙，我沒有數(shù)據(jù)和基礎(chǔ)設(shè)施，我就算上網(wǎng)下載了論文又能如何。你要看看那些擁有所有數(shù)據(jù)的大公司來自哪里，基本只有兩個(gè)地方，其中不包括歐洲，畢竟歐洲沒有谷歌、亞馬遜、百度或者騰訊。你再看看拉美、非洲、中東和大部分東南亞地區(qū)，他們也能學(xué)到這些知識(shí)，但想要借此對(duì)抗亞馬遜還遠(yuǎn)遠(yuǎn)不夠。

擁有數(shù)據(jù)和更高計(jì)算能力的人是否將獲得更多的權(quán)力，收入的不平等也會(huì)因此加��？

Yuval：正如我所說的，這很可能還只是個(gè)開始。它在經(jīng)濟(jì)和政治方面帶來的影響將是災(zāi)難性的。那些依賴手工勞動(dòng)力的國(guó)家的經(jīng)濟(jì)體系可能會(huì)因此崩潰，它們沒有足夠的教育資金去參與人工智能競(jìng)爭(zhēng)。洪都拉斯和班加羅爾的生產(chǎn)基地將搬回美國(guó)和德國(guó)，因?yàn)槿肆Τ杀静辉僦匾�，加州生產(chǎn)的襯衫可能比洪都拉斯便宜。這些國(guó)家的人又該何去何從，新生的崗位是留給軟件工程師的，洪都拉斯的孩子可沒有錢去學(xué)習(xí)編程。

李飛飛：的確，Yuval預(yù)想到了很多我們面臨的危機(jī)，因此我們需要更多人來研究和思考這些問題。但目前全世界的國(guó)家、政府和公司都還有時(shí)間思考自己的數(shù)據(jù)及人工智能策略，意識(shí)到當(dāng)下是他們的國(guó)家、地區(qū)和公司的關(guān)鍵時(shí)刻。而這些潛在危機(jī)正是因?yàn)樗麄冞�沒意識(shí)到要跟上數(shù)字時(shí)代的潮流，也是時(shí)候引起他們的注意了。

Yuval：是的，這非常緊急。某種程度上講，這就是一種數(shù)字殖民：從巴西、印尼等國(guó)家搜集數(shù)據(jù)，然后由美國(guó)來處理，最后生產(chǎn)出更好的設(shè)備和技術(shù)，賣回殖民地。盡管它和19世紀(jì)的殖民存在差別，但這種類比值得我們留意。

人們?nèi)绾谓ㄔO(shè)AI公司，是推動(dòng)數(shù)字殖民，還是改正它？又該怎么看待人工智能，以及如何去學(xué)習(xí)？

Yuval：就我個(gè)人而言，我認(rèn)為不論是否在斯坦福大學(xué)深造，是否是工程師，都一定要更加了解你自己，因?yàn)槟阏�處于一�?chǎng)競(jìng)爭(zhēng)中。這也是所有哲學(xué)書中最經(jīng)典的建議。蘇格拉底、孔夫子、釋迦摩尼都給出過類似的看法。但在釋迦摩尼或蘇格拉底的時(shí)代，你不了解自己也沒關(guān)系，你只是錯(cuò)過了頓悟的機(jī)會(huì)。如今你們處于競(jìng)爭(zhēng)中，如果不了解自己，你就完了。對(duì)于工程師或?qū)W生，我希望實(shí)驗(yàn)室和工程部門出現(xiàn)兩件東西。第一，我希望出現(xiàn)一種離心化的系統(tǒng)，而不是中心化的系統(tǒng)，我不知道該怎么做，但我希望你們可以嘗試，我聽說區(qū)塊鏈在這方面挺有潛力的。這是對(duì)我們民主制度的保護(hù)。

第二，我希望出現(xiàn)一種專門為人服務(wù)的工具，而不是為企業(yè)或者政府服務(wù)。也許我們無法阻止人工智能了解自己，那么我希望它了解我們是為了保護(hù)我們不受其它人工智能的侵襲。就像我的身體不能對(duì)抗電腦病毒，但是我的電腦可以裝殺毒軟件。