一項(xiàng)革命性的技術(shù)普及時(shí)，必有重重阻力。

GPT－4 誕生兩周之際，美國(guó)生命未來(lái)研究所（Future of Life）向全社會(huì)發(fā)布了一封《暫停大型人工智能研究》的公開(kāi)信，呼吁所有人工智能實(shí)驗(yàn)室立即暫停比GPT－4更強(qiáng)大的人工智能系統(tǒng)的訓(xùn)練，暫停時(shí)間至少為6個(gè)月。

這封公開(kāi)信已有1079人簽署。內(nèi)容寫(xiě)到，最近AI的迅猛發(fā)展是一場(chǎng)“失控的競(jìng)賽”，他們沒(méi)有辦法理解、預(yù)測(cè)或可靠地控制自己創(chuàng)造的大模型。人類社會(huì)對(duì)其可能造成的影響也沒(méi)有做好準(zhǔn)備。

截至目前，特斯拉 CEO（OpenAI 聯(lián)合創(chuàng)始人）馬斯克、蘋(píng)果聯(lián)合創(chuàng)始人 Steve Wozniak、圖靈獎(jiǎng)得主 Yoshua Bengio、《人類簡(jiǎn)史》作者赫拉利、紐約大學(xué)名譽(yù)教授 Gary Marcus、UC 伯克利教授 Stuart Russell 等千名科技大佬和 AI 專家已經(jīng)簽署公開(kāi)信。

公開(kāi)信內(nèi)容

公開(kāi)信稱，正如廣泛的研究和頂級(jí)人工智能實(shí)驗(yàn)室所承認(rèn)的，人工智能系統(tǒng)對(duì)社會(huì)和人類構(gòu)成較大的風(fēng)險(xiǎn)。我們不應(yīng)該冒著失去對(duì)文明控制的風(fēng)險(xiǎn)，將決定委托給未經(jīng)選舉的技術(shù)領(lǐng)袖。

盡管最近幾個(gè)月人工智能實(shí)驗(yàn)室掀起AI狂潮，但目前沒(méi)有人能理解、預(yù)測(cè)或可靠地控制AI系統(tǒng)，也沒(méi)有相應(yīng)水平的規(guī)劃和管理。

當(dāng)代人工智能系統(tǒng)現(xiàn)在在一般任務(wù)上表現(xiàn)與人類相當(dāng)，我們必須反思——

- 我們是否應(yīng)該讓機(jī)器用宣傳和謊言充斥我們的信息渠道？

- 我們應(yīng)該自動(dòng)化所有的工作，包括令人滿意的工作嗎？

- 我們是否應(yīng)該發(fā)展最終可能超越我們并取代我們的非人類思維？

- 我們應(yīng)該冒險(xiǎn)失去對(duì)我們文明的控制嗎？

OpenAI 最近關(guān)于人工智能的聲明指出：「在開(kāi)始訓(xùn)練未來(lái)系統(tǒng)之前，進(jìn)行獨(dú)立審查可能很重要，人們應(yīng)該在合適的時(shí)間點(diǎn)限制用于創(chuàng)建新系統(tǒng)的計(jì)算增長(zhǎng)率�！宫F(xiàn)在已經(jīng)到了這個(gè)時(shí)間點(diǎn)。我們呼吁所有 AI 實(shí)驗(yàn)室立即暫停訓(xùn)練比 GPT－4 更強(qiáng)大的 AI 系統(tǒng)，為期至少 6 個(gè)月。

人工智能實(shí)驗(yàn)室和獨(dú)立專家應(yīng)在暫停期間，共同制定和實(shí)施一套先進(jìn)的人工智能設(shè)計(jì)和開(kāi)發(fā)的共享安全協(xié)議，由獨(dú)立的外部專家進(jìn)行嚴(yán)格的審查和監(jiān)督。這些工作至少應(yīng)該包括：

- 專門(mén)針對(duì)人工智能的新的、有能力的監(jiān)管機(jī)構(gòu)；

- 對(duì)高能力的人工智能系統(tǒng)和大型計(jì)算能力池的監(jiān)督和跟蹤；

- 幫助區(qū)分真實(shí)和合成數(shù)據(jù)的溯源、水印系統(tǒng)，并跟蹤模型泄露；

- 強(qiáng)大的審計(jì)和認(rèn)證生態(tài)系統(tǒng)；

- 對(duì)人工智能造成的傷害的責(zé)任認(rèn)定；

- 對(duì)人工智能安全技術(shù)研究的強(qiáng)大公共資金；

- 資源豐富的機(jī)構(gòu)，以應(yīng)對(duì)人工智能將造成的巨大經(jīng)濟(jì)和政治混亂。

本次聯(lián)名信最后，Let＇s enjoy a long AI summer， not rush unprepared into a fall（讓我們享受一個(gè)漫長(zhǎng)的 AI 盛夏，而不是毫無(wú)準(zhǔn)備的進(jìn)入深秋），這里是一個(gè)雙關(guān)，秋天英文 fall 另有墜落之意。這項(xiàng)提議試圖警醒眾人不要對(duì)人工智能過(guò)度樂(lè)觀，讓我們毫無(wú)準(zhǔn)備的步入墜落的深淵。

公開(kāi)信鏈接：https：／／futureoflife．org／open－letter／pause－giant－ai－experiments／

大佬們?cè)趽?dān)心什么

發(fā)布公開(kāi)信的“未來(lái)生活研究所”創(chuàng)立于2014年，一直關(guān)注“開(kāi)發(fā)與人類相當(dāng)?shù)?span id="eqmavyr" class='hrefStyle'>人工智能技術(shù)過(guò)程中出現(xiàn)的風(fēng)險(xiǎn)”，霍金、馬斯克都是這家機(jī)構(gòu)的科學(xué)顧問(wèn)�；艚鹪谘芯克�成立當(dāng)年，通過(guò)公開(kāi)媒體發(fā)表對(duì)于AI技術(shù)最終將取代人類的一系列“預(yù)言”。

馬斯克在麻省理工學(xué)院AeroAstro百年學(xué)術(shù)研討會(huì)上發(fā)表講話將人工智能稱之為“我們面臨的最大威脅”。他說(shuō)，“隨著人工智能的發(fā)展，我們將召喚出惡魔。”去年12月，馬斯克也在推特上公開(kāi)表示，ChatGPT好得嚇人，我們離強(qiáng)大且危險(xiǎn)的AI不遠(yuǎn)了。上周，“人工智能教父”的 Geoffrey Hinton 受訪時(shí)表示，人工智能可能發(fā)展到對(duì)人類構(gòu)成威脅“并非不可想象”的地步。

杰弗里·辛頓接受哥倫比亞廣播公司采訪

3月28日，AI領(lǐng)域?qū)＜疑w瑞·馬庫(kù)斯發(fā)文稱，人工智能風(fēng)險(xiǎn)≠通用人工智能風(fēng)險(xiǎn)，超級(jí)智能可能會(huì)也可能不會(huì)迫在眉睫，但在短期內(nèi)，需要擔(dān)心“MAI（平庸人工智能）風(fēng)險(xiǎn)”。

ChatGPT之父”薩姆·阿爾特曼的話比較耐人尋味。他說(shuō)，GPT系列為何會(huì)出現(xiàn)推理能力，OpenAI的研究者自己搞不明白。他們只知道，在不斷測(cè)試中，人們忽然發(fā)現(xiàn)從ChatGPT開(kāi)始，GPT系列開(kāi)始出現(xiàn)了推理能力。自主意識(shí)和無(wú)序競(jìng)爭(zhēng)會(huì)把人類卷死。

歐洲刑警組織27日對(duì)采用ChatGPT類工具進(jìn)行犯罪的可能性進(jìn)行了討論，“大型語(yǔ)言模型檢測(cè)和重現(xiàn)語(yǔ)言模式的能力不僅有助于網(wǎng)絡(luò)釣魚(yú)和在線欺詐，而且通常還可以用來(lái)冒充特定個(gè)人或群體的講話風(fēng)格。這種能力可能會(huì)被大規(guī)模濫用，以誤導(dǎo)潛在受害者將他們的信任交給犯罪分子�！�