文：詩(shī)與星空(ID: SingingUnderStars)                      

馬斯克和人工智能領(lǐng)域頂尖專家、圖靈獎(jiǎng)得主約書(shū)亞•本吉奧(Yoshua Bengio)等人聯(lián)名簽署了一封公開(kāi)信，呼吁暫停開(kāi)發(fā)比GPT-4更強(qiáng)大的AI系統(tǒng)至少6個(gè)月，稱其“對(duì)社會(huì)和人類構(gòu)成潛在風(fēng)險(xiǎn)”。這封發(fā)布在非營(yíng)利性組織“未來(lái)生命研究所”(Future of Life Institute)網(wǎng)站上的公開(kāi)信主張，在開(kāi)發(fā)強(qiáng)大的AI系統(tǒng)之前，應(yīng)先確認(rèn)其帶來(lái)影響是積極的、風(fēng)險(xiǎn)是可控的。        

信中詳述了具有人類水平智能的AI系統(tǒng)可能對(duì)社會(huì)和人類帶來(lái)極大的風(fēng)險(xiǎn)，稱“這一點(diǎn)已經(jīng)得到大量研究和頂級(jí)AI實(shí)驗(yàn)室的認(rèn)同”，并連續(xù)拋出四個(gè)疑問(wèn)：         

- 我們是否應(yīng)該讓機(jī)器用宣傳和謊言淹沒(méi)我們的信息渠道？         

- 我們是否應(yīng)該讓所有的工作自動(dòng)化，包括那些令人滿意的工作？         

- 我們是否應(yīng)該發(fā)展最終可能在數(shù)量上超過(guò)我們、在智能上超越我們、能夠淘汰并取代我們的非人類思維？         

- 我們應(yīng)該冒著失去對(duì)我們文明控制的風(fēng)險(xiǎn)嗎？         

這封公開(kāi)信的簽名者越來(lái)越多，不過(guò)也有人核實(shí)部分簽名可能并非本人，但馬斯克呼吁暫緩AI的研究是一個(gè)事實(shí)。         

這些大佬為什么這么做？         

有一種觀點(diǎn)，認(rèn)為馬斯克是為了在這段延緩的時(shí)間發(fā)展自己投資的新AI產(chǎn)品。星空君認(rèn)為，這個(gè)觀點(diǎn)有點(diǎn)低估馬斯克的格局了。         

作為世界首富、想要死在火星的馬斯克來(lái)說(shuō)，他的夢(mèng)想真的是星辰大海。         

在此之前，星空君大概深度使用了一個(gè)多月的ChatGPT和stable diffusion，甚至特意買了一臺(tái)12G顯卡的主機(jī)做測(cè)試，對(duì)于AI加持的人類未來(lái)，原本還是很樂(lè)觀的。                  

研究完這封公開(kāi)信之后，卻變的非常不淡定了，因?yàn)槭聦?shí)可能和我的樂(lè)觀不一致。

01

第四次工業(yè)革命和前三次工業(yè)革命的本質(zhì)不同         

ChatGPT為首的人工智能比以往任何的產(chǎn)品都要強(qiáng)大，甚至似乎“進(jìn)化”出了智慧。以及隨著工業(yè)4.0的快速迭代，第四次工業(yè)革命已經(jīng)/即將到來(lái)。         

前三次工業(yè)革命都大幅提高了生產(chǎn)力，但同時(shí)提供了更為先進(jìn)的生產(chǎn)工具，從而產(chǎn)生了更多的工作崗位，才有了工程師、程序員這類高科技人才的發(fā)展空間。         

蒸汽機(jī)不能憑空制造，電腦需要人工操作。         

第四次工業(yè)革命卻變的有一點(diǎn)點(diǎn)不一樣：代碼可以憑空制造、機(jī)器也許可以憑空制造。         

這意味著，這一次的工業(yè)革命很可能在解放生產(chǎn)力的同時(shí)，不會(huì)創(chuàng)造更多新的崗位了。         

當(dāng)然這只是推測(cè)，也許新的工業(yè)革命會(huì)催生革命性的就業(yè)崗位。         

如果真的無(wú)法創(chuàng)造更多的崗位，那就出現(xiàn)了一個(gè)嚴(yán)重的問(wèn)題：AI發(fā)展越快，沒(méi)有工作的人類會(huì)越來(lái)越多，世界有沒(méi)有做好出現(xiàn)一部分人（可能數(shù)量巨大）無(wú)法工作的情況？         

馬斯克的擔(dān)心是對(duì)的，很顯然人類社會(huì)并沒(méi)有做好這個(gè)準(zhǔn)備。

02

數(shù)字化生存         

1996年，美國(guó)學(xué)者尼葛洛龐帝出版了一本書(shū)，叫《數(shù)字化生存》。         

在這本書(shū)里，尼葛洛龐帝提到，人類生存于一個(gè)虛擬的、數(shù)字化的生存活動(dòng)空間，在這個(gè)空間里人們應(yīng)用數(shù)字技術(shù)（信息技術(shù)）從事信息傳播、交流、學(xué)習(xí)、工作等活動(dòng)，這便是數(shù)字化生存。         

星空君的第一個(gè)郵箱就是1996年注冊(cè)的，那年擁有了自己的第一臺(tái)電腦，第二年就讀到了這本書(shū)，年少的心對(duì)未來(lái)充滿了期待。         

2000年的時(shí)候，加拿大科幻小說(shuō)家羅伯特﹒J﹒索耶寫過(guò)一本《計(jì)算中的上帝》。遺憾的是，讀到這本書(shū)的時(shí)候，是20年之后了，如果當(dāng)時(shí)能夠讀到這本書(shū)，可能會(huì)對(duì)數(shù)字化生存有一個(gè)全新的認(rèn)識(shí)。         

《計(jì)算中的上帝》認(rèn)為，當(dāng)一個(gè)星際文明發(fā)展出原子能和計(jì)算機(jī)技術(shù)后，會(huì)在短短幾百年的時(shí)間里，迅速發(fā)展到“數(shù)字化生命”階段。把全體成員的意識(shí)上傳，數(shù)字生命在云端生存并迭代發(fā)展，一直到宇宙盡頭，而這個(gè)文明的實(shí)體就消失在茫茫宇宙中。         

結(jié)合起來(lái)想，就明白為什么馬斯克在研究腦機(jī)接口了。一旦實(shí)現(xiàn)了人類意識(shí)的上傳，距離真正的數(shù)字化生存就咫尺之遙。         

不過(guò)意識(shí)上傳有個(gè)bug，現(xiàn)在電腦的所謂“剪切”并不是真正的剪切，而是先復(fù)制后再刪除原來(lái)的。         

一旦實(shí)現(xiàn)了意識(shí)上傳，那么傳上去的，其實(shí)是個(gè)復(fù)制品。         

如果意識(shí)可以永存，那么即便是上傳了我的意識(shí)的復(fù)制品，我也可以接受拋棄軀殼的結(jié)果。

03

悲觀與樂(lè)觀同在               

無(wú)論最終AI發(fā)展到什么程度，人類都不可避免的要去擁抱AI。         

要么和AI一同進(jìn)化，成為AI的一部分；要么被AI淘汰，成為進(jìn)化路上失敗的一支，就像當(dāng)年的尼安德特人。         

這并非危言聳聽(tīng)。

       原文標(biāo)題 : AI做好解放生產(chǎn)力的準(zhǔn)備了，但人類還沒(méi)做好