“人工智能正在變得比人類更聰明，我想要‘吹哨’提醒人們應該認真考慮如何防止人工智能控制人類。”

杰弗里·辛頓在接受外媒采訪時表示，他已于上周辭去在谷歌的工作，并就其長期推廣的AI技術(shù)風險發(fā)出警告。

杰弗里·辛頓被外界稱為“AI教父”，他對深度學習和神經(jīng)網(wǎng)絡(luò)（模仿人腦的數(shù)學模型）的研究幫助奠定了人工智能發(fā)展的基礎(chǔ)，并且已在AI領(lǐng)域默默深耕數(shù)十年。

AI技術(shù)會威脅人類的論調(diào)在科技圈已經(jīng)不是新鮮事了。杰弗里·辛頓表示，當人們過去問他如何能研究有潛在危險的技術(shù)時，他會引用“原子彈之父”羅伯特·奧本海默的話：“當你看到某種技術(shù)上令人興奮的東西時，你就會去做�！�

而現(xiàn)在，他的態(tài)度發(fā)生轉(zhuǎn)變，他決心站在狂熱的人工智能風暴中心發(fā)出警告的聲音。

事實上，不止杰弗里·辛頓，就連馬斯克、阿爾特曼等一眾大佬都在公開場合表達過對AI未來發(fā)展的擔憂。

那么，在不可知的未來，AI真的是洪水猛獸嗎？

圖靈獎得主、“AI教父”杰弗里·辛頓在擔憂什么？

杰弗里·辛頓出生于1947年，是一位英國僑民。

早在2012年，杰弗里·辛頓和他在多倫多大學的兩名研究生Ilya Sutskever與Alex Krishevsky構(gòu)建的卷積神經(jīng)網(wǎng)絡(luò)在ImageNet大規(guī)模視覺識別挑戰(zhàn)賽中以巨大優(yōu)勢奪冠，將深度學習推向世人眼前。

2013年，杰弗里·辛頓創(chuàng)辦的DNNresearch 公司被谷歌收購，他也因此進入谷歌，并為其效力近十年。2018年，辛頓因在概念和工程領(lǐng)域取得的突破獲圖靈獎。

作為神經(jīng)網(wǎng)絡(luò)技術(shù)的先驅(qū)、人工智能領(lǐng)域的開創(chuàng)者之一，杰弗里?辛頓為何會對自己奮斗了一輩子的AI事業(yè)感到擔憂呢？筆者總結(jié)了杰弗里?辛頓對于AI的擔憂，主要集中在以下三個方面。

首先，杰弗里?辛頓擔心人工智能會導致大量失業(yè)。在接受《紐約時報》采訪時，杰弗里?辛頓表示，他擔憂AI可能會導致某些工作機會減少。

事實也確實如此，ChatGPT爆火之后，國外已經(jīng)有游戲公司裁撤一大批原畫師。未來，按照人工智能的發(fā)展速度，它們很可能取代律師助理、翻譯、行政助理等其他任何基礎(chǔ)的、重復性的工作。就像杰弗里?辛頓所說，“它消除了苦差事，但帶走的可能遠不止于此�！�

其次，杰弗里?辛頓擔心人工智能會創(chuàng)造出一個許多人“無法知道什么是真實的”世界，互聯(lián)網(wǎng)將很快被各種虛假信息淹沒。虛假圖像和文字大量充斥在網(wǎng)絡(luò)中，而普通人將越來越難分辨這些信息的真假，引發(fā)社會的失序。

再者，他還擔心人工智能技術(shù)接下來的發(fā)展會對人類社會構(gòu)成威脅，這也是AI技術(shù)發(fā)展最恐怖的一點。

杰弗里?辛頓承認，在他們過去的研究之中，人工智能常常能從大量數(shù)據(jù)中學習進而產(chǎn)生出很多讓人意想不到的行為。而且，AI已經(jīng)開始編寫和運行自己的代碼，“自主殺手機器人”可能會成為現(xiàn)實。

“如果它變得比我們聰明得多，它就會非常擅長操縱，因為它是從我們身上學到的，而且很少有例子證明一個更聰明的東西會被一個更笨的東西控制，”杰弗里?辛頓在采訪中談到，“它知道如何編程，所以它會想出辦法繞過我們對它的限制。它會想出辦法操縱人們做它想要的事情�！�

面對人工智能的飛速發(fā)展，杰弗里?辛頓表示：“人們不應該快速擴大AI研究的規(guī)模，直到足夠了解自己是否能夠控制它�！�

AI“遍地開花”，資本“笑臉相迎”

無獨有偶，除了杰弗里?辛頓之外，國際社會上有不少人都認為人工智能會對人類產(chǎn)生不可逆轉(zhuǎn)的負面影響。

今年三月，1000多名技術(shù)領(lǐng)袖和研究人員簽署了一封公開信，呼吁暫停更先進系統(tǒng)的開發(fā)6個月，理由是人工智能技術(shù)“對社會和人類構(gòu)成了深刻的風險”。

不久之后，擁有40多年歷史、人工智能領(lǐng)域最權(quán)威學術(shù)機構(gòu)之一的人工智能促進協(xié)會（AAAI）的19名現(xiàn)任及前任領(lǐng)導人也發(fā)布了聯(lián)名信，其中包括了微軟現(xiàn)任首席科學家、人工智能研究專家Eric Horvitz。?

Eric Horvitz

盡管反對的聲音此起彼伏，但事實上，AI技術(shù)已經(jīng)廣泛運用到我們的日常生活里，比如語音識別、人臉識別、圖片檢索、機器翻譯、自動駕駛等……

資本市場對AI技術(shù)也采取肯定態(tài)度。以ChatGPT母公司OpenAI為例，近期，OpenAI完成103億美元融資，估值也水漲船高，達到270億-290億美元（約合人民幣2000億元），OpenAI堪稱全球最新成長速度最快的獨角獸。

而且，OpenAI背后的投資人也可謂是大佬云集。本次融資分為兩部分：一是由老虎環(huán)球管理、紅杉資本、加州Andreessen Horowitz、紐約Thrive和K2 Global、Founders Fund等參與的財務(wù)投資，金額超3億美元；二是由微軟主導的戰(zhàn)略投資，規(guī)模據(jù)大約100億美元。

放眼國內(nèi)也是如此。阿里騰訊百度等互聯(lián)網(wǎng)大廠都在做發(fā)力AI，也有不少創(chuàng)業(yè)公司靠著AI概念爆火。比如，百度的“文心一言”、阿里的“通義千問”、王小川的“百川智能”、商湯科技的日日新SenseNova大模型、昆侖萬維的大語言模型“天工3.5”……

據(jù)《首席商業(yè)評論》不完全統(tǒng)計，國內(nèi)科大訊飛、萬興科技、藍色光標、中文在線等超300家企業(yè)宣布布局AI賽道。

天下熙熙皆為利來，天下攘攘皆為利往。在資本和政策的雙重推動下，人工智能的發(fā)展將會不可避免的加速。而潘多拉魔盒一旦被打開，就很難被關(guān)閉。技術(shù)的發(fā)展和人類的開悟也是一樣，是不可逆的。

正如谷歌首席科學家Jeff Dean在一份聲明中回應的那樣，“我們?nèi)匀恢铝τ谝载撠煹姆绞綄Υ�人工智能。我們將不斷學習以面對即將出現(xiàn)的風險，同時仍持續(xù)大膽創(chuàng)新。”?

AI真的是洪水猛獸嗎？

“人工智能覺醒之日，就是人類文明滅亡之時�！�

在科技圈，有不少大佬悲觀地斷言，AI會對人類造成毀滅性打擊。已故的物理學家霍金也曾預言，AI可能會成為完全取代人類的新生命體，就連OpenAI的創(chuàng)始人阿爾特曼也在一次采訪中表示，“AI確實可能殺死人類�！�

那些曾經(jīng)存在于《機器姬》、《銀翼殺手》等電影里的情節(jié)，如今似乎正在走向現(xiàn)實。

AI于人類而言，真的是洪水猛獸嗎？

首席采訪了一位資深行業(yè)人士，他表示“（杰弗里?辛頓）還是擔心潛在影響，擔心機器產(chǎn)生自我意識，失去控制，給人類造成不可預估的負面影響，但如果可控是沒有問題的�！�

這已經(jīng)不是業(yè)內(nèi)人士第一次提到“可控”。上海市人工智能行業(yè)協(xié)會秘書長鐘俊浩也曾公開對媒體表示，比起失控的技術(shù)，更有可能失控的是用技術(shù)來為非作歹的‘人’，防止人工智能作惡，關(guān)鍵在于控制背后的人。

就連杰弗里?辛頓也曾強調(diào)可控的重要性。辛頓稱，谷歌和微軟以及其他大型公司之間的競爭，將很快升級為一場全球性競爭，如果沒有某種監(jiān)管，這場競爭將不會停止，人工智能發(fā)展的速度會遠超我們的想象，并最終走向失控。

AI行業(yè)正在由內(nèi)向外呼吁監(jiān)管。事實上，ChatGPT出圈后，以大模型為底座的人工智能在全球范圍爆火，各國政府都已經(jīng)為人工智能技術(shù)和應用的發(fā)展“系上安全帶”。

今年4月11日，我國網(wǎng)信辦發(fā)布《生成式人工智能服務(wù)管理辦法（征求意見稿）》，提出21條舉措，用規(guī)章制度防范人工智能技術(shù)手段濫用行為，促進生成式人工智能技術(shù)健康發(fā)展和規(guī)范應用。

歐盟對人工智能的重點是應對公司用于開發(fā)其生成人工智能模型數(shù)據(jù)集的版權(quán)問題。當前許多生成模型拒絕披露其數(shù)據(jù)源。歐盟修訂后的 AI 法案將要求這些公司公開數(shù)據(jù)集，這將為 AI 開發(fā)人員提供一個合法來源的參考。

美國政府更關(guān)注人工智能對隱私、有害信息擴散和經(jīng)濟的潛在影響。前不久，美國民主黨人提出了一項法案，要求政治廣告披露人工智能的使用情況。

目前，針對人工智能的態(tài)度整體上可以分為“暫停半年派”、“擁抱未來派”和“徹底封禁派”三派，但關(guān)于共同加強AI監(jiān)管、預防潛在性危險發(fā)生的觀點，社會各界的看法幾乎都是一致的。?

事實上，沒有人能斷定AI未來的發(fā)展，我們只能謹小慎微地推測AI可能帶來的風險并加以預防。

這點可以參考一下新技術(shù)歷史，在人類的歷史長河中，有不少新技術(shù)的出現(xiàn)都伴隨著爭議。

比如，核能發(fā)現(xiàn)之后，給人類生活帶來了雙重影響。一方面，核能可以用少量的核燃料產(chǎn)生大量的能量、低污染、運輸方便，成本低廉。

另一方面，核電廠的反應器內(nèi)有大量的放射性物質(zhì)，如果發(fā)生核泄漏事故，會對生態(tài)及民眾造成嚴重傷害，并且與其他可再生能源相比，核能并不是一種絕對安全的能源。

AI技術(shù)迅猛發(fā)展已經(jīng)是不爭的事實，但AI技術(shù)是否會對人類造成毀滅性影響，我想，每個人都有自己的看法。

技術(shù)沒有對和錯，錯的只可能是人心。

時間回到2015年，在OpenAI誕生之初，就確立了公司創(chuàng)立的初心是“確保人工智能不會消滅人類�！�

當時，馬斯克曾與阿爾特曼討論過一個問題：“為了人類的未來，我們擁有的最美好的事物是什么？”

馬斯克回答：“是人性�！�

參考資料：

1. 《AI教父變成“吹哨人”，他到底在警覺什么？》元宇宙日爆

2. 《“AI 教父”：為什么我開始害怕自己所建立的技術(shù)》巴比特資訊

3. 《谷歌痛失大將：“AI教父” Geoffrey Hinton離職，只為給人類敲響警鐘？》硅星人

       原文標題 : “AI教父”離職，就技術(shù)風險發(fā)出警告，AI真的是洪水猛獸嗎？