從文生文到文生圖，再到文生視頻，近年來(lái)，以ChatGPT、Sora等為代表的大模型引領(lǐng)了全球人工智能技術(shù)與產(chǎn)業(yè)的新一輪浪潮。2024年更是被業(yè)內(nèi)稱(chēng)為大模型應(yīng)用爆發(fā)元年。

年初，Sora橫空出世驗(yàn)證了Scalling Law在視頻生成方面的有效性。但Sora始終止步于公開(kāi)的60秒Demo，產(chǎn)品落地計(jì)劃遲遲未公開(kāi)。

隨后的半年時(shí)間，不少玩家繼續(xù)在AI視頻生成賽道展開(kāi)角逐。今年6月，快手發(fā)布視頻生成大模型“可靈”。緊隨其后，國(guó)外知名3D建模平臺(tái)Luma AI也高調(diào)入局，并宣布對(duì)所有用戶(hù)免費(fèi)開(kāi)放其文生視頻模型，再掀波瀾。近日，智譜AI也正式上線了AI視頻生成功能清影（Ying），全面入局文生視頻及圖生視頻賽道，生成6秒視頻僅需30秒的時(shí)間。

人工智能技術(shù)的普及應(yīng)用一方面為社會(huì)發(fā)展帶來(lái)了巨大的技術(shù)紅利，另一方面也帶來(lái)了風(fēng)險(xiǎn)挑戰(zhàn)。

哲學(xué)家海德格爾曾反思過(guò)現(xiàn)代技術(shù)的危險(xiǎn)性，其認(rèn)為現(xiàn)代技術(shù)強(qiáng)調(diào)效率，在這種效率觀念的促逼下，人類(lèi)反而被技術(shù)所控制和占有，成為了技術(shù)的奴隸，受到技術(shù)發(fā)展的支配。雖然當(dāng)下加速了發(fā)展進(jìn)程，但是盲目的發(fā)展最終會(huì)導(dǎo)致一系列的社會(huì)危機(jī)，這是人類(lèi)不可忽視的問(wèn)題。

AI繁榮表象下的安全隱憂(yōu)

近年來(lái)，一些不法分子利用人工智能深度偽造新工具實(shí)施電信詐騙、散布虛假視頻、激化社會(huì)矛盾，給安全領(lǐng)域帶來(lái)了諸多風(fēng)險(xiǎn)。人工智能深度偽造是一種利用人工智能技術(shù)合成、修改或替換圖像、視頻和音頻內(nèi)容的技術(shù)，可以將一個(gè)人的面部表情、言辭和動(dòng)作應(yīng)用到其他人的圖像或視頻上，使生成的內(nèi)容看似原始內(nèi)容。這項(xiàng)技術(shù)讓假新聞和虛假信息更具迷惑性，嚴(yán)重威脅公眾的信任和社會(huì)穩(wěn)定。

此類(lèi)安全產(chǎn)生的主要原因在于，技術(shù)發(fā)展速度過(guò)快而法律法規(guī)和倫理規(guī)范未能及時(shí)跟進(jìn)�，F(xiàn)有的法律框架往往難以適應(yīng)人工智能的快速發(fā)展，導(dǎo)致監(jiān)管滯后。

例如，AI自動(dòng)駕駛汽車(chē)的責(zé)任認(rèn)定問(wèn)題，目前尚無(wú)明確的法律規(guī)定。當(dāng)人工智能系統(tǒng)出現(xiàn)故障導(dǎo)致事故時(shí)，如何界定制造商、開(kāi)發(fā)者和用戶(hù)的責(zé)任，成為法律界亟待解決的難題。

同時(shí)，人工智能的決策機(jī)制和數(shù)據(jù)處理方式存在不透明性，可能導(dǎo)致偏見(jiàn)和歧視的擴(kuò)散。例如，面部識(shí)別技術(shù)在執(zhí)法中的應(yīng)用可能帶來(lái)隱私侵害和種族偏見(jiàn)的問(wèn)題。經(jīng)濟(jì)基礎(chǔ)決定上層建筑，上層建筑反作用于經(jīng)濟(jì)基礎(chǔ)，當(dāng)上層建筑為適合生產(chǎn)力發(fā)展的經(jīng)濟(jì)基礎(chǔ)服務(wù)時(shí)，它就成為推動(dòng)社會(huì)發(fā)展的進(jìn)步力量；反之則成為阻礙社會(huì)發(fā)展的力量。當(dāng)前的法律法規(guī)和倫理規(guī)范已經(jīng)落后于人工智能技術(shù)發(fā)展水平，亟需改良進(jìn)步。

受到發(fā)展水平、價(jià)值觀念、文化差異和國(guó)家利益等多個(gè)因素的影響，各國(guó)推動(dòng)的治理框架和解決方案通常在防范風(fēng)險(xiǎn)、公平公正、隱私保護(hù)和國(guó)家安全等方面有不同關(guān)切，而人工智能的發(fā)展趨勢(shì)和特征卻要求在全球治理方面構(gòu)建更加包容的框架。

因此，在當(dāng)前形勢(shì)下，在推動(dòng)全球人工智能治理框架、標(biāo)準(zhǔn)和規(guī)范形成廣泛共識(shí)方面，仍存在諸多挑戰(zhàn)與難題。

首先，人工智能技術(shù)本身的復(fù)雜性和快速發(fā)展使得全球治理更加困難。人工智能技術(shù)涉及深度學(xué)習(xí)、自然語(yǔ)言處理、計(jì)算機(jī)視覺(jué)等多個(gè)領(lǐng)域，每個(gè)領(lǐng)域都有其獨(dú)特的技術(shù)挑戰(zhàn)和應(yīng)用場(chǎng)景，治理的復(fù)雜性大大增加，并且人工智能技術(shù)更新速度快，傳統(tǒng)的立法和監(jiān)管手段難以跟上技術(shù)進(jìn)步的步伐。即使制定了相關(guān)政策和法規(guī)，也可能很快變得過(guò)時(shí)，需要不斷更新和調(diào)整。隨著人工智能應(yīng)用的廣泛普及，數(shù)據(jù)隱私、不公平與歧視性，以及國(guó)家安全等風(fēng)險(xiǎn)日益彰顯。人工智能技術(shù)及其引發(fā)的全局性、系統(tǒng)性和國(guó)際性風(fēng)險(xiǎn)將成為全球治理合作面臨的挑戰(zhàn)之一。

其次，人工智能技術(shù)的發(fā)展涉及巨大的經(jīng)濟(jì)利益，各國(guó)之間在技術(shù)研發(fā)、市場(chǎng)份額和產(chǎn)業(yè)布局方面存在激烈競(jìng)爭(zhēng)。一些國(guó)家和科技公司在人工智能領(lǐng)域占據(jù)領(lǐng)先地位，不愿意在國(guó)際治理框架中受到限制，擔(dān)心影響自身的競(jìng)爭(zhēng)優(yōu)勢(shì)；人工智能技術(shù)的應(yīng)用涉及廣泛的商業(yè)利益，各國(guó)可能會(huì)為了保護(hù)本國(guó)企業(yè)的市場(chǎng)份額而抵制統(tǒng)一的國(guó)際規(guī)范；不同國(guó)家在產(chǎn)業(yè)政策上也會(huì)有不同的側(cè)重點(diǎn)，一些國(guó)家可能會(huì)更傾向于保護(hù)本國(guó)的人工智能產(chǎn)業(yè)，制定有利于自身發(fā)展的政策，而不是參與全球性的治理框架。

第三，主體多元將成為制約全球人工智能治理的因素。當(dāng)前人工智能治理仍以政府為主導(dǎo)，主要表現(xiàn)為中國(guó)、歐盟、美國(guó)等制定和發(fā)布了一系列人工智能治理倡議、規(guī)劃和立法。然而，私營(yíng)部門(mén)在人工智能技術(shù)發(fā)展中也發(fā)揮著不可忽視的作用，謀求人工智能規(guī)則的話語(yǔ)權(quán)可以增強(qiáng)其影響力。多利益攸關(guān)方以自身利益為中心，可能導(dǎo)致人工智能治理主導(dǎo)權(quán)和規(guī)則制定權(quán)的多方博弈甚至惡性競(jìng)爭(zhēng)。倘若如此，將嚴(yán)重?fù)p害各方在人工智能全球治理上的合作動(dòng)能。

第四，人工智能技術(shù)的發(fā)展依賴(lài)于大量數(shù)據(jù)的收集和共享，但數(shù)據(jù)隱私和安全問(wèn)題卻成為全球治理的重要難題。許多國(guó)家對(duì)本國(guó)數(shù)據(jù)的控制權(quán)有很強(qiáng)的保護(hù)意識(shí)，不愿意輕易共享數(shù)據(jù)。而且各國(guó)對(duì)數(shù)據(jù)隱私保護(hù)的標(biāo)準(zhǔn)和要求不同，一些國(guó)家可能對(duì)數(shù)據(jù)的跨境流動(dòng)設(shè)置嚴(yán)格的限制。

第五，少數(shù)科技巨頭公司在人工智能技術(shù)和市場(chǎng)上占據(jù)主導(dǎo)地位，導(dǎo)致全球治理面臨技術(shù)壟斷和不平等問(wèn)題。大型科技公司在人工智能技術(shù)研發(fā)和應(yīng)用方面占據(jù)主導(dǎo)地位，擁有巨大的經(jīng)濟(jì)和政治影響力，可能會(huì)影響政策的制定和執(zhí)行。

人工智能技術(shù)的發(fā)展還可能加劇全球范圍內(nèi)的經(jīng)濟(jì)不平等，發(fā)展中國(guó)家在技術(shù)和資源方面處于劣勢(shì)，難以在全球治理中發(fā)揮有效作用。

面對(duì)人工智能全球治理的多重挑戰(zhàn)和現(xiàn)實(shí)困境，中國(guó)提出推動(dòng)構(gòu)建人類(lèi)命運(yùn)共同體為愿景的解決方案。在7月舉行的2024世界人工智能大會(huì)暨人工智能全球治理高級(jí)別會(huì)議上，清華大學(xué)蘇世民書(shū)院院長(zhǎng)、清華大學(xué)人工智能?chē)?guó)際治理研究院院長(zhǎng)薛瀾曾表示，從全球角度來(lái)講，人工智能發(fā)展面臨著很多挑戰(zhàn)。

要把AI發(fā)展和安全作為“一體兩翼”，通過(guò)多途徑建立國(guó)際交流及防控體系，加強(qiáng)政府間的多邊對(duì)話機(jī)制，同時(shí)通過(guò)科學(xué)共同體力量助力國(guó)際機(jī)制全面完善。

同時(shí)發(fā)揮聯(lián)合國(guó)等國(guó)際組織的綜合全面協(xié)調(diào)作用，打破各種壁壘，加強(qiáng)國(guó)際合作協(xié)議，同時(shí)在產(chǎn)業(yè)、科學(xué)界共同努力下推動(dòng)人工智能合理、健康發(fā)展，為人類(lèi)和平與發(fā)展作出更大的貢獻(xiàn)。

圖靈獎(jiǎng)得主、中國(guó)科學(xué)院院士、清華大學(xué)交叉信息研究院院長(zhǎng)姚期智表示，人工智能最有深度、最有意思的風(fēng)險(xiǎn)來(lái)自AI生存或者存在的風(fēng)險(xiǎn)。要控制好AI，但又不能破壞它，“正如圖靈所說(shuō)，這是無(wú)法預(yù)測(cè)的，預(yù)測(cè)不了機(jī)器有了足夠算力之后會(huì)做什么。”

因此，AI風(fēng)險(xiǎn)需要專(zhuān)家來(lái)解決，不僅是科學(xué)家，還可能需要政府、律師、經(jīng)濟(jì)學(xué)家來(lái)參與，幾乎涉及到每一個(gè)行業(yè)。

上海人工智能實(shí)驗(yàn)室主任、銜遠(yuǎn)科技創(chuàng)始人周伯文認(rèn)為，目前，世界上只有1%的資源投入在對(duì)齊或者安全考量上，對(duì)AI安全的投入遠(yuǎn)落后于AI性能的投入。人類(lèi)將遵循“AI-45°平衡律”，沿著可信AGI的“因果之梯”拾級(jí)而上，探索人工智能系統(tǒng)安全和能力的系統(tǒng)性平衡之路。

道阻且長(zhǎng)，行則將至 

全球人工智能治理倡導(dǎo)“以人為本、智能向善、造福人類(lèi)”的原則，這既代表了人工智能發(fā)展的主線，也代表了治理的宗旨。

7月24日，中國(guó)人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（簡(jiǎn)稱(chēng)“AIIA”）安全治理委員會(huì)成果發(fā)布會(huì)舉行。會(huì)上，AIIA秘書(shū)長(zhǎng)、中國(guó)信息通信研究院院長(zhǎng)余曉暉表示，開(kāi)展人工智能安全治理工作不僅是我國(guó)推動(dòng)人工智能發(fā)展和安全的重要工作，也是全人類(lèi)共同需要對(duì)待的重大問(wèn)題。如何釋放出人工智能最大向善的能力，造福于人類(lèi)，促進(jìn)經(jīng)濟(jì)社會(huì)發(fā)展，需要世界各國(guó)共同推動(dòng)。

AIIA秘書(shū)長(zhǎng)、中國(guó)信息通信研究院院長(zhǎng)余曉暉

AIIA安全治理委員會(huì)主任委員、公安部信息安全等級(jí)保護(hù)評(píng)估中心原副主任、研究員畢馬寧表示，過(guò)去一年，大模型發(fā)展速度之快，賦能范圍之廣，讓業(yè)界看到了通用人工智能的實(shí)現(xiàn)路徑與曙光，但人工智能安全問(wèn)題的嚴(yán)重性與緊迫性不容忽視。在從不同層面審視人工智能安全問(wèn)題時(shí)，可以發(fā)現(xiàn)人工智能所帶來(lái)的安全挑戰(zhàn)已經(jīng)從技術(shù)本身所帶來(lái)的數(shù)據(jù)、算力、系統(tǒng)等傳統(tǒng)安全問(wèn)題，逐漸向?qū)�個(gè)人、組織、國(guó)家社會(huì)、人類(lèi)生態(tài)的衍生安全問(wèn)題蔓延。

  AIIA安全治理委員會(huì)主任委員、公安部信息安全等級(jí)保護(hù)評(píng)估中心原副主任、研究員畢馬寧

AIIA總體組組長(zhǎng)、中國(guó)信通院人工智能研究所所長(zhǎng)魏凱表示，世界各國(guó)都對(duì)人工智能的發(fā)展表示出非常大的期待，不論是發(fā)達(dá)國(guó)家或者發(fā)展中國(guó)家，普遍認(rèn)為人工智能是一個(gè)巨大的機(jī)遇，同時(shí)也對(duì)人工智能的確定性安全和風(fēng)險(xiǎn)挑戰(zhàn)表示擔(dān)憂(yōu)。

多年來(lái)，中國(guó)信通院作為國(guó)家智庫(kù)產(chǎn)業(yè)平臺(tái)，不僅聯(lián)合各方在中國(guó)人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟下成立了安全委員會(huì)，搭建人工智能安全方面交流合作平臺(tái)，同時(shí)聯(lián)合產(chǎn)業(yè)界發(fā)布了《人工智能治理框架》，提出以風(fēng)險(xiǎn)為導(dǎo)向的人工智能研判理論體系，并發(fā)布一系列人工智能安全合規(guī)方面的標(biāo)準(zhǔn)規(guī)范，協(xié)助企業(yè)提升安全能力。

圍繞大模型安全，中國(guó)信通院還啟動(dòng)大模型安全基準(zhǔn)測(cè)試，為國(guó)內(nèi)企業(yè)開(kāi)展大模型安全防范工作提供參考。此外，與國(guó)際組織各國(guó)就人工智能的安全治理工作開(kāi)展雙邊、多邊的討論交流，共同推動(dòng)人工智能在全球的發(fā)展和安全的治理工作。

目前，全球針對(duì)人工智能安全已有很多聲明和請(qǐng)?jiān)福�但更重要的是要明確目標(biāo)、投入資源、采取行動(dòng)，攜手結(jié)伴共同應(yīng)對(duì)風(fēng)險(xiǎn)。各國(guó)和地區(qū)針對(duì)人工智能治理正從原則治理走向安全實(shí)踐的新階段。

治理框架方面，各國(guó)和地區(qū)基本形成本土治理方案。比如美國(guó)推出《人工智能風(fēng)險(xiǎn)管理框架》推動(dòng)基于風(fēng)險(xiǎn)的治理實(shí)踐。歐盟《人工智能法》構(gòu)建了風(fēng)險(xiǎn)分級(jí)的治理方案，并即將正式生效。

新加坡在原先治理框架基礎(chǔ)上推出了《生成式人工智能治理模型框架》，提出人工智能評(píng)估需考慮的九個(gè)維度。日本發(fā)布《人工智能運(yùn)營(yíng)商指南》，為開(kāi)發(fā)者、提供者、使用者制定行為準(zhǔn)則。我國(guó)從《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》到《生成式人工智能服務(wù)管理暫行辦法》精準(zhǔn)化治理前沿技術(shù)。

治理工具方面，全球積極推出安全測(cè)試評(píng)估平臺(tái)。美國(guó)成立人工智能安全研究所和安全聯(lián)盟以推動(dòng)制定人工智能安全標(biāo)準(zhǔn)和開(kāi)展安全評(píng)測(cè)，并于近期啟動(dòng)“評(píng)估人工智能的風(fēng)險(xiǎn)和影響”計(jì)劃。英國(guó)人工智能安全研究所推出“Inspect”人工智能模型安全評(píng)估平臺(tái)。新加坡依托“AI Verify”發(fā)布軟件工具包，推動(dòng)新技術(shù)的沙箱測(cè)試。我國(guó)已有近140個(gè)大模型通過(guò)安全評(píng)估與備案，形成良好示范效應(yīng)。

可以看出，安全已成為各國(guó)人工智能治理的核心關(guān)切，保障安全是人工智能技術(shù)創(chuàng)新發(fā)展的基石，也是推動(dòng)人工智能產(chǎn)業(yè)可持續(xù)發(fā)展的重要前提。

道遠(yuǎn)路長(zhǎng)，行則將至。人工智能治理是一個(gè)不容忽視又實(shí)時(shí)更新的問(wèn)題，未來(lái)也許將有超出現(xiàn)有認(rèn)知的挑戰(zhàn)，這就需要國(guó)際社會(huì)攜手共同努力，為人工智能的發(fā)展把好方向盤(pán)，顯然是未來(lái)與技術(shù)狂奔向前相伴的另一個(gè)主旋律。讓每一個(gè)人成為人工智能的使用者、受益者，也讓每一個(gè)人成為人工智能的設(shè)計(jì)者、治理者。

 相關(guān)閱讀

人工智能“頂流”齊聚WAIC 2024，他們都做了什么？

算網(wǎng)筑基AI注智，中國(guó)聯(lián)通如何講出AI時(shí)代的“新故事”？

“元年”之后，生成式AI將走向何方？

何許人也？敢把大模型價(jià)格“打骨折”？

造完“大模型”，“具身智能”將引領(lǐng)AI下一個(gè)浪潮？

從“奇點(diǎn)”到“大爆炸”，生成式AI開(kāi)啟“十年周期”

【科技云報(bào)道原創(chuàng)】

轉(zhuǎn)載請(qǐng)注明“科技云報(bào)道”并附本文鏈接

       原文標(biāo)題 : 大模型引領(lǐng)技術(shù)浪潮，AI安全治理面臨“大考”