訂閱
糾錯
加入自媒體

“AI大模型”已經(jīng)成創(chuàng)業(yè)熱點

前言:

ChatGPT熱潮涌動,正處于冷靜期的人工智能投資和產(chǎn)業(yè)布局迎來小陽春。

這也意味著[AI大模型的元年]來了,這場大模型之戰(zhàn),參賽選手不止巨頭,也不會是只有一兩個幸存者的生存游戲。

作者 | 方文三

圖片來源 |  網(wǎng) 絡(luò)

AI大模型已經(jīng)成為創(chuàng)業(yè)熱點

2012年,李志飛選擇回國,在語音交互領(lǐng)域創(chuàng)業(yè),創(chuàng)立出門問問。

前商湯科技副總裁、通用智能技術(shù)負責(zé)人閆俊杰已進軍多模態(tài)AI大模型領(lǐng)域,于2021年11月成立人工智能公司MiniMax。

MiniMax從底層做起,形成了文本到視覺(texttovisual)、文本到語音(texttoaudio)、文本到文本(texttotext)三大模態(tài)的基礎(chǔ)模型架構(gòu)。

這可能是國內(nèi)第一家同時擁有3個模態(tài)大模型能力的創(chuàng)業(yè)公司。

在toC方向,其首款A(yù)I虛擬聊天社交軟件Glow推出四個月已經(jīng)積累數(shù)百萬用戶;在toB方向,MiniMax計劃在今年對外開放API。

Glow的基本玩法是在應(yīng)用中創(chuàng)建虛擬AI機器人,可以根據(jù)用戶意愿賦予其性格,實現(xiàn)實時溝通、互動并建立情感連接。

AI芯天下丨熱點丨“AI大模型”已經(jīng)成創(chuàng)業(yè)熱點

助推AI應(yīng)用走向具體落地

如果將AI比作電力,那么大模型則相當(dāng)于發(fā)電機,能將智能在更大的規(guī)模和范圍普及。

大模型的智能能力在未來將成為一種公共基礎(chǔ)資源,像電力或自來水一樣隨取隨用。

每個智能終端、每個APP,每個智能服務(wù)平臺,都可以像接入電網(wǎng)一樣,接入由IT基礎(chǔ)設(shè)施組成的智力網(wǎng)絡(luò),讓AI算法與技術(shù)能夠更廣泛地應(yīng)用于各行各業(yè)。

最底層是AI通用大模型,上面可以做AIGC,比如說Midjourney可以畫畫,Jasper可以寫文案等;

也可以基于底層模型做對話機器人,比如基于ChatGPT。

在美國,除了OpenAI和巨頭,還有另外三、四家創(chuàng)業(yè)公司也都在做AI通用大模型,都有大幾億美金的投入。

首先它有超強的語言能力,在學(xué)習(xí)語言的過程中,也學(xué)習(xí)了很多知識和邏輯。

模型學(xué)會了非常底層的結(jié)構(gòu)和機制。萬物都是自然產(chǎn)生的,語言也好,生物結(jié)構(gòu)也好,它一定符合某種我們目前難以解釋的規(guī)律。

模型經(jīng)過互聯(lián)網(wǎng)上所有的數(shù)據(jù)訓(xùn)練之后,它也獲得了某種屬于自己的解讀方式。

現(xiàn)在的通用大模型,即使進行了微調(diào)后,依舊可以做多個任務(wù)。

預(yù)訓(xùn)練的核心是讓它有基礎(chǔ)的認知和邏輯能力,通過微調(diào)引導(dǎo),讓它能夠在各項任務(wù)上處理得更好,知道怎么使用已有的知識。

AI芯天下丨熱點丨“AI大模型”已經(jīng)成創(chuàng)業(yè)熱點

國內(nèi)公司與機構(gòu)競相研發(fā)

AI大模型先后經(jīng)歷了預(yù)訓(xùn)練模型、大規(guī)模預(yù)訓(xùn)練模型、超大規(guī)模預(yù)訓(xùn)練模型三個階段,參數(shù)量實現(xiàn)了從億級到百萬億級的突破。

國外的超大規(guī)模預(yù)訓(xùn)練模型起步于2018年,并在2021年進入[軍備競賽]階段。

而在國內(nèi),超大模型研發(fā)展異常迅速,2021年成為中國AI大模型的爆發(fā)年。

2021年,商湯發(fā)布了書生(INTERN)大模型,擁有100億的參數(shù)量,這是一個相當(dāng)龐大的訓(xùn)練工作。

在訓(xùn)練過程中,大概有10個以上的監(jiān)督信號幫助模型,適配各種不同的視覺或者NLP任務(wù),截至2021年中,商湯已建成世界上最大的計算器視覺模型,該模型擁有超過300億個參數(shù);

同年4月,華為云聯(lián)合循環(huán)智能發(fā)布盤古NLP超大規(guī)模預(yù)訓(xùn)練語言模型,參數(shù)規(guī)模達1000億;

聯(lián)合北京大學(xué)發(fā)布盤古α超大規(guī)模預(yù)訓(xùn)練模型,參數(shù)規(guī)模達2000億。

阿里達摩院發(fā)布270億參數(shù)的中文預(yù)訓(xùn)練語言模型PLUG,聯(lián)合清華大學(xué)發(fā)布參數(shù)規(guī)模達到1000億的中文多模態(tài)預(yù)訓(xùn)練模型M6;

7月,百度推出ERNIE3.0知識增強大模型,參數(shù)規(guī)模達到百億;

10月,浪潮信息發(fā)布約2500億的超大規(guī)模預(yù)訓(xùn)練模型[源1.0];

12月,百度推出ERNIE3.0Titan模型,參數(shù)規(guī)模達2600億。

而達摩院的M6模型參數(shù)達到10萬億,將大模型參數(shù)直接提升了一個量級。

2022年,基于清華大學(xué)、阿里達摩院等研究成果以及超算基礎(chǔ)實現(xiàn)的[腦級人工智能模型]八卦爐(BAGUALU)完成建立。

其模型參數(shù)模型突破了174萬億個,完全可以與人腦中的突觸數(shù)量相媲美。

2021年12月,百度發(fā)布了全球首個知識增強千億級大模型——鵬城-百度·文心大模型,產(chǎn)業(yè)級知識增強[文心大模型]系列大模型也正式對外。

百度文心大模型正從技術(shù)自主創(chuàng)新和加速產(chǎn)業(yè)應(yīng)用兩方面,推動中國AI發(fā)展更進一步。

2022年11月,百度發(fā)布了文心大模型的最新升級,包括新增11個大模型,大模型總量增至36個。

部分公司中國公司雖然目前還沒有正式推出自身大模型產(chǎn)品,但是也在積極進行研發(fā)。

云從科技的研究團隊高度認同[預(yù)訓(xùn)練大模型+下游任務(wù)遷移]的技術(shù)趨勢,從2020年開始,已經(jīng)陸續(xù)在NLP、OCR、機器視覺、語音等多個領(lǐng)域開展預(yù)訓(xùn)練大模型的實踐。

以商湯科技的書生(INTERN)為例,在分類、目標(biāo)檢測、語義分割、深度估計四大任務(wù)26個數(shù)據(jù)集上,基于同樣下游場景數(shù)據(jù)(10%)。

相較于同期OpenAI發(fā)布的最強開源模型CLIP-R50x16,平均錯誤率降低了40.2%,47.3%,34.8%,9.4%。

AI芯天下丨熱點丨“AI大模型”已經(jīng)成創(chuàng)業(yè)熱點

實現(xiàn)從[手工作坊]到[工廠模式]的轉(zhuǎn)變

在深度學(xué)習(xí)技術(shù)興起的近10年間,AI模型基本上是針對特定應(yīng)用場景需求進行訓(xùn)練的,即小模型,屬于傳統(tǒng)的定制化、作坊式的模型開發(fā)方式。

這意味著除了需要優(yōu)秀的產(chǎn)品經(jīng)理準(zhǔn)確確定需求之外,還需要AI研發(fā)人員扎實的專業(yè)知識和協(xié)同合作能力完成大量復(fù)雜的工作。

模型無法復(fù)用和積累,同樣導(dǎo)致了AI落地的高門檻、高成本與低效率。

而大模型通過從海量的、多類型的場景數(shù)據(jù)中學(xué)習(xí),并總結(jié)不同場景、不同業(yè)務(wù)下的通用能力,學(xué)習(xí)出一種特征和規(guī)則,成為具有泛化能力的模型底座。

由此利用大模型的通用能力可以有效的應(yīng)對多樣化、碎片化的AI應(yīng)用需求,為實現(xiàn)規(guī)模推廣AI落地應(yīng)用提供可能。

大模型相對于傳統(tǒng)AI模型開發(fā)模式在研發(fā)時擁有更標(biāo)準(zhǔn)化的流程,在落地時擁有更強的通用性,可以泛化到多種應(yīng)用場景;

并且大模型的自監(jiān)督學(xué)習(xí)能力相較于傳統(tǒng)的需要人工標(biāo)注的模型訓(xùn)練能夠顯著降低研發(fā)成本,共同使得大模型對于AI產(chǎn)業(yè)具有重要意義。

AI芯天下丨熱點丨“AI大模型”已經(jīng)成創(chuàng)業(yè)熱點

結(jié)尾:

熱潮已經(jīng)襲來,有技術(shù)基礎(chǔ)的企業(yè)在強勢突圍,沒有技術(shù)基礎(chǔ)的企業(yè)準(zhǔn)備發(fā)力,尚待進場。

而等熱潮退去,能否留在場上,還需看清自己的優(yōu)勢和短板。

中國要有自己的通用自然語義大模型,它需要有為全球通用人工智能提供中國智慧、中國價值體系和中國方案的愿景;

需要從語料庫選擇、模型建構(gòu)與訓(xùn)練、參數(shù)調(diào)整的全過程前置規(guī)避風(fēng)險和法律、道德與倫理問題,更需要的是定力和耐心。

無論如何,它不能投機。

       原文標(biāo)題 : AI芯天下丨熱點丨“AI大模型”已經(jīng)成創(chuàng)業(yè)熱點

聲明: 本文由入駐維科號的作者撰寫,觀點僅代表作者本人,不代表OFweek立場。如有侵權(quán)或其他問題,請聯(lián)系舉報。

發(fā)表評論

0條評論,0人參與

請輸入評論內(nèi)容...

請輸入評論/評論長度6~500個字

您提交的評論過于頻繁,請輸入驗證碼繼續(xù)

暫無評論

暫無評論

人工智能 獵頭職位 更多
掃碼關(guān)注公眾號
OFweek人工智能網(wǎng)
獲取更多精彩內(nèi)容
文章糾錯
x
*文字標(biāo)題:
*糾錯內(nèi)容:
聯(lián)系郵箱:
*驗 證 碼:

粵公網(wǎng)安備 44030502002758號