大模型落地，誰先集齊七顆龍珠召喚神龍？

文｜周享玥

編｜趙艷秋

中關(guān)村科金CTO李智偉博士最近發(fā)現(xiàn)，大模型商業(yè)閉環(huán)，正在被提到很重要的位置。

不同于過去20年間中國IT行業(yè)的發(fā)展，可以通過燒錢來快速積累用戶，靠估值和廣告實(shí)現(xiàn)商業(yè)變現(xiàn)；大模型時(shí)代，投資市場(chǎng)愈加理性，正在倒逼業(yè)界加快實(shí)現(xiàn)商業(yè)閉環(huán)。

前不久的華為HDC開發(fā)者大會(huì)上，華為主機(jī)上云軍團(tuán)CEO、混合云總裁尚海峰強(qiáng)調(diào)，“加速商業(yè)閉環(huán)，是使用大模型最關(guān)鍵的一點(diǎn)”，市場(chǎng)終歸要回歸理性，只有真正的為用戶創(chuàng)造價(jià)值，實(shí)現(xiàn)商業(yè)閉環(huán)，才有更長(zhǎng)遠(yuǎn)的未來。

而經(jīng)過數(shù)個(gè)月的摸索，業(yè)界對(duì)于如何催動(dòng)客戶從試點(diǎn)探索，走向規(guī)�；�買單，加速商業(yè)閉環(huán)這件事，也有了一些方法論。

01

價(jià)值共識(shí)，1千客戶1千哈姆雷特如何解？

“以前買個(gè)軟件，有些什么功能，給個(gè)清單，客戶一看就知道了；但大模型時(shí)代不一樣，客戶對(duì)這件事的認(rèn)知并不統(tǒng)一，1000個(gè)人可能就有1000個(gè)哈姆雷特。”中關(guān)村科金李智偉告訴數(shù)智前線，這就需要和客戶溝通時(shí)，有一套方法論，對(duì)客戶進(jìn)行正確的價(jià)值導(dǎo)向。

畢竟，在大模型落地這件事上，期待值過高或過低，都會(huì)極大影響企業(yè)應(yīng)用閉環(huán)的形成。“大模型基于Transformer，我們本身也成為了一個(gè)Transformer，是把大模型變成一個(gè)看得見、摸得著的應(yīng)用轉(zhuǎn)化者。”快遞100總經(jīng)理陳登坤說。

“為了降低溝通成本，我們現(xiàn)在所有產(chǎn)品都在公有云上有試用版。”李智偉介紹，這樣的一個(gè)個(gè)小的原型系統(tǒng)，有助于客戶快速了解大模型能實(shí)現(xiàn)什么效果，邊界在哪，進(jìn)而加速從前期討論到PoC，再到落地部署的推進(jìn)。

另外，幫企業(yè)計(jì)算ROI（投資回報(bào)率），也是加速落地的普遍做法。中工互聯(lián)董事長(zhǎng)智振介紹，這不僅包括短期ROI，比如上了大模型后，能提高多少效率，節(jié)省多少人，多大程度降低對(duì)關(guān)鍵人員的依賴，減少人為犯錯(cuò)的可能性等，也包括長(zhǎng)期ROI。

這也導(dǎo)致，他們?nèi)ズ涂蛻魷贤〞r(shí)，最核心的一項(xiàng)工作，就是引導(dǎo)客戶找到整個(gè)價(jià)值鏈上最痛、最有價(jià)值的點(diǎn)。比如設(shè)備運(yùn)維場(chǎng)景，往往和知識(shí)管理緊密相關(guān)，一個(gè)設(shè)計(jì)文檔出問題，往往可能造成成百上千萬元的損失，而原來靠人工去排查，假如需要兩小時(shí)、千分之一的概率漏檢，大模型配合人工可能十分鐘就能完成，且漏檢率降低90%。

“我們就先給他做那樣的場(chǎng)景。”智振說，這對(duì)于企業(yè)建立對(duì)大模型的信心，包括向更多、更深的場(chǎng)景推行，都是非常有幫助的。

02

實(shí)施周期，要限定在3到6個(gè)月？

過去一年，客戶與業(yè)界探索了大量場(chǎng)景，但真正從PoC走向商業(yè)閉環(huán)，卻并非每個(gè)場(chǎng)景都可以。

面對(duì)大模型掀起的這波新變革，也很少有企業(yè)愿意一開始就花上幾千萬、幾年的時(shí)間來做。

“一年能回本，客戶很容易接受；三五年回本，客戶就要考慮考慮；7年回本，肯定得政策強(qiáng)制要求了。”智振說，“大家現(xiàn)在普遍能接受的價(jià)格區(qū)間是50萬到200萬，實(shí)施周期一般要限定在3~6個(gè)月。”一些大項(xiàng)目雖然會(huì)跨年，但一般都會(huì)切分到幾個(gè)月為一期，以作觀察。

一些小型項(xiàng)目，上線時(shí)間還能更短。“比如我們也在給一些電商客戶提供售前、售后的大模型技術(shù)服務(wù)，它的決策周期、試用周期很短，甚至收費(fèi)都是按月的。”智振說。

“我們現(xiàn)在所有項(xiàng)目都是按‘短平快’的方式去做實(shí)施，會(huì)幫客戶把一個(gè)大需求，切到一個(gè)個(gè)比較小的點(diǎn)，逐點(diǎn)試錯(cuò)，逐點(diǎn)突破，而不像以前做軟件，一個(gè)項(xiàng)目做上一年半載的，客戶才能看到效果。”新致軟件副總經(jīng)理曹璽告訴數(shù)智前線。

在場(chǎng)景方面，與大語言模型相關(guān)的知識(shí)類場(chǎng)景，成為企業(yè)選擇的優(yōu)先級(jí)閉環(huán)方向。

泰康科技有限公司人工智能部AI架構(gòu)師朱興杰介紹，今年上半年，他們最先在知識(shí)如何加工再造，通過知識(shí)助手、銷售助手等賦能代理人方面下了功夫，形成了初步效果，后續(xù)將針對(duì)理賠等場(chǎng)景，做風(fēng)險(xiǎn)識(shí)別等能力的提升。

而中國工商銀行軟件開發(fā)中心大數(shù)據(jù)與人工智能實(shí)驗(yàn)室副主任夏知淵，在華為HDC大會(huì)有關(guān)大模型混合云的論壇上，公布的工行“1+X”的工程化解決方案中，除了1指代的是智能體，X種解決方案也大多與知識(shí)類場(chǎng)景相關(guān)，如多模態(tài)的知識(shí)檢索、交互式的智能搜索等。而基于這些能力，工行在遠(yuǎn)程銀行場(chǎng)景，形成了大模型的全流程賦能，將通話時(shí)間壓降了10%，員工坐席效率提高18%。

03

大模型中臺(tái)，避免“散裝作戰(zhàn)”

為了加速大模型在各行各業(yè)的落地應(yīng)用，各家主流大模型廠商都在紛紛強(qiáng)調(diào)模型的“最優(yōu)性價(jià)比”，輕量化模型、MoE、價(jià)格戰(zhàn)輪番上陣。再加上開源江湖的持續(xù)繁榮，企業(yè)對(duì)于模型的選擇，正在更加多元化。

“各種開閉源大模型，只要我們能去把推理部署起來，我們都會(huì)去嘗試，看效果。”泰康科技朱興杰告訴數(shù)智前線，泰康科技支撐著整個(gè)集團(tuán)的上千個(gè)應(yīng)用，集團(tuán)各分部門都能根據(jù)各自不同的場(chǎng)景，選擇不同的模型，“識(shí)別出一條最佳路徑”。

不可否認(rèn)的是，相比閉源，出于成本等考慮，開源是更受歡迎的存在。比如在行政執(zhí)法領(lǐng)域，北京可為高科信息技術(shù)有限責(zé)任公司正在通過開源模型，為政府客戶提供私有化部署。在金融領(lǐng)域，中關(guān)村科金CTO李智偉觀察，在閉源、源代碼開源，以及“源代碼+訓(xùn)練數(shù)據(jù)”開源三種模式中，銀行客戶更想要第三種。

開閉源之外，業(yè)界的一大共識(shí)是，大小模型混用正在成為常態(tài)。比如中關(guān)村科金的混合模型質(zhì)檢平臺(tái)，讓小模型負(fù)責(zé)聲音、畫面等基礎(chǔ)數(shù)據(jù)質(zhì)檢，承擔(dān)高頻易檢場(chǎng)景，大模型負(fù)責(zé)低頻難檢的內(nèi)容，以及為質(zhì)檢結(jié)果提供判定原因，輔助人工快速復(fù)審，已經(jīng)幫助某頭部金融機(jī)構(gòu)實(shí)現(xiàn)了檢測(cè)效率提升1千倍，大幅降低人工檢測(cè)成本。

“這就好比一家公司有分工才能更高效運(yùn)轉(zhuǎn)。”李智偉說。

而更深一層，一些企業(yè)已經(jīng)開始搭建統(tǒng)一的大模型中臺(tái)，納管N個(gè)大小模型，以及安全、知識(shí)注入、工具、服務(wù)分發(fā)等。“這樣可以有效避免散裝作戰(zhàn)造成資源浪費(fèi)，也有助于后續(xù)的迭代升級(jí)。”泰康科技朱興杰說。

大模型也正在成為企業(yè)的底座。智振透露，他們目前就向客戶提出了“三個(gè)平臺(tái)”的思路，即基于大模型底座，做數(shù)據(jù)平臺(tái)、業(yè)務(wù)平臺(tái)和知識(shí)平臺(tái)。以往工業(yè)互聯(lián)網(wǎng)平臺(tái)主要在解決數(shù)據(jù)不貫通和業(yè)務(wù)不流暢的痛點(diǎn)，但對(duì)于知識(shí)難沉淀很難解決。而大模型很可能帶來巨大提升。

智振看到，目前包含了大模型底座+平臺(tái)的項(xiàng)目，普遍在百萬元量級(jí)。但企業(yè)并不會(huì)一期全建，或全部將舊系統(tǒng)推翻重來，而是循序漸進(jìn)，“比如現(xiàn)在知識(shí)平臺(tái)好，我就先上知識(shí)平臺(tái)，跟其他業(yè)務(wù)系統(tǒng)打通，如果用得好，再逐步把別的系統(tǒng)替換掉。”

04

數(shù)據(jù)飛輪，是難點(diǎn)也是制勝點(diǎn)

作為大模型三要素中的關(guān)鍵一環(huán)，數(shù)據(jù)無疑是影響大模型商業(yè)閉環(huán)形成的一大重要因素。

“尤其過程數(shù)據(jù)的缺失，是我們落地過程中，遇到的最大障礙。”北京可為聯(lián)合創(chuàng)始人曾明告訴數(shù)智前線，除了金融、電商等數(shù)字化進(jìn)程原本就比較成熟的行業(yè)，大量行業(yè)企業(yè)都存在數(shù)據(jù)方面的問題。

比如法律領(lǐng)域，有海量的案件公開數(shù)據(jù)，但大多都只有簡(jiǎn)單的案件描述。“如果說一個(gè)案件中，正常的思考過程是a到b、b到c……x到y(tǒng)、y到z，那大模型只學(xué)a到z，是無法學(xué)會(huì)的。”曾明說，“現(xiàn)在最缺的就是b到y(tǒng)的過程數(shù)據(jù)。”

“數(shù)據(jù)如果只是知識(shí)之間的關(guān)聯(lián)性缺失，我們可以通過大模型自帶的知識(shí)體系來補(bǔ)足。但如果是事實(shí)類數(shù)據(jù)的缺失，就只能通過傳統(tǒng)方式去采集回來。“中關(guān)村科金李智偉告訴數(shù)智前線。

曾明透露，他們目前正通過數(shù)據(jù)清洗、數(shù)據(jù)標(biāo)注等工作，幫助企業(yè)進(jìn)行歷史存量數(shù)據(jù)的補(bǔ)足，同時(shí)也正在大模型落地過程中，加速收集增量數(shù)據(jù)，雙管齊下，填補(bǔ)數(shù)據(jù)空白。

大模型廠商也正在從工具鏈方面著手，助力企業(yè)加速數(shù)據(jù)治理，形成自己的數(shù)據(jù)飛輪。事實(shí)上，在不少人士看來，越往后走，越不能只盯著模型本身的訓(xùn)練。工具鏈的建設(shè)，將在加速大模型商業(yè)閉環(huán)中，占據(jù)愈發(fā)重要的位置。

李智偉告訴數(shù)智前線，不僅僅是數(shù)據(jù)方面，模型的部署、安裝、運(yùn)維和日常的優(yōu)化調(diào)試等，都可以通過工具鏈來進(jìn)行提升。為此，他們?cè)诮衲晖瞥隽薖owerAgent平臺(tái)，大模型的部署效率能夠提升2~3倍。

05

算力選擇，混合云最經(jīng)濟(jì)？

算力是加速大模型落地和商業(yè)閉環(huán)過程中，另一個(gè)備受關(guān)注的問題。“基于對(duì)數(shù)據(jù)安全、開發(fā)成本和訓(xùn)推效率的綜合要求，混合云目前正成為越來越多政企的優(yōu)先選擇。”在HDC期間大模型混合云的論壇上，華為尚海峰強(qiáng)調(diào)，這是當(dāng)前最合規(guī)也最經(jīng)濟(jì)的一個(gè)方式。

此前，《深度用云展望2025》白皮書中也曾指出，2025年，75％的企業(yè)將會(huì)使用AI大模型，而基于混合云的AI大模型占比將達(dá)到38%。

比如在政務(wù)行業(yè)，廣州市政務(wù)服務(wù)與數(shù)據(jù)管理局副局長(zhǎng)梁文謙在華為HDC開發(fā)者大會(huì)上介紹，為了兼顧數(shù)據(jù)不出域和大模型的訓(xùn)練需求，他們構(gòu)建了一個(gè)公有云和政務(wù)云混合的人工智能公共算力中心，其中100P部署在政務(wù)云，提供訓(xùn)練好或還需精調(diào)的模型，給人社部門、城市管理部門等應(yīng)用，另外200P公有云，則作為訓(xùn)練應(yīng)用。

在金融、汽車等領(lǐng)域，不少企業(yè)也采用了公有云和私有云協(xié)同的架構(gòu)。泰康科技有限公司人工智能部AI架構(gòu)師朱興杰告訴數(shù)智前線，這一方面是出于成本的考慮，“私有算力我們?cè)u(píng)估都是幾千萬的投入，才能有不錯(cuò)的效果”。另一方面，業(yè)界普遍認(rèn)為，國產(chǎn)算力仍需在規(guī)模、性能、底層生態(tài)上完善。

“對(duì)于核心的商業(yè)知識(shí)，肯定要求私有云，因此我們目前會(huì)有少量本地私有化的集群，同時(shí)也會(huì)調(diào)公有云服務(wù)，去做一個(gè)混合的部署。”朱興杰表示，大家的普遍做法是，利用公有云的高彈性和高擴(kuò)展性，滿足做AI場(chǎng)景創(chuàng)新時(shí)的算力靈活租用和場(chǎng)景多方嘗試，等到驗(yàn)證一個(gè)場(chǎng)景的價(jià)值后，再通過私有云的部署，快速實(shí)現(xiàn)本地的安全化的數(shù)據(jù)不出域。“下一步的話，一旦我們看到效果，我們可能就會(huì)建立一個(gè)很大的私有算力”。

混合云之外，企業(yè)也可以選擇“公有云的私有化”模式，即在公有云上開一個(gè)私有化的環(huán)境，達(dá)到節(jié)省成本的目的。目前，在零售、酒店和文旅等數(shù)據(jù)管控沒那么嚴(yán)格的行業(yè)中，有不少企業(yè)都選用了這種模式。

中關(guān)村科金CTO李智偉則建議，央國企牽頭建立專有云，可以讓大模型的算力效率和成本更經(jīng)濟(jì)。“比如某個(gè)區(qū)域形成一個(gè)能源行業(yè)的鏈主企業(yè)，提供公有云，服務(wù)區(qū)域內(nèi)所有能源企業(yè)。”

06

定制化，“老大難”有新解法

在To b市場(chǎng)，定制化一直是無法規(guī)避的問題，同時(shí)也是影響商業(yè)閉環(huán)形成快慢的重要因素之一。

業(yè)界觀察，過去三十年間，整個(gè)信息化和智能化的發(fā)展歷程，也是定制化的一個(gè)簡(jiǎn)化過程。以人工智能為例，上一個(gè)AI時(shí)代，AI技術(shù)泛化能力差，甚至存在面向同一場(chǎng)景開發(fā)的產(chǎn)品，無法在同一銀行的不同部門直接復(fù)用的情形，定制化成為必然。大模型時(shí)代，人們發(fā)現(xiàn)它的泛化性，在一定程度上解決了定制化問題。

但隨著大模型真實(shí)的落地開始，業(yè)界發(fā)現(xiàn)定制化需求依然大量存在，“甚至在某種意義上增加了。”中關(guān)村科金CTO李智偉告訴數(shù)智前線，這尤其體現(xiàn)在多樣性的客戶需求和尚未穩(wěn)定或收斂的技術(shù)階段。在他看來，與其回避定制化，還不如擁抱這個(gè)訴求。

“我們?cè)谧龊芏喙ぞ呋�和配置化的工作，讓大模型所依賴的這些偏定制化產(chǎn)品的基建，能夠做得更高效、實(shí)施成本更低。”百度智能云知識(shí)管理產(chǎn)品部總經(jīng)理宋勛超說。

中關(guān)村科金李智偉告訴數(shù)智前線，一方面，需要產(chǎn)品經(jīng)理更了解客戶場(chǎng)景，產(chǎn)品標(biāo)準(zhǔn)能力要能夠盡可能多地cover業(yè)務(wù)需求，即產(chǎn)品的滿足度要提升。另一方面，產(chǎn)品交付過程中也要提供服務(wù)/咨詢能力，與客戶一起，賦能客戶成長(zhǎng)。而這一點(diǎn)在行業(yè)應(yīng)用領(lǐng)域非常重要。

中工互聯(lián)董事長(zhǎng)智振則舉例稱，給企業(yè)做定制化，就好比定制西服，量體裁衣的效果必然更好，但成本和耗費(fèi)時(shí)間也會(huì)更多。要想降低定制化的成本、時(shí)間，就要提高標(biāo)準(zhǔn)化的比例，也即標(biāo)準(zhǔn)化的產(chǎn)品，加上更加標(biāo)準(zhǔn)化的服務(wù)流程。

“今年以來，我們已經(jīng)將過去一年探索出的能做的方向，全都產(chǎn)品化了。”智振說。而這不僅有利于企業(yè)去落地大模型應(yīng)用的過程中，更快得到能力的交付，也能加快服務(wù)商的大模型落地能力推廣復(fù)制的速度。智振透露，他們目前除了自己面向客戶提供產(chǎn)品+服務(wù)的整體方案，也將標(biāo)準(zhǔn)產(chǎn)品賣給了伙伴，再由伙伴向客戶出方案。

07

運(yùn)維，讓投資不打水漂

“好多人往往忽略了大模型的運(yùn)維運(yùn)營(yíng)，但我認(rèn)為它和大模型的建設(shè)同樣重要，值得我們長(zhǎng)期的投入，否則你根本用不起來。”華為主機(jī)上云軍團(tuán)CEO、混合云總裁尚海峰表示，這其中，涵蓋了體系建設(shè)、AI培訓(xùn)、技術(shù)運(yùn)營(yíng)、場(chǎng)景運(yùn)營(yíng)、生態(tài)運(yùn)營(yíng)、市場(chǎng)運(yùn)營(yíng)、運(yùn)營(yíng)門戶等多個(gè)環(huán)節(jié)。

比如，鄂爾多斯市政府與華為聯(lián)合打造的以行業(yè)AI大模型為核心的工業(yè)互聯(lián)網(wǎng)平臺(tái)，采用‘前店后廠’模式。據(jù)鄂爾多斯市創(chuàng)新投資集團(tuán)有限公司副總經(jīng)理廉詠梅介紹，在這種模式下，“后廠”不斷聚集生態(tài)伙伴來拓展新場(chǎng)景，開發(fā)新的大模型應(yīng)用產(chǎn)品的同時(shí)，“前店”也能通過線上應(yīng)用商城，實(shí)現(xiàn)商業(yè)的變現(xiàn)，實(shí)現(xiàn)成果轉(zhuǎn)換和商業(yè)閉環(huán)。

但與此同時(shí)，這也對(duì)企業(yè)和服務(wù)商都提出了新的要求。

于企業(yè)而言，需要盡快通過服務(wù)商們提供的AI賦能、AI培訓(xùn)等模式，打造落地大模型的內(nèi)生能力。

于服務(wù)商而言，也更加要求長(zhǎng)期服務(wù)和陪伴的能力。“to b企業(yè)軟件領(lǐng)域有一個(gè)邏輯是，每年如果不更新，就會(huì)損失15%的能力。”智振告訴數(shù)智前線。

顯然，在今天的大模型時(shí)代，技術(shù)的更迭和升級(jí)還要更快。而這也同樣意味著，不管是企業(yè)，還是大模型服務(wù)商們，都需要更經(jīng)常地進(jìn)行經(jīng)驗(yàn)總結(jié)，更新方法論。