文|光子星球 吳坤諺
編輯|吳先之
大模型的火,已經(jīng)在這片土地上燒了半年。隨著華為、京東、攜程三家發(fā)布會趕上晚集,按互聯(lián)網(wǎng)一貫的范式,國產(chǎn)大模型這個“新東西”也迎來了自己的半年考。
只是跟其他業(yè)務(wù)的半年考有所不同,像新能源車、手機、電商平臺等業(yè)務(wù)形態(tài)的半年考,都有足夠的公開數(shù)據(jù)信息為支撐,便于考據(jù)分析,而大模型到現(xiàn)在都還處一個“黑盒子”的狀態(tài),沒能跑出一個清晰的商業(yè)模式,所謂數(shù)據(jù)信息等論據(jù)也就無從談起。
頗為戲謔的是,即使是從產(chǎn)品功能角度出發(fā),大模型也未曾誕生通用的評測手段。面向AGI這一終極目標,評測方法自然五花八門,例如國內(nèi)C端用戶賴以“測評”大模型的典中典——“松鼠鱖魚法”。
或因如此,國內(nèi)大廠大多未能像OpenAI一般將自家大模型開放使用,而是實行內(nèi)測機制。
而大模型更多的落地探索向B端與G端傾斜,例如騰訊先聲奪人的行業(yè)大模型以及華為的盤古3.0、京東靈犀等。作為目前頭部玩家聚焦的賽道,其大模型偏重盡可能展現(xiàn)成熟的產(chǎn)品形態(tài),以商業(yè)化落地為基本目標。例如這一類大模型為了快速向下普及推動商業(yè)化,除卻業(yè)務(wù)落地導(dǎo)向外, 本地化部署能力也成為重要的參考指標。
即使如此,在業(yè)內(nèi)人士看來已經(jīng)是“把碗送到面前”的行業(yè)大模型仍缺少買賬的企業(yè),行業(yè)模型的風自6月起已經(jīng)吹了一個月,至今未曾出現(xiàn)較大規(guī)模的商業(yè)合作。
因此我們也不難看到,在如今的投資市場中,與大模型相關(guān)的投資集中于二級市場而非一級市場。即使是王慧文這個級別的大牛入場,公開消息稱其A輪融資遠高于2.3億美元,其融資能力相較時不時接收微軟百億美元投喂的OpenAI不可同日而語。
投資市場是合格的晴雨表。顯然,國內(nèi)大模型在半年考的時間節(jié)點所提交的答卷不盡如人意,還需要一段時間的蟄伏與打磨,才能讓“故事”成真。
大模型沒有商業(yè)模式?
在國內(nèi)的大模型需要回應(yīng)市場的質(zhì)疑中,商業(yè)模式應(yīng)該擺在首位。
ChatGPT這位早已占據(jù)用戶心智的頭把交椅出現(xiàn)熱度的明顯下降,國內(nèi)最早發(fā)布通用大模型百度與阿里兩家也在一眾玩家跟進后陷入“沉寂”。究其原因,在于通用大模型的商業(yè)模式未能跑通。即使在輿論場上獲得了用戶的認可,但商業(yè)閉環(huán)始終未能出現(xiàn)。
以測試范圍較廣泛的百度大模型為例,其商業(yè)化應(yīng)用文心千帆的付費模式是以調(diào)用生成的 token 數(shù)量收費,標準為0.012元/千 tokens,輸出千字文稿需花費0.12元。
撇開其回收成本的速度不談,0.012元/千 tokens的收費看看似便宜,但文本生成往往需要多次交互后才能獲取理想結(jié)果,多次交互prompt將會無限量增加隱性成本,畢竟文心千帆可不是揮之即來的員工們。
與之相似的場景是問答社區(qū),學(xué)界人士孫權(quán)(化名)告訴光子星球,模型應(yīng)用的使用體驗與問答社區(qū)中搜尋高質(zhì)量答案相似,其用戶思維是問題粒度,而付費意愿往往只會在找到高質(zhì)量回答之后才會產(chǎn)生。因此百度選擇了推理文本數(shù)為付費標準,只是目前還無法cover商用隱性成本。
如果采用B端喜聞樂見的月度付費,那也只是將成本支出方從用戶轉(zhuǎn)為自己,顯然不是長久之計。ChatGPT面對C端用戶20美元/月的定價之下,尚且存在偷工減料之嫌便是最佳佐證。
當下,通用大模型的商業(yè)化無論是走B端還是C端都難以做到盈虧平衡,同時還很可能遭遇諸如AI倫理、監(jiān)管等合規(guī)性風險。因此,大模型的行業(yè)化、垂直化成為落地需求下的范式轉(zhuǎn)變。
反觀行業(yè)大模型,雖說其產(chǎn)品形態(tài)始于落地需求,但是在實際落地中出現(xiàn)的問題卻也有待解決。
一類值得參考的案例是依托自身產(chǎn)品生態(tài)而打造的垂類to C模型,例如知乎早早宣布于產(chǎn)品內(nèi)進行內(nèi)測的知海圖AI以及前不久才發(fā)布的攜程問道。
兩者切入大模型賽道的優(yōu)勢并無二致,在于自有的社區(qū)生態(tài)和以此為基礎(chǔ)衍生的高質(zhì)量社區(qū)內(nèi)容。而內(nèi)容作為行業(yè)數(shù)據(jù),在簡單清洗后便可成為大模型的訓(xùn)練語料。兩者的細微差別則是知乎自始便是內(nèi)容社區(qū),而攜程則是近年才開始發(fā)力做內(nèi)容。
可是就目前來看,無論是知乎還是攜程,其大模型的產(chǎn)品形態(tài)似乎都未能切中用戶痛點,亦未能對既有功能有足夠的提升。
知海圖AI目前已公布的產(chǎn)品“熱榜摘要”是通過AI抓取優(yōu)質(zhì)問答并潤色改寫出梗概呈現(xiàn)給用戶,而另一項應(yīng)用“搜索聚合”則是自回答中聚合觀點,提高用戶獲取信息、形成決策的效率。
本身推薦、熱榜一類聚合功能便是知乎“傳統(tǒng)藝能”,大模型賦能后的表現(xiàn)在用戶層面并未掀起水花。況且,AI改寫潤色的流程也將熱門答案的個性化特征覆蓋,于用戶而言,這項應(yīng)用的功能僅在于快速了解信息,這與內(nèi)容社區(qū)所倡導(dǎo)的差異化、個性化交流背道而馳。
而立足OTA的攜程問道,在攜程董事局主席梁建章看來是一個旅游業(yè)的“可靠答案庫”。其產(chǎn)品成效如何還需時間檢驗,但自定位來看,同樣有“舍本逐末”之嫌。
旅游在年輕用戶眼中本就不存在標準答案,“特種兵式”、“打卡式”、“沉浸式”等多樣化旅游形式的出現(xiàn)證明了這一點。如假設(shè)大量用戶通過AI制定旅游路線規(guī)劃,千篇一律的路線規(guī)劃反而會影響社區(qū)交流與氛圍,甚至遭致用戶停留時間的下降。
大體看來,垂直模型在C端的落地嘗試算不上順利,甚至有成為“沉沒成本”的可能?;蛟S受到大模型本身“提高效率”神話的影響,產(chǎn)品定位也大多囿于“效率”二字,只是效率僅僅是用戶體驗中一個不算核心的維度。
相同的范式在to B領(lǐng)域也有所展現(xiàn),而在追求效率的B端,行業(yè)大模型的商業(yè)模式與落地問題得到了更深刻的展現(xiàn)。
摸不清的黑匣子
“AI不是物理,很少有理論上的重大技術(shù)突破,更多的是在模型結(jié)構(gòu)、數(shù)據(jù)質(zhì)量等維度做微調(diào)和小優(yōu)化,甚至很多時候模型輸出更好了,團隊卻找不到原因。”
在一位業(yè)內(nèi)人士看來,大模型在業(yè)內(nèi)外存在巨大的認知偏差,而原因則在于大模型訓(xùn)練以及AI行業(yè)對于外界而言是一個不折不扣的“黑匣子”,很難審視大模型產(chǎn)生輸出結(jié)果的推理過程,它看不見摸不著。
這導(dǎo)致外界在度過ChatGPT帶來的狂熱期后,一旦冷靜下來,便會對大模型這個“黑匣子”持審慎態(tài)度。這將導(dǎo)致大模型在落地上的困境,而這一現(xiàn)象在如今向to B路線轉(zhuǎn)變的過程中更為明顯。
以如今已明確to B路線的大廠出品為例,包括騰訊云推出的MaaS技術(shù)方案、華為云推出的盤古大模型等,依靠自身云計算生態(tài),均稱其大模型服務(wù)支持多樣化部署,包括云端部署、本地化快速部署等。在交互、操作、后續(xù)加入新的行業(yè)數(shù)據(jù)迭代優(yōu)化等方面也有建樹,可以說是為了落地,把大模型的門檻降到了極低。
但“審慎”帶來的認知墻還是沒有打破,即使ChatGPT的風吹了半年,許多企業(yè)沒有動力也沒有興趣去研究如何導(dǎo)入大模型。
數(shù)年前的云計算行業(yè)可以看到因循的相似邏輯。云計算是在認識到數(shù)據(jù)價值后,以此為基礎(chǔ)的服務(wù)和衍生,至于大模型于企業(yè)的價值,相對而言更是數(shù)據(jù)價值的躍升。同樣是企業(yè)客戶缺乏的技術(shù)能力,連云計算在國內(nèi)企業(yè)的普及之路都距終點尚遠,大模型自不必說。
行業(yè)大模型究竟好用與否,其實已經(jīng)并不重要了,畢竟商品的使用價值最終還需使用者來挖掘。更有甚者,外界會粗暴通過某些測試、表現(xiàn)來衡量模型水平,例如“松鼠鱖魚法”或近來因預(yù)測特大臺風“杜蘇芮”的登陸地點與強度有錯誤現(xiàn)象而遭受質(zhì)疑的華為盤古氣象大模型。
或許正因如此,于近期發(fā)布的京東靈犀大模型選擇優(yōu)先跑通自家業(yè)務(wù)場景,預(yù)計于明年初方對“外部嚴肅商業(yè)場景”開放。
更值一提的是,“行業(yè)成風”之下,商業(yè)化導(dǎo)向下的所謂行業(yè)模型在取代大模型原本的“通用”敘事的同時,也遭致不少人的“迷失”。
所謂行業(yè)大模型的定義存在模糊不清。大模型(Foundation Model)的內(nèi)涵不在于參數(shù)量多少而在于使用通用數(shù)據(jù)訓(xùn)練而涌現(xiàn)出的通用能力。如采用同樣的模型架構(gòu),但在數(shù)據(jù)上使用單一領(lǐng)域數(shù)據(jù),不僅喪失了通用能力,甚至?xí)捎谟楷F(xiàn)的折扣導(dǎo)致領(lǐng)域問題也無法解決。
如在原大模型基礎(chǔ)上使用行業(yè)數(shù)據(jù)做二次預(yù)訓(xùn)練,相當于微調(diào)了原模型,那么即產(chǎn)品本身仍處于模型層,可以被稱作行業(yè)大模型;如通過prompt或外掛數(shù)據(jù)庫的方式加入領(lǐng)域知識,那便僅是對原模型能力的激發(fā),產(chǎn)品也應(yīng)歸屬至模型之上的應(yīng)用層,稱之為行業(yè)大模型言過其實。
目前大廠中發(fā)力行業(yè)大模型的絕大多數(shù)均是前者,如騰訊、京東、華為等。后者則由于更輕的投入與快速提高模型能力的表現(xiàn),更多會出現(xiàn)在開源社區(qū)中,例如前段時間引發(fā)熱議的法律大模型ChatLaw。
“相比前者,后者在產(chǎn)品形態(tài)上更為成熟,便于快速構(gòu)建模型能力,但后者在完成灌輸領(lǐng)域知識的流程后,往往上限會更高”,一位業(yè)內(nèi)人士稱。
開源威脅
近日,Meta在開放商用許可下免費提供其最新開源大模型Llama2,并將其引入微軟的Azure平臺,此舉被譽為開源LLM的重要里程碑,甚至開始威脅閉源的頭部廠商OpenAI的地位。
通過微軟這個大模型金主,Meta以更開放的姿態(tài)挑戰(zhàn)OpenAI。
實際上,“開源派”早在此前便以第三方的身份悄然崛起?!拔覀儧]有護城河,OpenAI 也沒有?!边@句話出自5月谷歌意外泄露的一份內(nèi)部文件。其內(nèi)容大意是表面上, OpenAI 和谷歌在大模型上你追我趕,但真正的贏家未必會從這兩家中產(chǎn)生,下此判斷的原因便在于愈加豐富的開源生態(tài)。
開源生態(tài)愈發(fā)活躍,乃至于出現(xiàn)了模型能力的代表Llama2以及Finetune(模型微調(diào))范式的代表技術(shù)LORA,這一切都讓閉源爭取“大力出奇跡”的巨頭廠商感受到明顯寒意。
開源的技術(shù)分享以及人才流轉(zhuǎn)等因素,也在讓大模型的黑匣子愈發(fā)“玻璃化”,缺少壁壘的必然結(jié)果是大廠在巨量資金、時間的投入下的Konw How輕易為開源社區(qū)所傾覆。
國內(nèi)頭部大廠對此的應(yīng)對大多是“兩手抓”。左手“關(guān)門造車”,以小規(guī)模內(nèi)測形式不斷打磨產(chǎn)品形態(tài)與能力,右手“集思廣益”,以云端開發(fā)者生態(tài)為基礎(chǔ)打造生態(tài)內(nèi)的開源社區(qū),但這剛需廠商自算力層、模型層到應(yīng)用層的全棧布局。阿里云推出了大模型開源社區(qū)魔搭GPT,華為云、百度云、騰訊云也都有所布局。
總體來看,無論是行業(yè)還是通用,to C還是to B,大模型的半年考給予我們的直接感覺是:落地困難,盈利預(yù)期不斷后移;風險漸強,難言技術(shù)壁壘。那么,當下的破局之路在哪?
目前而言,有兩個有意思的方向。其一是被譽為“ AI 時代的Memory”的向量數(shù)據(jù)庫,其二是模型智能賦予下的智能硬件。
所謂向量,即是可以代表任何東西的多維數(shù)據(jù),包括如今LLM訓(xùn)練最為重視的文本,以及圖像、視頻、音聲等。這些形式的內(nèi)容會在數(shù)據(jù)庫中清晰表示,并且支持語義檢索,即通過相似性檢索,例如男人與男孩。換句話說,于大模型而言,向量檢索就是大模型的SEO。
如上文所述,領(lǐng)域知識可以通過向量數(shù)據(jù)庫能力,或是精調(diào)或是外掛來提高行業(yè)模型的建構(gòu)和使用,于大廠而言自然是下一階段的發(fā)力點所在。自5月起,資本便不斷涌入向量數(shù)據(jù)相關(guān)賽道,作為前景更為確定的應(yīng)用層產(chǎn)品,向量數(shù)據(jù)也收獲了一眾VC的密切關(guān)注。
至于智能硬件內(nèi)置模型,則是相對曾經(jīng)的“siri”、“小愛”等智能助手的能力躍升,也是對真正的智能設(shè)備(手機、電腦)的外延拓展。開源社區(qū)內(nèi)早有將大參數(shù)模型內(nèi)置MAC的嘗試,而大廠則是在過去的移動互聯(lián)網(wǎng)時代便積累了一定硬件生產(chǎn)能力,相對而言其先發(fā)優(yōu)勢更為明顯。
少了PR式的春秋筆法,落地成為核心需求的大模型不再神秘,故事也越來越少,開始“深潛”的賽道玩家們?nèi)栽诎l(fā)力。行業(yè)需要下一個“ChatGPT”時刻,我們方能見到潛水者浮出水面,正面對抗。