文|光子星球 吳坤諺
編輯|王潘
大模型在吟詩作畫,我們?cè)诳喙苫睢?/p>
一條流傳甚廣的段子道出大模型如今面臨的落地困境:作為目前技術(shù)的最前沿,AI大模型迫切需要真實(shí)的可落地場(chǎng)景釋放價(jià)值,才對(duì)得起軍備競(jìng)賽中大小組織投入的人力與真金白銀。
但段子終歸只是段子,落地其實(shí)距離我們并不遙遠(yuǎn)。在現(xiàn)代人生活中必然接觸的電商場(chǎng)景中,大模型已經(jīng)走在落地之路上,重構(gòu)相關(guān)業(yè)態(tài)。其中風(fēng)頭最盛的當(dāng)屬生成式內(nèi)容(AIGC),包括但不限于文生圖、文生視頻、人機(jī)交互等。
只需簡(jiǎn)單列舉,我們便不難得出一個(gè)重塑電商領(lǐng)域人貨場(chǎng)的故事:B端應(yīng)用智能客服、數(shù)字人直播提高人效,消費(fèi)者獲得24小時(shí)響應(yīng)客服的體驗(yàn);AIGC低成本生成全渠道內(nèi)容,智能化搜索與選品為分發(fā)增效的同時(shí)縮短交易鏈路,提升ROI……
只是如今深度學(xué)習(xí)中流傳的一句話道出了當(dāng)下AIGC的困境:我們已經(jīng)可以讓機(jī)器像人一樣說話,卻很難讓機(jī)器像人一樣智能。面對(duì)電商場(chǎng)景強(qiáng)交互、重決策、弱鏈接的的特點(diǎn),單純的“擬人”難以形成完善的產(chǎn)品邏輯。
因此對(duì)于AIGC在電商領(lǐng)域的落腳點(diǎn),玩家們通常尋求“在開放中求封閉”,走出一條自下而上的道路。
封閉場(chǎng)景做人效
據(jù)知名公司沙利文最新發(fā)布的《2023年中國(guó)智能客服市場(chǎng)報(bào)告》顯示,2022年中國(guó)智能客服市場(chǎng)規(guī)模已達(dá)到66.8億元,預(yù)計(jì)到2027年市場(chǎng)規(guī)模有望增長(zhǎng)至181.3億元,預(yù)計(jì)五年內(nèi)復(fù)合增長(zhǎng)率可達(dá)到20%以上。
我們見證這條細(xì)分賽道朝百億規(guī)模邁進(jìn),而電商普遍性應(yīng)用智能客服正是賽道能保持高增長(zhǎng)的主要原因。
首當(dāng)其沖的是電商場(chǎng)景難以繞開的流量高峰以及流量帶來的高并發(fā)售前咨詢,雙十一、618之類的購(gòu)物節(jié)不提,電商商家每一天都有可能遇到多起并發(fā)咨詢。在此情況下,無論是客服響應(yīng)過慢導(dǎo)致的用戶流失還是人工客服背后的高成本,都是已經(jīng)步入紅海的電商市場(chǎng)難以承受之重。
說白了,電商平臺(tái)普遍應(yīng)用智能客服是趨勢(shì)所向,而且從時(shí)間看來,智能客服的普遍應(yīng)用還早于大模型之前。如果說大模型是智能客服的二次躍升,那么智能客服的首次躍升是AI1.0時(shí)代的NLP(自然語言處理)技術(shù)。
“大模型驅(qū)動(dòng)的AIGC出來之前,行業(yè)內(nèi)就已經(jīng)有比較成熟的基于NLP的智能客服,而且應(yīng)用很廣”,智齒科技產(chǎn)品VP陳喆告訴光子星球,“而客服場(chǎng)景接受的咨詢與問題大多是封閉性的,相比開放性場(chǎng)景更容易做出人效來”。
在尚未具備NLP自然語言處理技術(shù)之前,在線客服的產(chǎn)品形態(tài)是簡(jiǎn)單的QA,根據(jù)預(yù)先錄入的關(guān)鍵詞、句、段做出機(jī)械回答。做一個(gè)不算恰當(dāng)?shù)谋扔?,NLP技術(shù)前后的智能客服一個(gè)是傳統(tǒng)RPG中機(jī)械反饋玩家的NPC,另一個(gè)是當(dāng)下3A大作中根據(jù)玩家實(shí)時(shí)情況做出不同反饋的智能NPC。
換句話說,NLP是在線客服智能化的開始,其市場(chǎng)化也同步進(jìn)入成熟期。那么大模型便是在線客服智能化的躍升,主要體現(xiàn)在高效化、個(gè)性化與更加智能化上。
陳喆用一則數(shù)據(jù)做了個(gè)不算準(zhǔn)確的類比,假設(shè)NLP技術(shù)讓智能客服可以準(zhǔn)確回答100個(gè)客戶問題中的50個(gè),那么將大模型加入智能客服工作流后,目前可以做到準(zhǔn)確回答75個(gè),而且可以通過數(shù)據(jù)庫的切換從而切換不同場(chǎng)景。
“提效的絕對(duì)值在20%~30%左右,相對(duì)值50%這樣”,陳喆稱。
大模型對(duì)智能客服的人效提升不僅存在于需求端,更存在于供給端。大模型現(xiàn)有的二開與外掛數(shù)據(jù)庫范式讓智能客服產(chǎn)品從頭搭建的時(shí)間相對(duì)此前大大縮短了,投入的人力和時(shí)間成本呈現(xiàn)數(shù)量級(jí)的下降。而數(shù)據(jù)庫、知識(shí)庫的切換也確保了產(chǎn)品的獨(dú)特性。
當(dāng)大模型還在尋找落地場(chǎng)景時(shí),50%的增效已經(jīng)為行業(yè)帶來了足夠的確定性,無論是大模型結(jié)合現(xiàn)有智能客服產(chǎn)品或是大模型以客服形式直接在SaaS領(lǐng)域落地。
更值得行業(yè)深究的問題是,打造一個(gè)智能客服產(chǎn)品需要構(gòu)建什么樣的技術(shù)棧,以及接下來的商業(yè)化。
demo與落地間的距離
智能客服是AIGC在電商領(lǐng)域落地的急先鋒,只是接入成本高昂的大模型能力卻是一件急不來的事情。
于大廠而言,客服不過是電商平臺(tái)中積重難返的成本損耗之一,一般不會(huì)在該領(lǐng)域投入太多資源;而中小廠商自然也沒有能力從零構(gòu)建模型底座。陳喆便直言智齒科技未構(gòu)建自研大模型,而是調(diào)用領(lǐng)先模型以及互聯(lián)網(wǎng)數(shù)據(jù),從而在應(yīng)用層打造產(chǎn)品。
換句話說,智能客服領(lǐng)域普遍存在投入資源的限制。底座缺失的情況下,智能客服目前大多遵循的是“選型調(diào)用——數(shù)據(jù)采集清洗——訓(xùn)練微調(diào)——部署應(yīng)用”的范式,但問題也隨之而來,且主要集中在數(shù)據(jù)層面。
一般來說,智能客服本身是應(yīng)對(duì)客戶降本需求的產(chǎn)品,自身的成本問題便更為突出。業(yè)內(nèi)常見的調(diào)用成熟的數(shù)據(jù)庫的做法的確可以極大縮短產(chǎn)品雛形的上線時(shí)間,卻會(huì)影響到成品的使用體驗(yàn)。一個(gè)是準(zhǔn)確率有可能因?yàn)閿?shù)據(jù)偏差而下降,另一個(gè)是數(shù)據(jù)同步存在滯后性。
數(shù)據(jù)本身會(huì)經(jīng)由廠商做結(jié)構(gòu)化的采集清洗,能否完美貼合客戶所在行業(yè)或領(lǐng)域卻是另外一回事,因?yàn)槠浯嬖跀?shù)據(jù)偏差導(dǎo)致的幻覺問題難以避免。陳喆告訴光子星球:“可回答率的提升也伴隨著輕微的準(zhǔn)確率下降,這在不少客戶看來是不能接受的。比如法律、教育、金融等領(lǐng)域的客戶。”
而數(shù)據(jù)同步更偏向于對(duì)智能客服供給與需求雙端。一方面,客戶需要及時(shí)上傳有待用于訓(xùn)練微調(diào)的數(shù)據(jù),另一方面,廠商也需要高頻率的微調(diào)并更新產(chǎn)品。
陳喆稱,智齒科技目前的更新頻率是周更,在開放數(shù)據(jù)接口的情況下,客戶需要及時(shí)傳送最新數(shù)據(jù),經(jīng)歷一段時(shí)間的語料學(xué)習(xí)后才能讓“最新數(shù)據(jù)”的價(jià)值得以體現(xiàn)。
“你的需求是秒級(jí)、分鐘級(jí)還是小時(shí)級(jí)都可以,數(shù)據(jù)前一秒push到我這,下一秒就會(huì)成為我們產(chǎn)品的訓(xùn)練語料?!?/p>
這不失為一個(gè)同步的好辦法,但也較為依賴調(diào)用模型的學(xué)習(xí)能力,而且難以第一時(shí)間“消化”數(shù)據(jù)價(jià)值。
至于最初的成本問題,相對(duì)而言反而沒那么重要了。智能客服場(chǎng)景的封閉性本就限制了數(shù)據(jù)量,從某家非頭部廠商的視角看,智能客服目前既不需要“囤卡”或接入向量數(shù)據(jù)庫來保障檢索效率,也不需要在調(diào)用模型時(shí)過于考量tokens成本,只需要結(jié)合對(duì)應(yīng)成本進(jìn)行定價(jià)即可——無論如何,使用智能客服節(jié)約的人效都比目前的定價(jià)要高得多。
可以肯定的是,智能客服想做出一個(gè)demo來確實(shí)容易,但其距離落地之間的距離并不止投入一個(gè)調(diào)用或自研的模型。難以量化的成本或?qū)⒊蔀槲磥碇悄芸头惖乐?,玩家們的護(hù)城河。
微妙的生存空間
在討論AIGC結(jié)合智能客服的可能性的同時(shí),我們還需要考慮到智能客服并非由AI開拓的新賽道,而是一條有著十余年歷史、業(yè)態(tài)為大模型所重構(gòu)的老賽道。
于智能客服賽道而言,業(yè)態(tài)的重構(gòu)包括從NLP升維至大模型的底層變動(dòng)、從語義理解演變?yōu)槎嗄B(tài)的功能躍升等,但非技術(shù)視角下的商業(yè)模式卻未曾改變。
說白了,智能客服是一項(xiàng)以降本為核心目的的SaaS業(yè)務(wù),這一點(diǎn)從《2023年中國(guó)智能客服市場(chǎng)報(bào)告》數(shù)據(jù)顯示軟件占據(jù)2022年中國(guó)智能客服市場(chǎng)79.94%中可見一二。也就是說,智能客服廠商的生存空間在于客戶與達(dá)成智能客服能力之間的距離,這一點(diǎn)在技術(shù)變遷的重要節(jié)點(diǎn)也未曾改變。
“如果大廠能在智能客服把我們打死的話,那么早在NLP時(shí)期我們就已經(jīng)死了”,陳喆說。
更進(jìn)一步,智能客服既然是SaaS業(yè)務(wù)中的一種,那么其增長(zhǎng)范式也同樣有因循邏輯。例如推出客服領(lǐng)域大模型的移動(dòng)、聯(lián)通等運(yùn)營(yíng)商與容聯(lián)云,采用的便是產(chǎn)品驅(qū)動(dòng)型增長(zhǎng)(Product-led Growth)為主的增長(zhǎng)模式,而對(duì)于未具備相應(yīng)能力的非頭部廠商而言,大多呈現(xiàn)更偏向于體驗(yàn)驅(qū)動(dòng)型增長(zhǎng)(eXperience-Led Growth)的模式。
并非腰部廠商以及他們的客戶不在意產(chǎn)品表現(xiàn),而是腰部廠商面對(duì)大廠在技術(shù)與資源上的傾軋,需要構(gòu)建第二增長(zhǎng)曲線來為自己拓寬生存空間。比較典型的是針對(duì)客戶在應(yīng)用產(chǎn)品時(shí)可能發(fā)生的問題做“預(yù)處理”,以及盡可能拓展主要業(yè)務(wù)之外的業(yè)務(wù)路線等。
以某腰部廠商為例,他們?yōu)樽约耶a(chǎn)品專門建立了運(yùn)營(yíng)部門,“無所不用其極”來做客戶支持,貼近客戶。而運(yùn)營(yíng)部門的工作包括代客戶寫prompt、幫助客戶做私域運(yùn)營(yíng)、甚至作為客戶與廠商之間的“中轉(zhuǎn)站”,以成員的形式撮合數(shù)字化整體解決方案等。
誠(chéng)然,小廠能做的基本上大廠也能做,只不過需要投入一定時(shí)間與人力。只是兩者對(duì)智能客服的認(rèn)知以及展開業(yè)務(wù)的路線分野,也為腰部廠商擠出了不小的生存空間。
“大廠資源多投入高,自然想大口吃肉,盯著大客戶開單。而且也免不了一些務(wù)虛的東西,比如讓客戶試跑模型來‘偷師’語料。我們是更接地氣,盡可能讓客戶降本的需求在售前就能有清晰的感知”,某腰部廠商產(chǎn)品經(jīng)理稱。
況且,作為企業(yè)數(shù)字化轉(zhuǎn)型眾多項(xiàng)目中的一個(gè),智能客服的盤口并不算大。一般大客戶會(huì)選擇打包的方式多方采購(gòu),防止一體化的風(fēng)險(xiǎn),這其中也蘊(yùn)含著非頭部廠商的機(jī)會(huì)。
目前看來,如今的智能客服賽道還算得上“萬類霜天競(jìng)自由”,只是隨著智能客服與AIGC結(jié)合程度的加深,競(jìng)爭(zhēng)白熱化后的業(yè)態(tài)很可能再次改變。
最基本的幻覺問題導(dǎo)致生成內(nèi)容質(zhì)量不穩(wěn)定擺在全行業(yè)面前,目前尚未有明確解法;而智能客服結(jié)合AIGC的業(yè)務(wù)進(jìn)入成熟期后,從降本增效到更進(jìn)一步的價(jià)值創(chuàng)造的趨勢(shì)又在倒逼智能客服廠商加碼技術(shù)迭代。比較典型的是電商領(lǐng)域的智能客服完全可以從客服延伸到導(dǎo)購(gòu)。
此外,光子星球還自某頭部大廠處了解到,AIGC在電商客服場(chǎng)景的應(yīng)用存在時(shí)延,單純語義檢索難以保障用戶滿意度,引入向量數(shù)據(jù)庫似乎是未來的必然。
智能客服以其自身的降本價(jià)值以及與大模型的耦合程度,已然成為大模型落地的確定性場(chǎng)景之一。而其大模型時(shí)期的發(fā)展才剛起了個(gè)頭,勉強(qiáng)從“智障”變“智能”的客服面對(duì)復(fù)購(gòu)、交叉銷售等需求,還需要更多范式迭代。