文|產(chǎn)業(yè)家 皮爺
在過去的一段時間里，“AI-native”成為所有工具的一個顯著探索趨勢，不論是算力集群的智算中心，還是數(shù)據(jù)庫側的向量數(shù)據(jù)庫，再或者是不斷進化的算法，都在以一種更適配大模型架構的方式被推演出來。
那么，大模型時代，數(shù)據(jù)應該如何訓練？或者說，如何把數(shù)據(jù)在大模型側做更好的表達？
“大模型如何落地？”
在近一年的時間以來，關于這個問題的討論正在愈演愈烈。如果說市場對于大模型最開始的關注點更多的在參數(shù)、算力、開源，那么如今越來越多人的視線開始向更核心的環(huán)節(jié)轉移——數(shù)據(jù)。
相較于算力等更簡單粗暴的命題，數(shù)據(jù)要更為復雜。從某種層面來說，它對應的是模型的知識質量。
在10月底的一個關于大模型的閉門會上，這個問題更是被鮮明地提出。參會的人不乏底層通用大模型產(chǎn)品負責人，而更多地則是已經(jīng)開始嘗試將大模型進行落地的企業(yè)從業(yè)者，其中模型接入方法有自研，也更有開源，但作為第一批將大模型內(nèi)嵌到企業(yè)場景的人，他們的共同反饋是：不能用，不好用。
“我們很難把模型訓練成能嵌入場景或應用的樣子，不知道是哪里出了問題，是通用大模型本身能力不行，還是我們自己的數(shù)據(jù)訓練、標注不到位?！币晃黄髽I(yè)創(chuàng)始人表示。
實際上，在大模型被越發(fā)高頻嘗試的當下，這正在成為越來越多企業(yè)面臨的問題。即在市面上即見即得的模型之外，如何將其轉化成企業(yè)自身能自己使用的大模型？
“我們剛開始訓練了三輪，但越到后面越不好訓練，中間不僅花費算力，更花費的是人力?！鄙鲜鰟?chuàng)始人告訴產(chǎn)業(yè)家。
在過去的一段時間里，“AI-native”成為所有工具的一個顯著探索趨勢，不論是算力集群的智算中心，還是數(shù)據(jù)庫側的向量數(shù)據(jù)庫，再或者是不斷進化的算法，都在以一種更適配大模型架構的方式被推演出來。
但在最核心環(huán)節(jié)之一的數(shù)據(jù)側，進度卻始終緩慢。這種“緩慢”甚至成為著大模型在大規(guī)模場景落地的最關鍵掣肘之一。
那么，大模型時代，數(shù)據(jù)應該如何訓練？或者說，如何把數(shù)據(jù)在大模型側做更好的表達？在即將到來的2024年，這個被擺到臺面上的問題已經(jīng)不僅是這一步應該怎么邁，更升級的挑戰(zhàn)是這一步應該怎樣邁好。
誰能先答好這個命題，誰就能快人一步。
一、大模型的“關鍵一道門”，應該如何推開？
“我們現(xiàn)在是把一些大模型的數(shù)據(jù)標注交給外包團隊?！边@是在9月份和一位金融方向的IT負責人交流中他和我們的講述，主要面向方向是基于線下網(wǎng)點的客服和營銷。
如何把數(shù)據(jù)“挪移”到大模型中來？在當下的大模型潮流里，數(shù)據(jù)標注和訓練幾乎是所有大模型企業(yè)必須經(jīng)歷的一個環(huán)節(jié)。
數(shù)據(jù)標注，對其固有的標簽是對數(shù)據(jù)進行知識型標注，在過去多年的發(fā)展里其更多的以拖、拉、勾、畫等方式存在包括自動駕駛等需要大量數(shù)據(jù)標注的行業(yè)，從業(yè)人員畫像較為復雜，標注任務相較簡單。
但如今的大模型標注不同。“我們替換了兩個標注團隊，最終才經(jīng)過訓練，有了不錯的門店服務和引導效果。”上述負責人告訴產(chǎn)業(yè)家。
更具體的情況是，其采用的是國內(nèi)某互聯(lián)網(wǎng)大廠的開源模型，基于開源的框架進行自己模型的搭建，整體進度較快，但在數(shù)據(jù)訓練環(huán)節(jié)，時間卻被大大放緩。
他表示，最開始選擇的外包團隊也是市面上的某標注企業(yè)，但從最開始提出需求到最后的效果驗收，不僅時間較長，而且最終的準確率也不高；而第二次選擇的團隊盡管同樣花費時間長，但最終效果還算滿意。
這正在成為越來越多企業(yè)的縮影。即伴隨著國內(nèi)底層大模型的逐步低門檻化，越來越多的挑戰(zhàn)已然不聚焦在模型算法本身，更多的在于數(shù)據(jù)，也就是如何把模型從“可用變得好用”。
實際上，做好大模型的數(shù)據(jù)標注不是一件容易的事情。
首先從數(shù)據(jù)本身而言，和之前的標注相比，大模型需要的數(shù)據(jù)量級更大，而且數(shù)據(jù)結構更為復合，除了單個數(shù)據(jù)標簽之外，不少大模型的訓練需要用到合成數(shù)據(jù)（即用AI產(chǎn)生的數(shù)據(jù)），這也就意味著數(shù)據(jù)本身的標注模型和標注方法與之前不再相同。
此外，在單純的標注環(huán)節(jié)，相較于過往的托拉拽的客觀標注，現(xiàn)在的更多標注需要人工的主動判斷和主動干預，如排序、改寫、生成等，而在更專業(yè)具體的問題上，甚至需要專業(yè)的人士來接入，配合整體標注規(guī)則的建立和部分問題的拆解訓練。
更有標注人員團隊上的不同，如果說之前固有的標注需要的僅是簡單的質檢和輕微干預，那么如今在如今大模型的標注人員團隊建設上，需要對團隊進行定向的培訓，其中更包括不同專業(yè)知識以及安全合規(guī)等多方面能力的學習。
在過去的一段時間里，市面上的大模型企業(yè)有不少都采取自建標注棧的模式，即專門招聘人員成立標注團隊，同時研發(fā)自身的標注工具，但一個更為真實的現(xiàn)狀是：由于缺乏固有的標注體系和流程積累，在數(shù)據(jù)工具層面和人員層面始終存在短板，不論是標注，還是中間的模型訓練、評估環(huán)節(jié)，效果始終無法達到最好。
具體來看，即相較于數(shù)據(jù)存儲側的向量數(shù)據(jù)庫等更加適配大模型的產(chǎn)品，在數(shù)據(jù)訓練和應用側市面上大模型企業(yè)大部分采取的是傳統(tǒng)的標注工具和標注方法，因而帶來的是巨大的人力和精力投入，同時也對應的是不夠高效的訓練方法。
這種短板也更在影響著大模型的實際落地。
即伴隨著產(chǎn)業(yè)和應用成為大模型的主戰(zhàn)場，對特定產(chǎn)業(yè)或場景數(shù)據(jù)的標注和訓練也更在成為大模型落地的必行之道，但由于固有的標注方法和標注工具存在限制，一定程度上延緩了大模型能力的成型和在實際場景的應用落地。
大模型的“關鍵一道門”，應該怎么邁？
二、如何做好“AI運營”？
“優(yōu)質的大模型的數(shù)據(jù)標注更像是一套成型的AI數(shù)據(jù)運營?！币晃幌嚓P人士表示。
以百度智能云為例，其目前對外提供的是一系列圍繞大模型全生命開發(fā)周期的數(shù)據(jù)服務，其中包括預訓練、監(jiān)督微調(diào)、RLHF、評估等，其覆蓋了大模型中數(shù)據(jù)訓練的方方面面，不論是前期的數(shù)據(jù)標注還是微調(diào)等等。
這一系列的數(shù)據(jù)標注工作恰似大模型的“AI數(shù)據(jù)運營”。據(jù)了解，在百度智能云的交付過程中，其部分項目會尋找代碼、教育、法律、等領域專業(yè)人員，一起進行需求的規(guī)則制定和數(shù)據(jù)訓練，進而保證數(shù)據(jù)的真實性和準確性。
此外，在標注工具側，和其它大模型廠商不同的是，百度智能云也更研發(fā)了自身專有的大模型標注平臺工具，針對不同場景、不同需要以及不同的數(shù)據(jù)量可以按照不同的方式進行訓練，比如其可覆蓋大語言模型、多模態(tài)大模型及代碼等專項標注場景多種數(shù)據(jù)標注需求。
同時，結合輔助標注算法可以全流程助力標注師提升標注質量和效率。而在標注能力之外，其也具備著更為靈活的項目管理機制，可以更好地適配嚴苛的交付周期及復雜多變的標注規(guī)則，進而滿足不同賽道企業(yè)的大模型訓練需求。
據(jù)了解，盡管目前市面上的大模型廠商會在內(nèi)部進行自我模型的AI訓練，但效果往往沒辦法達到最好，最終還是會找到像百度智能云這樣的擁有專門標注工具的企業(yè)進行訓練標注。
被優(yōu)化的大模型訓練模塊還不僅于工具，更在團隊。比如在標注人員團隊培訓上，百度智能云在?？诮ㄔO了全國首個大模型數(shù)據(jù)標注基地，常駐數(shù)百名數(shù)據(jù)標注師，本科學歷達到100%，覆蓋漢語言文學、計算機、法學等學科專業(yè)。
在服務過程中，除了固有的一體化的模型訓練能力，對不少大模型企業(yè)而言，其還有部分專項能力的需求，比如安全能力的強化。
“大模型的輸入是可控的，但是輸出是不可控的，甚至很多時候會因為幻覺等原因，有不良或者不合規(guī)的信息出現(xiàn)?！币晃粐鴥?nèi)頭部AI大模型負責人告訴我們。這也造成了對大模型訓練而言，安全必須是其中要核心把控的指標，而百度智能云基于自身的“AI數(shù)據(jù)運營”能力，則是可以幫助企業(yè)的大模型迅速強化這項專有能力。
實際上，百度智能云的模式也恰在成為國內(nèi)大模型訓練的最先進路徑縮影。即不論是在預訓練，還是中間的監(jiān)督微調(diào)，抑或是后期的模型評估優(yōu)化等，更為高效的方式恰是這種“AI-native”的標注模式。
而基于百度智能云這套“AI-native”的標注模式，企業(yè)恰等同于裝備了一個足夠專業(yè)的“AI數(shù)據(jù)運營”工具箱，其可以幫助企業(yè)實現(xiàn)從大模型數(shù)據(jù)到效果的整體運作。這其中不僅有被“刷新”的數(shù)據(jù)標注團隊，也更囊括了一系列包括從預訓練到模型評估，再到能力強化等全部流程在內(nèi)的大模型訓練閉環(huán)，進而更高效、更低成本地構建好自身可用、安全的大模型。
三、從模型到應用：數(shù)據(jù)在產(chǎn)業(yè)要如何表達？
在能更快更好地訓練出大模型之外，數(shù)據(jù)訓練的下一步是什么？實際上，更為真實的答案是：應用和場景。
誠然如此。如果說第一階段的挑戰(zhàn)更多的在模型參數(shù)量級，即在一定范圍內(nèi)模型本身伴隨著數(shù)據(jù)量越發(fā)凸顯的能力，那么在當下的階段，更大的競爭點則是來自于實際場景的應用和業(yè)務表達。這種表達或在金融，或在工業(yè)制造，或在教育、電商等等。
就當下而言，產(chǎn)業(yè)或場景大模型的最大難點不是算力和算法，而更大的卡點恰是數(shù)據(jù)表達。
相較于通用大模型的訓練，這種基于特定場景的訓練對標注能力的要求更高。即在大量的數(shù)據(jù)中，其不僅包含無數(shù)結構化、非結構化的數(shù)據(jù)，更對參與的人員團隊有足夠專業(yè)的要求，此外，在特定的行業(yè)數(shù)據(jù)服務上，其對于具體的流程模型也更有特殊的要求。
此外，給數(shù)據(jù)服務帶來難度的不僅是場景，更有如今討論日漸增多的應用。即隨著如今越來越多的AI應用，如Agent、文生圖軟件等被推出，往往更需要在通用大模型能力的基礎上收束某項或者某些方面的特有能力，將其加持到軟件內(nèi)部，對應到數(shù)據(jù)服務側則是在應用需求之上的某些專項能力的強化和不斷評估訓練。
也更可以說，大模型的數(shù)據(jù)訓練和標注，正在伴隨著產(chǎn)業(yè)模型和AI應用時代的到來進入深水區(qū)。
這也恰是百度智能云等深耕過數(shù)據(jù)服務行業(yè)的企業(yè)價值。伴隨著大模型載體的到來，它們正基于自己對數(shù)據(jù)的多年理解和沉淀，成為推動數(shù)據(jù)到業(yè)務表達的最核心力量。
從幕后走到臺前，從數(shù)據(jù)標注到數(shù)據(jù)運營，從初始的模型訓練到細致的模型調(diào)優(yōu)，肉眼可見的是，如百度智能云這樣具備數(shù)據(jù)資源整合和強大研發(fā)能力的科技巨頭企業(yè)，正重塑著行業(yè)市場格局。而伴隨著大模型向深水區(qū)的延展，它們的價值也更在愈發(fā)凸顯。