界面新聞?dòng)浾?| 安震
“當(dāng)前市場通用的生成式AI模型具備普適、跨行業(yè)通用、模糊語言的特性,而這難以滿足銀行業(yè)對(duì)金融專業(yè)能力、精準(zhǔn)性方面的高要求。因此,如何讓生成式AI模型‘說專業(yè)的話’、‘說真話’就成為銀行業(yè)規(guī)?;瘧?yīng)用生成式AI的兩個(gè)關(guān)鍵挑戰(zhàn)。此外,銀行等金融機(jī)構(gòu)對(duì)數(shù)據(jù)安全的高要求也意味著模型的精調(diào)和應(yīng)用都很有可能需在本地進(jìn)行?!盉CG(波士頓咨詢)董事總經(jīng)理、全球合伙人,BCG金融機(jī)構(gòu)專項(xiàng)核心領(lǐng)導(dǎo)譚彥對(duì)界面新聞表示。
自2022年底ChatGPT3.5發(fā)布以來,生成式AI相關(guān)話題熱度持續(xù)走高,并以驚人的技術(shù)迭代和應(yīng)用演進(jìn)速度帶動(dòng)了各行業(yè)企業(yè)的競相布局。而作為最早應(yīng)用傳統(tǒng)AI技術(shù)的領(lǐng)域之一,銀行業(yè)也正積極試水生成式AI在行業(yè)內(nèi)各領(lǐng)域和場景下的應(yīng)用?;诖?,BCG發(fā)布《銀行業(yè)生成式AI應(yīng)用報(bào)告(2023)》,從生成式AI技術(shù)特點(diǎn)、落地場景及大規(guī)模普及面臨的挑戰(zhàn)等方面解析了銀行業(yè)在推動(dòng)生成式AI應(yīng)用過程中面臨的核心問題。
報(bào)告認(rèn)為,生成式AI在銀行業(yè)應(yīng)用場景豐富。一是可以替代人,完成處理文件、文本要素提取、生成標(biāo)準(zhǔn)化內(nèi)容等大量重復(fù)性較高、簡單基礎(chǔ)的任務(wù)。二是可以賦能人,讓AI成為助手,幫助產(chǎn)品經(jīng)理、財(cái)富顧問、信審經(jīng)理等角色完成更精準(zhǔn)的判斷,提升關(guān)鍵環(huán)節(jié)的核心競爭力。
“BCG曾以一家擁有約兩萬名員工的區(qū)域性國際銀行為例,初步梳理了該銀行前中后臺(tái)相關(guān)部門應(yīng)用生成式AI的潛力和效益,預(yù)計(jì)在首年即可為該銀行節(jié)省約1.5億美元的成本,占整體薪酬總包的7%左右”。BCG合伙人,BCG金融機(jī)構(gòu)專項(xiàng)核心領(lǐng)導(dǎo)孫蔚對(duì)界面新聞表示。
波士頓咨詢認(rèn)為,從0到1訓(xùn)練大模型的成本和難度高企,因此大模型開發(fā)能力未來將集中于少數(shù)專業(yè)機(jī)構(gòu)。對(duì)銀行而言,主要的落地路徑是直接應(yīng)用市場上已訓(xùn)練好的大模型。但拿來即用,需應(yīng)對(duì)兩大挑戰(zhàn),確保答案質(zhì)量可靠。
一是 “說真話”: 生成式AI的“知識(shí)”是基于預(yù)訓(xùn)練時(shí)已經(jīng)封裝好的“知識(shí)”,它的知識(shí)并不能及時(shí)更新,更沒有融入各家銀行自身掌握的專屬數(shù)據(jù)和信息。二是“說專業(yè)的話”: 大模型雖然有很強(qiáng)的“泛化”知識(shí)能力,但在某些專業(yè)領(lǐng)域的知識(shí)并不一定能掌握得好;每家金融機(jī)構(gòu)內(nèi)部一些特定的表達(dá)要求、表達(dá)風(fēng)格在預(yù)訓(xùn)練時(shí)也未曾捕捉。
解決上述問題,首先,需要使大模型能基于給定的數(shù)據(jù)庫來生成答案,例如可以將理財(cái)經(jīng)理與客戶的對(duì)話,理財(cái)產(chǎn)品買賣記錄輸入數(shù)據(jù)庫,由大模型整合形成最終的對(duì)話式答案;其次,通過有效的提示詞設(shè)計(jì),使模型給出契合專業(yè)要求的準(zhǔn)確答案;最后,直接對(duì)開源的大模型進(jìn)行指令精調(diào),通過修改模型參數(shù),讓模型能在有限提示詞情況下,生成更高質(zhì)量答案。
在推動(dòng)生成式AI規(guī)模化應(yīng)用方面,報(bào)告認(rèn)為,銀行可分三個(gè)階段,第一階段為少量場景的概念驗(yàn)證和局部落地,即選擇重點(diǎn)應(yīng)用場景,快速完成概念驗(yàn)證;第二階段為開展全場景盤點(diǎn)和體系規(guī)劃,即基于局部應(yīng)用的效果和經(jīng)驗(yàn),形成規(guī)?;瘜?shí)施的頂層規(guī)劃;第三階段則為規(guī)?;瘧?yīng)用落地和體系能力的固化。
“從大模型部署上,銀行等金融機(jī)構(gòu)對(duì)數(shù)據(jù)安全要求嚴(yán)格,這也意味著模型的精調(diào)和應(yīng)用都需要在本地進(jìn)行,確保專屬的數(shù)據(jù)‘不出銀行’?!?BCG資深董事經(jīng)理馮志宇對(duì)界面新聞表示。
他認(rèn)為,在合規(guī)性方面,目前為了確保數(shù)據(jù)安全,可以通過服務(wù)器本地化來解決。另外,未來對(duì)銀行需要增加相關(guān)質(zhì)量控制人員,設(shè)計(jì)質(zhì)量控制的流程,訓(xùn)練大模型輸出的答案專業(yè)化、精準(zhǔn)化。同時(shí),生成式AI在銀行未來發(fā)展過程中有可能會(huì)改變銀行原來的業(yè)務(wù)流程,甚至是責(zé)任認(rèn)定。這些問題應(yīng)該怎么去應(yīng)對(duì)?銀行是需要做體系化的思考、規(guī)劃,同時(shí)和監(jiān)管機(jī)構(gòu)進(jìn)行深度溝通。