文|中國電子銀行網(wǎng) 王超
春節(jié)剛過，打工人還沒徹底從節(jié)后綜合癥里走出來，人工智能領(lǐng)域的ChatGPT就已經(jīng)火遍全網(wǎng)。智能銀行一直是銀行數(shù)字化轉(zhuǎn)型的重點(diǎn)方向，銀行自然也會密切關(guān)注這一冉冉升起的AI明星。
2月6日，招商銀行發(fā)布招商銀行親情信用卡（附卡）推文。這篇推文通過與ChatGPT對話的方式對親情作出解釋，引發(fā)業(yè)界熱議。
2月8日，江蘇銀行相關(guān)負(fù)責(zé)人表示，該行已嘗試運(yùn)用ChatGPT 技術(shù)提升軟件開發(fā)生產(chǎn)力，進(jìn)一步提高科技運(yùn)營效能。
新技術(shù)應(yīng)用，銀行向來是積極的，同時也是謹(jǐn)慎的。從當(dāng)前的表現(xiàn)來看，銀行并未將ChatGPT應(yīng)用在具體的金融業(yè)務(wù)上。技術(shù)成熟度和可能產(chǎn)生的科技倫理風(fēng)險是銀行對新技術(shù)保持謹(jǐn)慎的重要原因。
任何技術(shù)的出現(xiàn)所帶來的科技倫理問題都會引起監(jiān)管的注意。ChatGPT一路狂飆，如何才能實(shí)現(xiàn)安全駕馭？如何引導(dǎo)技術(shù)健康發(fā)展，防范潛在風(fēng)險一直是監(jiān)管留意和研究的重點(diǎn)課題。
2022年10月9日，中國人民銀行就正式發(fā)布了《金融領(lǐng)域科技倫理指引》（JR/T0258-2022）標(biāo)準(zhǔn)（以下簡稱“《指引》）?！吨敢访鞔_，科技倫理即開展科學(xué)研究、技術(shù)開發(fā)等科技活動需要遵循的價值理念和行為規(guī)范。
2022年1月，中國人民銀行印發(fā)《金融科技發(fā)展規(guī)劃（2022-2025年）》（以下簡稱《規(guī)劃》）?！兑?guī)劃》提出了八個方面的重點(diǎn)任務(wù)。其中，第一條便是強(qiáng)化金融科技治理，全面塑造數(shù)字化能力，健全多方參與、協(xié)同共治的金融科技倫理規(guī)范體系，構(gòu)建互促共進(jìn)的數(shù)字生態(tài)。
除了金融監(jiān)管，即使是民間科技大佬也在呼吁“對人工智能進(jìn)行監(jiān)管”。
2018年3月，馬斯克是在接受 HBO 劇集《西部世界》聯(lián)合導(dǎo)演喬納森·諾蘭的采訪時表示，人類需要對人工智能進(jìn)行監(jiān)管，以確保人工智能技術(shù)發(fā)展的安全性，這一點(diǎn)極其重要。
面對以ChatGPT為代表的人工智能應(yīng)用，銀行需要做好哪些風(fēng)險防范呢？
一是技術(shù)風(fēng)險。ChatGPT主要靠模型訓(xùn)練來豐富自己的對答能力。有技術(shù)專家認(rèn)為，“ChatGPT的輸出仍然更偏向于統(tǒng)計學(xué)規(guī)律，而不是真正的智能?！比绻Z料信息有誤導(dǎo)，那么訓(xùn)練的結(jié)果也會產(chǎn)生偏差。有些網(wǎng)友故意對其挖坑，它也善解人意地“跳坑”迎合。如下圖：
尤其是一些專業(yè)業(yè)務(wù)內(nèi)容，一般人很難判斷ChatGPT是一本正經(jīng)地胡說八道還是有板有眼地進(jìn)行合理輸出，稍有不慎，就會給銀行或客戶帶來巨大損失。這也是為什么ChatGPT語料審查和標(biāo)準(zhǔn)成本高昂的原因之一。
二是數(shù)據(jù)泄露風(fēng)險。AI訓(xùn)練的語料可以是多種多樣的。在銀行，AI會大量獲取銀行和客戶的敏感數(shù)據(jù)信息，這些數(shù)據(jù)如果不加限制，被AI隨意輸出，必然會帶來災(zāi)難。數(shù)據(jù)風(fēng)控內(nèi)審變得極為重要，監(jiān)管審查，包括代碼審查也變得十分必要。
三是監(jiān)管風(fēng)險。技術(shù)的迭代效率大多是漸進(jìn)式的，但AI的訓(xùn)練和演化可能會不一樣。有研發(fā)人員表示，他在研究ChatGPT時有一種擔(dān)憂，如果它越過了某個奇點(diǎn)，那后果或許是十分可怕的?！翱赡?，前幾分鐘，ChatGPT還是個傻子，但幾分鐘后，整個人類在它面前都是傻子?！币坏┑搅四莻€時候，想管都管不住了。
另外，在電信詐騙方面，很多犯罪分子在直接參與電信詐騙之前，往往有“專業(yè)、集中、系統(tǒng)”的電詐話術(shù)培訓(xùn)，這些話術(shù)若被用于訓(xùn)練ChatGPT，那么ChatGPT成為詐騙犯的日子也就不遠(yuǎn)了，但我們會很難去抓住其背后的那個真正的詐騙犯。
除倫理風(fēng)險外，ChatGPT在銀行領(lǐng)域的敏感風(fēng)險還有成本風(fēng)險。
對于單個金融機(jī)構(gòu)而言，人工智能的研發(fā)成本極其高昂。一位長期關(guān)注人工智能發(fā)展趨勢的技術(shù)專家向中國電子銀行網(wǎng)表示，除了昂貴的軟硬件設(shè)施外，長周期的語料“訓(xùn)練”是一般企業(yè)難以承受的。比如語料審查和標(biāo)注就是一項(xiàng)龐大的工作，時間成本和金錢成本會很高。
雖然，微軟近日提出，計劃在今年晚些時候發(fā)布軟件，幫助大公司創(chuàng)建類似ChatGPT的聊天機(jī)器人。這樣可以在一定程度上降低企業(yè)的成本風(fēng)險，但各企業(yè)的語料訓(xùn)練標(biāo)準(zhǔn)不一，也會導(dǎo)致風(fēng)險治理難度的增大。
在智能金融創(chuàng)新活動中化解和規(guī)避這些風(fēng)險是銀行安全駕馭ChatGPT的重要前提條件。