正在閱讀:

騰訊云智能總經(jīng)理李學(xué)朝:大模型不僅限于ChatGPT,客戶需要低成本獲得AI能力

掃一掃下載界面新聞APP

騰訊云智能總經(jīng)理李學(xué)朝:大模型不僅限于ChatGPT,客戶需要低成本獲得AI能力

很多AI解決方案在落地過(guò)程中存在著門檻高、投入大和周期長(zhǎng)的特點(diǎn)。

圖片來(lái)源:視覺(jué)中國(guó)

界面新聞?dòng)浾?| 崔鵬

近期AI(人工智能)的各種新進(jìn)展層出不窮,整個(gè)產(chǎn)業(yè)迎來(lái)廣泛關(guān)注。不久前,騰訊云智能總經(jīng)理李學(xué)朝面向媒體做了線下分享,話題圍繞騰訊在人工智能領(lǐng)域的落地思路和應(yīng)用場(chǎng)景展開(kāi)。

他領(lǐng)導(dǎo)的騰訊云智能團(tuán)隊(duì)歸屬于CSIG云與智慧產(chǎn)業(yè)事業(yè)群,主要負(fù)責(zé)在各種人工智能技術(shù)之上搭建平臺(tái),并向產(chǎn)業(yè)輸出落地。

騰訊云智能可以分為三層,底層是能力層,中間是平臺(tái)層,上面是方案層。能力層指的是騰訊的全棧技術(shù)能力,包括語(yǔ)言類、語(yǔ)義類、CV類等技術(shù),整合了騰訊內(nèi)部AI Lab、微信AI和優(yōu)圖等幾大AI實(shí)驗(yàn)室。

這些新技術(shù),騰訊不會(huì)直接拿給客戶去用,而是先在公司內(nèi)部的各個(gè)產(chǎn)品進(jìn)行應(yīng)用實(shí)踐。無(wú)論是大模型、NLP還是數(shù)字人技術(shù),都在騰訊的廣告、搜索、翻譯同傳和語(yǔ)言助手等業(yè)務(wù)上進(jìn)行過(guò)反復(fù)打磨。

李學(xué)朝認(rèn)為,這些新技術(shù)只有跟場(chǎng)景結(jié)合、跟客戶相結(jié)合,才能產(chǎn)生價(jià)值。所以騰訊一直在探索怎么把底層技術(shù)和大模型包裝起來(lái)對(duì)外輸出,以能力、平臺(tái)或者應(yīng)用的形態(tài)。

“現(xiàn)在大家喜歡討論大模型,其實(shí)大模型并不僅限于ChatGPT這一種類型”,李學(xué)朝表示,騰訊的大模型此前就在對(duì)話等領(lǐng)域有過(guò)實(shí)踐。

目前大模型領(lǐng)域有比較普遍的挑戰(zhàn)和痛點(diǎn),例如在訓(xùn)練上AI應(yīng)用場(chǎng)景處理的數(shù)據(jù)量越來(lái)越大,模型網(wǎng)絡(luò)的結(jié)構(gòu)復(fù)雜度越來(lái)越高,模型的訓(xùn)練周期也越來(lái)越長(zhǎng)。

比如說(shuō)ChatGPT訓(xùn)練一次大概需要月計(jì),完整訓(xùn)練需要近千張A100卡。李學(xué)朝介紹稱,騰訊很多大模型就算用低成本方式,訓(xùn)練一次也得一兩周。這種情況下,客戶的成本很高,因?yàn)楝F(xiàn)在GPU資源很難獲取,訓(xùn)練周期比較長(zhǎng),嚴(yán)重影響到模型產(chǎn)出效率。

所以,雖然過(guò)去幾年AI產(chǎn)業(yè)發(fā)展很火,但它面臨著明顯的發(fā)展瓶頸。很多AI解決方案在落地過(guò)程中存在著門檻高、投入大和周期長(zhǎng)的特點(diǎn)。在企業(yè)降本需求非常強(qiáng)烈的背景下,低成本快速獲取AI算力和能力的需求日漸增長(zhǎng)。

也是基于這個(gè)目的,騰訊推出了騰訊云TI平臺(tái)。它能簡(jiǎn)化開(kāi)發(fā)者的工程投入,實(shí)現(xiàn)即插即用、低門檻的接入。

騰訊將多模態(tài)AI技術(shù)能力聚集到TI平臺(tái)上,同時(shí)把AI應(yīng)用中做的TI-ACC加速平臺(tái)放進(jìn)來(lái),讓平臺(tái)在訓(xùn)練和推理方面都能加速和降低成本。

以TI-OCR訓(xùn)練平臺(tái)舉例,很多行業(yè)都有大量的報(bào)銷和發(fā)票等各種格式的單據(jù),當(dāng)對(duì)它們做電子化處理的時(shí)候就要用到OCR技術(shù)。這項(xiàng)技術(shù)一方面對(duì)識(shí)別準(zhǔn)確率要求很高,第二方面就面臨著格式、版式多樣性的挑戰(zhàn),每一個(gè)票據(jù)的模板排版都不同。

根據(jù)官方介紹,騰訊的TI-OCR支持大概5000多種版式,泛化準(zhǔn)確率能達(dá)到90%,而且拿5張樣本快速訓(xùn)練的準(zhǔn)確率能達(dá)到95%以上;現(xiàn)在檢測(cè)識(shí)別500張樣本做訓(xùn)練準(zhǔn)確率為99%,在快遞里面做分揀,100張樣本能做到99.5%的準(zhǔn)確率。這個(gè)平臺(tái)在物流、財(cái)稅等場(chǎng)景里有很多應(yīng)用。

在工業(yè)場(chǎng)景下,騰訊推出了騰訊云智能工業(yè)質(zhì)檢解決方案,它是一套軟硬一體的AI外觀質(zhì)檢解決方案。

以蘋果產(chǎn)業(yè)鏈企業(yè)富馳高科為例,蘋果對(duì)iPhone手機(jī)內(nèi)每個(gè)零件的加工過(guò)程都有很高質(zhì)量的要求,生產(chǎn)企業(yè)以前主要靠人工檢測(cè),現(xiàn)在可以用AI質(zhì)檢提升生產(chǎn)效率。

富馳高科與騰訊合作后,將光度立體成像技術(shù)、深度學(xué)習(xí)等工業(yè)AI質(zhì)檢技術(shù)引入攝像頭支架外觀檢測(cè)中,質(zhì)檢速度較人工提升10倍。目前騰訊為富馳高科提供了10多臺(tái)設(shè)備,機(jī)器持續(xù)滿載生產(chǎn)的情況下,每年能為其節(jié)省數(shù)千萬(wàn)元的人力成本。

官方信息顯示,騰訊已經(jīng)在10個(gè)工業(yè)細(xì)分領(lǐng)域推出了成形的解決方案,每年累計(jì)交付超過(guò)100臺(tái)設(shè)備;單就外觀檢測(cè)設(shè)備來(lái)說(shuō),單一客戶累計(jì)檢測(cè)2000萬(wàn)件。當(dāng)客戶有新的產(chǎn)品外觀上線時(shí),檢測(cè)人員可以將圖片提交到我們的平臺(tái)上自主訓(xùn)練,極大降低了算法門檻。

目前,騰訊工業(yè)AI質(zhì)檢聚焦在3C電子、新能源等行業(yè),以及手機(jī)配件檢測(cè)、3C結(jié)構(gòu)件檢測(cè)、鋰電池生產(chǎn)質(zhì)檢等重點(diǎn)領(lǐng)域。

騰訊云智能的理念是AI要服務(wù)于人,針對(duì)的用戶主要包括管理者、業(yè)務(wù)人員、研發(fā)人員和C端用戶這四類人群,對(duì)應(yīng)的就是決策智能、服務(wù)智能、研發(fā)智能和生活智能,目前已經(jīng)在8大行業(yè)落地超過(guò)50多個(gè)客戶,有70%的存量客戶追加采購(gòu)TI平臺(tái)的軟件和服務(wù)。

李學(xué)朝表示,騰訊希望把平臺(tái)開(kāi)放出去,讓合作伙伴基于平臺(tái)去開(kāi)發(fā)更多的場(chǎng)景,幫助客戶去實(shí)現(xiàn)它們的業(yè)務(wù)價(jià)值。

 

未經(jīng)正式授權(quán)嚴(yán)禁轉(zhuǎn)載本文,侵權(quán)必究。

騰訊

6.4k
  • 騰訊控股:今日耗資10.03億港元回購(gòu)268萬(wàn)股公司股份
  • 信音電子(301329.SZ):2024年中報(bào)凈利潤(rùn)為3717.84萬(wàn)元、較去年同期下降2.41%

評(píng)論

暫無(wú)評(píng)論哦,快來(lái)評(píng)價(jià)一下吧!

下載界面新聞

微信公眾號(hào)

微博

騰訊云智能總經(jīng)理李學(xué)朝:大模型不僅限于ChatGPT,客戶需要低成本獲得AI能力

很多AI解決方案在落地過(guò)程中存在著門檻高、投入大和周期長(zhǎng)的特點(diǎn)。

圖片來(lái)源:視覺(jué)中國(guó)

界面新聞?dòng)浾?| 崔鵬

近期AI(人工智能)的各種新進(jìn)展層出不窮,整個(gè)產(chǎn)業(yè)迎來(lái)廣泛關(guān)注。不久前,騰訊云智能總經(jīng)理李學(xué)朝面向媒體做了線下分享,話題圍繞騰訊在人工智能領(lǐng)域的落地思路和應(yīng)用場(chǎng)景展開(kāi)。

他領(lǐng)導(dǎo)的騰訊云智能團(tuán)隊(duì)歸屬于CSIG云與智慧產(chǎn)業(yè)事業(yè)群,主要負(fù)責(zé)在各種人工智能技術(shù)之上搭建平臺(tái),并向產(chǎn)業(yè)輸出落地。

騰訊云智能可以分為三層,底層是能力層,中間是平臺(tái)層,上面是方案層。能力層指的是騰訊的全棧技術(shù)能力,包括語(yǔ)言類、語(yǔ)義類、CV類等技術(shù),整合了騰訊內(nèi)部AI Lab、微信AI和優(yōu)圖等幾大AI實(shí)驗(yàn)室。

這些新技術(shù),騰訊不會(huì)直接拿給客戶去用,而是先在公司內(nèi)部的各個(gè)產(chǎn)品進(jìn)行應(yīng)用實(shí)踐。無(wú)論是大模型、NLP還是數(shù)字人技術(shù),都在騰訊的廣告、搜索、翻譯同傳和語(yǔ)言助手等業(yè)務(wù)上進(jìn)行過(guò)反復(fù)打磨。

李學(xué)朝認(rèn)為,這些新技術(shù)只有跟場(chǎng)景結(jié)合、跟客戶相結(jié)合,才能產(chǎn)生價(jià)值。所以騰訊一直在探索怎么把底層技術(shù)和大模型包裝起來(lái)對(duì)外輸出,以能力、平臺(tái)或者應(yīng)用的形態(tài)。

“現(xiàn)在大家喜歡討論大模型,其實(shí)大模型并不僅限于ChatGPT這一種類型”,李學(xué)朝表示,騰訊的大模型此前就在對(duì)話等領(lǐng)域有過(guò)實(shí)踐。

目前大模型領(lǐng)域有比較普遍的挑戰(zhàn)和痛點(diǎn),例如在訓(xùn)練上AI應(yīng)用場(chǎng)景處理的數(shù)據(jù)量越來(lái)越大,模型網(wǎng)絡(luò)的結(jié)構(gòu)復(fù)雜度越來(lái)越高,模型的訓(xùn)練周期也越來(lái)越長(zhǎng)。

比如說(shuō)ChatGPT訓(xùn)練一次大概需要月計(jì),完整訓(xùn)練需要近千張A100卡。李學(xué)朝介紹稱,騰訊很多大模型就算用低成本方式,訓(xùn)練一次也得一兩周。這種情況下,客戶的成本很高,因?yàn)楝F(xiàn)在GPU資源很難獲取,訓(xùn)練周期比較長(zhǎng),嚴(yán)重影響到模型產(chǎn)出效率。

所以,雖然過(guò)去幾年AI產(chǎn)業(yè)發(fā)展很火,但它面臨著明顯的發(fā)展瓶頸。很多AI解決方案在落地過(guò)程中存在著門檻高、投入大和周期長(zhǎng)的特點(diǎn)。在企業(yè)降本需求非常強(qiáng)烈的背景下,低成本快速獲取AI算力和能力的需求日漸增長(zhǎng)。

也是基于這個(gè)目的,騰訊推出了騰訊云TI平臺(tái)。它能簡(jiǎn)化開(kāi)發(fā)者的工程投入,實(shí)現(xiàn)即插即用、低門檻的接入。

騰訊將多模態(tài)AI技術(shù)能力聚集到TI平臺(tái)上,同時(shí)把AI應(yīng)用中做的TI-ACC加速平臺(tái)放進(jìn)來(lái),讓平臺(tái)在訓(xùn)練和推理方面都能加速和降低成本。

以TI-OCR訓(xùn)練平臺(tái)舉例,很多行業(yè)都有大量的報(bào)銷和發(fā)票等各種格式的單據(jù),當(dāng)對(duì)它們做電子化處理的時(shí)候就要用到OCR技術(shù)。這項(xiàng)技術(shù)一方面對(duì)識(shí)別準(zhǔn)確率要求很高,第二方面就面臨著格式、版式多樣性的挑戰(zhàn),每一個(gè)票據(jù)的模板排版都不同。

根據(jù)官方介紹,騰訊的TI-OCR支持大概5000多種版式,泛化準(zhǔn)確率能達(dá)到90%,而且拿5張樣本快速訓(xùn)練的準(zhǔn)確率能達(dá)到95%以上;現(xiàn)在檢測(cè)識(shí)別500張樣本做訓(xùn)練準(zhǔn)確率為99%,在快遞里面做分揀,100張樣本能做到99.5%的準(zhǔn)確率。這個(gè)平臺(tái)在物流、財(cái)稅等場(chǎng)景里有很多應(yīng)用。

在工業(yè)場(chǎng)景下,騰訊推出了騰訊云智能工業(yè)質(zhì)檢解決方案,它是一套軟硬一體的AI外觀質(zhì)檢解決方案。

以蘋果產(chǎn)業(yè)鏈企業(yè)富馳高科為例,蘋果對(duì)iPhone手機(jī)內(nèi)每個(gè)零件的加工過(guò)程都有很高質(zhì)量的要求,生產(chǎn)企業(yè)以前主要靠人工檢測(cè),現(xiàn)在可以用AI質(zhì)檢提升生產(chǎn)效率。

富馳高科與騰訊合作后,將光度立體成像技術(shù)、深度學(xué)習(xí)等工業(yè)AI質(zhì)檢技術(shù)引入攝像頭支架外觀檢測(cè)中,質(zhì)檢速度較人工提升10倍。目前騰訊為富馳高科提供了10多臺(tái)設(shè)備,機(jī)器持續(xù)滿載生產(chǎn)的情況下,每年能為其節(jié)省數(shù)千萬(wàn)元的人力成本。

官方信息顯示,騰訊已經(jīng)在10個(gè)工業(yè)細(xì)分領(lǐng)域推出了成形的解決方案,每年累計(jì)交付超過(guò)100臺(tái)設(shè)備;單就外觀檢測(cè)設(shè)備來(lái)說(shuō),單一客戶累計(jì)檢測(cè)2000萬(wàn)件。當(dāng)客戶有新的產(chǎn)品外觀上線時(shí),檢測(cè)人員可以將圖片提交到我們的平臺(tái)上自主訓(xùn)練,極大降低了算法門檻。

目前,騰訊工業(yè)AI質(zhì)檢聚焦在3C電子、新能源等行業(yè),以及手機(jī)配件檢測(cè)、3C結(jié)構(gòu)件檢測(cè)、鋰電池生產(chǎn)質(zhì)檢等重點(diǎn)領(lǐng)域。

騰訊云智能的理念是AI要服務(wù)于人,針對(duì)的用戶主要包括管理者、業(yè)務(wù)人員、研發(fā)人員和C端用戶這四類人群,對(duì)應(yīng)的就是決策智能、服務(wù)智能、研發(fā)智能和生活智能,目前已經(jīng)在8大行業(yè)落地超過(guò)50多個(gè)客戶,有70%的存量客戶追加采購(gòu)TI平臺(tái)的軟件和服務(wù)。

李學(xué)朝表示,騰訊希望把平臺(tái)開(kāi)放出去,讓合作伙伴基于平臺(tái)去開(kāi)發(fā)更多的場(chǎng)景,幫助客戶去實(shí)現(xiàn)它們的業(yè)務(wù)價(jià)值。

 

未經(jīng)正式授權(quán)嚴(yán)禁轉(zhuǎn)載本文,侵權(quán)必究。