正在閱讀:

打破關(guān)于生成式AI的四個(gè)常見(jiàn)謬誤

掃一掃下載界面新聞APP

打破關(guān)于生成式AI的四個(gè)常見(jiàn)謬誤

如何看待人工智能的發(fā)展和應(yīng)用?人工智能會(huì)對(duì)未來(lái)的工作和社會(huì)產(chǎn)生怎樣的影響?

文|創(chuàng)瞰巴黎 Thierry Rayna

編輯|Meister Xia

導(dǎo)讀

盡管人工智能的新應(yīng)用層出不窮,但并非每一次技術(shù)突破都能被稱為革命性的變革。許多所謂的新技術(shù)實(shí)際上是現(xiàn)有技術(shù)的延伸和應(yīng)用,沒(méi)有突破性的創(chuàng)新。人工智能的普及是否會(huì)導(dǎo)致大規(guī)模的失業(yè)?雖然人工智能在某些領(lǐng)域可能會(huì)取代部分工作,但專業(yè)判斷和人類技能在數(shù)字化時(shí)代仍然至關(guān)重要。如何看待人工智能的發(fā)展和應(yīng)用?人工智能會(huì)對(duì)未來(lái)的工作和社會(huì)產(chǎn)生怎樣的影響?

一覽:

  1. 隨著人工智能的興起,特別是GPT、DALL-E 等生成式人工智能,社會(huì)上出現(xiàn)了許多關(guān)于新技術(shù)的謬誤。
  2. 但這些“新AI”稱不上技術(shù)革命,因?yàn)樵缭贑hatGPT 出現(xiàn)之前,相關(guān)技術(shù)就已存在。
  3. 我們見(jiàn)證的不是技術(shù)革命,而是技術(shù)使用方式的革命,因?yàn)槌鮿?chuàng)企業(yè)向公眾開(kāi)放了人工智能的使用權(quán)限。
  4. 用戶以為自己在操縱人工智能算法,但是GPT的更新和訓(xùn)練完全由OpenAI操控,這一過(guò)程毫無(wú)開(kāi)放性可言。
  5. 盡管引發(fā)擔(dān)憂,但人工智能的普及和開(kāi)放,將使人類的專業(yè)辨別力比以往更加珍貴。

人工智能做律師的工作,寫的作文能糊弄老師,會(huì)設(shè)計(jì)雜志封面,給電影配樂(lè),讓圖形設(shè)計(jì)師、音樂(lè)家失業(yè)……最近幾個(gè)月,類似的新聞報(bào)道層出不窮,甚至還有人說(shuō)白領(lǐng)和高管的崗位都岌岌可危。然而,人工智能并沒(méi)有我們想像得那么開(kāi)天辟地,相關(guān)的技術(shù)早已存在多年。從 20 世紀(jì) 50 年代中期開(kāi)始,對(duì)人工智能的擔(dān)憂和異想天開(kāi)的猜測(cè)接踵而至,每次都有人預(yù)言“人類肯定會(huì)被機(jī)器取代”,但猜測(cè)最后都落了空。這一次,人工智能的新應(yīng)用如雨后春筍般萌發(fā),情況會(huì)有所不同嗎?

01 我們正在見(jiàn)證一場(chǎng)技術(shù)革命

許多評(píng)論和新聞報(bào)道都聲稱AI已取得了重大技術(shù)突破,但事實(shí)并非如此。ChatGPT、DALL E 使用的算法與多年來(lái)一直在使用的算法一脈相承。既然算法沒(méi)有創(chuàng)新,那是不是計(jì)算機(jī)“智能處理”海量信息的技術(shù)有了突破?也不是!現(xiàn)有技術(shù)是長(zhǎng)期迭代形成的,未來(lái)的發(fā)展趨勢(shì)有跡可循,算不上陡變。即使是備受議論的生成式人工智能也不是新技術(shù)。生成式人工智能的算法經(jīng)過(guò)訓(xùn)練,能給出“看似正確”的答案,每次生成的結(jié)果還都不一樣,仿佛擁有“創(chuàng)造力”。雖然結(jié)果隨著技術(shù)的進(jìn)步越來(lái)越可靠,但這種技術(shù)絕非最近的創(chuàng)新。

“谷歌等互聯(lián)網(wǎng)巨頭不可能像 OpenAI 一樣‘好’,正是因?yàn)槲覀儾辉试S他們像 OpenAI 一樣‘壞’。”

近幾個(gè)月我們見(jiàn)證的不是技術(shù)革命,而是技術(shù)使用方式的革命。一直以來(lái),人工智能技術(shù)被谷歌、亞馬遜、Meta、蘋果等互聯(lián)網(wǎng)巨頭企業(yè)緊緊抓在手中,公眾難以直接使用。但是OpenAI、Stable.AI、Midjourney等新晉選手卻反其道而行,讓大眾隨意使用他們開(kāi)發(fā)的算法,新用途層出不窮,天馬行空——這才是新一波AI浪潮的真正創(chuàng)新點(diǎn)所在。

02 谷歌、亞馬遜、Meta、蘋果等互聯(lián)網(wǎng)巨頭企業(yè)跟不上初創(chuàng)企業(yè)開(kāi)發(fā)AI的步伐

并非如此。如上所述,互聯(lián)網(wǎng)巨頭也掌握了關(guān)鍵AI技術(shù),只是不開(kāi)放給公眾直接使用。這主要是因?yàn)樗麄冾櫦白陨淼钠髽I(yè)形象:如果 ChatGPT 或 DALL E生成種族主義、歧視性或侮辱性內(nèi)容,情有可原,畢竟是初創(chuàng)企業(yè),AI仍在學(xué)習(xí)。但大家對(duì)于谷歌就不會(huì)這么寬容。同樣的事件,會(huì)讓谷歌聲譽(yù)受到嚴(yán)重?fù)p害,甚至面臨法律的制裁。谷歌等互聯(lián)網(wǎng)巨頭不可能像 OpenAI 一樣“好”,正是因?yàn)槲覀儾辉试S他們像 OpenAI 一樣“壞”。

ChatGPT光環(huán)之外,被忽視的預(yù)訓(xùn)練AI模型

ChatGPT、DALL-E、OpenAI引起軒然大波,但預(yù)訓(xùn)練AI模型的普及卻幾乎沒(méi)得到任何關(guān)注,盡管其帶來(lái)的變革可能更加深遠(yuǎn)。與GPT不同,這些AI模型不依賴于集中式平臺(tái),而是獨(dú)立存在,任何人皆可下載并培訓(xùn)之,可以集成到軟件、app或其他服務(wù)中,用于各種用途,包括非法活動(dòng)。模型被一個(gè)用戶使用、訓(xùn)練完,可以分享給其他用戶,在之前的基礎(chǔ)上進(jìn)一步訓(xùn)練,產(chǎn)生新的用途。每當(dāng)一個(gè)模型被復(fù)制、訓(xùn)練、分享,都相當(dāng)于一個(gè)新的模型的誕生。隨著時(shí)間的推移,一個(gè)模型會(huì)衍生出成千上萬(wàn)個(gè)變體,嵌入無(wú)數(shù)的軟件和app里。每個(gè)模塊都是“黑匣子”,不是由明確的代碼行組成,而是由巨大矩陣組成,本質(zhì)上無(wú)法解釋,即使是行業(yè)專家也無(wú)法知其所以然。如果不進(jìn)行大量測(cè)試,幾乎不可能準(zhǔn)確預(yù)測(cè)這些AI模塊的規(guī)律。

還有一層解釋是企業(yè)戰(zhàn)略。訓(xùn)練和開(kāi)發(fā)人工智能算法成本高昂,動(dòng)輒上百萬(wàn)美元。發(fā)展成熟的互聯(lián)網(wǎng)巨頭能負(fù)擔(dān)得起高昂成本,這是他們的優(yōu)勢(shì)所在。開(kāi)放人工智能意味著放棄競(jìng)爭(zhēng)優(yōu)勢(shì)。巨頭現(xiàn)在的策略似乎有違“初心”:他們之所以蓬勃發(fā)展,核心在于把曾被某些老牌企業(yè)掌控的技術(shù)提供給大眾,比如搜索引擎、網(wǎng)絡(luò)平臺(tái)、電商、應(yīng)用程序 SDK等。現(xiàn)在,AI賽道迎來(lái)新選手,互聯(lián)網(wǎng)巨頭們也開(kāi)始提供自家的“GPT”,比如微軟必應(yīng)的Copilot、谷歌Gemini等。

03 OpenAI 提供的是開(kāi)放的AI

初創(chuàng)企業(yè)AI的所謂“開(kāi)放性”,也是一個(gè)謬誤。誠(chéng)然,他們的技術(shù)幾乎人人可用。只要付費(fèi),就能調(diào)用ChatGPT的GPT API接口,通過(guò)第三方app使用GPT的功能。但是GPT的更新和訓(xùn)練完全由OpenAI操控,這一過(guò)程毫無(wú)開(kāi)放性可言。具體的更新內(nèi)容和協(xié)議,OpenAI等企業(yè)都守口如瓶。

如果 GPT等AI的訓(xùn)練向公眾開(kāi)放,人們必然會(huì)爭(zhēng)奪訓(xùn)練AI的主導(dǎo)權(quán),甚至使用bot,就像在維基百科上,多年來(lái)一直有人試圖奪取“集體真理話語(yǔ)權(quán)”。另外,提供給AI學(xué)習(xí)的數(shù)據(jù),是否事先獲得了使用權(quán)?這也是問(wèn)題。

保持人工智能系統(tǒng)的封閉性有其道理,但也會(huì)引發(fā)對(duì)內(nèi)容真實(shí)性的質(zhì)疑。外界無(wú)法得知輸入給AI的信息質(zhì)量高低。如果輸入的信息包含偏見(jiàn),或AI訓(xùn)練存在缺陷,則AI可能會(huì)生成有害內(nèi)容。所以,現(xiàn)在這些AI企業(yè)取得成功,完全是因?yàn)楣妱e無(wú)選擇,只能盲目地信任他們,就像信任搜索引擎和其他互聯(lián)網(wǎng)大廠的算法一樣。

預(yù)訓(xùn)練AI模型的出現(xiàn),意味著相關(guān)的倫理道德、責(zé)任義務(wù)、監(jiān)管理念都必須與時(shí)俱進(jìn)。這類模型易于分享普及,而且不像OpenAI的GPT等集中式AI平臺(tái),幾乎無(wú)法監(jiān)管。如果它生成錯(cuò)誤內(nèi)容,根本無(wú)法辨別原因:也許是上百個(gè)訓(xùn)練環(huán)節(jié)中的某一環(huán)出了問(wèn)題?也許是模型由多個(gè)人訓(xùn)練?

04 AI將導(dǎo)致大規(guī)模失業(yè)

關(guān)于“新型AI”的另一個(gè)謬誤是它會(huì)導(dǎo)致人類失業(yè),但生成式人工智能與舊式人工智能一樣,只能做好一些非常特定的任務(wù)。盡管乍一看完成得不錯(cuò),但僅能取代初學(xué)者,不能取代專家。而且,AI還不像普通初學(xué)者一樣會(huì)主動(dòng)學(xué)習(xí),必須人工對(duì)其訓(xùn)練。用ChatGPT 或 DALL E生成的初稿雖然不差,但仍須人工檢查、篩選和完善后才能使用。

ChatGPT總是信誓旦旦地給出答案,盡管有些內(nèi)容違背客觀事實(shí)。AI普及必將使網(wǎng)絡(luò)上的內(nèi)容和活動(dòng)爆炸式增長(zhǎng),人類的專業(yè)判斷力將比以往更加必要。每次“數(shù)字革命”的規(guī)律都是如此:數(shù)字化技術(shù)越普及,人類技能越珍貴。這場(chǎng)AI浪潮將對(duì)商界產(chǎn)生多大的顛覆性影響呢?我們只能拭目以待。

本文為轉(zhuǎn)載內(nèi)容,授權(quán)事宜請(qǐng)聯(lián)系原著作權(quán)人。

評(píng)論

暫無(wú)評(píng)論哦,快來(lái)評(píng)價(jià)一下吧!

下載界面新聞

微信公眾號(hào)

微博

打破關(guān)于生成式AI的四個(gè)常見(jiàn)謬誤

如何看待人工智能的發(fā)展和應(yīng)用?人工智能會(huì)對(duì)未來(lái)的工作和社會(huì)產(chǎn)生怎樣的影響?

文|創(chuàng)瞰巴黎 Thierry Rayna

編輯|Meister Xia

導(dǎo)讀

盡管人工智能的新應(yīng)用層出不窮,但并非每一次技術(shù)突破都能被稱為革命性的變革。許多所謂的新技術(shù)實(shí)際上是現(xiàn)有技術(shù)的延伸和應(yīng)用,沒(méi)有突破性的創(chuàng)新。人工智能的普及是否會(huì)導(dǎo)致大規(guī)模的失業(yè)?雖然人工智能在某些領(lǐng)域可能會(huì)取代部分工作,但專業(yè)判斷和人類技能在數(shù)字化時(shí)代仍然至關(guān)重要。如何看待人工智能的發(fā)展和應(yīng)用?人工智能會(huì)對(duì)未來(lái)的工作和社會(huì)產(chǎn)生怎樣的影響?

一覽:

  1. 隨著人工智能的興起,特別是GPT、DALL-E 等生成式人工智能,社會(huì)上出現(xiàn)了許多關(guān)于新技術(shù)的謬誤。
  2. 但這些“新AI”稱不上技術(shù)革命,因?yàn)樵缭贑hatGPT 出現(xiàn)之前,相關(guān)技術(shù)就已存在。
  3. 我們見(jiàn)證的不是技術(shù)革命,而是技術(shù)使用方式的革命,因?yàn)槌鮿?chuàng)企業(yè)向公眾開(kāi)放了人工智能的使用權(quán)限。
  4. 用戶以為自己在操縱人工智能算法,但是GPT的更新和訓(xùn)練完全由OpenAI操控,這一過(guò)程毫無(wú)開(kāi)放性可言。
  5. 盡管引發(fā)擔(dān)憂,但人工智能的普及和開(kāi)放,將使人類的專業(yè)辨別力比以往更加珍貴。

人工智能做律師的工作,寫的作文能糊弄老師,會(huì)設(shè)計(jì)雜志封面,給電影配樂(lè),讓圖形設(shè)計(jì)師、音樂(lè)家失業(yè)……最近幾個(gè)月,類似的新聞報(bào)道層出不窮,甚至還有人說(shuō)白領(lǐng)和高管的崗位都岌岌可危。然而,人工智能并沒(méi)有我們想像得那么開(kāi)天辟地,相關(guān)的技術(shù)早已存在多年。從 20 世紀(jì) 50 年代中期開(kāi)始,對(duì)人工智能的擔(dān)憂和異想天開(kāi)的猜測(cè)接踵而至,每次都有人預(yù)言“人類肯定會(huì)被機(jī)器取代”,但猜測(cè)最后都落了空。這一次,人工智能的新應(yīng)用如雨后春筍般萌發(fā),情況會(huì)有所不同嗎?

01 我們正在見(jiàn)證一場(chǎng)技術(shù)革命

許多評(píng)論和新聞報(bào)道都聲稱AI已取得了重大技術(shù)突破,但事實(shí)并非如此。ChatGPT、DALL E 使用的算法與多年來(lái)一直在使用的算法一脈相承。既然算法沒(méi)有創(chuàng)新,那是不是計(jì)算機(jī)“智能處理”海量信息的技術(shù)有了突破?也不是!現(xiàn)有技術(shù)是長(zhǎng)期迭代形成的,未來(lái)的發(fā)展趨勢(shì)有跡可循,算不上陡變。即使是備受議論的生成式人工智能也不是新技術(shù)。生成式人工智能的算法經(jīng)過(guò)訓(xùn)練,能給出“看似正確”的答案,每次生成的結(jié)果還都不一樣,仿佛擁有“創(chuàng)造力”。雖然結(jié)果隨著技術(shù)的進(jìn)步越來(lái)越可靠,但這種技術(shù)絕非最近的創(chuàng)新。

“谷歌等互聯(lián)網(wǎng)巨頭不可能像 OpenAI 一樣‘好’,正是因?yàn)槲覀儾辉试S他們像 OpenAI 一樣‘壞’?!?/p>

近幾個(gè)月我們見(jiàn)證的不是技術(shù)革命,而是技術(shù)使用方式的革命。一直以來(lái),人工智能技術(shù)被谷歌、亞馬遜、Meta、蘋果等互聯(lián)網(wǎng)巨頭企業(yè)緊緊抓在手中,公眾難以直接使用。但是OpenAI、Stable.AI、Midjourney等新晉選手卻反其道而行,讓大眾隨意使用他們開(kāi)發(fā)的算法,新用途層出不窮,天馬行空——這才是新一波AI浪潮的真正創(chuàng)新點(diǎn)所在。

02 谷歌、亞馬遜、Meta、蘋果等互聯(lián)網(wǎng)巨頭企業(yè)跟不上初創(chuàng)企業(yè)開(kāi)發(fā)AI的步伐

并非如此。如上所述,互聯(lián)網(wǎng)巨頭也掌握了關(guān)鍵AI技術(shù),只是不開(kāi)放給公眾直接使用。這主要是因?yàn)樗麄冾櫦白陨淼钠髽I(yè)形象:如果 ChatGPT 或 DALL E生成種族主義、歧視性或侮辱性內(nèi)容,情有可原,畢竟是初創(chuàng)企業(yè),AI仍在學(xué)習(xí)。但大家對(duì)于谷歌就不會(huì)這么寬容。同樣的事件,會(huì)讓谷歌聲譽(yù)受到嚴(yán)重?fù)p害,甚至面臨法律的制裁。谷歌等互聯(lián)網(wǎng)巨頭不可能像 OpenAI 一樣“好”,正是因?yàn)槲覀儾辉试S他們像 OpenAI 一樣“壞”。

ChatGPT光環(huán)之外,被忽視的預(yù)訓(xùn)練AI模型

ChatGPT、DALL-E、OpenAI引起軒然大波,但預(yù)訓(xùn)練AI模型的普及卻幾乎沒(méi)得到任何關(guān)注,盡管其帶來(lái)的變革可能更加深遠(yuǎn)。與GPT不同,這些AI模型不依賴于集中式平臺(tái),而是獨(dú)立存在,任何人皆可下載并培訓(xùn)之,可以集成到軟件、app或其他服務(wù)中,用于各種用途,包括非法活動(dòng)。模型被一個(gè)用戶使用、訓(xùn)練完,可以分享給其他用戶,在之前的基礎(chǔ)上進(jìn)一步訓(xùn)練,產(chǎn)生新的用途。每當(dāng)一個(gè)模型被復(fù)制、訓(xùn)練、分享,都相當(dāng)于一個(gè)新的模型的誕生。隨著時(shí)間的推移,一個(gè)模型會(huì)衍生出成千上萬(wàn)個(gè)變體,嵌入無(wú)數(shù)的軟件和app里。每個(gè)模塊都是“黑匣子”,不是由明確的代碼行組成,而是由巨大矩陣組成,本質(zhì)上無(wú)法解釋,即使是行業(yè)專家也無(wú)法知其所以然。如果不進(jìn)行大量測(cè)試,幾乎不可能準(zhǔn)確預(yù)測(cè)這些AI模塊的規(guī)律。

還有一層解釋是企業(yè)戰(zhàn)略。訓(xùn)練和開(kāi)發(fā)人工智能算法成本高昂,動(dòng)輒上百萬(wàn)美元。發(fā)展成熟的互聯(lián)網(wǎng)巨頭能負(fù)擔(dān)得起高昂成本,這是他們的優(yōu)勢(shì)所在。開(kāi)放人工智能意味著放棄競(jìng)爭(zhēng)優(yōu)勢(shì)。巨頭現(xiàn)在的策略似乎有違“初心”:他們之所以蓬勃發(fā)展,核心在于把曾被某些老牌企業(yè)掌控的技術(shù)提供給大眾,比如搜索引擎、網(wǎng)絡(luò)平臺(tái)、電商、應(yīng)用程序 SDK等?,F(xiàn)在,AI賽道迎來(lái)新選手,互聯(lián)網(wǎng)巨頭們也開(kāi)始提供自家的“GPT”,比如微軟必應(yīng)的Copilot、谷歌Gemini等。

03 OpenAI 提供的是開(kāi)放的AI

初創(chuàng)企業(yè)AI的所謂“開(kāi)放性”,也是一個(gè)謬誤。誠(chéng)然,他們的技術(shù)幾乎人人可用。只要付費(fèi),就能調(diào)用ChatGPT的GPT API接口,通過(guò)第三方app使用GPT的功能。但是GPT的更新和訓(xùn)練完全由OpenAI操控,這一過(guò)程毫無(wú)開(kāi)放性可言。具體的更新內(nèi)容和協(xié)議,OpenAI等企業(yè)都守口如瓶。

如果 GPT等AI的訓(xùn)練向公眾開(kāi)放,人們必然會(huì)爭(zhēng)奪訓(xùn)練AI的主導(dǎo)權(quán),甚至使用bot,就像在維基百科上,多年來(lái)一直有人試圖奪取“集體真理話語(yǔ)權(quán)”。另外,提供給AI學(xué)習(xí)的數(shù)據(jù),是否事先獲得了使用權(quán)?這也是問(wèn)題。

保持人工智能系統(tǒng)的封閉性有其道理,但也會(huì)引發(fā)對(duì)內(nèi)容真實(shí)性的質(zhì)疑。外界無(wú)法得知輸入給AI的信息質(zhì)量高低。如果輸入的信息包含偏見(jiàn),或AI訓(xùn)練存在缺陷,則AI可能會(huì)生成有害內(nèi)容。所以,現(xiàn)在這些AI企業(yè)取得成功,完全是因?yàn)楣妱e無(wú)選擇,只能盲目地信任他們,就像信任搜索引擎和其他互聯(lián)網(wǎng)大廠的算法一樣。

預(yù)訓(xùn)練AI模型的出現(xiàn),意味著相關(guān)的倫理道德、責(zé)任義務(wù)、監(jiān)管理念都必須與時(shí)俱進(jìn)。這類模型易于分享普及,而且不像OpenAI的GPT等集中式AI平臺(tái),幾乎無(wú)法監(jiān)管。如果它生成錯(cuò)誤內(nèi)容,根本無(wú)法辨別原因:也許是上百個(gè)訓(xùn)練環(huán)節(jié)中的某一環(huán)出了問(wèn)題?也許是模型由多個(gè)人訓(xùn)練?

04 AI將導(dǎo)致大規(guī)模失業(yè)

關(guān)于“新型AI”的另一個(gè)謬誤是它會(huì)導(dǎo)致人類失業(yè),但生成式人工智能與舊式人工智能一樣,只能做好一些非常特定的任務(wù)。盡管乍一看完成得不錯(cuò),但僅能取代初學(xué)者,不能取代專家。而且,AI還不像普通初學(xué)者一樣會(huì)主動(dòng)學(xué)習(xí),必須人工對(duì)其訓(xùn)練。用ChatGPT 或 DALL E生成的初稿雖然不差,但仍須人工檢查、篩選和完善后才能使用。

ChatGPT總是信誓旦旦地給出答案,盡管有些內(nèi)容違背客觀事實(shí)。AI普及必將使網(wǎng)絡(luò)上的內(nèi)容和活動(dòng)爆炸式增長(zhǎng),人類的專業(yè)判斷力將比以往更加必要。每次“數(shù)字革命”的規(guī)律都是如此:數(shù)字化技術(shù)越普及,人類技能越珍貴。這場(chǎng)AI浪潮將對(duì)商界產(chǎn)生多大的顛覆性影響呢?我們只能拭目以待。

本文為轉(zhuǎn)載內(nèi)容,授權(quán)事宜請(qǐng)聯(lián)系原著作權(quán)人。