界面新聞記者 | 李京亞

3月29日，一封在非盈利組織生命未來研究所網(wǎng)站上刊登的公開信引發(fā)軒然大波。信中呼吁全球所有AI實驗室立即暫停訓(xùn)練比GPT-4更強大的AI系統(tǒng)至少6個月，包括埃隆·馬斯克、蘋果聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克、圖靈獎得主約書亞·本吉奧在內(nèi)的1000余名科技圈商圈重量級人士均簽署了這封信函。

按照公開信的提議，在暫停期間，人工智能實驗室和獨立專家應(yīng)該共同開發(fā)一套用于高級人工智能設(shè)計和開發(fā)的共享安全協(xié)議，并由獨立的外部專家進行嚴格審計和監(jiān)督。如果這種暫停不能迅速頒布，各國政府應(yīng)該介入并制定暫停令。

“只有在我們確信強大的人工智能系統(tǒng)的效果將是積極的，風險是可控的，才應(yīng)該開發(fā)。”公開信中指出。

未料一天之后，陸續(xù)有科技界重磅人物對上述公開信表示異議。

當前人工智能和機器學(xué)習(xí)領(lǐng)域最權(quán)威的學(xué)者之一，谷歌大腦的締造者、世界上最大的在線學(xué)習(xí)平臺之一Coursera的創(chuàng)始人吳恩達今日的發(fā)聲引人矚目。他認為6個月的暫停期并不是一個實用的建議，并連發(fā)四條推特表達了對此事的強烈反感。

“呼吁在6個月內(nèi)暫停讓人工智能取得超過GPT-4的進展是一個可怕的想法。我在教育、醫(yī)療、食品等方面已經(jīng)看到了許多AI的新應(yīng)用，這將幫助許多人。“吳恩達首先指出，更應(yīng)該平衡人工智能正在創(chuàng)造的巨大價值與現(xiàn)實的風險。

吳恩達繼續(xù)反駁了馬斯克等人要求政府介入干預(yù)的觀點：讓政府暫停他們不了解的新興技術(shù)是反競爭的，這會樹立一個可怕先例，是糟糕的創(chuàng)新政策。

這位著名學(xué)者承認，人工智能確實有風險，但大多數(shù)媒體鼓吹的眾多人工智能公司正在瘋狂輸出危險代碼并非事實，絕大多數(shù)人工智能團隊都很重視負責任的AI和安全。不過他也明白，這并非全部。

在系列推文最后，吳恩達提出了提高人工智能安全性的解決方法，稱為了推進人工智能安全，圍繞透明度和審計的法規(guī)將更加實用，并產(chǎn)生更大影響。

“在推進技術(shù)發(fā)展的同時，讓我們也對安全進行更多的投資，而不是扼殺進步。”吳恩達呼吁。

作為人工智能的一方泰斗，吳恩達的科研史被業(yè)內(nèi)稱為人工智能領(lǐng)域的斷代史，他在斯坦福大學(xué)開設(shè)的《機器學(xué)習(xí)》系列課程于2012年在Coursera上線，十年間吸引了近500萬人注冊。性格溫和的吳恩達此番言辭激烈的表態(tài)并不多見。在他的推文下面，Meta數(shù)據(jù)科學(xué)家林致遠，英偉達AI研究科學(xué)家Jim Fan表示了贊同和支持。

吳恩達之外，還有另一位人工智能領(lǐng)域大神級人物也旗幟鮮明地表達了對公開信內(nèi)容的反對，這就是圖靈三巨頭之一，卷積之父楊立昆。

他首先在推特上表示，自己并未簽署這封公開信，“我沒簽，我不同意這封信的前提。”之后，他通過網(wǎng)友的推文繼續(xù)表露反感。一位網(wǎng)友表示，OpenAI足足等了6個月，才發(fā)布了GPT4，而他們甚至為此還寫了一份白皮書。楊立昆轉(zhuǎn)發(fā)了這條推文并附上了自己的評論：所謂“暫停研發(fā)”，不過就是“秘密研發(fā)”，這與一些公開信簽名者所希望的會恰恰相反。

在楊立昆的推文之下，還有一位大神級人物現(xiàn)身互動。機器學(xué)習(xí)領(lǐng)域創(chuàng)始人之一、美國人工智能協(xié)會前主席Thomas Dietterich發(fā)推表示，自己也沒簽署這封公開信。“這封信充斥著一堆可怕的修辭和無效/不存在的政策處方。” 楊立昆轉(zhuǎn)發(fā)這條推文表示贊同。

楊立昆也是Meta的首席科學(xué)家。此前不久，他在Meta主導(dǎo)推出的類ChatGPT語言模型Galactica一經(jīng)亮相便遭遇翻車，但他對ChatGPT的態(tài)度一直非常不滿，“ChatGPT滿嘴胡謅，你們卻對它如此寬容，但我家的Galactica才出來三天，就被你們罵到下線了。”他還對硅谷圈子一干明星科學(xué)家指出，在這場去年年末由ChatGPT引發(fā)的硅谷巨頭大模型軍備戰(zhàn)中，沒有人比其他人領(lǐng)先超過兩到六個月。

楊立昆性格直率，酷愛在推特上與網(wǎng)友爭辯。由于競爭立場關(guān)系，他一直對ChatGPT甚至聊天機器人持反對態(tài)度，這次卻因為馬斯克的公開信展露出了與OpenAI冰釋前嫌的信號。

國內(nèi)科技界也有重量級人物就這封公開信表達反對。360創(chuàng)始人周鴻祎今天下午發(fā)微博對馬斯克請愿叫停GPT-5研發(fā)一事發(fā)表了看法。

“不管你愿不愿意，GPT都將引領(lǐng)一場新的工業(yè)革命，意義超越互聯(lián)網(wǎng)和iPhone的發(fā)明。它將帶來生產(chǎn)力的大幅提升，進而提升國家競爭力。中國一定要迎頭趕上。”周鴻祎表示。

周鴻祎承認，最近人工智能的指數(shù)級躍變確實有點讓人措手不及。對于馬斯克的請愿信，他不了解內(nèi)幕，但猜測是GPT的進化路上出現(xiàn)了超乎人類想象的現(xiàn)象。對于人類如何應(yīng)對AI帶來的未來安全挑戰(zhàn)，誰也沒法給出確定答案，但做安全出身的他堅定認為，不發(fā)展才是最大的不安全。

周鴻祎用三體世界中eto組織的三個派別作比，概述了人類與AI如何共處的三種方法：

“降臨派”認為人類應(yīng)該把知識獻給AI，甘心做硅基文明的引導(dǎo)程序；“幸存派”有點躺平，認為只要我能生存，未來跟AI以什么樣的方式共處都行；“拯救派”認為AI不是來取代人類的，而是來升級人類的，人類將迎來工業(yè)革命之后最大的生產(chǎn)力解放。

周鴻祎更加認同“拯救派”的觀點，“人類從來都不是靠體能和智能的進化站在食物鏈頂端的，我們靠的是不斷發(fā)明和使用工具。GPT就是這個時代最偉大的工具。”

這位360創(chuàng)始人一直預(yù)測，GPT-6到GPT-8的版本會產(chǎn)生真正的意識，甚至進化成一個新物種，但他還強調(diào)了AI目前僅處于嬰兒期，“需要在寬容和支持的基礎(chǔ)上進行發(fā)展。”言外之意是，現(xiàn)在就擔心人工智能的風險為時過早。