文|中外管理傳媒 王爽
前不久，歐洲議會(huì)、歐盟成員國和歐盟委員會(huì)三方就《人工智能法案》達(dá)成協(xié)議，這被認(rèn)為是全球首個(gè)全面監(jiān)管人工智能（AI）的法案。在經(jīng)過長達(dá)36個(gè)小時(shí)的馬拉松式談判后，歐洲議會(huì)、歐盟成員國和歐盟委員會(huì)于12月8日晚就《人工智能法案》達(dá)成協(xié)議。
根據(jù)歐洲議會(huì)的聲明，達(dá)成的協(xié)議包括禁止幾種AI應(yīng)用程序，例如無目標(biāo)地抓取圖像以創(chuàng)建面部識(shí)別庫，并為立法者認(rèn)定的高風(fēng)險(xiǎn)系統(tǒng)制定規(guī)則。而未能遵守新法規(guī)的公司將面臨最高相當(dāng)于全球營業(yè)額7%的罰款。
人類對人工智能的擔(dān)憂，似乎從它誕生之日起就存在。此前，人工智能領(lǐng)域的全球領(lǐng)導(dǎo)者OpenAI突發(fā)的管理層震動(dòng)，正是這些離技術(shù)最近的人，對技術(shù)發(fā)展的擔(dān)憂。人工智能是否應(yīng)該蒙眼狂奔，還是以安全性為首要考量放慢速度？在兩種觀點(diǎn)的沖突之下，OpenAI此前上演了一場精彩的“宮斗大戲”。簡單回顧一下事情經(jīng)過：
11月17日，OpenAI聯(lián)合創(chuàng)始人兼CEO山姆·奧特曼突然被公司董事會(huì)宣布“畢業(yè)”。
11月19日，奧特曼“第一次也是最后一次”，戴著訪客牌到OpenAI與董事會(huì)洽談。但是董事會(huì)未能同意他復(fù)職的擬議條款，而是找到了一位臨時(shí)CEO。
11月20日，微軟CEO薩蒂亞·納德拉宣布，剛剛被解雇的奧特曼將加入微軟，共同服務(wù)一個(gè)新的先進(jìn)人工智能研究團(tuán)隊(duì)，微軟為他們提供成功所需的資源。
11月21日，Open AI發(fā)布聲明，奧特曼回歸OpenAI。
當(dāng)時(shí)，關(guān)于OpenAI 的大戲一波未平一波又起，反轉(zhuǎn)反轉(zhuǎn)再反轉(zhuǎn)。隨著奧特曼的回歸，OpenAI跌宕起伏的劇情看似已經(jīng)大結(jié)局，但事實(shí)上還留下諸多的未知數(shù)。為何董事會(huì)堅(jiān)持要讓奧特曼離開？董事會(huì)到底有什么證據(jù)或是理由，不顧九成內(nèi)部員工抗議強(qiáng)行辭退奧特曼，至今其中的緣由都沒有被公開。
站在十字路口，在理想與現(xiàn)實(shí)的角逐中，人工智能技術(shù)會(huì)走向何方？
安全向左，技術(shù)向右
根據(jù)此前路透社發(fā)布的消息，奧特曼的辭退鬧劇很可能源于一封來自O(shè)penAI員工的匿名信件。信中提到，OpenAI最新研發(fā)的新型人工智能大模型“Q-star”取得了突破性進(jìn)展，人工智能擁有了解決數(shù)學(xué)問題的能力。研究人員認(rèn)為，當(dāng)人工智能掌握了只有唯一正確答案的數(shù)學(xué)運(yùn)算，這就意味著人工智能將具備更接近人類的推理能力。與只能執(zhí)行有限運(yùn)算的計(jì)算器不同，人工智能如果能夠進(jìn)行泛化學(xué)習(xí)和理解，就可以獨(dú)自解答完全陌生的數(shù)學(xué)題目。就像人類通過學(xué)習(xí)數(shù)學(xué)課本上的例題之后，會(huì)自己做題一樣。這意味著，人工智能可以在最具經(jīng)濟(jì)價(jià)值的任務(wù)中超越人類的自主系統(tǒng)，而這可能對人類產(chǎn)生威脅。
這封警告信，或許正是董事會(huì)嚴(yán)厲指責(zé)“奧特曼對董事會(huì)不坦誠”，并解雇奧特曼的導(dǎo)火線之一。
這次解雇風(fēng)波的發(fā)起人，OpenAI首席科學(xué)家伊利亞·薩克斯維爾，是OpenAI董事會(huì)中絕對意義上的技術(shù)擔(dān)當(dāng)。
在一部紀(jì)錄片中，面對鏡頭，伊利亞對人工智能技術(shù)的發(fā)展無比樂觀，認(rèn)為OpenAI正在創(chuàng)造的是一個(gè)具有獨(dú)立資格、完全自主的存在。但是在片子結(jié)尾，他不無擔(dān)憂地說：“未來對人工智能而言是美好的，如果對人類來說也是如此就好了?！背鲇趯徤鲬B(tài)度，此前伊利亞還專門成立了一個(gè)團(tuán)隊(duì)研究，如何防止人工智能系統(tǒng)運(yùn)行異常。
從ChatGPT橫空出世，到被普遍認(rèn)為相當(dāng)無敵的GPT4問世，大模型的進(jìn)步肉眼可見，此前OpenAI更是高調(diào)地推進(jìn)技術(shù)落地。但奧特曼越亢奮，伊利亞就越焦慮，對他來說OpenAI的激進(jìn)做法，似乎離最初用人工智能造福人類的信仰越來越遠(yuǎn)。
條條大路通羅馬，但通往人工智能造福人類的路到底選哪條？奧特曼選擇全速前進(jìn)，而伊利亞顯然更加關(guān)注人工智能的安全性。激進(jìn)的技術(shù)路線是否會(huì)有隱患？這是伊利亞的擔(dān)憂，也是他要“趕”奧特曼離開的底層動(dòng)機(jī)。
獨(dú)特架構(gòu)能“管”住OpenAI？
2014年，谷歌以6億美元的價(jià)格收購了當(dāng)時(shí)業(yè)內(nèi)最頂尖的人工智能研究機(jī)構(gòu)DeepMind，之后推出了驚艷世人的AlphaGo。對此，一些人工智能領(lǐng)域中堅(jiān)人士看到了人工智能的潛力和威脅，他們害怕谷歌會(huì)成為壟斷人工智能的權(quán)力霸主。其中6位來自硅谷的科技夢想家聚在一起，決定成立一家不受任何公司、任何資本、任何人控制的人工智能實(shí)驗(yàn)室，希望探索出一條以安全方式構(gòu)建人工智能的正確路徑。
2015年底，非營利組織OpenAI正式成立。其目標(biāo)明確而又雄心勃勃：開發(fā)能夠造福全人類的“通用人工智能”。初期，OpenAI完全依靠捐贈(zèng)維持組織運(yùn)轉(zhuǎn)，并承諾向公眾開放其專利和研究。這是OpenAI的起點(diǎn)與初心，可是這個(gè)非常理想主義、非?！盀跬邪睢钡慕M織，很快遇到了“經(jīng)濟(jì)危機(jī)”。
2018年，OpenAI的創(chuàng)始人之一和“大金主”埃隆·馬斯克宣布退出董事會(huì)。在馬斯克離開之后，他尚未兌現(xiàn)的捐贈(zèng)，將OpenAI一下推到了一個(gè)非常不利的境地。
彼時(shí)OpenAI的艱難處境讓奧特曼對非營利組織的模式產(chǎn)生了動(dòng)搖，轉(zhuǎn)而探索更現(xiàn)實(shí)的商業(yè)路線。
于是，一個(gè)全新的公司架構(gòu)出現(xiàn)了：
在母公司OpenAI Inc.的非營利主體之下，創(chuàng)建一個(gè)限制性盈利實(shí)體OpenAI LP。OpenAI Inc.的控制權(quán)歸屬于OpenAI非營利組織的董事會(huì)，董事會(huì)作為OpenAI LP的一般合伙人，全權(quán)管理著OpenAI LP，負(fù)責(zé)引導(dǎo)OpenAI LP的運(yùn)營。在有限合伙制度下，一般合伙人具有對企業(yè)的完全管理和控制權(quán)，同時(shí)也需要承擔(dān)無限責(zé)任。
同時(shí)，OpenAI LP的有限合伙人群體中，包含了OpenAI LP的員工、部分董事會(huì)成員，以及Reid Hoffman慈善基金、Khosla Ventures等其他投資者。理論上，他們的責(zé)任僅限于其投資額。有限合伙人可以獲得分紅，但從OpenAI LP所得的最高收益被限制在他們投資額的100倍。
此后，公司又在OpenAI LP之下又設(shè)立了OpenAI Global，OpenAI LP和大投資方微軟分享股權(quán)，并以分紅的形式，分享OpenAI的商業(yè)成果。其中，OpenAI LP占股51%，微軟占49%。
在這套架構(gòu)里，擁有和控制是兩個(gè)完全不同的概念。不論是非營利組織資產(chǎn)平臺(tái)還是限制性營利公司，他們的決策權(quán)都掌握在一個(gè)非營利組織全資擁有并控制的管理實(shí)體手中。而這個(gè)管理實(shí)體的權(quán)利來源還是來自于非營利組織的董事會(huì)。其實(shí)簡單來說就是，拿錢的不能投票，投票的不能拿錢。所以，最大的出資方微軟，愣是被排除在了OpenAI的決策層之外。
在這個(gè)“權(quán)”“利”分家的組織架構(gòu)下，OpenAI LP能夠放開手腳“搞錢”，微軟等投資方能夠從投資中獲得收益，董事會(huì)也能獨(dú)立于資方，保持對整個(gè)公司掌控，保證大船不偏航。站在當(dāng)時(shí)的角度看，這確實(shí)是一個(gè)巧妙符合了存在主義和理想主義的完美方案，避免公司受到資本的侵蝕。
可是當(dāng)時(shí)堪稱“完美”的組織架構(gòu)，為OpenAI的風(fēng)波埋下了伏筆。它獨(dú)特的架構(gòu)設(shè)計(jì)不僅僅是挑戰(zhàn)人性，甚至可以說是反人性的。在OpenAI的邏輯下，公司有掙錢的能力卻不好好掙錢，僅靠理想信念支撐、用愛發(fā)電，這樣的技術(shù)“圣徒”有多少人？這樣的“朝圣路”又能走多遠(yuǎn)？
從某種程度上來說，OpenAI的風(fēng)波是其發(fā)展史上難以略過的節(jié)點(diǎn)性時(shí)刻，它充分表明：烏托邦里，容不下“世俗”的欲望。或者說，“鈔能力”足以撼動(dòng)理想。
在輿論場中，不少人在情感上站在了伊利亞一邊，認(rèn)為OpenAI風(fēng)波的背后是科學(xué)家創(chuàng)始人奮力抵抗的悲歌。這場風(fēng)波被遐想為，資本家只顧著逐利，科學(xué)家則心存良知。但不能忘記的是，OpenAI要實(shí)現(xiàn)理想主義，前提條件是要活著不斷探索。而開發(fā)人工智能本身就是一件耗錢、耗資源、耗算力又耗時(shí)間的事情，離開資本支持，OpenAI根本玩不轉(zhuǎn)。在奧特曼精心設(shè)計(jì)的獨(dú)裁帝國里，資本沒有舉手議政的權(quán)利，但有用腳投票的自由。名義上OpenAI所有決定都必須經(jīng)過董事會(huì)點(diǎn)頭，但不持股的董事會(huì)面對花了真金白銀支撐OpenAI的資本，話語權(quán)其實(shí)十分有限。
其實(shí)，從資本的角度來看，全力加速技術(shù)的發(fā)展和商業(yè)化無可厚非。同樣，從安全角度考量，審慎地進(jìn)行技術(shù)推進(jìn)更沒有錯(cuò)。OpenAI的這場風(fēng)波，與其說是理想與現(xiàn)實(shí)的沖突，不如說是舊制度與新形勢的矛盾。此前，面對生存危機(jī)，奧特曼激進(jìn)的改革措施，不僅被允許甚至被董事會(huì)鼓勵(lì)。但如今已生存無憂的OpenAI，還需要冒著危害人類安全的風(fēng)險(xiǎn)繼續(xù)冒進(jìn)嗎？還要不要堅(jiān)持創(chuàng)業(yè)初期的“戰(zhàn)時(shí)體制”？這大概才是出現(xiàn)OpenAI風(fēng)波的癥結(jié)點(diǎn)。
而要不要冒著風(fēng)險(xiǎn)快速發(fā)展，也是如今越來越多人對人工智能的質(zhì)疑。甚至，以審慎的態(tài)度發(fā)展人工智能成為越來越多人的共識(shí)。
讓技術(shù)的子彈飛一會(huì)兒
在人工智能的研發(fā)初期，你很難找到反對發(fā)展這項(xiàng)技術(shù)的論據(jù)，但隨著人工智能的演進(jìn)，它的陰暗面逐漸顯現(xiàn)。自然語言處理和機(jī)器學(xué)習(xí)被用于社交媒體、搜索和推薦引擎，擴(kuò)大了信息的兩極分化、偏見和錯(cuò)誤。
甚至，“速度與安全”并不是唯一讓人工智能領(lǐng)域的專家們感到威脅的問題。更多的人在擔(dān)憂另一件更棘手的事情：人工智能正在操縱人類，人工智能將發(fā)揮更難以想象的巨大力量來操縱人類的無意識(shí)。
OpenAI風(fēng)波之前，伊利亞和相關(guān)負(fù)責(zé)人共同領(lǐng)導(dǎo)了一個(gè)“超級對齊”研究項(xiàng)目，該項(xiàng)目致力于解決一個(gè)簡單但極其復(fù)雜的問題：“如何確保人工智能系統(tǒng)比人類更聰明地遵循人類的目標(biāo)？”
但問題是，人工智能該與什么樣的人類目標(biāo)保持一致？OpenAI的一系列風(fēng)波充分證明了，即使是極少數(shù)OpenAI領(lǐng)導(dǎo)者之間的目標(biāo)也是不可能一致的。
面對注定相互沖突的目標(biāo)，放緩人工智能的研究，讓技術(shù)的子彈飛一會(huì)兒，或許是一種解題思路。
在超越人類智慧的人工智能這條“惡龍”真正出籠之前，每個(gè)人都認(rèn)為自己有資格駕馭它。但無論是“奧特曼”還是“伊利亞”，誰都無法篤定地說，自己選擇了正確的道路。畢竟，“人類的判斷總會(huì)受限，真理只能在不斷延續(xù)中顯現(xiàn)?！?/p>