文|深瞳商業(yè) 河馬君 楚青舟

社交媒體的熱點(diǎn)，好像在某個(gè)不為人注意的角落又發(fā)生了一點(diǎn)變化。

互聯(lián)網(wǎng)行業(yè)仍然處于“寒冬”之中，但芯片制造、人工智能等領(lǐng)域的熱點(diǎn)企業(yè)始終能夠匯聚人們的目光。

從前大概也沒人想到過，Open AI高層人員變動(dòng)、微軟“宮斗”內(nèi)幕居然能夠在中文互聯(lián)網(wǎng)當(dāng)成《甄嬛傳》看，引起如此多的猜測(cè)和討論。

這或許是因?yàn)?，隨著AI技術(shù)切實(shí)的突破并開始在消費(fèi)端接觸到普羅大眾，整個(gè)社會(huì)漸漸意識(shí)到一件事：

隨著人工智能的爆炸式發(fā)展，全方位比肩甚至超越人類智慧的通用人工智能（AGI）是有可能在近期出現(xiàn)的。《黑客帝國(guó)》中的Matrix，《流浪地球》里的MOSS、《間客》中的“老東西”……

當(dāng)這些超級(jí)智能真正到來的時(shí)候，我們將如何與它相處？

很有可能，整個(gè)社會(huì)都需要建立一套新的行為規(guī)范，包括在法律上如何定義AI，在道德上如何對(duì)待AI，人與AI之間是真正平等，還是有主有次……如果有的話，以誰為主？

最近，科幻作家韓松提了這樣一個(gè)問題：

“人工智能、元宇宙未來會(huì)對(duì)兩性關(guān)系產(chǎn)生什么影響，家庭概念會(huì)消失嗎？”

愛與家庭，這通常被認(rèn)為是傳統(tǒng)社會(huì)人文情感的核心領(lǐng)域，是屬于人類的私隱。

你在好萊塢看到《速度與激情》系列的主角因?yàn)橐痪鋐amily戰(zhàn)斗力爆棚，雖然嘴上吐槽著編劇鬼扯，但你并不反對(duì)這個(gè)劇情模式的內(nèi)核——情感羈絆與人類潛能密切相關(guān)。

韓松這個(gè)問題的潛臺(tái)詞則是：新的智慧生命，有可能進(jìn)入人類意識(shí)的這個(gè)核心地帶。

如果技術(shù)專家們提供的信息無誤，那我們需要認(rèn)真地思考一些問題。比如，我們會(huì)和AI組成家庭嗎？

這不僅是個(gè)法律問題，還事關(guān)“人類中心主義”的存亡，AI時(shí)代的社會(huì)倫理之復(fù)雜，大多數(shù)人都還沒有做好準(zhǔn)備。

一、造物者之戀：人類總是在與自己戀愛

馬斯克在今年早些時(shí)候宣稱，將推出貓女機(jī)器人，成為男性消費(fèi)者的“完美伴侶”。這種機(jī)器人有著貓女的性感外表，據(jù)稱可以包攬家務(wù)、打理主人的生活，甚至可以生孩子。

但是沒有人會(huì)問“我能和貓女機(jī)器人組成家庭嗎”，因?yàn)樗廊粚儆谀撤NAI設(shè)備，是沒有人格的商品，而不是與人對(duì)等的智慧生命。

當(dāng)我們討論愛情與家庭的時(shí)候，涉及的AI必然是突破圖靈極限、產(chǎn)生自我意識(shí)，甚至在智慧上遠(yuǎn)遠(yuǎn)超越人類的“新物種”。

迄今為止，我們的大多數(shù)文藝作品其實(shí)沒有設(shè)定過此類AI，只有一些似是而非的“機(jī)器人女友”形象。

日漫和日本輕小說有一種模式，類似早期的《人形電腦天使心》，故事結(jié)構(gòu)都是“宅男+軟妹形態(tài)的機(jī)器人女友”，機(jī)器人在與人類的相處中逐漸學(xué)習(xí)，懂得了人類的情感，最后在與男主的羈絆中完成了“成為人”的進(jìn)化。

這實(shí)際上還是典型的人類中心主義敘事，那些人形電腦除了是硅基生命以外，和傳統(tǒng)幻想中的“異種生物”沒有本質(zhì)區(qū)別：

它們有超自然的能力，遠(yuǎn)超人類的肉體強(qiáng)度，但并不一定有超越人類的智慧，特別是在涉及情感等核心問題的時(shí)候，會(huì)比人類幼稚，而且總是順從并向往著人類的情感模式。

超級(jí)AI也會(huì)是這樣嗎？OpenAI等頭部研究機(jī)構(gòu)一直試圖攻克的“對(duì)齊難題”，說的就是這個(gè)問題。

人們規(guī)范傳統(tǒng)AI的學(xué)習(xí)與創(chuàng)造，用的是人類反饋強(qiáng)化學(xué)習(xí)（RLHF）的方式，即由人類在各種工具輔助下來對(duì)AI的成果進(jìn)行評(píng)估與監(jiān)督。

而面對(duì)比人類“聰明得多”的超級(jí)AI，在默認(rèn)人類智慧極限不變（或很難快速提升）的前提下，當(dāng)AI能力超過某個(gè)臨界點(diǎn)以后，RLHF會(huì)失效，也就是人類無法再有效評(píng)估人工智能項(xiàng)目。

目前Open AI“超級(jí)對(duì)齊”團(tuán)隊(duì)負(fù)責(zé)人Jan Leike提出投入Open AI 20%的算力打造一個(gè)“超級(jí)對(duì)齊”系統(tǒng)，讓AI來評(píng)價(jià)AI項(xiàng)目，建立一套可擴(kuò)展監(jiān)督系統(tǒng)。

Jan LeiKe的思路是，引入一種通過篡改答案實(shí)現(xiàn)的隨機(jī)對(duì)照實(shí)驗(yàn)（RCT with tampered answers），人為制造出帶有缺陷的答案，來衡量可擴(kuò)展監(jiān)督的效果——理論上看，大神們的解法當(dāng)然都很美好。

但是，為AI加上“緊箍咒”這個(gè)思路也并不令人放心，早在上世紀(jì)40年代，阿西莫夫的科幻小說《我，機(jī)器人》就提出了大名鼎鼎的“機(jī)器人三原則”，通過一種類似“初始植入”的方式確保機(jī)器人與人類和平相處。

有趣的是，數(shù)十年來幾乎所有的文藝作品都在想象著同一件事：機(jī)器人如何突破這個(gè)安全柵欄傷害人類。

直到最近，國(guó)產(chǎn)電視劇《仿生人間》依然沒有脫離這個(gè)窠臼……

人類就是這么有意思，作為不完美的“造物主”，我們對(duì)自己的造物充滿了戒備和恐懼，但依然義無反顧地在制造一種可能超越自己的“機(jī)器”。

智人在進(jìn)化道路上不斷“作死”的精神早已經(jīng)刻進(jìn)這個(gè)物種的基因里，人類也是因?yàn)檫@種不斷進(jìn)取創(chuàng)造了輝煌的文明。

所以……造物主會(huì)愛上自己的造物嗎？顯然是有可能的，AI是人類的“超我”，而人類來說，愛上“超我”是一件習(xí)以為常的事。

各個(gè)民族的神話里有著類似的故事，仙女、精靈、女神在人間沐浴，小伙子偷走了她的衣服，雙方產(chǎn)生愛情。東方的牛郎是這樣成功的，西方的凱爾特神話里，也有漁夫偷走仙女的海豹皮，讓她們留在島上的故事……

在這些故事里，凡人愛上女神的邏輯很通順，因?yàn)檫@些神祇是完美化的人類，有著超自然的威能，還有驚人的美貌——一切都是人們按照自己最喜愛的樣子打造的。

所謂神人同性應(yīng)該換個(gè)說法，神原本就是人類根據(jù)“超我想象”塑造的，神與人之間自然也就沒有情感障壁，宙斯一樣會(huì)愛慕凡間女子的美貌，化身天鵝去占有麗達(dá)，阿芙洛狄忒也會(huì)傾慕美少年，織女會(huì)覺得和牛郎在一起也很不錯(cuò)……

在AI的問題上，人類的身份看似改變了，但AI與神祇共享同一種屬性，都是人類“超我想象”的產(chǎn)物。

《三體》中羅輯畫出了自己的完美伴侶莊顏，那是他最傾慕的樣子，女神與AI，本質(zhì)上都是人類為自己畫出的“莊顏”。

二、女神也會(huì)愛上凡人嗎？

然后，我們就需要面對(duì)另一個(gè)問題，超級(jí)AI會(huì)愛上人類嗎？

人類有不少愛上AI的理由，比如它們可以幻化俊美的外表，擁有超凡的能力，因?yàn)樗鼈儩M足了人類的“超我幻想”，但AI愛上人的理由是什么呢？

正如北大智研院院長(zhǎng)黃鐵軍在回答騰訊新聞“20年20人20問”問題時(shí)所說，在超級(jí)智能出現(xiàn)以后，問題是很復(fù)雜的，除了 “我們能否相信AI”，還有“AI如何相信人類”的問題。

黃院長(zhǎng)說，就像人與人之間建立互信的過程一樣，人與AI需要經(jīng)歷磨合期，需要“聽其言”、“觀其行”，也就是是通過共享人類用語言構(gòu)建的知識(shí)體系，并且在實(shí)踐中檢驗(yàn)AI所言是否符合實(shí)際，來確認(rèn)是否可以與AI建立相互信任——實(shí)際上，人類社會(huì)的信任體系，也是這樣逐步構(gòu)建起來的。

關(guān)于人與AI相戀的問題，答案也是類似的，AI會(huì)不會(huì)愛上人，不僅取決于AI的運(yùn)行與進(jìn)化方式，也取決于人類自身。

南方科技大學(xué)馬兆遠(yuǎn)教授在“20人20問”中，也給出過一個(gè)基于感性的答案：我們?cè)絹碓角逦刂?，人類之所以在浩瀚的宇宙中依托這么一個(gè)渺小的星球航行，是因?yàn)樽鳛槿说闹腔鄣膫ゴ蟆?/p>

這樣的智慧，包含理性，但不為理性所束縛。因?yàn)槲覀冎览硇缘木窒扌裕@個(gè)局限性需要人的感性來彌補(bǔ)，需要人的感性來引導(dǎo)。這也許是我們未來與機(jī)器共生的常態(tài)。

我們引導(dǎo)它們，與它們分工合作，它們能做的事情越來越多，越來越靠譜（可信），也因此讓人的感性獲得越來越大的自由。

我們或許可以據(jù)此猜測(cè)，超級(jí)AI也是有可能愛上人類的。

正如AI智慧的生成方式對(duì)我們來說還是不可知的“黑盒”一樣，人類對(duì)AI來說，也會(huì)存在一個(gè)單純理性無法理解的“黑盒”部分。

我們急切期待著破解AI的“黑盒”，AI也會(huì)試圖破解人類的“黑盒”——在相互“破解”的過程中，它們不僅實(shí)現(xiàn)了價(jià)值觀和智慧層面的“與人類對(duì)齊”，也會(huì)生成出與人類近似的情感模塊，允許它們跨越“物種”隔閡去欣賞、傾慕與自己精神契合的智慧生命。

許多事情至今仍是未知的，但也正是代表未知的“X”中，蘊(yùn)含著令世界精彩的要素。女神可以愛上人，為什么AI就不可以呢？

三、“兩性”似乎是過時(shí)的概念，但家庭的實(shí)質(zhì)是財(cái)產(chǎn)關(guān)系

我們回到在騰訊新聞20周年特別策劃“20年20人20問”活動(dòng)中，科幻作家韓松提出的那個(gè)問題：“人工智能、元宇宙未來會(huì)對(duì)兩性關(guān)系產(chǎn)生什么影響，家庭概念會(huì)消失嗎？”

他的朋友陳楸帆在回答中認(rèn)為，元宇宙中本就蘊(yùn)含著關(guān)于未來兩性關(guān)系和家庭關(guān)系的預(yù)設(shè)，未來的兩性與家庭關(guān)系都會(huì)越來越多元化。

兩性關(guān)系將不再局限于肉體存在，情感連接和精神共鳴會(huì)成為主導(dǎo)，同時(shí)兩性關(guān)系會(huì)出現(xiàn)更多“跨界”的現(xiàn)象，譬如《黑客帝國(guó)》中真實(shí)與虛擬的界限，未來的情侶就可能會(huì)跨越它。

實(shí)際上，“愛情”本身是一個(gè)很難討論的概念，當(dāng)我們討論“可能性”的時(shí)候，愛情永遠(yuǎn)都是可能的。

它能存在于世仇的家族之間、名流貴族與赤貧者之間，存在于各種性別之間，甚至可以超越種族藩籬存在于地球人與外星生命甚至非生命之間……愛情是超功利、超階層的、超理性的，某種意義上，也意味著它隨時(shí)會(huì)跳出邏輯框架。

AI如果真的進(jìn)化為超級(jí)智慧，它們是會(huì)產(chǎn)生“愛情”這個(gè)不穩(wěn)定因素，還是將它作為無效數(shù)據(jù)排除掉？按照“對(duì)齊人類”的方向看，好像更可能是前者。

相對(duì)來說，“家庭”則是個(gè)更合乎理性的話題。

恩格斯在《家庭、私有制和國(guó)家起源》中就曾有過論斷：家庭的本質(zhì)是一種財(cái)產(chǎn)關(guān)系。在生產(chǎn)力進(jìn)步到足以保留剩余產(chǎn)品以后，公有制逐漸讓位于私有制，某種意義上，對(duì)偶婚、宗族、家庭……這些概念都是私有制的副產(chǎn)品。

家庭是個(gè)流變的概念，封建家庭與現(xiàn)代家庭之間差別極大，原始氏族與封建家庭也大有不同，而這種概念流變?cè)诒举|(zhì)上是在適應(yīng)社會(huì)形態(tài)的變更。

而倫理更是為社會(huì)形態(tài)服務(wù)的東西，馬克思·韋伯的《新教倫理與資本主義精神》有一個(gè)重要內(nèi)容，就是把資本主義的獲利精神、終極正當(dāng)性與宗教形態(tài)進(jìn)行的結(jié)合，認(rèn)為商業(yè)獲利是符合新教倫理的，是可以作為人生的終極目標(biāo)的。古老的宗教倫理，要為新生的資本主義服務(wù)，一切歷史都是當(dāng)代史。

所以AI介入人類的情感，人與AI的廣泛結(jié)合會(huì)改變家庭的基本形態(tài)，甚至讓家庭消失嗎？

這個(gè)問題如果從本質(zhì)上思考，問的其實(shí)是：AI會(huì)改變私有制嗎？“資本主義精神”會(huì)終結(jié)嗎？

答案于是也很容易給出，超級(jí)AI的出現(xiàn)在我們目力所及的范圍內(nèi)，并不會(huì)動(dòng)搖私有制。家庭倫理的穩(wěn)定性，本質(zhì)上是來源于財(cái)產(chǎn)制度而不是愛情或別的什么東西。

譬如，當(dāng)父親不再是家庭收入來源的絕對(duì)核心，封建父權(quán)制家庭就會(huì)逐漸瓦解，但現(xiàn)代社會(huì)依然保留家庭，意味著現(xiàn)代人依然需要這種組織分配財(cái)產(chǎn)的方式。

AI是否能夠顛覆現(xiàn)有家庭形態(tài)，要看它在多大程度上能夠參與社會(huì)財(cái)富分配。在AI自己還是一種“財(cái)產(chǎn)”的時(shí)候，多元化家庭無從談起。

陳楸帆老師在談?wù)摰氖且环N遙遠(yuǎn)的未來，只有當(dāng)AI突破了實(shí)體限制，掌握了財(cái)富的分配權(quán)，我們才可能會(huì)看到更多基于共同興趣、價(jià)值觀或生活方式而非血緣的社區(qū)化家庭出現(xiàn)。

到了那個(gè)時(shí)候，社會(huì)依然會(huì)保持原教旨私有制嗎？如果私有制基礎(chǔ)動(dòng)搖，那么家庭這個(gè)概念走入歷史也是完全可以想象的了。

“20人20問”只是個(gè)開始，人類在可以預(yù)見的未來會(huì)高頻率、高強(qiáng)度地討論AI，歷史上生產(chǎn)力進(jìn)步所推動(dòng)的社會(huì)形態(tài)變更從來就是最重要的議題，沒有之一。

愛情與家庭，都只是這個(gè)大議題的一小部分，它關(guān)系到我們?nèi)绾握J(rèn)識(shí)社會(huì)，如何認(rèn)識(shí)自己，每每漫長(zhǎng)的思考才能得出階段性的結(jié)論。

而確定的事情是，我們不能停止提問。