界面新聞?dòng)浾?| 尹清露

界面新聞編輯 | 黃月

ChatGPT被不少人認(rèn)為打開了通用人工智能（AGI）的大門。AGI具備和人同樣的智慧，甚至有可能超越人類，曾是科幻小說中的主要議題，現(xiàn)如今，人們的歡欣和恐懼似乎業(yè)已成真。

就在這波風(fēng)暴來臨的前夕，小說作者慕明推出了首部中文短篇小說集《宛轉(zhuǎn)環(huán)》，從古代到今天的神經(jīng)網(wǎng)絡(luò)，再到近未來AI對人類的超越，慕明對人機(jī)關(guān)系做出了自己的剖析和思考。

慕明畢業(yè)于北京大學(xué)智能科學(xué)系，本職工作是谷歌程序員，2016年開始創(chuàng)作中短篇科幻小說。綜合了理工科背景和科幻小說寫作的她，是如何看待機(jī)器寫作與聊天的熱潮的？又如何回應(yīng)與技術(shù)相關(guān)的種種爭議？在這次專訪中，從ChatGPT聊起，她談到了技術(shù)帶來的可能性與代價(jià)以及“機(jī)器暫時(shí)寫不了的東西”——那也是慕明正在做的：編織多層次的故事，并由此恢復(fù)人的復(fù)雜性。

01 技術(shù)談：為什么人不能通過機(jī)器的反饋來學(xué)習(xí)呢？

小說集的第一篇《鑄夢》寫下的正是機(jī)器學(xué)習(xí)的變遷史。慕明采用歷史重構(gòu)的方法，讓人工智能附身在先秦時(shí)代的機(jī)關(guān)術(shù)上。小說以兩名少年制造偶人為故事主線，指出機(jī)器的學(xué)習(xí)原本是基于規(guī)則，但是由于規(guī)則繁多，這種方法很快出現(xiàn)了局限性，后來，人工智能進(jìn)入了另一條道路，也就是自下而上、在賞罰和反饋中進(jìn)行強(qiáng)化學(xué)習(xí)（ChatGPT基于的大型語言模型同樣通過強(qiáng)化學(xué)習(xí)實(shí)現(xiàn)訓(xùn)練）。然而，人類無法像機(jī)器那樣快速迭代，習(xí)慣的還是自上而下的“教與學(xué)”。學(xué)習(xí)方式的差異，似乎注定了人與機(jī)器難以相互理解。

在之后的長篇里，慕明想提出“相變點(diǎn)”的概念。她這樣解釋這一概念：“人類和語言、信息的耦合關(guān)系從未像今天這樣密切，就像水升溫到100度會(huì)沸騰、由液態(tài)變?yōu)闅鈶B(tài)那樣，我認(rèn)為，信息對人類社會(huì)形態(tài)的塑造也正在處于一個(gè)‘相變點(diǎn)’。有人在社交網(wǎng)絡(luò)上因言獲罪，素人掌握了說話技巧就能搖身一變成為大V，這都是正在發(fā)生的事?！被ヂ?lián)網(wǎng)信息建構(gòu)在人類從古至今的心智總和之上，所以為了跟最新的AI打交道，我們也要去學(xué)習(xí)人類知識的精華，挖掘出其中的現(xiàn)代性。

界面文化：許多人認(rèn)為ChatGPT開啟了通用人工智能的未來，但是科幻作家特德·姜指出，它更像是保留了模糊文本的“壓縮軟件”。你的寫作深受特德·姜的影響，不知會(huì)怎么看待他的觀點(diǎn)？

慕明：我發(fā)現(xiàn)，在近幾年的科技熱潮中，中文互聯(lián)網(wǎng)的狂熱程度甚至比英文世界還要高一點(diǎn)，這是非常值得觀察的現(xiàn)象。在高熱度中出現(xiàn)了兩種聲音，一種是非?？春茫芏鄧鴥?nèi)公司已經(jīng)說要對標(biāo)ChatGPT開發(fā)模型。另一種是特德·姜或者格雷格·伊根（注：科幻作家，以科學(xué)基礎(chǔ)嚴(yán)謹(jǐn)?shù)挠部苹弥Q）這樣的專業(yè)人士，他們會(huì)保持一定警惕。

我認(rèn)為，首先要注意說話者的立場是什么。特德·姜有這樣的看法，是因?yàn)樗麑hatGPT的期望是大而全的專家系統(tǒng)，我許多做研究的朋友也希望它能給出專業(yè)的資料匯編，所以會(huì)在意它是完美的無損壓縮還是有瑕疵的有損壓縮。但是，如果你把它當(dāng)做智力上和自己差不多、可以幫助激發(fā)靈感的普通人，那么ChatGPT的模糊性反而成為了優(yōu)點(diǎn)。

在我看來，“壓縮軟件”并不是很有力的批評。我們應(yīng)該退一步先考慮人的存在，人類的學(xué)習(xí)也是一個(gè)壓縮的過程，無論是讀書還是聽課，信息的傳遞一定是有損耗的。有些新媒體文章寫得很好，但必須要取抓人眼球的標(biāo)題，特德·姜這篇文章寫了幾千字，有非常精密的論證和邏輯推演，但讀者接收到的也只是單一的觀點(diǎn)。所以禪宗會(huì)說“不立文字”，古人早就有了這個(gè)意識。

界面文化：一些專家指出，人工智能的表達(dá)無法超出已有的資料庫，也沒有真正的原創(chuàng)性，韓少功的文章《當(dāng)機(jī)器人成立作家協(xié)會(huì)》就提到人機(jī)的主從關(guān)系難以改變。不過也有人看到，機(jī)器寫作沖擊到了人文學(xué)科，國外和中國香港地區(qū)的某些大學(xué)已禁用ChatGPT輔助寫論文。為什么我們既覺得機(jī)器寫作無法超越人類，又擔(dān)憂它的沖擊呢？

慕明：人類作為一個(gè)整體探討起來是有難度的，而很多專家往往是拿人的最高智慧去跟機(jī)器比。作為還在學(xué)習(xí)寫作的新人作者，我對這類表述比較敏感，畢竟學(xué)習(xí)的過程就需要大量的模仿練習(xí)，所謂的創(chuàng)新在很多時(shí)候就來源于對已有知識的重新整合。作家維舟說：“我不會(huì)被AI取代，我就是AI?！蔽乙舱f過類似的話。當(dāng)我們把位置放得低一點(diǎn)，反而覺得ChatGPT蠻親切的，像一個(gè)學(xué)習(xí)能力強(qiáng)但有局限的孩子，會(huì)很期待它后面的表現(xiàn)。

對我來說，ChatGPT最好的地方在于，創(chuàng)新本來是模糊的概念，而它可能可以提出創(chuàng)新的參考線，也就是把人類心智勞動(dòng)成果的價(jià)值量化了。比如新推出一個(gè)小說家，我們可以讓ChatGPT去看看他是否容易被模仿，還可以用ChatGPT作為計(jì)量單位，看這個(gè)人的創(chuàng)作是0.8倍ChatGPT還是1.5倍，這都是很有意思的應(yīng)用場景。

并且，人工智能并非憑空出現(xiàn)，它的迭代本身就有人類的幫助，既然機(jī)器可以通過人類來學(xué)習(xí)，為什么人不能通過機(jī)器的反饋來學(xué)習(xí)呢？20年前，從事文字工作還要查閱圖書館資料，而現(xiàn)在搜索引擎變成了標(biāo)準(zhǔn)技能。就像愛德華·阿什福德·李（注：《柏拉圖與技術(shù)呆子》《協(xié)同進(jìn)化：人類與機(jī)器融合的未來》作者，計(jì)算機(jī)科學(xué)家）提出的那樣，技術(shù)和人是協(xié)同進(jìn)化的，人工智能不只是工具，而是很大程度上塑造了我們今天的樣子。

對于人文學(xué)科的沖擊，其實(shí)關(guān)鍵之處在于，機(jī)器重新定義了什么問題更值得關(guān)注，又解放了哪些生產(chǎn)力。國內(nèi)的人文學(xué)科向來注重資料的爬梳，但是當(dāng)機(jī)器可以替代很多工作，我們就要審視還要不要重視這類功夫。文學(xué)作者通常很看重語言，但是當(dāng)機(jī)器很快地學(xué)習(xí)到語言風(fēng)格，我就會(huì)想怎么寫出機(jī)器暫時(shí)寫不出的東西，比如邏輯更強(qiáng)、有很多隱含內(nèi)容的文本。

界面文化：在ChatGPT的討論中，許多人對此抱有技術(shù)躍遷的樂觀態(tài)度；另一方面，OpenAI被曝出在非洲雇傭外包的血汗勞工，他們每天要接受關(guān)于大量虐待、謀殺的內(nèi)容。你在小說中也寫過沒有高科技眼鏡而備受歧視的人。你會(huì)如何看待這種技術(shù)的矛盾性呢？

慕明：就我所在的行業(yè)和科幻圈而言，大部分人是樂觀的，而人文背景深厚的從業(yè)者會(huì)更強(qiáng)調(diào)技術(shù)對人的異化，《黑鏡》《人生切割術(shù)》這些影視劇也都對高科技持批判態(tài)度——狂熱和抗拒同時(shí)存在于一個(gè)社會(huì)里，這非常有意思。當(dāng)你不理解技術(shù)的細(xì)節(jié)時(shí)，就容易形成傾向性，而我本人有兩方面的背景，愿意用正反兩方面的思維去推演，所以寫小說時(shí)會(huì)提供兩個(gè)POV（視角）。具體來說，我的小說處理的都是“可能性”和“代價(jià)”的問題，兩者缺一不可。

這也可以回應(yīng)為什么我要寫古代的故事。現(xiàn)在一提到“technology”就是20世紀(jì)以來的信息技術(shù)，實(shí)際上這個(gè)詞指的就是“技術(shù)”，手工藝也是技術(shù)。而我想去考察當(dāng)時(shí)的技術(shù)變革——當(dāng)然，我們現(xiàn)在稱其為歷史事件——考察在當(dāng)時(shí)的語境下，技術(shù)對當(dāng)事人產(chǎn)生了怎樣的沖擊，人又如何應(yīng)對變化?！惰T夢》這篇故事就很明顯，它講述了從沒有青銅到大規(guī)模生產(chǎn)青銅的過程。張光直在《藝術(shù)、神話與祭祀》中寫到，青銅的出現(xiàn)和集權(quán)是相生相伴的，因?yàn)殍T造需要大量人力和精細(xì)分工，以及工頭進(jìn)行管理，才會(huì)出現(xiàn)部落兼并到封建社會(huì)的轉(zhuǎn)制，技術(shù)的發(fā)展又產(chǎn)生了兵器，進(jìn)一步鞏固了統(tǒng)治。當(dāng)我們把技術(shù)放到歷史長河中去看，也許就不會(huì)對技術(shù)有如此強(qiáng)的恐慌了。實(shí)際上，某種意義來說，文字的出現(xiàn)就比人工智能可怕許多，掌握文字的人曾經(jīng)覺得自己掌握了世間的奧秘，但至少使用人工智能的人不會(huì)再這樣想了。

02 創(chuàng)作談：人能寫但機(jī)器寫不出的作品是什么？

人能寫出而機(jī)器寫不出的是什么？在慕明看來，當(dāng)人工智能把人類引以為傲的學(xué)習(xí)行為拉下神壇，寫作者更需要的是深層理解社會(huì)機(jī)制、再有機(jī)地將信息組織起來的能力，找到分裂的體系之下萬事萬物的密切關(guān)聯(lián)。她在自序中提到，在信息爆炸的時(shí)代，類似《紅樓夢》的整體性敘事是缺失的。她引用托卡爾丘克的諾貝爾獲獎(jiǎng)演說指出：“文學(xué)還沒有準(zhǔn)備好講述未來，講述世界的高速轉(zhuǎn)變——缺乏隱喻、視角和新的寓言?！?/p>

同名小說《宛轉(zhuǎn)環(huán)》就是這樣一個(gè)有關(guān)復(fù)雜性的故事。晚明的一對士紳父女偶然遇到“宛轉(zhuǎn)環(huán)”，玉環(huán)內(nèi)壁繪有細(xì)微的山川林泉，還被旋轉(zhuǎn)了半圈，顯然是莫比烏斯環(huán)的古代再現(xiàn)。莫比烏斯環(huán)實(shí)現(xiàn)了不同維度的時(shí)空轉(zhuǎn)移，也對應(yīng)著中國園林中古人的“琢空之法”，通過巧妙地布置風(fēng)景，一園山林也能容納廣闊的湖海。

界面文化：你的學(xué)科背景是智能科學(xué)，從事的也是相關(guān)行業(yè)，為什么會(huì)在這之外去寫科幻小說？它與實(shí)踐性的工作不同在哪里？

慕明：最開始肯定是想整合自己的兩種知識體系，一方面是理工科技術(shù)背景的工作經(jīng)驗(yàn)，另一方面是作為長期閱讀者的廣泛閱讀經(jīng)驗(yàn)，我發(fā)現(xiàn)當(dāng)代生活中對這兩個(gè)世界的表述體系是分裂的。英國科學(xué)家C.P.斯諾在1969年提出了“兩種文化”的概念，他認(rèn)為由于現(xiàn)代學(xué)科高度分野，了解莎士比亞的人并不了解牛頓基本定律，所以我選擇科幻這種有較強(qiáng)理性色彩的小說作為處理和呈現(xiàn)多維度信息的媒介。

我的小說常常用“合流”作為構(gòu)思的起點(diǎn)，這也是我從劉宇昆的短篇小說中學(xué)到的技巧。在我的小說中，核心的技術(shù)概念和推演思路往往是當(dāng)代的、舶來的，但是文化背景、視角、人物、思想觀念等等則是非當(dāng)代的、中國的。比如《宛轉(zhuǎn)環(huán)》可以看作是晚明版本的《星際穿越》，《鑄夢》可以看作是先秦版本的《西部世界》（第一至第二季），《假手于人》則是《斷魂槍》或是《俗世奇人》在近未來環(huán)境和技術(shù)進(jìn)步下的新演繹。

不過我越寫越發(fā)現(xiàn)，除了在領(lǐng)域之間“架橋”，這種寫作方式還有很多功能，有時(shí)僅僅是對技術(shù)本身進(jìn)行一番社會(huì)層面的推演就能得到很好的反思。比如我去年寫的《誰能擁有月亮》，其中提到的3D建模和NFT都是特別切近的技術(shù)，已經(jīng)滲透到了普通人的日常生活中。

界面文化：《宛轉(zhuǎn)環(huán)》的故事就體現(xiàn)了你說的合流和彌合兩個(gè)世界。你是怎么想到這個(gè)故事的？

慕明：我在讀明史時(shí)發(fā)現(xiàn)了紀(jì)錄片《昆曲600年》，其中一集講的是明末政治人物祁彪佳，他看起來是嚴(yán)肅的政治領(lǐng)袖，但同時(shí)也是很好的戲曲和園林專家，但我們的歷史不會(huì)處理這些。這讓我看到了人的復(fù)雜性，以及人和故事的相似之處，因?yàn)楣适戮哂心：?，可以多層次地呈現(xiàn)世界的結(jié)構(gòu)。

我認(rèn)為，現(xiàn)在流行的“降維打擊”過于簡單粗暴了，是對真實(shí)世界的簡化，而文藝作品應(yīng)該去做“升維”的工作，不僅是從二維升入三維空間，也是通過編織故事去還原人的復(fù)雜?！巴疝D(zhuǎn)環(huán)”是一件觀之可愛、可反復(fù)賞玩、內(nèi)中又有大乾坤的小工藝品，這也是對本書的自指和期待的定位。在我看來，能否禁得住“重讀”是評判文學(xué)作品及作者思維能力的一個(gè)重要標(biāo)準(zhǔn)，而能不能以外在（較淺層的特征）吸引可能的讀者，又能不能舉重若輕，將大問題、大手筆圓融地布置在小空間內(nèi)，傳遞給有緣人，則是“技藝”或者說是“匠心”的體現(xiàn)。

03 女性談：科幻需要女性力量，反思技術(shù)需要女性維度

在思考“機(jī)器能否寫作”時(shí)，我們傾向于代入人類的最高水平，這其中有男性化與精英化的思考。在慕明看來，當(dāng)新興技術(shù)行業(yè)對功成名就者造成沖擊，女性反而能在沒那么在乎的情況下?lián)肀录夹g(shù)，覺得“這個(gè)東西挺好的，跟我們差不多”。

短篇《誰能擁有月亮》就講述了建模行業(yè)中一名女性的故事，何小林從小和媽媽過著貧苦的日子，卻在機(jī)緣巧合下學(xué)習(xí)了建模技術(shù)，并開始鑄造NFT藝術(shù)品。文中寫到，非同質(zhì)化代幣滿足了人們自我表達(dá)和擁有的渴望，但何小林是最早使用CC0級創(chuàng)作共享許可的藝術(shù)家，這意味著她放棄了所有個(gè)人權(quán)益。比起擁有，“正是不擁有讓她的作品呈現(xiàn)出豐富的形態(tài)。”

在采訪的最后，我們從女性與機(jī)器的親近性出發(fā)，聊到了性別維度可以如何幫助我們反思技術(shù)的變遷，如何啟發(fā)女性創(chuàng)作者在現(xiàn)在的時(shí)代中尋求變革。

界面文化：科幻小說怎樣幫我們反思人機(jī)關(guān)系？

慕明：科幻從一開始就在探討人機(jī)關(guān)系，比如瑪麗·雪萊的《弗蘭肯斯坦》，它處理的關(guān)系是“造物與被造物”。第二個(gè)層面是“控制與被控制”，許多反烏托邦作品通過這個(gè)主題引入了對權(quán)力、不平等的探討。最后，人和人工智能還有一層相互映照的關(guān)系，人要通過人工智能來反身理解自己。

故事是一個(gè)很好的體裁，可以把這些關(guān)系都講出來。分別闡述三個(gè)主題的經(jīng)典有許多，我的作品則嘗試同時(shí)探討三者。人工智能又是一個(gè)想象空間非常廣的話題，除了科幻作品中常見的強(qiáng)人工智能（AGI），有人工智能成分的科技大家每天都在用，它離生活很近，并不像理論物理這么抽象，作家能利用的素材也非常多。有些國民作家在寫人工智能，作品也有鮮明的個(gè)人特色，比如麥克尤恩在寫《我這樣的機(jī)器》時(shí)會(huì)借此討論英國在全球化中的處境，石黑一雄的《克拉克和太陽》在情感方面深入一些。

當(dāng)然，你也能看出他們的立場和局限，就像剛剛討論特德·姜那樣。這兩位作家都是男性，那么在麥克尤恩筆下，無所不能的人工智能一定是健壯的男性，石黑一雄寫的人工智能則是能力有缺陷的小女孩。所以，我們每個(gè)人都可以想一想，你自己和人工智能是怎樣的關(guān)系，你是不是滿足于現(xiàn)有的敘事、滿足于知名作家的看法？

界面文化：你的小說中經(jīng)常出現(xiàn)女性角色，科技的發(fā)展提高了女性的主體性地位，但有時(shí)也會(huì)加劇女性的被剝削，這又是一重矛盾。在你看來，性別維度可以怎樣幫助我們反思技術(shù)變遷呢？

慕明：事實(shí)上，“文明中被遮蔽的女性敘事傳統(tǒng)”是這本書的骨架之一?！蹲孕颍簭脑车缴瘛分蟹磸?fù)提示，無論是在個(gè)體經(jīng)驗(yàn)還是在群體歷史中，女性作為母親，都是最早的講述者?！爸v述”是遠(yuǎn)古人類最初也是最重要的力量。但是自從出現(xiàn)農(nóng)業(yè)，進(jìn)入了工具的時(shí)代，力量的主要形式由心靈、精神轉(zhuǎn)向身體能力，這一轉(zhuǎn)變就是技術(shù)演進(jìn)帶來的后果，在某種程度上促進(jìn)了父權(quán)制和私有制的出現(xiàn)，女性漸漸失卻了力量，“講述”也被男性壟斷了。這一理論在恩格斯、波伏娃等人的論述中都有出現(xiàn)。

在《鑄夢》里，女性講述者除了故事，什么都沒有。她們無法對抗時(shí)代，只能默默地等待有緣人的傳承?！碍h(huán)”除了上面提過的種種含義，也是傳承的象征。第一次，由夏姬給了弗忌，第二次，由弗忌給了造出的偶人，第三次就是《宛轉(zhuǎn)環(huán)》里的子岡給了茞兒?！皞鞒小笔潜緯囊粋€(gè)隱含主題，無論是傳統(tǒng)的師徒、父子、父女關(guān)系，還是知音、聽者/觀者，乃至造物者與被造之物的關(guān)系。這個(gè)過程雖然帶來了種種問題，但在一定程度上釋放了自石器時(shí)代以來被禁錮的女性/弱者的能力。

那么，“講述”重新變得重要、女性乃至人類不再受物理枷鎖、文化建構(gòu)的枷鎖限制的時(shí)代，會(huì)在什么時(shí)候到來呢？就是現(xiàn)在和不遠(yuǎn)的將來。青銅降級了女性，機(jī)器則會(huì)升級女性。在這樣的圖景之下，就有了對傳統(tǒng)意義上的女性/弱者重新回歸舞臺(tái)中央的推想。這里的“弱者”，其實(shí)也有竹內(nèi)好說的“文學(xué)是屬于弱者的”的意思。

這值得女性創(chuàng)作者去思考，我們所處的時(shí)代非常關(guān)鍵，作為第一代獨(dú)生子女，受過好的教育，也做了非常多的工作，但是被看到的并不多，包括國內(nèi)也是最近才出版了一些女性科幻作者的選集，我開始寫作時(shí)也沒有很強(qiáng)的性別自覺意識。而文學(xué)就像自下而上的機(jī)器學(xué)習(xí)一樣，能解決很多居高臨下的宏大敘事解決不了的問題。這是我堅(jiān)持創(chuàng)作的原因之一，也希望看到更多的女性創(chuàng)作者，大家一起努力。