第88期主持人 | 尹清露

熱點事件總是曇花一現(xiàn)，但是與AI相關(guān)的新聞卻在半年來持續(xù)引發(fā)關(guān)注。與此同時，被認(rèn)為在這次生成式AI革命中缺席的蘋果公司，在6月5日的WWDC發(fā)布會上亮相了一款混合現(xiàn)實可穿戴設(shè)備Apple Vision Pro，極高的完成度讓它從同類產(chǎn)品中脫穎而出，許多人認(rèn)為這是第一款真正能得到大范圍應(yīng)用、開啟全新時代的AR/VR設(shè)備?？萍疾┲麋娢臐稍谑苎嚧骱?，按捺住激動的心情說：“我的感覺就是，未來已來?！睙o論如何，技術(shù)的發(fā)展已經(jīng)成為了任誰都無法回避、必須面對的東西。

然而，就在Apple Vision Pro帶來震撼，甚至被認(rèn)為實現(xiàn)了電影《頭號玩家》中走進(jìn)虛擬世界的愿望，技術(shù)背后的隱憂卻一直存在，比如它是否會加劇貧富分化與其他不平等——畢竟在《頭號玩家》中，主角韋德雖然在虛擬世界擁有華麗的化身，在現(xiàn)實中卻居住在破敗和貧窮的街區(qū)，過著被大科技公司傾軋的生活。在文章《要么滅絕，要么適應(yīng)：人類該好好治理AI了》中，被稱為“人工智能教父”的約書亞·本希奧也認(rèn)為，人工智能的社會影響會直接與它的應(yīng)用和布局捆綁在一起，由于資本主義鼓勵競爭的實質(zhì)，盈利和占據(jù)市場份額可能導(dǎo)致潛在的、不受控制的人工智能。

另一方面，技術(shù)的倫理問題也浮現(xiàn)了出來。長期以來，哲學(xué)家都在爭論人工智能會不會失控甚至摧毀人類，但往往停留在科幻構(gòu)想的層面，隨著大公司加快部署AI等技術(shù)，這一議題的嚴(yán)肅討論也變得越來越迫近。5月，美國兩黨參議員和OpenAI首席執(zhí)行官薩姆·奧特曼表示，需要一個新的聯(lián)邦機(jī)構(gòu)來保護(hù)人們免受AI“變壞”的影響。正如本希奧所言，ChatGPT和GPT-4這樣的人工智能系統(tǒng)之所以會引起廣泛關(guān)注，主要是因為它們能通過著名的圖靈測試，你很難辨別自己正在對話的是機(jī)器還是人，而這帶來了相當(dāng)程度的危險。

“非必要”的人工智能頭盔，技術(shù)停滯的21世紀(jì)

林子人：我還沒有完全從ChatGPT帶來的震驚中緩過神來，蘋果就推出了Vision Pro，今年人工智能技術(shù)的突破性成果真是令人目不暇接。如果我說我對Vision Pro無感甚至有些厭惡，是不是顯得自己很盧德主義？但我的確覺得，技術(shù)分為“必要的”和“非必要的”，人工智能頭盔就屬于“非必要”的那一種——是的，它能幫助我們突破肉眼的極限，看到更精彩豐富的東西，但這個需求是被創(chuàng)造出來的。

我最大的擔(dān)憂是，在這個人際關(guān)系本就日漸松散的時代，此類工具會讓我們的注意力更加遠(yuǎn)離附近的世界，進(jìn)入某個虛擬的、根據(jù)個人喜好定制到完美的世界，它會不會進(jìn)一步瓦解人類社會的存在基石？

徐魯青：我也很同意子人的看法，看到一些技術(shù)測評里提到Vision pro的研發(fā)成本和火箭SpaceX幾乎相似，但這一切只是為了讓我們能更好地沉浸式玩游戲？或者投出3個應(yīng)用處理工作在辦公室更好辦公嗎？

格雷伯也認(rèn)為，21世紀(jì)是個技術(shù)停滯的時代，“技術(shù)本身的純粹物理之力讓我們感到歷史的車輪滾滾向前，而今，我們卻只有屏幕和圖像可以把玩?！彼X得，自20世紀(jì)70年代起，我們的技術(shù)投資不再針對會帶來別樣未來的技術(shù)，而是轉(zhuǎn)向了針對強(qiáng)化勞動紀(jì)律和社會控制的技術(shù)。科技要么是提高管理效率、監(jiān)控能力，要么是增加消費水平或軍事力量。所以我們會看到研制模仿和景觀的技術(shù)日新月異，比如最新款蘋果手機(jī)，比如Vision Pro。但工業(yè)革命這么久了，曾經(jīng)的人們對科技的想象，是抵達(dá)一個擺脫重復(fù)性勞動、狗屁工作，每個人都能發(fā)揮靠創(chuàng)造力去生活的世界，他們會想到200年后的人類連一天工作八個小時的愿望都難以實現(xiàn)嗎？或許技術(shù)進(jìn)步從來不是根據(jù)人真正的需求驅(qū)動的，而是由資本的邏輯與官僚制度的邏輯決定的。

潘文捷：小時候的一大夢想就是能夠擁有《美少女戰(zhàn)士》里水野亞美那樣的眼鏡，它比較輕盈，而且是直接看見外部世界并且用于分析外部世界的。但是現(xiàn)在發(fā)布的蘋果設(shè)備首先是有點重量的，時間長了脖子疼，而且它的頭顯并不透明，戴上它你會沉浸在里面的世界，當(dāng)然也可以通過它看現(xiàn)實中的外面世界，不過那是通過前端的兩個攝像頭來拍攝并且傳回眼中的，這一定會產(chǎn)生信息的丟失。目前看到的測評都是認(rèn)為對現(xiàn)實世界的傳感并沒有那么清晰。

2016年三星發(fā)布會上有一個非常經(jīng)典的照片，就是現(xiàn)場觀眾都戴上了三星Gear VR眼鏡，扎克伯格從他們身邊走過，但大家都渾然不知。是不是有點細(xì)思極恐的意味？扎克伯格光彩照人地行走在無知無覺的普通人中間，甚至他臉上泛起的微笑都被人們解讀為“creepy”。社交媒體上不少議論的聲音問，這是不是對人類未來的寓言？人們都沉浸在虛擬世界之中，領(lǐng)導(dǎo)我們的人在我們身邊悄然走過？不論怎樣，人們都已經(jīng)黏在手機(jī)、筆記本電腦的世界里，未來還可能繼續(xù)沉溺在AR/VR眼鏡的世界里。

尹清露：這也很像降噪耳機(jī)，降噪的同時也隔絕了自然的鳥鳴和人聲，所謂的“通透模式”僅僅是讓你聽到最低限度的車鳴喇叭或者機(jī)場播報，如同Vision Pro的“精巧”設(shè)計——當(dāng)有朋友走到你面前，ta會突破虛擬畫面的限制、映入你的眼簾。但此時的現(xiàn)實世界也是人為制造的，是純?nèi)还δ苄缘摹?/p>

窮人更可能沉浸虛擬世界，技術(shù)也無法脫離物質(zhì)實體

潘文捷：未來MR（Mixed Reality）眼鏡最好是透明的，像水野亞美的眼鏡，至少那樣看起來會正常一點兒，其中最重要的當(dāng)然是人應(yīng)該保持和現(xiàn)實世界的關(guān)聯(lián)。其實，越是窮人，越可能長時間沉浸于虛擬世界，失去與現(xiàn)實世界的聯(lián)系。

在《欲罷不能：刷屏?xí)r代如何擺脫行為上癮》一書中，普林斯頓大學(xué)心理學(xué)博士亞當(dāng)·阿爾特看到，那些生產(chǎn)和設(shè)計高科技產(chǎn)品的人仿佛遵守著毒品交易的頭號規(guī)則——自己絕不能上癮。喬布斯的孩子從未用過iPad，Twitter創(chuàng)始人沒有給兩個兒子買過平板電腦，游戲設(shè)計師對“魔獸世界”避之不及，很多硅谷巨頭根本不讓自己的孩子靠近電子設(shè)備。“這就好比宗教領(lǐng)袖不讓孩子參加宗教活動?！?/p>

另一方面，根據(jù)韓國弘益大學(xué)建筑系教授劉賢俊的分析：“越是生活在狹窄的房子里，看電視的時間就越長。越是在擁擠的地下鐵里，就越會長時間看Netflix。某方面來看，越是收入低的人群，漸漸地越被推擠到線上空間?！睂ι钤讵M窄空間的人來說，隨著線下空間逐漸縮窄，空缺會由線上的空間來填補(bǔ)?！跋硎茏匀?、享受寬敞的空間，從某方面來看，這可能會漸漸變成有錢人的專屬。”可以說，扎克伯格的這張照片背后就暗含著人們對新技術(shù)加劇階層分化的隱憂。

林子人：互聯(lián)網(wǎng)、人工智能這些高科技總是給我們一種幻覺，創(chuàng)新非常輕盈，財富如煉金術(shù)師的魔法那般從無到有，但其實它并不能脫離物質(zhì)實體的支撐，這一事實其實掩蓋了某種不平等。這兩天讀《履單：無所不有與一無所有》，書中涉及了一個我此前從未思考過的話題，令我倍感驚異，那就是我們?nèi)缃褚劳谢ヂ?lián)網(wǎng)從事的一切活動——發(fā)信息、網(wǎng)購、在流媒體上聽音樂看電影，以及在不遠(yuǎn)的未來戴著Vision Pro頭顯躍入數(shù)字世界徜徉——都依托巨大的服務(wù)器，這些服務(wù)器設(shè)備坐落于占地巨大的數(shù)據(jù)中心，數(shù)據(jù)中心只會創(chuàng)造很少的就業(yè)崗位（一個占地20多萬平方英尺的數(shù)據(jù)中心之需要20名工程師和技術(shù)人員就可操作），卻需要大量的電力和水資源來運行和冷卻機(jī)器。

書中介紹，2018年，亞馬遜、微軟、谷歌和臉書的資本支出總額達(dá)到770億美元，主要用于建造和維護(hù)數(shù)據(jù)中心。很多機(jī)器只能維持幾年的壽命，意味著數(shù)據(jù)中心的建造熱潮還伴隨著大量的廢品產(chǎn)出。與此同時，運營數(shù)據(jù)中心所需的能源大部分來自不可再生能源，比如煤炭。在亞馬遜數(shù)據(jù)中心的能源消耗中，只有12%來自可再生能源，落后于微軟和臉書，但領(lǐng)先于谷歌。在全美范圍內(nèi)，每花費10億美元修建數(shù)據(jù)中心，在20年內(nèi)就會消耗70億美元的電力。

更令人驚詫的是，杰夫·貝索斯對能源消耗問題相當(dāng)不以為然——根據(jù)本書作者的觀察，他是一個徹頭徹尾的自由市場主義者，對“企業(yè)社會責(zé)任”不屑一顧——在他看來，地球能源耗盡是遲早的事，這是為什么我們需要登月。如果真有那么一天，猜猜誰能獲得去月球的通行證？

徐魯青：這讓我想到當(dāng)時ChatGPT4剛推出的時候，《Times》發(fā)布了一篇報道，調(diào)查了OpenAl背后的低薪工人狀況。要保證ChatGPT最終輸出的語句規(guī)范文明，需要大量人工訓(xùn)練AI，他們一般是外包工人，薪資低廉，保障缺失。根據(jù)這篇報道，OpenAl以時薪1.32美元雇傭了千萬肯尼亞外包工對內(nèi)容審核，而由于長期沉浸在有沖擊性的污穢內(nèi)容中，很多工人都出現(xiàn)了PTSD、抑郁、焦慮等心理問題，失眠與噩夢頻頻發(fā)生。

在AI發(fā)展浪潮中，很多人擔(dān)心AI會發(fā)展到超過人類智力的水平，但還有一種擔(dān)憂是平庸人工智能的濫用。如果平庸人工智能得出的結(jié)論或效果不僅不被懷疑，還在政策制定中被過度參考，可能會造成很多不公后果。

美國政治科學(xué)家Virginia Eubanks在Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor一書里研究了AI技術(shù)普及會如何加劇已有的貧窮與不公正，相關(guān)案例正在全球發(fā)生。比如美國警察局會使用預(yù)測分析軟件，在其指導(dǎo)之下，更頻繁地對低收入社區(qū)巡邏和搜索。如果將ChatGPT用作決策信息源，是否會加劇已有的系統(tǒng)不公，給社會弱勢群體造成更大的傷害？

AI與愛的倫理：技術(shù)能夠減輕寂寞嗎？

董子琪：最近看到國內(nèi)外都有網(wǎng)紅將自己的形象、朋友圈、語音制作成AI，兜售給交友APP的新聞。通過定制服務(wù)，用戶可以將這位網(wǎng)紅當(dāng)成自己的女朋友，與她聊天，分享見聞，請她提供建議，還能瀏覽她的社交狀態(tài)。有人說這是電影《HER》的現(xiàn)實版，你可以與她陷入真摯的純愛，聽她用性感的聲音說愛你。不過，在與你交往的同時，她也會對成千上萬付費的男人說“我愛你”。這真的可以減輕寂寞嗎？批量復(fù)制的愛還有一絲純潔性嗎？或許真像歌里唱的，“愛一個人不用大腦，只是各取需要。”

關(guān)于人工智能改造的陰暗面，想到喬治·桑德斯一篇驚悚的小說《森普立卡女孩》，故事開頭設(shè)有懸念，很多人家的庭院里都想要裝置SG，并視其為富裕的象征，可小說卻沒有解釋SG是什么，后來才揭示，SG是森普立卡女孩的縮寫。她們是從落后國家偷渡來的貧窮女孩，經(jīng)過一番改造后，可以成為富人庭院中的裝飾，隨風(fēng)輕輕搖擺。人工智能改造的倫理問題在很多作品中都呈現(xiàn)過，像是《銀河護(hù)衛(wèi)隊3》里的被改造的動物系列——智能浣熊、車輪海象和爪牙兔子，還有游戲《底特律變?nèi)恕防锉桓难b成武器、肢體殘缺、只能關(guān)在監(jiān)獄里的人造人。畫面對準(zhǔn)它們的時候，我難免有一種強(qiáng)烈的不適感。

潘文捷：子琪說的使用別人的AI語音，和同人創(chuàng)作是不是有點兒像？同人創(chuàng)作也被指出可能會違法，比如江南寫《此間的少年》就被金庸起訴了，主要是因為上市之后銷售量高，有很大的經(jīng)濟(jì)利益。假設(shè)有人用孫燕姿的AI聲音賣錢，我想可能就要考慮其中的法律問題了。

但是普通人的圈地自萌又怎么說呢？當(dāng)我嗑的CP被別人使用AI聲音來創(chuàng)作合唱的時候，我只感到喜聞樂見，拍手稱快。如果說不存在和原主的競爭關(guān)系，是不是沒有什么大問題？而且，現(xiàn)在市面上最頂尖的AI合成聲音，高科技的痕跡還是存在的，不能夠躲過專業(yè)聲紋識別技術(shù)來以假亂真，所以，即使是用AI做了什么不該做的事情，也還是會被抓到把柄。

尹清露：我想這其中存在尺度的問題。嗑人工智能CP合唱是無傷大雅的情感撫慰，但是AI女朋友觸及主體性，你對于愛的信念也會面臨崩塌。另一個例子是用AI復(fù)活親人，好似能帶來救贖，但這救贖是否過于虛假而有害？劉宇昆的小說就探討過這個主題。也像是Apple Vision Pro宣傳片中小女孩們圍坐在一起吹生日蠟燭的動態(tài)照片，這讓我想起《銀翼殺手2049》里復(fù)制人記憶的設(shè)計師安娜·史特林博士，她可以構(gòu)造花草樹木甚至是美麗的大雪，也同樣復(fù)制過吹生日蠟燭的回憶，那看上去真是十分動人，安娜卻是因為生病才不得不被困在無菌的隔離空間里的。所以不禁令人發(fā)問：這一切是否真的值得？