正在閱讀:

用后即棄的人造人

掃一掃下載界面新聞APP

用后即棄的人造人

如果人不再被物化、被捐獻(xiàn),還用擔(dān)心“人造人”、機(jī)器覺(jué)醒后報(bào)復(fù)人類嗎?

文|腦極體

即使各種鼓勵(lì)政策不斷被使出,很多發(fā)達(dá)國(guó)家的女性,也不大愿意生孩子了。少子化是現(xiàn)代化、工業(yè)化的附贈(zèng)品,這一點(diǎn)無(wú)可回避。

所以很多人都很期待用科技來(lái)造人。埃隆·馬斯克(Elon Musk)等人提出的“人造子宮”方案,克隆人、基因編輯嬰兒等,都是人造人的潛力技術(shù)。

從“自然選擇”到“科技選擇”,這里面有很多問(wèn)題值得討論:

人類如何利用科技造人?人造人和人的關(guān)系是什么?人造人會(huì)帶來(lái)怎樣的后果?這些問(wèn)題,渴望“勞動(dòng)力”的馬斯克們沒(méi)有提到,不過(guò)科幻作品中有大量關(guān)于人造人的描述,能夠?yàn)槲覀兲峁┙梃b。

布克獎(jiǎng)得主石黑一雄的《千萬(wàn)別丟下我》(Never Let Me Go),是以“人造人”為主角的科幻小說(shuō)中被討論最多的作品之一。這本書(shū)曾獲得全世界文學(xué)獎(jiǎng)獎(jiǎng)金最高的「歐洲小說(shuō)獎(jiǎng)」(European Novel Award),被評(píng)論家稱為“生物工程時(shí)代的《一九八四》”,還曾被拍成同名電影搬上屏幕。

故事里,人可以通過(guò)基因克隆技術(shù),被批量生產(chǎn)或個(gè)性化定制,想要多少“勞動(dòng)力”就有多少“勞動(dòng)力”,這樣的世界到底怎么樣呢?我們不妨短暫地拋開(kāi)人類本位視角,來(lái)體驗(yàn)一下克隆人的一生。

無(wú)憂無(wú)慮的人

你是露絲,是一個(gè)女孩,從小生活在一所迷人的英國(guó)寄宿學(xué)校“海爾森”,監(jiān)護(hù)人非常體貼地照顧著你,平時(shí)除了玩耍,就是上上藝術(shù)和文學(xué)方面的課程。這種歲月靜好的日子,在你八歲的時(shí)候,感到了不對(duì)勁。

你和伙伴們?cè)诜蛉说絹?lái)時(shí)“蜂擁而上”,圍繞著她,夫人的表情就像是強(qiáng)忍恐懼,擔(dān)心有人不小心會(huì)碰觸到她,好像你們是一群蜘蛛。

你一直以為她只是比較自大傲慢,第一次透過(guò)這樣一個(gè)人的眼看到自已,你終于明白,你們跟他人真的不同。

除了這一點(diǎn)不快之外,你們的童年是無(wú)憂無(wú)慮的——只要不表現(xiàn)惡劣,不靠近附近的森林。十五歲時(shí)和小男生交往,貼貼抱抱親親,只要不選錯(cuò)時(shí)間地點(diǎn),監(jiān)護(hù)人也不太干涉。“尊重自己身體的需求,”埃米莉小姐這么說(shuō)道,“否則以后你們無(wú)法成為優(yōu)秀的捐贈(zèng)人?!?/p>

捐贈(zèng)人,你知道了你在這世間的真正身份——給人類“捐獻(xiàn)”健康器官的人。

從何而來(lái)的人

你成年了,離開(kāi)了海爾森的學(xué)校。有一個(gè)聲音召喚你:將來(lái)在一個(gè)大大的漂亮辦公室里工作。

這個(gè)念頭不知從何而起,直到朋友告訴你,看到了一個(gè)穿著職業(yè)套裝的中年女性。她大約五十歲,身材維持相當(dāng)好,和同事在一間辦公室里談笑。她在辦公室的生活,就是你經(jīng)常描述的理想生活。

“露絲,她一定是你的‘原型’”朋友們這么說(shuō)。

每一個(gè)克隆人都有“原型”,你應(yīng)該會(huì)和原型過(guò)著相同的生活,但當(dāng)你滿懷期待和朋友們一起遠(yuǎn)遠(yuǎn)觀察時(shí),才發(fā)現(xiàn)那個(gè)女人和你并不相像。

你假裝早知如此:“何必欺騙自己呢,我們絕不是依照那種人造出來(lái)的,我們都是拿那些毒蟲(chóng)、妓女、酒鬼、流浪漢之類的人渣作為模型制造出來(lái)的,說(shuō)不定還有罪犯,那才是我們的生命起源。真想找到原型,就要到貧民窟去,看看垃圾桶,看看廁所,那才是我們尋根的正確場(chǎng)所?!?/p>

也許你是對(duì)的,哪個(gè)有著光鮮職業(yè)和社會(huì)地位的人,會(huì)克隆一個(gè)復(fù)制品來(lái)做“捐獻(xiàn)人”呢?

用后即棄的人

你不再尋找原型,因?yàn)榈搅四憔璜I(xiàn)的時(shí)候。

你沒(méi)有嘗試反抗或逃走,作為海爾森的學(xué)生,你早就知道自己的命運(yùn),“當(dāng)我成為捐贈(zèng)人開(kāi)始,就已做好各種準(zhǔn)備,當(dāng)捐贈(zèng)人還滿適合我的。畢竟,我們每個(gè)人本來(lái)就是為了要做器官捐贈(zèng)的,不是嗎?這沒(méi)什么大不了的?!?/p>

不得不說(shuō),你還蠻樂(lè)觀的,卻沒(méi)那么幸運(yùn)。

有的克隆人捐贈(zèng)了四次,狀態(tài)還是好的不得了??赡愕谝淮纹鞴倬栀?zèng)就進(jìn)行得不大順利,做完第二次捐贈(zèng),你已經(jīng)非常虛弱,只能躺在病床上,每當(dāng)疼痛來(lái)襲,就會(huì)不自覺(jué)地扭動(dòng)身體。三天后,你離開(kāi)了。

你緊閉雙眼,仿佛正抱著這個(gè)世界懇求:“別讓我走?!?/p>

克隆人的一生結(jié)束了,你會(huì)如何評(píng)價(jià)自己“快樂(lè)的”童年,“自由的”成長(zhǎng),“奉獻(xiàn)的”一生呢?

科學(xué)選擇的人

《千萬(wàn)別丟下我》寫(xiě)于2005年,在今天看來(lái)是有一些bug的,比如克隆人不能生育、但需要性來(lái)保持健康;科技已經(jīng)發(fā)達(dá)到能夠克隆完整的生命,為什么不單獨(dú)培育克隆器官……

不過(guò),這本書(shū)之所以成為最多解讀的單行本之一,在于其不僅有科幻的一面,可以引申出大量科學(xué)選擇的倫理問(wèn)題,也通過(guò)克隆人的生存境遇,映射了人類的悲劇命運(yùn),有著一定的現(xiàn)實(shí)關(guān)照意義。

無(wú)論是反烏托邦的科幻小說(shuō),還是當(dāng)下現(xiàn)實(shí)中的科技發(fā)展,都會(huì)面臨一個(gè)矛盾——倫理選擇和科學(xué)選擇的沖突。

所謂倫理選擇,指的是人不再是遵循動(dòng)物本能的自然選擇,而是有了羞恥心和善惡觀念,能夠分辨善惡,這種倫理意識(shí)的形成,才是人區(qū)別于獸,人之所以為人的原因。所以正常人在道德上、理性上,是無(wú)法接受那些惡的行為的。

而科技選擇,則是人類通過(guò)科技改造自身,形成一種人機(jī)融合的新人類。遠(yuǎn)一點(diǎn)有克隆人、基因編輯嬰兒,近一點(diǎn)有試管嬰兒、器官移植、變性整容等,這些都是用技術(shù)人為選擇的結(jié)果。

可以發(fā)現(xiàn),對(duì)于使原來(lái)的人發(fā)生變化的“造人技術(shù)”,人的倫理觀念是會(huì)隨著科技認(rèn)知而波動(dòng)的。

技術(shù)成熟,認(rèn)知清晰的時(shí)候,這類“人造人”是被欣然接受,至少不再是被道德譴責(zé)的對(duì)象。

比如隨著現(xiàn)代醫(yī)學(xué)的進(jìn)步,利用成熟的技術(shù)對(duì)自身進(jìn)行完善,或者彌補(bǔ)一些缺憾,被認(rèn)為是理性的選擇,而不是瘋狂的行為。

畢竟做過(guò)心臟搭橋手術(shù),有障人士安裝義肢,利用精子庫(kù)誕生的試管嬰兒,將生理性別轉(zhuǎn)換成心理性別的變性人,以及整容,在今天都非常司空見(jiàn)慣了,不會(huì)有人覺(jué)得這很違背倫理。

但上個(gè)世紀(jì),有科技介入的非純粹的生物人,在世人眼中還是《弗蘭肯斯坦》中的科學(xué)怪人,《浮士德》玻璃器皿中的人造人那樣,讓人恐懼的存在。

不過(guò),如果技術(shù)本身還比較新、概念比較陌生、大眾認(rèn)知不足的時(shí)候,就很容易產(chǎn)生恐懼聯(lián)想,從而引發(fā)更強(qiáng)的道德譴責(zé),更多的倫理約束。

比如每隔幾年,關(guān)于“AI要?dú)缛祟悺钡挠^念就會(huì)流行起來(lái)。此前就有倫理學(xué)家批評(píng)波士頓動(dòng)力“拳打腳踢”訓(xùn)練機(jī)器人的方式過(guò)于殘酷,機(jī)器人早晚會(huì)像《西部世界》中德洛麗絲那樣自我覺(jué)醒并報(bào)復(fù)人類。最新的“毀滅論”來(lái)到了ChatGPT,一些科技從業(yè)者、科學(xué)家都紛紛擔(dān)憂“AI會(huì)成為殺人機(jī)器”。

引發(fā)大眾恐懼和倫理約束的,就是人造人的“意識(shí)覺(jué)醒”。技術(shù)上需要AGI強(qiáng)人工智能的實(shí)現(xiàn),機(jī)器擁有了思維。

很多人在看完《千萬(wàn)別丟下我》之后,會(huì)同情克隆人的遭遇,批判這種人造人捐獻(xiàn)器官的殘酷,還會(huì)擔(dān)憂人類這么對(duì)“人造人”,他們覺(jué)醒了會(huì)不會(huì)殘酷地報(bào)復(fù)人類?所以,作者也在《千萬(wàn)別丟下我》中,將克隆人設(shè)計(jì)成為沒(méi)有自我意識(shí)的生物,一定程度上減少了讀者的恐懼,增加了同情。

那么,以ChatGPT為代表的通用AI浪潮,以機(jī)器學(xué)會(huì)了“人話”,究竟該不該警惕呢?機(jī)器真的要意識(shí)覺(jué)醒了嗎?

首先,機(jī)器覺(jué)醒還不明確。大語(yǔ)言模型讓AI不再是“鸚鵡學(xué)舌”,開(kāi)始具備理解和認(rèn)知能力,可以對(duì)語(yǔ)匯中的“意義”“意向性”等產(chǎn)生解釋能力,這被看作是機(jī)器意識(shí)的突破性進(jìn)展。但目前為止,科學(xué)家和倫理學(xué)家所擔(dān)心的有以下幾點(diǎn):

1.AI從大數(shù)據(jù)中學(xué)到意想不到的東西,這一點(diǎn)在知識(shí)工程、人類反饋的增強(qiáng)學(xué)習(xí)機(jī)制等約束下,還是控制的比較好的。

2.AI會(huì)生成代碼毀滅人類。這個(gè)確實(shí)太看得起技術(shù)進(jìn)步的速度了,目前大語(yǔ)言模型很多,但“智能涌現(xiàn)”還是一門玄學(xué),很少有大模型超越GPT-4的能力,比起防范AI做壞事,更當(dāng)務(wù)之急是防止壞人用AI做壞事。在干壞事上,壞人的危險(xiǎn)比AI“更勝一籌”,防范壞人利用AI做壞事,才是當(dāng)務(wù)之急。

此外,機(jī)器覺(jué)醒了,也不代表“人造人”就能有意識(shí)。

在人工智能之外,“人造人”還涉及到基因科學(xué)、生命工程、量子物理、腦機(jī)接口、腦科學(xué)等多種學(xué)科的前沿突破。二十年技術(shù)真的能得到這么多進(jìn)步嗎?能創(chuàng)造出和真人一模一樣的“碳基身體”嗎?

拋棄“碳基身體”,直接使用工程機(jī)械的“硅基身體”呢?與人類存在明顯生理差異,又有自主的意識(shí)思維,這種新生命還是“人類”嗎?那時(shí),我們要擔(dān)心的可能不是“人造人”,而是一種全新的新生物種群。

在強(qiáng)人工智能到來(lái)之前,“人造人”的覺(jué)醒威脅,似乎都還很遙遠(yuǎn)??茖W(xué)和技術(shù)的發(fā)展,會(huì)讓每一個(gè)現(xiàn)存的肉身人類受益,對(duì)身體和健康帶來(lái)實(shí)質(zhì)的提升。對(duì)新技術(shù)的倫理約束,也會(huì)隨著科學(xué)認(rèn)知的深入,變得越來(lái)越務(wù)實(shí)、合理。

愛(ài)具體的人

那么,這類反烏托邦的科幻作品,總是描繪“人造人”所遭受的殘酷待遇,被毀掉的人生,是不是在“販賣焦慮”呢?

并不。對(duì)現(xiàn)實(shí)的映照和關(guān)懷,或許是文學(xué)作品更大的意義。當(dāng)我們?yōu)榭寺〖夹g(shù)的神奇而驚嘆,為捐獻(xiàn)者的一生而惋惜的時(shí)候,會(huì)不會(huì)聯(lián)想到,我們本身也是捐獻(xiàn)者呢?

人造人作為科技產(chǎn)品,被認(rèn)為是一種資產(chǎn),那么肉身人類是否也存在被物化、被資產(chǎn)化的可能呢?

《用后即棄的人》一書(shū)中,作者格雷德提出,工業(yè)革命之后,“一些人獲得自由,但另一些人變成了廉價(jià)的消耗性商品”。

一方面,科技迅速發(fā)展,人類社會(huì)進(jìn)入了難得的和平增長(zhǎng)期,人口激增,全世界有大量極端貧困的人和弱勢(shì)群體。人口數(shù)量和新興工業(yè)崗位數(shù)量的不平衡,意味著很多人正在變得“多余”。

另一方面,新的世界經(jīng)濟(jì)中,金融資本的流動(dòng)性大大增強(qiáng),金融聯(lián)系延伸到這些欠發(fā)達(dá)地區(qū),讓一些發(fā)展中國(guó)家的人成為了金融的獵物,失去對(duì)生活的控制權(quán),不斷為賺取現(xiàn)金而被奴役。

當(dāng)我們通過(guò)科幻小說(shuō)想象克隆人被剝奪的人生,也是在釋放個(gè)體在現(xiàn)實(shí)中被權(quán)力結(jié)構(gòu)所驅(qū)使的傷痛。

我們都是被科學(xué)選擇的人,擔(dān)憂人類殘酷對(duì)待克隆人等“人造人”,或許更重要、更具體的行動(dòng)是,幫助弱勢(shì)群體更好地控制他們的生活。

就像漢娜阿倫特所說(shuō)的:將關(guān)注點(diǎn)落實(shí)到具體每個(gè)人,而不是抽象的概念,去愛(ài)具體的人。

如果人不再被物化、被捐獻(xiàn),還用擔(dān)心“人造人”、機(jī)器覺(jué)醒后報(bào)復(fù)人類嗎?

本文為轉(zhuǎn)載內(nèi)容,授權(quán)事宜請(qǐng)聯(lián)系原著作權(quán)人。

評(píng)論

暫無(wú)評(píng)論哦,快來(lái)評(píng)價(jià)一下吧!

下載界面新聞

微信公眾號(hào)

微博

用后即棄的人造人

如果人不再被物化、被捐獻(xiàn),還用擔(dān)心“人造人”、機(jī)器覺(jué)醒后報(bào)復(fù)人類嗎?

文|腦極體

即使各種鼓勵(lì)政策不斷被使出,很多發(fā)達(dá)國(guó)家的女性,也不大愿意生孩子了。少子化是現(xiàn)代化、工業(yè)化的附贈(zèng)品,這一點(diǎn)無(wú)可回避。

所以很多人都很期待用科技來(lái)造人。埃隆·馬斯克(Elon Musk)等人提出的“人造子宮”方案,克隆人、基因編輯嬰兒等,都是人造人的潛力技術(shù)。

從“自然選擇”到“科技選擇”,這里面有很多問(wèn)題值得討論:

人類如何利用科技造人?人造人和人的關(guān)系是什么?人造人會(huì)帶來(lái)怎樣的后果?這些問(wèn)題,渴望“勞動(dòng)力”的馬斯克們沒(méi)有提到,不過(guò)科幻作品中有大量關(guān)于人造人的描述,能夠?yàn)槲覀兲峁┙梃b。

布克獎(jiǎng)得主石黑一雄的《千萬(wàn)別丟下我》(Never Let Me Go),是以“人造人”為主角的科幻小說(shuō)中被討論最多的作品之一。這本書(shū)曾獲得全世界文學(xué)獎(jiǎng)獎(jiǎng)金最高的「歐洲小說(shuō)獎(jiǎng)」(European Novel Award),被評(píng)論家稱為“生物工程時(shí)代的《一九八四》”,還曾被拍成同名電影搬上屏幕。

故事里,人可以通過(guò)基因克隆技術(shù),被批量生產(chǎn)或個(gè)性化定制,想要多少“勞動(dòng)力”就有多少“勞動(dòng)力”,這樣的世界到底怎么樣呢?我們不妨短暫地拋開(kāi)人類本位視角,來(lái)體驗(yàn)一下克隆人的一生。

無(wú)憂無(wú)慮的人

你是露絲,是一個(gè)女孩,從小生活在一所迷人的英國(guó)寄宿學(xué)?!昂柹?,監(jiān)護(hù)人非常體貼地照顧著你,平時(shí)除了玩耍,就是上上藝術(shù)和文學(xué)方面的課程。這種歲月靜好的日子,在你八歲的時(shí)候,感到了不對(duì)勁。

你和伙伴們?cè)诜蛉说絹?lái)時(shí)“蜂擁而上”,圍繞著她,夫人的表情就像是強(qiáng)忍恐懼,擔(dān)心有人不小心會(huì)碰觸到她,好像你們是一群蜘蛛。

你一直以為她只是比較自大傲慢,第一次透過(guò)這樣一個(gè)人的眼看到自已,你終于明白,你們跟他人真的不同。

除了這一點(diǎn)不快之外,你們的童年是無(wú)憂無(wú)慮的——只要不表現(xiàn)惡劣,不靠近附近的森林。十五歲時(shí)和小男生交往,貼貼抱抱親親,只要不選錯(cuò)時(shí)間地點(diǎn),監(jiān)護(hù)人也不太干涉?!白鹬刈约荷眢w的需求,”埃米莉小姐這么說(shuō)道,“否則以后你們無(wú)法成為優(yōu)秀的捐贈(zèng)人?!?/p>

捐贈(zèng)人,你知道了你在這世間的真正身份——給人類“捐獻(xiàn)”健康器官的人。

從何而來(lái)的人

你成年了,離開(kāi)了海爾森的學(xué)校。有一個(gè)聲音召喚你:將來(lái)在一個(gè)大大的漂亮辦公室里工作。

這個(gè)念頭不知從何而起,直到朋友告訴你,看到了一個(gè)穿著職業(yè)套裝的中年女性。她大約五十歲,身材維持相當(dāng)好,和同事在一間辦公室里談笑。她在辦公室的生活,就是你經(jīng)常描述的理想生活。

“露絲,她一定是你的‘原型’”朋友們這么說(shuō)。

每一個(gè)克隆人都有“原型”,你應(yīng)該會(huì)和原型過(guò)著相同的生活,但當(dāng)你滿懷期待和朋友們一起遠(yuǎn)遠(yuǎn)觀察時(shí),才發(fā)現(xiàn)那個(gè)女人和你并不相像。

你假裝早知如此:“何必欺騙自己呢,我們絕不是依照那種人造出來(lái)的,我們都是拿那些毒蟲(chóng)、妓女、酒鬼、流浪漢之類的人渣作為模型制造出來(lái)的,說(shuō)不定還有罪犯,那才是我們的生命起源。真想找到原型,就要到貧民窟去,看看垃圾桶,看看廁所,那才是我們尋根的正確場(chǎng)所?!?/p>

也許你是對(duì)的,哪個(gè)有著光鮮職業(yè)和社會(huì)地位的人,會(huì)克隆一個(gè)復(fù)制品來(lái)做“捐獻(xiàn)人”呢?

用后即棄的人

你不再尋找原型,因?yàn)榈搅四憔璜I(xiàn)的時(shí)候。

你沒(méi)有嘗試反抗或逃走,作為海爾森的學(xué)生,你早就知道自己的命運(yùn),“當(dāng)我成為捐贈(zèng)人開(kāi)始,就已做好各種準(zhǔn)備,當(dāng)捐贈(zèng)人還滿適合我的。畢竟,我們每個(gè)人本來(lái)就是為了要做器官捐贈(zèng)的,不是嗎?這沒(méi)什么大不了的?!?/p>

不得不說(shuō),你還蠻樂(lè)觀的,卻沒(méi)那么幸運(yùn)。

有的克隆人捐贈(zèng)了四次,狀態(tài)還是好的不得了??赡愕谝淮纹鞴倬栀?zèng)就進(jìn)行得不大順利,做完第二次捐贈(zèng),你已經(jīng)非常虛弱,只能躺在病床上,每當(dāng)疼痛來(lái)襲,就會(huì)不自覺(jué)地扭動(dòng)身體。三天后,你離開(kāi)了。

你緊閉雙眼,仿佛正抱著這個(gè)世界懇求:“別讓我走?!?/p>

克隆人的一生結(jié)束了,你會(huì)如何評(píng)價(jià)自己“快樂(lè)的”童年,“自由的”成長(zhǎng),“奉獻(xiàn)的”一生呢?

科學(xué)選擇的人

《千萬(wàn)別丟下我》寫(xiě)于2005年,在今天看來(lái)是有一些bug的,比如克隆人不能生育、但需要性來(lái)保持健康;科技已經(jīng)發(fā)達(dá)到能夠克隆完整的生命,為什么不單獨(dú)培育克隆器官……

不過(guò),這本書(shū)之所以成為最多解讀的單行本之一,在于其不僅有科幻的一面,可以引申出大量科學(xué)選擇的倫理問(wèn)題,也通過(guò)克隆人的生存境遇,映射了人類的悲劇命運(yùn),有著一定的現(xiàn)實(shí)關(guān)照意義。

無(wú)論是反烏托邦的科幻小說(shuō),還是當(dāng)下現(xiàn)實(shí)中的科技發(fā)展,都會(huì)面臨一個(gè)矛盾——倫理選擇和科學(xué)選擇的沖突。

所謂倫理選擇,指的是人不再是遵循動(dòng)物本能的自然選擇,而是有了羞恥心和善惡觀念,能夠分辨善惡,這種倫理意識(shí)的形成,才是人區(qū)別于獸,人之所以為人的原因。所以正常人在道德上、理性上,是無(wú)法接受那些惡的行為的。

而科技選擇,則是人類通過(guò)科技改造自身,形成一種人機(jī)融合的新人類。遠(yuǎn)一點(diǎn)有克隆人、基因編輯嬰兒,近一點(diǎn)有試管嬰兒、器官移植、變性整容等,這些都是用技術(shù)人為選擇的結(jié)果。

可以發(fā)現(xiàn),對(duì)于使原來(lái)的人發(fā)生變化的“造人技術(shù)”,人的倫理觀念是會(huì)隨著科技認(rèn)知而波動(dòng)的。

技術(shù)成熟,認(rèn)知清晰的時(shí)候,這類“人造人”是被欣然接受,至少不再是被道德譴責(zé)的對(duì)象。

比如隨著現(xiàn)代醫(yī)學(xué)的進(jìn)步,利用成熟的技術(shù)對(duì)自身進(jìn)行完善,或者彌補(bǔ)一些缺憾,被認(rèn)為是理性的選擇,而不是瘋狂的行為。

畢竟做過(guò)心臟搭橋手術(shù),有障人士安裝義肢,利用精子庫(kù)誕生的試管嬰兒,將生理性別轉(zhuǎn)換成心理性別的變性人,以及整容,在今天都非常司空見(jiàn)慣了,不會(huì)有人覺(jué)得這很違背倫理。

但上個(gè)世紀(jì),有科技介入的非純粹的生物人,在世人眼中還是《弗蘭肯斯坦》中的科學(xué)怪人,《浮士德》玻璃器皿中的人造人那樣,讓人恐懼的存在。

不過(guò),如果技術(shù)本身還比較新、概念比較陌生、大眾認(rèn)知不足的時(shí)候,就很容易產(chǎn)生恐懼聯(lián)想,從而引發(fā)更強(qiáng)的道德譴責(zé),更多的倫理約束。

比如每隔幾年,關(guān)于“AI要?dú)缛祟悺钡挠^念就會(huì)流行起來(lái)。此前就有倫理學(xué)家批評(píng)波士頓動(dòng)力“拳打腳踢”訓(xùn)練機(jī)器人的方式過(guò)于殘酷,機(jī)器人早晚會(huì)像《西部世界》中德洛麗絲那樣自我覺(jué)醒并報(bào)復(fù)人類。最新的“毀滅論”來(lái)到了ChatGPT,一些科技從業(yè)者、科學(xué)家都紛紛擔(dān)憂“AI會(huì)成為殺人機(jī)器”。

引發(fā)大眾恐懼和倫理約束的,就是人造人的“意識(shí)覺(jué)醒”。技術(shù)上需要AGI強(qiáng)人工智能的實(shí)現(xiàn),機(jī)器擁有了思維。

很多人在看完《千萬(wàn)別丟下我》之后,會(huì)同情克隆人的遭遇,批判這種人造人捐獻(xiàn)器官的殘酷,還會(huì)擔(dān)憂人類這么對(duì)“人造人”,他們覺(jué)醒了會(huì)不會(huì)殘酷地報(bào)復(fù)人類?所以,作者也在《千萬(wàn)別丟下我》中,將克隆人設(shè)計(jì)成為沒(méi)有自我意識(shí)的生物,一定程度上減少了讀者的恐懼,增加了同情。

那么,以ChatGPT為代表的通用AI浪潮,以機(jī)器學(xué)會(huì)了“人話”,究竟該不該警惕呢?機(jī)器真的要意識(shí)覺(jué)醒了嗎?

首先,機(jī)器覺(jué)醒還不明確。大語(yǔ)言模型讓AI不再是“鸚鵡學(xué)舌”,開(kāi)始具備理解和認(rèn)知能力,可以對(duì)語(yǔ)匯中的“意義”“意向性”等產(chǎn)生解釋能力,這被看作是機(jī)器意識(shí)的突破性進(jìn)展。但目前為止,科學(xué)家和倫理學(xué)家所擔(dān)心的有以下幾點(diǎn):

1.AI從大數(shù)據(jù)中學(xué)到意想不到的東西,這一點(diǎn)在知識(shí)工程、人類反饋的增強(qiáng)學(xué)習(xí)機(jī)制等約束下,還是控制的比較好的。

2.AI會(huì)生成代碼毀滅人類。這個(gè)確實(shí)太看得起技術(shù)進(jìn)步的速度了,目前大語(yǔ)言模型很多,但“智能涌現(xiàn)”還是一門玄學(xué),很少有大模型超越GPT-4的能力,比起防范AI做壞事,更當(dāng)務(wù)之急是防止壞人用AI做壞事。在干壞事上,壞人的危險(xiǎn)比AI“更勝一籌”,防范壞人利用AI做壞事,才是當(dāng)務(wù)之急。

此外,機(jī)器覺(jué)醒了,也不代表“人造人”就能有意識(shí)。

在人工智能之外,“人造人”還涉及到基因科學(xué)、生命工程、量子物理、腦機(jī)接口、腦科學(xué)等多種學(xué)科的前沿突破。二十年技術(shù)真的能得到這么多進(jìn)步嗎?能創(chuàng)造出和真人一模一樣的“碳基身體”嗎?

拋棄“碳基身體”,直接使用工程機(jī)械的“硅基身體”呢?與人類存在明顯生理差異,又有自主的意識(shí)思維,這種新生命還是“人類”嗎?那時(shí),我們要擔(dān)心的可能不是“人造人”,而是一種全新的新生物種群。

在強(qiáng)人工智能到來(lái)之前,“人造人”的覺(jué)醒威脅,似乎都還很遙遠(yuǎn)??茖W(xué)和技術(shù)的發(fā)展,會(huì)讓每一個(gè)現(xiàn)存的肉身人類受益,對(duì)身體和健康帶來(lái)實(shí)質(zhì)的提升。對(duì)新技術(shù)的倫理約束,也會(huì)隨著科學(xué)認(rèn)知的深入,變得越來(lái)越務(wù)實(shí)、合理。

愛(ài)具體的人

那么,這類反烏托邦的科幻作品,總是描繪“人造人”所遭受的殘酷待遇,被毀掉的人生,是不是在“販賣焦慮”呢?

并不。對(duì)現(xiàn)實(shí)的映照和關(guān)懷,或許是文學(xué)作品更大的意義。當(dāng)我們?yōu)榭寺〖夹g(shù)的神奇而驚嘆,為捐獻(xiàn)者的一生而惋惜的時(shí)候,會(huì)不會(huì)聯(lián)想到,我們本身也是捐獻(xiàn)者呢?

人造人作為科技產(chǎn)品,被認(rèn)為是一種資產(chǎn),那么肉身人類是否也存在被物化、被資產(chǎn)化的可能呢?

《用后即棄的人》一書(shū)中,作者格雷德提出,工業(yè)革命之后,“一些人獲得自由,但另一些人變成了廉價(jià)的消耗性商品”。

一方面,科技迅速發(fā)展,人類社會(huì)進(jìn)入了難得的和平增長(zhǎng)期,人口激增,全世界有大量極端貧困的人和弱勢(shì)群體。人口數(shù)量和新興工業(yè)崗位數(shù)量的不平衡,意味著很多人正在變得“多余”。

另一方面,新的世界經(jīng)濟(jì)中,金融資本的流動(dòng)性大大增強(qiáng),金融聯(lián)系延伸到這些欠發(fā)達(dá)地區(qū),讓一些發(fā)展中國(guó)家的人成為了金融的獵物,失去對(duì)生活的控制權(quán),不斷為賺取現(xiàn)金而被奴役。

當(dāng)我們通過(guò)科幻小說(shuō)想象克隆人被剝奪的人生,也是在釋放個(gè)體在現(xiàn)實(shí)中被權(quán)力結(jié)構(gòu)所驅(qū)使的傷痛。

我們都是被科學(xué)選擇的人,擔(dān)憂人類殘酷對(duì)待克隆人等“人造人”,或許更重要、更具體的行動(dòng)是,幫助弱勢(shì)群體更好地控制他們的生活。

就像漢娜阿倫特所說(shuō)的:將關(guān)注點(diǎn)落實(shí)到具體每個(gè)人,而不是抽象的概念,去愛(ài)具體的人。

如果人不再被物化、被捐獻(xiàn),還用擔(dān)心“人造人”、機(jī)器覺(jué)醒后報(bào)復(fù)人類嗎?

本文為轉(zhuǎn)載內(nèi)容,授權(quán)事宜請(qǐng)聯(lián)系原著作權(quán)人。