文|正解局
“大家好我們又見(jiàn)面了！”
2024年商湯科技年會(huì)上，公司創(chuàng)始人湯曉鷗這句問(wèn)候，令在場(chǎng)所有人淚目又驚喜。
因?yàn)檫@個(gè)“湯曉鷗”并非真正的活人，而是用AI技術(shù)“復(fù)活”的“數(shù)字人”。
2023年年底，湯曉鷗在上海因病搶救無(wú)效去世，讓無(wú)數(shù)熟悉他的人深感惋惜。
如今，“AI湯曉鷗”以如此生動(dòng)的形式重返人間，不僅令人感受到科技進(jìn)步的力量，更引發(fā)一股數(shù)字AI“復(fù)活”親人的熱潮。
其實(shí)，早在“AI湯曉鷗”之前，著名音樂(lè)人包小柏就利用AI技術(shù)復(fù)刻出“數(shù)字女兒”，不僅能用日常的音容和父母對(duì)話，還在她媽媽的生日宴獻(xiàn)上一曲生日歌。
UP主@吳伍六也曾在網(wǎng)上分享了他AI“復(fù)活”奶奶的全過(guò)程，視頻在網(wǎng)絡(luò)引發(fā)巨大反響，不僅讓人們找到緬懷逝者一種新的心靈寄托，也讓很多人看到了商機(jī)。
UP主@吳伍六AI“復(fù)活”奶奶的視頻截圖
通過(guò)數(shù)字AI技術(shù)“復(fù)活”親人，本質(zhì)上是基于逝者生前留下的影像資料，借助神經(jīng)網(wǎng)絡(luò)、深度學(xué)習(xí)等AI算法，搭建出逝者的思維模型。
如今，“AI復(fù)活”的親人技術(shù)，不僅在一定程度上緩解了人們對(duì)親人的思念之情，同時(shí)也成為一條全新的產(chǎn)業(yè)鏈。
清明前夕，這項(xiàng)業(yè)務(wù)更是火爆異常。
在某電商平臺(tái)上搜索“AI復(fù)活”，能看到不少相關(guān)店鋪，但由于這個(gè)行業(yè)尚無(wú)統(tǒng)一的收費(fèi)標(biāo)準(zhǔn)，價(jià)格和服務(wù)質(zhì)量參差不齊。
一般來(lái)說(shuō)，市面上的“AI復(fù)活”產(chǎn)品，根據(jù)成本高低、技術(shù)難度，主要分為三檔。
某寶上展示的AI復(fù)活技術(shù)產(chǎn)品
最低檔價(jià)格只有10元，客戶只需提供一張親人正面照片，準(zhǔn)備50字左右的文字內(nèi)容，半天之內(nèi)即可收到一個(gè)“數(shù)字親人”的短視頻。
說(shuō)白了，這些服務(wù)都是賺“信息差”的錢，商家?guī)缀醵际翘子媚承〢I軟件的“照片說(shuō)話”項(xiàng)目批量作業(yè)。
由于照片質(zhì)量以及各類AI軟件技術(shù)等原因，這種低價(jià)的“親人說(shuō)話”視頻不僅說(shuō)話時(shí)五官變形嚴(yán)重，聲音也極為生硬，實(shí)在“慘不忍睹”。
中檔則是一種價(jià)格在百元左右的“AI換臉”項(xiàng)目。
這項(xiàng)服務(wù)特點(diǎn)就是“投機(jī)取巧”，在客戶提供的照片、視頻等資料基礎(chǔ)上，利用AI換臉技術(shù)，套用真人模特替換被克隆者的形象和聲音后生成，看上去倒也栩栩如生。
只是這種項(xiàng)目很考驗(yàn)技術(shù)，許多商家做出來(lái)的“換臉親人”不僅臉型和動(dòng)作脫節(jié)，表情也極為僵硬，經(jīng)常出現(xiàn)身體在動(dòng)，臉部卻紋絲不動(dòng)的恐怖畫(huà)面。
最貴的，要數(shù)售價(jià)超千元的“數(shù)字人克隆”。
這種項(xiàng)目一般要求客戶提供至少10秒的單人正臉視頻、30秒無(wú)雜質(zhì)的錄音或語(yǔ)音內(nèi)容，等待至少一周時(shí)間。
事實(shí)上，這種項(xiàng)目是借助更為成熟的AI捕捉技術(shù)，通過(guò)模型重塑一個(gè)與真人無(wú)異的“數(shù)字親人”。
無(wú)論形象、聲音還是動(dòng)作表情，均可以假亂真，逼真度可達(dá)95%以上。
如果對(duì)這些項(xiàng)目還不滿意，某些更為專業(yè)的AI網(wǎng)站已經(jīng)宣稱，可提供超萬(wàn)元的“豪華版數(shù)字人”服務(wù)。
數(shù)字克隆人網(wǎng)絡(luò)圖
這種技術(shù)其實(shí)與湯曉鷗和包小柏女兒的數(shù)字復(fù)活項(xiàng)目類似，主打的就是“不僅像，而且還有靈魂”。
事實(shí)上，人類一生產(chǎn)生的數(shù)據(jù)量其實(shí)并不大。
根據(jù)微軟公司的研發(fā)信息顯示，普通人一生可能產(chǎn)生的數(shù)據(jù)，只需約1TB的硬盤(pán)容量就夠了。
這點(diǎn)數(shù)據(jù)處理量對(duì)于如今的AI來(lái)說(shuō)，實(shí)在是“小菜一碟”。
此類項(xiàng)目核心就是盡可能多地采集克隆對(duì)象的一切信息資料，從而讓AI通過(guò)算法分析和模擬出對(duì)方的性格、說(shuō)話口氣、思維習(xí)慣等信息。
請(qǐng)注意，我們提到的是“克隆對(duì)象”啊。
因?yàn)檫@種技術(shù)不只是用來(lái)復(fù)制死者，只要有足夠的數(shù)據(jù)量，復(fù)制活人也沒(méi)任何問(wèn)題。
AI可以定制逝者，也能克隆活人
這就帶來(lái)一個(gè)新的問(wèn)題：AI復(fù)制出的“數(shù)字人”，相關(guān)的信息如何保護(hù)？
其實(shí)，大部分客戶在網(wǎng)上定制“數(shù)字親人”時(shí)，未必會(huì)注意到商家會(huì)在相關(guān)視頻下標(biāo)注“不做人臉識(shí)別，只做親人懷念”的提醒語(yǔ)。
很多商家雖然接單時(shí)都會(huì)承諾“所有數(shù)據(jù)是嚴(yán)格保密的，不會(huì)用于不法途徑或者網(wǎng)上進(jìn)行二次傳播”。
可這對(duì)于客戶來(lái)說(shuō)，只是一種心理安慰。
畢竟，網(wǎng)上商家不僅AI技術(shù)水平良莠不齊，也不乏心懷叵測(cè)之徒。
想想看，網(wǎng)上定制“AI親人”，雖然是線上發(fā)貨，可后臺(tái)是可以看到客戶詳細(xì)電話和地址等信息的。
雖然大部分客戶定制是為了緬懷逝去的親人，可也有不少人是為了好玩去定制自己寶寶和其他家人的搞怪或祝福內(nèi)容。
而且，為了更為逼真的效果，就需要盡可能多地提供相關(guān)的對(duì)話、視頻和照片，甚至還可能在溝通時(shí)，說(shuō)出更多家庭或個(gè)人隱私，從而帶來(lái)不必要的風(fēng)險(xiǎn)。
雖然不能說(shuō)從事“AI復(fù)活”的商家都會(huì)將資料拿去作不法用途，可想想這些年我們不知何時(shí)被泄露的家庭地址、電話信息，這些更為具體的視頻與身份信息很難說(shuō)不會(huì)被盜用。
任何時(shí)候，越高級(jí)的技術(shù)往往越是一把“雙刃劍”，既可能給人們帶來(lái)便利，也可能淪為犯罪分子使用的“新道具”。
自從生成式AI爆火，基于“AI換臉”的詐騙案件在過(guò)去一年層出不窮，有人甚至在短短10分鐘內(nèi)就被騙數(shù)百萬(wàn)元。
2023年5月，包頭警方發(fā)布一起使用智能AI技術(shù)進(jìn)行電信詐騙的案件，福州市某科技公司的郭先生10分鐘內(nèi)被騙430萬(wàn)元。
這位人在包頭的“好友”通過(guò)微信視頻聯(lián)系郭先生，因外地投標(biāo)需要對(duì)公賬戶過(guò)賬，所以想要借用郭先生公司的賬戶走賬。
基于對(duì)“好友”的信任，加上已經(jīng)視頻聊天核實(shí)了身份，郭先生沒(méi)有核實(shí)錢款是否到賬，就分兩筆把430萬(wàn)轉(zhuǎn)到了“好友”的銀行卡上。
事后，郭先生才發(fā)現(xiàn)被騙。
對(duì)方通過(guò)“AI換臉”技術(shù)，佯裝成好友對(duì)其進(jìn)行了詐騙。
郭先生事后懊惱地說(shuō)：“他當(dāng)時(shí)是給我打了視頻電話的，我在視頻中也確認(rèn)了面孔和聲音，所以才放松了戒備?！?/p>
網(wǎng)上出現(xiàn)的利用AI換臉技術(shù)的新騙局
雖然包頭和福州警方接警后立即行動(dòng)，成功追回三百多萬(wàn)元，但還有近百萬(wàn)資金無(wú)法追回。
這還算是簡(jiǎn)單版的“AI換臉”騙局，更高級(jí)的詐騙能直接通過(guò)人工智能深偽（Deep Fake）技術(shù)詐騙上億港元。
今年2月，香港警方就曾公布過(guò)一起案件：某跨國(guó)公司香港分行的財(cái)務(wù)，收到假冒該公司英國(guó)總部首席財(cái)務(wù)官的信息，邀請(qǐng)對(duì)方參與一個(gè)多人視頻會(huì)議。
起初，這位財(cái)務(wù)對(duì)自己突然參加這么高級(jí)別的會(huì)議有些懷疑，可由于參與視頻會(huì)議的成員容貌“與真實(shí)人士一樣”，財(cái)務(wù)還是放松了警惕。
最終，他按照“總部領(lǐng)導(dǎo)”指示分15次匯款2億港幣（約1.84億元人民幣），轉(zhuǎn)賬至5個(gè)本地戶口。
當(dāng)報(bào)案人最終向總公司查詢之后，才發(fā)現(xiàn)被騙。
據(jù)香港媒體報(bào)道，詐騙分子是利用了人工智能的深度偽造技術(shù)，從國(guó)外視聽(tīng)網(wǎng)站YouTube上下載視頻，通過(guò)更為先進(jìn)的Deepfake（深度偽造）技術(shù)模仿了相關(guān)人士的視頻人像和聲音，制造多人參與視頻會(huì)議的假象。
事實(shí)上，整個(gè)會(huì)場(chǎng)其實(shí)只有這位香港財(cái)務(wù)是“真人”，其余都是“數(shù)字人“。
為了不露破綻，視頻會(huì)議期間，對(duì)方采取了“直接下達(dá)命令”的方式，絲毫不給財(cái)務(wù)反應(yīng)的時(shí)間。
這起案件涉及金額達(dá)2億港元的詐騙案，不僅是香港歷史上損失最慘重的“換臉”案例，也是國(guó)內(nèi)目前涉及“AI換臉”案件被騙金額最高的案件。
香港警方除了同樣提醒市民做好信息防范，還提醒一旦遇到此類可疑視頻內(nèi)容，可要求對(duì)方在鏡頭前作出指定動(dòng)作，或在會(huì)議期間不斷向?qū)Ψ教釂?wèn)來(lái)辨別真?zhèn)巍?/p>
除了AI技術(shù)可能帶來(lái)的騙局，AI涉足人類的生死之事，依然極具挑戰(zhàn)。
日本電影《入殮師》中有一句臺(tái)詞：死可能是一道門，逝去并不是終結(jié)，而是超越。
電影《入殮師》劇照
可面對(duì)親人的離世，我們大部分人都無(wú)法真正能有如此超脫的意識(shí)。
通過(guò)AI技術(shù)“復(fù)活”親人，或許能滿足親友的不舍之情，但是也帶來(lái)新的倫理挑戰(zhàn)：AI“復(fù)活”的“人”是否能真正代表死者本人？
“即便模仿得再像，她也不愛(ài)我?！币晃焕肁I“復(fù)活”妻子的丈夫在網(wǎng)上悲切地說(shuō)。
事實(shí)上，基于目前的技術(shù)條件，即便是價(jià)格不菲添加了所謂前世記憶的“數(shù)字親人”，與我們想象中具有細(xì)膩情感要素的活人還是相差甚遠(yuǎn)，更無(wú)法真正替代已經(jīng)離開(kāi)這個(gè)世界的他（她）。
更值得關(guān)注的，是“AI復(fù)活”技術(shù)背后暴露出的法律和倫理問(wèn)題。
要知道，技術(shù)是可以被任何人掌握的。
因此，理論上，任何離開(kāi)這個(gè)世界的人，都有可能被人以不同方式“復(fù)活”。
但是，這種“復(fù)活”是不是都能被其親人接受呢？
答案是否定的。
之前，許多視頻博主未經(jīng)李玟家屬同意，利用AI技術(shù)“復(fù)活”李玟，擅自利用李玟肖像制作、發(fā)布“AI復(fù)活李玟”系列短視頻，以溫情之名非法牟利，備受爭(zhēng)議。
這樣的情況在很多已經(jīng)離世的明星和名人身上都曾出現(xiàn)過(guò)，也毫無(wú)例外被其家屬抗議和反對(duì)。
今年3月28日，李玟母親委托律師對(duì)此發(fā)表聲明，指出“AI復(fù)活李玟”系列內(nèi)容已經(jīng)給李玟母親及其家人帶來(lái)巨大心理沖擊和二次傷害，警告涉嫌侵權(quán)責(zé)任人7日內(nèi)下架、刪除含有上述侵權(quán)內(nèi)容的相關(guān)圖片、視頻及文章。
李玟母親委托律師發(fā)布的律師函
事實(shí)上，根據(jù)《中華人民共和國(guó)民法典》等相關(guān)法律規(guī)定，死者的姓名、肖像、名譽(yù)、榮譽(yù)、隱私、遺體等受到侵害的，其配偶、子女、父母有權(quán)依法請(qǐng)求行為人承擔(dān)民事責(zé)任。
因此，不要以為誰(shuí)離開(kāi)人世，就能隨意通過(guò)“AI復(fù)活”來(lái)博取關(guān)注和流量。
這類未經(jīng)死者家屬授權(quán)的行為，同樣會(huì)受到法律的嚴(yán)懲。
客觀上說(shuō)，無(wú)論是從倫理還是法律角度，當(dāng)一個(gè)人離開(kāi)了這個(gè)世界，并不代表他（她）在這個(gè)世界就可以被肆意描繪。
作為一種提供情緒價(jià)值的新式手段，“AI復(fù)活親人”確實(shí)有一定市場(chǎng)和需求，但也必須看到，這種技術(shù)一旦被濫用，甚至淪為嘩眾取寵的工具，不僅會(huì)給死者家庭帶來(lái)二次傷害，更是對(duì)死者最大的不公和侮辱。
為此，2023年歐盟出臺(tái)了《人工智能法案》，將AI技術(shù)劃分為“不可接受”、“高風(fēng)險(xiǎn)”、“中風(fēng)險(xiǎn)”和“低風(fēng)險(xiǎn)”四個(gè)管控等級(jí)。
2023年7月10日，中國(guó)也起草了《生成式人工智能服務(wù)管理辦法》，不僅再次強(qiáng)調(diào)了保護(hù)個(gè)人隱私的重要性，也強(qiáng)調(diào)了不得含有違法和有違公序良俗的內(nèi)容。
顯然，國(guó)內(nèi)外都已經(jīng)意識(shí)到，“AI復(fù)活”會(huì)帶來(lái)隱私、倫理等方面的社會(huì)隱患，必須及時(shí)進(jìn)行防范。
不過(guò)，法律終歸是道德的最低要求，AI技術(shù)異乎尋常的生長(zhǎng)速度，必然會(huì)帶來(lái)許多令人意想不到的倫理考驗(yàn)，監(jiān)管依然面臨各種難題。
在法律和倫理的交匯點(diǎn)上，我們需要更加謹(jǐn)慎地平衡技術(shù)發(fā)展與人類情感之間的關(guān)系，確保每一次“復(fù)活”都是對(duì)生命的尊重和對(duì)記憶的珍視。
只有這樣，“AI復(fù)活親人”才能真正成為人類情感世界中的一份寶貴財(cái)富，而不是一種對(duì)過(guò)去的侵犯。
同時(shí)，我們也希望更多的人可以坦然面對(duì)親人的離世，將這份思念深埋心底。
如同我們熟悉的那段話：面對(duì)告別最好的態(tài)度，就是好好告別。