界面新聞記者 | 劉子象

界面新聞編輯 | 劉海川

人工智能正在改變這個世界，但是我們將被帶往哪個方向令人不安。2024年2月16日，科技界再次被這一技術的新進展攪動。繼推出開啟人工智能技術新浪潮的聊天機器人ChatGPT之后，OpenAI又發(fā)布首個文字生成視頻模型Sora，目前可以基于文本直接輸出60秒的視頻，足以模糊真實和虛構的界限，再次激起全球熱議。

同一天，在德國舉行的慕尼黑安全會議（MSC）上，20家人工智能相關行業(yè)公司簽署自愿協(xié)議，承諾打擊這一新技術生成欺騙性信息擾亂全球選舉。

據聯(lián)合聲明，簽署方包括了這一領域的主要玩家，比如人工智能模型公司OpenAI、Anthropic和谷歌等，以及可能幫助其傳播的社交媒體平臺，比如TikTok 、X，以及Facebook和Instagram的母公司Meta等。

值得注意的是，另一個流行的人工智能圖像生成器公司Midjourney缺席。截至發(fā)稿，這家總部位于舊金山的初創(chuàng)公司沒有立即回應媒體置評請求。

2024年是前所未有的選舉年，40多個國家的40多億人將參加投票。據咨詢公司Anchor Change的數據，今年全球預計將舉行至少83場大選，這是至少未來24年內最大規(guī)模的選舉年。

最近幾周，孟加拉國、巴基斯坦和印度尼西亞等地民眾都參加了投票，美國、俄羅斯、烏克蘭、歐洲議會、印度等地也將陸續(xù)舉行大選。

為了防止人工智能新技術生成的虛假信息被用于政治目的，上述20家公司做出8項具體承諾，這包括：合作開發(fā)相關開源工具，以減少涉及選舉的欺騙性人工智能生成內容；設法檢測此類內容的在線傳播情況；推動教育活動，提高公眾防范意識和媒體素養(yǎng)等，以培養(yǎng)跨行業(yè)抵御此類內容的能力等。

不過，協(xié)議承諾的模糊性和缺乏強制約束力被批評者詬病。

美國“兩黨政策中心”選舉項目高級副主任奧雷 (Rachel Orey) 認為協(xié)議措辭“并不像人們想象中那么強烈”。

非政府組織“公共公民”執(zhí)行副總裁吉爾伯特（Lisa Gilbert）表示協(xié)議力度“還不夠”。她認為為了避免潛在問題，人工智能公司應該在實質性和充分的保障措施到位前，“抑制技術”發(fā)展速度，最新發(fā)布的文生視頻模型令她尤其擔憂。

然而，OpenAI的合作伙伴微軟則認為在技術進步這一議題上，我們面臨的“最基本挑戰(zhàn)不在技術本身，而是人性”。微軟公司總裁布拉德·史密斯在一份聲明中稱，總體上來看，最新協(xié)議的承諾提高了行業(yè)的檢測和響應能力，將使不良行為者更難使用合法工具制造誤導性內容。

前Facebook數據科學家艾倫（Jeff Allen）對美聯(lián)社表示協(xié)議是“積極的一步”，但他仍然希望社交媒體公司采取其他行動來打擊錯誤信息，比如建立不把用戶參與度放在首位的內容推薦系統(tǒng)。

歐盟委員會副主席朱羅娃（(Vera Jourová）在慕尼黑安全會議上指出，雖然這個協(xié)議并不全面，但它包含了“非常有影響力和積極的元素?！彼€敦促政界人士承擔起責任，不要以欺騙性方式使用人工智能工具。

人工智能干預選舉的現(xiàn)象已經出現(xiàn)。

在美國，上個月新罕布什爾州初選中投票期間，有選民稱接收到了模仿美國總統(tǒng)拜登聲音的人工智能機器人電話，勸阻他們不要投票。這引發(fā)了監(jiān)管和法律的抵制，美國一些州立法者正在起草法案來規(guī)范人工智能生成的政治內容。

在歐洲，2023年11月斯洛伐克大選前幾天，人工智能生成的錄音冒充一名候選人，討論提高啤酒價格和操縱選舉的計劃。錄音在社交媒體上傳播后，引起當局核查。

政客也開始嘗試用這項技術與選民溝通。上周巴基斯坦舉行國民議會選舉，該國兩個前總理伊姆蘭·汗以及納瓦茲·謝里夫雙雙宣布勝選。正在監(jiān)獄中的伊姆蘭·汗還使用人工智能制作的“真人講話”視頻宣布勝利消息，引發(fā)外界關注。自入獄以來，伊姆蘭·汗一直用人工智能合成信息與選民溝通。

對于不斷推陳出新的這一新技術進展，OpenAI的最大競爭對手Anthrophic表示，人工智能新技術的應用充滿了驚喜和意想不到的影響，“我們預計2024年人工智能系統(tǒng)將會出現(xiàn)令人驚訝的用途，這些用途將是開發(fā)人員沒有預料到的?！?/p>