記者 | 安晶

12月8日，在經(jīng)過一周的馬拉松式談判和激烈爭論后，歐盟委員會、歐洲議會和歐盟成員國代表就《人工智能法案》（AI Act）達成初步協(xié)議，新法案涉及包括ChatGPT在內(nèi)的通用目的AI系統(tǒng)。

這是全球首份針對AI監(jiān)管的全面法規(guī)，意在從保護人類基本權(quán)利和不阻礙人工智能行業(yè)發(fā)展之間尋求平衡。法案的技術(shù)細(xì)節(jié)內(nèi)容還在討論中，最終文本沒有對外公布。

根據(jù)歐洲議會和歐盟委員會公布的信息，法案將AI系統(tǒng)分為低風(fēng)險、高風(fēng)險、不可接受風(fēng)險、特定透明度風(fēng)險等不同等級，按照風(fēng)險級別制定相應(yīng)規(guī)定。

不可接受風(fēng)險等級的AI應(yīng)用將被直接禁止，包括在特定情況下使用生物特征分類系統(tǒng)和人臉識別系統(tǒng)。法案還專門針對通用AI系統(tǒng)（general-purpose AI）設(shè)置規(guī)定，存在系統(tǒng)性威脅的通用AI將接受更嚴(yán)格監(jiān)管。

歐洲議會官網(wǎng)8日的聲明列出了將被禁止的AI應(yīng)用類型，包括：

• 使用敏感特征的生物特征分類系統(tǒng)，敏感特征涉及政治、宗教、哲學(xué)信仰、性取向、種族。
• 網(wǎng)絡(luò)或視頻監(jiān)控進行無目標(biāo)的人臉信息收集以創(chuàng)建人臉識別數(shù)據(jù)庫。
• 工作場所和教育機構(gòu)進行表情識別。
• 根據(jù)社會行為或者個人特征進行社會評分。
• 操縱人類行為、繞開人類自由意志的AI系統(tǒng)。
• 剝削脆弱人群的AI系統(tǒng)。

歐盟委員會解釋，對人類基本權(quán)利構(gòu)成明顯威脅的AI系統(tǒng)屬于不可接受風(fēng)險級別，此類系統(tǒng)將全部禁用。

但在包括人臉識別在內(nèi)的生物識別系統(tǒng)應(yīng)用中，歐盟的AI法案將允許執(zhí)法部門在嚴(yán)格限制條件下，對涉嫌或者已經(jīng)被判決犯下重罪的人員進行非實時遠(yuǎn)程生物識別。

執(zhí)法部門要進行實時生物識別只能在特定情況下，例如尋找受害人、阻止恐怖襲擊威脅、定位識別犯下謀殺等嚴(yán)重罪行的嫌犯。

高風(fēng)險級別為有很大可能傷害人類健康、人身安全、基本權(quán)利或者破壞環(huán)境、民主和法治的AI系統(tǒng)。例如能源領(lǐng)域和醫(yī)療機構(gòu)關(guān)鍵基建使用的AI系統(tǒng)，招聘員工、教育機構(gòu)接收學(xué)員的系統(tǒng)，執(zhí)法部門、邊境管控使用的AI系統(tǒng)。能影響選舉結(jié)果和選民行為的系統(tǒng)也被視為高風(fēng)險。

這類系統(tǒng)在使用時需要符合一系列嚴(yán)格要求，包括設(shè)立風(fēng)險緩釋系統(tǒng)、活動日志記錄、詳細(xì)歸檔、詳細(xì)的使用者信息、人類工作人員監(jiān)督。一旦認(rèn)為自己的權(quán)利受到損壞，公民將有權(quán)對相關(guān)AI系統(tǒng)進行投訴。

低風(fēng)險級別系統(tǒng)則為沒有對公民權(quán)利或者安全構(gòu)成威脅或者威脅很小的AI系統(tǒng)。此類系統(tǒng)可以自由使用，例如垃圾郵件過濾器、推薦系統(tǒng)。

特定透明度風(fēng)險則涉及聊天機器人、深度偽造內(nèi)容。在提供聊天機器人服務(wù)時，提供方需讓用戶知道與自己對話的是機器；深度偽造和其他AI生成的內(nèi)容則應(yīng)該被標(biāo)記說明。提供方在使用表情識別或者生物特征分類系統(tǒng)時應(yīng)該告知用戶。

除此之外，提供方在設(shè)計系統(tǒng)時需要將合成的視頻、音頻、文字和圖像標(biāo)注為機器可讀格式，并且能夠被檢測出是AI生成內(nèi)容。

對于類似ChatGPT的通用AI系統(tǒng)（GPAI）以及相關(guān)的GPAI模型，提供方需要制作技術(shù)文件、遵守歐盟版權(quán)法、披露訓(xùn)練系統(tǒng)時使用的數(shù)據(jù)內(nèi)容匯總。

如果高強度的GPAI模型構(gòu)成系統(tǒng)性風(fēng)險，則還需滿足一系列更嚴(yán)格要求，包括進行模型評估、對抗測試、降低系統(tǒng)性風(fēng)險、發(fā)生嚴(yán)重事故時向歐盟委員會匯報。歐洲議會和歐盟委員會周五公布的說明沒有解釋哪些風(fēng)險屬于系統(tǒng)性風(fēng)險。

在監(jiān)督上，歐盟成員國的市場監(jiān)督部門將負(fù)責(zé)監(jiān)督AI法在各國的執(zhí)行。歐盟委員會則將設(shè)立新的歐洲AI辦公室負(fù)責(zé)成員國間的協(xié)調(diào)，AI辦公室還將負(fù)責(zé)監(jiān)督GPAI模型規(guī)則的執(zhí)行情況。

各企業(yè)和機構(gòu)違反歐盟的AI法將面臨罰款。罰款金額最低為750萬歐元或公司營業(yè)額的1.5%，最高3500萬歐元或公司全球營業(yè)額的7%。

之后，歐盟代表還將對AI法案的部分技術(shù)細(xì)節(jié)進行完善，最終文本或有所調(diào)整。確定法案最終文本后，歐洲議會和歐盟委員會將對法案進行投票。法案全部實施最早預(yù)計需到2025年，彼時AI領(lǐng)域很可能已經(jīng)有了新的發(fā)展。

歐盟科技領(lǐng)域部分人士指責(zé)新的AI法案阻礙行業(yè)發(fā)展、浪費企業(yè)資源?？萍夹袠I(yè)組織“數(shù)字歐洲”總干事博內(nèi)費爾德-達爾（Cecilia Bonefeld-Dahl）認(rèn)為歐盟AI法的嚴(yán)苛要求會讓科技公司為遵守法律而耗費大量資源，還需要花更多錢請律師而不是聘請AI工程師。

但人權(quán)組織不滿歐盟的法案存在諸多漏洞，沒有規(guī)范AI系統(tǒng)在移民和邊境管控上的使用，還為企業(yè)避免系統(tǒng)被定為高風(fēng)險提供了操作空間。

雖然不完美，但歐盟的首個AI法將成為其他國家的重要參考。美國媒體指出，歐盟此前推出的數(shù)字隱私法案、數(shù)據(jù)保護規(guī)定已經(jīng)讓部分美國科技公司調(diào)整了歐盟外的用戶數(shù)據(jù)處理流程。美國也在探索制定自己的AI法。