記者 | 安晶
12月8日，在經(jīng)過一周的馬拉松式談判和激烈爭論后，歐盟委員會、歐洲議會和歐盟成員國代表就《人工智能法案》（AI Act）達成初步協(xié)議，新法案涉及包括ChatGPT在內(nèi)的通用目的AI系統(tǒng)。
這是全球首份針對AI監(jiān)管的全面法規(guī)，意在從保護人類基本權利和不阻礙人工智能行業(yè)發(fā)展之間尋求平衡。法案的技術細節(jié)內(nèi)容還在討論中，最終文本沒有對外公布。
根據(jù)歐洲議會和歐盟委員會公布的信息，法案將AI系統(tǒng)分為低風險、高風險、不可接受風險、特定透明度風險等不同等級，按照風險級別制定相應規(guī)定。
不可接受風險等級的AI應用將被直接禁止，包括在特定情況下使用生物特征分類系統(tǒng)和人臉識別系統(tǒng)。法案還專門針對通用AI系統(tǒng)（general-purpose AI）設置規(guī)定，存在系統(tǒng)性威脅的通用AI將接受更嚴格監(jiān)管。
歐洲議會官網(wǎng)8日的聲明列出了將被禁止的AI應用類型，包括：
- 使用敏感特征的生物特征分類系統(tǒng)，敏感特征涉及政治、宗教、哲學信仰、性取向、種族。
- 網(wǎng)絡或視頻監(jiān)控進行無目標的人臉信息收集以創(chuàng)建人臉識別數(shù)據(jù)庫。
- 工作場所和教育機構進行表情識別。
- 根據(jù)社會行為或者個人特征進行社會評分。
- 操縱人類行為、繞開人類自由意志的AI系統(tǒng)。
- 剝削脆弱人群的AI系統(tǒng)。
歐盟委員會解釋，對人類基本權利構成明顯威脅的AI系統(tǒng)屬于不可接受風險級別，此類系統(tǒng)將全部禁用。
但在包括人臉識別在內(nèi)的生物識別系統(tǒng)應用中，歐盟的AI法案將允許執(zhí)法部門在嚴格限制條件下，對涉嫌或者已經(jīng)被判決犯下重罪的人員進行非實時遠程生物識別。
執(zhí)法部門要進行實時生物識別只能在特定情況下，例如尋找受害人、阻止恐怖襲擊威脅、定位識別犯下謀殺等嚴重罪行的嫌犯。
高風險級別為有很大可能傷害人類健康、人身安全、基本權利或者破壞環(huán)境、民主和法治的AI系統(tǒng)。例如能源領域和醫(yī)療機構關鍵基建使用的AI系統(tǒng)，招聘員工、教育機構接收學員的系統(tǒng)，執(zhí)法部門、邊境管控使用的AI系統(tǒng)。能影響選舉結果和選民行為的系統(tǒng)也被視為高風險。
這類系統(tǒng)在使用時需要符合一系列嚴格要求，包括設立風險緩釋系統(tǒng)、活動日志記錄、詳細歸檔、詳細的使用者信息、人類工作人員監(jiān)督。一旦認為自己的權利受到損壞，公民將有權對相關AI系統(tǒng)進行投訴。
低風險級別系統(tǒng)則為沒有對公民權利或者安全構成威脅或者威脅很小的AI系統(tǒng)。此類系統(tǒng)可以自由使用，例如垃圾郵件過濾器、推薦系統(tǒng)。
特定透明度風險則涉及聊天機器人、深度偽造內(nèi)容。在提供聊天機器人服務時，提供方需讓用戶知道與自己對話的是機器；深度偽造和其他AI生成的內(nèi)容則應該被標記說明。提供方在使用表情識別或者生物特征分類系統(tǒng)時應該告知用戶。
除此之外，提供方在設計系統(tǒng)時需要將合成的視頻、音頻、文字和圖像標注為機器可讀格式，并且能夠被檢測出是AI生成內(nèi)容。
對于類似ChatGPT的通用AI系統(tǒng)（GPAI）以及相關的GPAI模型，提供方需要制作技術文件、遵守歐盟版權法、披露訓練系統(tǒng)時使用的數(shù)據(jù)內(nèi)容匯總。
如果高強度的GPAI模型構成系統(tǒng)性風險，則還需滿足一系列更嚴格要求，包括進行模型評估、對抗測試、降低系統(tǒng)性風險、發(fā)生嚴重事故時向歐盟委員會匯報。歐洲議會和歐盟委員會周五公布的說明沒有解釋哪些風險屬于系統(tǒng)性風險。
在監(jiān)督上，歐盟成員國的市場監(jiān)督部門將負責監(jiān)督AI法在各國的執(zhí)行。歐盟委員會則將設立新的歐洲AI辦公室負責成員國間的協(xié)調(diào)，AI辦公室還將負責監(jiān)督GPAI模型規(guī)則的執(zhí)行情況。
各企業(yè)和機構違反歐盟的AI法將面臨罰款。罰款金額最低為750萬歐元或公司營業(yè)額的1.5%，最高3500萬歐元或公司全球營業(yè)額的7%。
之后，歐盟代表還將對AI法案的部分技術細節(jié)進行完善，最終文本或有所調(diào)整。確定法案最終文本后，歐洲議會和歐盟委員會將對法案進行投票。法案全部實施最早預計需到2025年，彼時AI領域很可能已經(jīng)有了新的發(fā)展。
歐盟科技領域部分人士指責新的AI法案阻礙行業(yè)發(fā)展、浪費企業(yè)資源?？萍夹袠I(yè)組織“數(shù)字歐洲”總干事博內(nèi)費爾德-達爾（Cecilia Bonefeld-Dahl）認為歐盟AI法的嚴苛要求會讓科技公司為遵守法律而耗費大量資源，還需要花更多錢請律師而不是聘請AI工程師。
但人權組織不滿歐盟的法案存在諸多漏洞，沒有規(guī)范AI系統(tǒng)在移民和邊境管控上的使用，還為企業(yè)避免系統(tǒng)被定為高風險提供了操作空間。
雖然不完美，但歐盟的首個AI法將成為其他國家的重要參考。美國媒體指出，歐盟此前推出的數(shù)字隱私法案、數(shù)據(jù)保護規(guī)定已經(jīng)讓部分美國科技公司調(diào)整了歐盟外的用戶數(shù)據(jù)處理流程。美國也在探索制定自己的AI法。