界面新聞記者 | 劉子象
歐盟的人工智能法案距離生效只差臨門一腳。
當地時間周三，歐洲議會以499票贊成、28票反對的壓倒性結果通過了《人工智能法案》草案，為最終落地生效掃清了一個關鍵障礙。接下來的程序將進入成員國、歐洲議會和歐盟委員會的三方談判。在此過程中，最終文本的法案可能會有一些措辭方面的改變。法案的最終審批預計將在今年年底前通過。
不過，這些規(guī)則距離正式生效還有一段時間。法案最終審批通過后，將會為企業(yè)和組織留出一段寬限適應期，通常為兩年左右。
值得注意的是，為了填補法案正式生效前的這段空白期，歐洲和美國正在聯(lián)合起草一份自愿行為準則。雙方官員在5月底承諾將在“幾周內”起草，并可能擴大到其他“志同道合的國家”。
這是全球首個全面的人工智能規(guī)則法案。該法案在2021年就已著手制定，但是隨著去年底生成式人工智能的快速發(fā)展，制定過程更加緊迫。針對新情況，周三通過的法案做了部分調整。
法案內容
這項法案的框架在2021年首次提出，旨在對任何使用人工智能系統(tǒng)的產品或服務進行管理。根據風險的高低，人工智能系統(tǒng)的使用場景被劃分為四個級別：低風險、有限風險、高風險和不可接受的風險。
對于風險較高的應用程序，如針對兒童的招聘或技術，將面臨更嚴格的要求，包括提高透明度和使用準確的數據等。違反規(guī)則的應用程序可能被要求下架，具體執(zhí)行尺度將取決于歐盟27個成員國自身的判斷。
在最嚴重的情況下，違規(guī)行為可能會被處以最高4000萬歐元的罰款，或公司全球年營業(yè)收入的7%左右。如谷歌和微軟這樣體量的科技巨頭而言，罰款可能高達數十億歐元。
歐盟委員會表示，大多數人工智能系統(tǒng)，如視頻游戲或垃圾郵件過濾器，都屬于低風險或無風險類別。
法案對人工智能的使用場景劃定了禁忌區(qū)，比如利用兒童等弱勢群體，或使用可能導致傷害的潛意識操縱的人工智能，或鼓勵危險行為的互動對話玩具。而對于那些預測性警務工具，比如通過分析數據來預測誰會犯罪，也被禁止。
另外，在周三的投票中，一項允許利用人工智能尋找失蹤兒童，或防止恐怖主義威脅等執(zhí)法例外的修正條款沒有被通過。
對于部分領域，最新的法案收緊了要求。比如，實時遠程生物識別技術在最初的提案中是“高風險”，但在最新投票中被調整為“不可接受的風險”，即人工智能在該領域的應用是被禁止的。
該法案最初的內容并不包括聊天機器人，為了應對近幾個月該領域的最新進展，法案增加了一些條款，比如要求明確標注出聊天機器人，以便用戶知道他們正在與機器進行交互。
另一個重大補充是要求全面記錄用于訓練人工智能系統(tǒng)的人類作品（文本、圖像、視頻和音樂）的任何版權材料。這將讓內容創(chuàng)作者知道自己的作品是否被用于訓練算法，進而決定自己是否被抄襲，并尋求賠償。
而考慮到人工智能在就業(yè)和教育等領域的應用可能會影響個人生活和工作，因此這些應用面臨更嚴格的監(jiān)管要求，比如需要對用戶保持高度透明，并采取措施評估和減少算法產生偏見的風險等。
成為全球標準？
歐盟并不是尖端人工智能發(fā)展領域的重要參與者，這個角色由美國和中國扮演。但是有分析認為，在監(jiān)管的法規(guī)方面，歐盟往往扮演著引領潮流的角色，制定的規(guī)定經常會成為事實上的全球標準。
原因之一在于歐盟是巨大的單一市場，擁有4.5億消費者。對于公司來說，他們不需要為不同地區(qū)開發(fā)不同產品，更容易遵守規(guī)定。
另外，歐洲在監(jiān)管步伐方面也確實走在最前列，已經基本定型的《人工智能法案》是全球首個綜合性的可以強制執(zhí)行的此類法案。對于用戶來說，這相當于一顆“定心丸”，方便公司拓展市場。
愛爾蘭公民自由委員會(ICCL)的技術專家Kris Shrishak說，歐盟的法案是可以強制執(zhí)行的，違規(guī)公司將被追究責任，這一事實“意義重大”，因為美國、英國等其他地方目前只是提供了指導和建議，“其他國家可能想要適應和復制歐盟的規(guī)則”。
而企業(yè)和行業(yè)組織則警告稱，歐洲在監(jiān)管方面需要取得適當的平衡。比如，OpenAI首席執(zhí)行官Sam Altman在支持對人工智能發(fā)展設置一些規(guī)則的同時，也明確表示“現(xiàn)在就對該領域實施嚴格監(jiān)管是一個錯誤”。
科技公司游說團體“計算機和通信行業(yè)協(xié)會”(CCIA) 的政策經理Boniface de Champris指出，歐盟將成為監(jiān)管人工智能的領導者，但它是否會引領人工智能創(chuàng)新仍有待觀察。因為它需要有效地解決風險，同時也要為開發(fā)人員提供足夠的靈活性。
已經脫離歐盟的英國也正在爭奪人工智能領導的領導地位。首相蘇納克計劃在今年秋天主辦一次人工智能安全的全球峰會。他在本周的一次科技會議上表示，英國不僅希望成為人工智能技術發(fā)展的據點，同時也想成為安全監(jiān)管的全球中心。