5月21日，歐盟理事會正式批準歐盟《人工智能法案》，標志著全球首部用于人工智能領域監(jiān)管的法案即將落地生效。該法案不僅適用于所有位于歐盟境內(nèi)的人工智能使用者，還包括位于歐盟以外的人工智能系統(tǒng)軟硬件設備的供應商等，具有廣泛的域外適用效力，對歐盟和其地區(qū)將產(chǎn)生重要影響。
推動開發(fā)可信賴人工智能
歐盟《人工智能法案》于2021年4月由歐盟委員會內(nèi)部成員遞交提案，2023年6月以來，歐盟內(nèi)部經(jīng)過多輪會談達成臨時協(xié)議。2024年3月13日，歐洲議會以523票贊成、46票反對和49票棄權的結果，表決通過該法案。5月21日，歐盟理事會正式批準該法案。該法案將在歐盟官方公報公布20天后生效，2年后全面實施。
歐盟《人工智能法案》的立法目的，在于保障歐盟公民的基本權利，激勵歐洲人工智能的投資與創(chuàng)新，推動開發(fā)使用安全且值得信賴的人工智能。當前，在以ChatGPT為代表的人工智能技術迅猛發(fā)展和廣泛應用的背景下，監(jiān)管人工智能的必要性日益凸顯。人工智能技術創(chuàng)作過程具有不可解釋性，輸出結果存在極大不確定性和不穩(wěn)定性，也很難對系統(tǒng)安全性作出有效評估。未經(jīng)監(jiān)管的人工智能系統(tǒng)可能帶來濫用風險，以及個人隱私泄露、算法歧視等問題。因此，歐盟出于自身發(fā)展、安全及爭奪國際治理話語權等多重需要，率先制定出臺人工智能法案，為全球人工智能行業(yè)監(jiān)管治理提供了樣本。
歐盟《人工智能法案》的創(chuàng)新之處在于提出了人工智能風險等級分類方法。該法案基于人工智能系統(tǒng)對用戶和社會的潛在影響程度，將風險分為不可接受風險類、高風險類、有限風險類和最小風險類，風險等級越高，相應管控越嚴格。其中，不可接受風險類主要包括任何試圖操縱人類行為、利用人性弱點或支持政府社會評分的人工智能系統(tǒng)，例如為唆使犯罪而操縱人的潛意識等，這些人工智能系統(tǒng)將被嚴格禁止開發(fā)和使用。高風險類主要是被認為對健康、安全、基本權利和法治構成重大威脅的人工智能系統(tǒng)，它們必須遵守更嚴格的要求。有限風險類主要是不會構成任何嚴重威脅的人工智能系統(tǒng)，與其相關的風險主要是缺乏透明度，需要根據(jù)法案要求履行相應公開義務。最小風險類主要包括人工智能電子游戲或垃圾郵件過濾器等應用，法案允許自由使用最小風險類的人工智能系統(tǒng)。
另外，該法案還規(guī)定了通用人工智能模型投放市場的統(tǒng)一規(guī)則，以及關于市場監(jiān)測、市場監(jiān)督治理和執(zhí)法規(guī)則，提出對于包括初創(chuàng)企業(yè)在內(nèi)的中小企業(yè)的支持創(chuàng)新措施。
規(guī)范使用面臨爭議
總體來看，歐盟《人工智能法案》通過規(guī)范和監(jiān)管人工智能系統(tǒng)的使用，意在減少濫用和其他潛在風險，確保人工智能技術發(fā)展符合社會整體利益。該法案在規(guī)范人工智能監(jiān)管的同時，鼓勵相關技術的創(chuàng)新與發(fā)展，對于保持歐洲在人工智能領域的競爭力至關重要。該法案同樣注重個人數(shù)據(jù)隱私和權利的保護，通過對數(shù)據(jù)收集、處理和使用的規(guī)范，確保人工智能系統(tǒng)不會侵犯公民個人權利，保護個人隱私。
歐盟《人工智能法案》也面臨著一些爭議，該法案假定可以識別出具有不可接受或高風險水平的人工智能系統(tǒng)類別，風險類別由歐盟委員會直接定義，并在法律中予以明確。人工智能系統(tǒng)由于具有無固定任務性、適應性、敏捷性等特點，其危害驅動因素可能是純技術性的，也可能是社會性的，還可能是人機交互造成的。該法案缺乏可供審查的風險分類標準，執(zhí)行中可能會陷入過度監(jiān)管或過度包容的困境。如何在確保監(jiān)管有效性的同時，避免對創(chuàng)新和發(fā)展造成不利影響，是值得深入思考的問題。（張清亮）