歐盟委員會(European Commission)于2021年4月21日提出了人工智能(AI)法規(guī)，旨在將歐洲變打造值得信賴的人工智能(AI)的全球中心。歐盟有史以來第一個人工智能的法律框架與歐盟成員國的協(xié)調(diào)計劃相結(jié)合，將保證人們和企業(yè)的安全和基本權(quán)利，同時加強歐盟對人工智能的吸收、投資和創(chuàng)新。新法規(guī)將調(diào)整安全規(guī)范，以增加使用者對新一代多功能產(chǎn)品的信任。

[[395459]]

新的人工智能法規(guī)將確保歐洲人民可以信任人工智能產(chǎn)品。相稱和靈活的規(guī)則旨在解決人工智能系統(tǒng)帶來的具體風(fēng)險，并在全球范圍內(nèi)設(shè)定最高標(biāo)準(zhǔn)。協(xié)調(diào)計劃(The Coordinated Plan)概述了歐盟成員國必要的政策改變和投資，以加強歐洲在發(fā)展以人為本、永續(xù)、安全、包容和值得信賴的人工智能方面的領(lǐng)先地位。

新的法規(guī)基于人工智能發(fā)展趨勢，依據(jù)風(fēng)險高低分類，將適用于所有歐盟成員國。

不可接受的風(fēng)險(Unacceptable risk)：被認(rèn)為對人們的安全、生計和權(quán)利有明顯威脅的人工智能系統(tǒng)將被禁止。這包括操縱人類行為以規(guī)避用戶自由意志的人工智能系統(tǒng)或應(yīng)用(例如，使用語音輔助的玩具，鼓勵未成年人的危險行為)和允許政府進行「社會評分(social scoring)」的系統(tǒng)。

高風(fēng)險(High-risk)：被認(rèn)定為高風(fēng)險的人工智能系統(tǒng)涉及到以下用途：

• 重要基礎(chǔ)設(shè)施(如交通)，可能使人民的生命和健康受到威脅;
• 教育或職業(yè)培訓(xùn)，可能決定某人的受教育機會(如考試評分);
• 產(chǎn)品的安全零件(如AI在機器人輔助手術(shù)中的應(yīng)用);
• 就業(yè)、員工管理和自雇管道(如征才使用的履歷分類軟件);
• 基本的私人和公共服務(wù)(如信用評分剝奪了公民取得貸款的機會);
• 可能干涉人們基本權(quán)利的執(zhí)法(如評斷證據(jù)可靠性的系統(tǒng));
• 移民、庇護和邊境控制管理(如核實旅行文件真實性的系統(tǒng));
• 利用AI于司法和民主程序。

高風(fēng)險的人工智能系統(tǒng)上市前，將受到嚴(yán)格的管控約束：

• 充分的風(fēng)險評估和緩解系統(tǒng);
• 為系統(tǒng)提供高質(zhì)量的數(shù)據(jù)集，以盡量減少風(fēng)險和歧視性的結(jié)果;
• 對活動進行記錄，以確?？勺匪萁Y(jié)果;
• 提供關(guān)于系統(tǒng)及其目的的所有必要信息，以便監(jiān)管單位評估其合規(guī)性;
• 向用戶提供充分且清晰的信息;
• 適當(dāng)?shù)娜肆ΡO(jiān)督措施，以最大限度地減少風(fēng)險;
• 高度的穩(wěn)健性、安全性和準(zhǔn)確性。

特別是：

• 所有遠程生物辨識(remote biometric identification)系統(tǒng)都被視為高風(fēng)險的人工智能系統(tǒng)。
• 原則上禁止在公共場所為執(zhí)法目的使用，狹義的例外情況有嚴(yán)格的定義和規(guī)定(例如，在尋找失蹤兒童、防止具體和緊迫的恐怖主義威脅或偵查、定位、識別或起訴嚴(yán)重刑事犯罪的肇事者或嫌疑人的需要)。
• 使用上必須取得司法或其他獨立機構(gòu)的授權(quán)，并在時間、地理范圍和搜索的數(shù)據(jù)庫方面有適當(dāng)?shù)南拗啤?/li>

有限的風(fēng)險(Limited risk)：即具有透明公開義務(wù)的人工智能系統(tǒng)。在使用人工智能系統(tǒng)(如聊天機器人)時，使用者應(yīng)該能意識到正在與機器互動，進而做出明智的決定。

最小的風(fēng)險(Minimal risk)：法規(guī)允許自由使用人工智能的電子游戲或垃圾郵件過濾器等應(yīng)用，絕大多數(shù)的人工智能系統(tǒng)都屬于這個類別，對此不作干預(yù)，因為這些系統(tǒng)對公民的權(quán)利或安全只構(gòu)成最小或沒有風(fēng)險。

在監(jiān)管方面，歐盟委員會建議各國市場監(jiān)督主管部門配合新的法規(guī)，并將設(shè)立歐洲人工智能委員會(European Artificial Intelligence Board)促進其實施，推動人工智能標(biāo)準(zhǔn)的發(fā)展。此外，還提議為非高風(fēng)險的人工智能系統(tǒng)制定自發(fā)性的行為準(zhǔn)則，建立監(jiān)管沙盒(regulatory sandbox)以促進創(chuàng)新。

《歐盟AI協(xié)調(diào)計劃〈Coordinated Plan on AI〉》

《歐盟AI協(xié)調(diào)計劃》首次發(fā)布于2018年，確定發(fā)展人工智能的行動和工具，使國家策略和歐盟公私合作關(guān)系和研究與創(chuàng)新網(wǎng)絡(luò)形成了充滿活力的局面。協(xié)調(diào)計劃的全面更新提出了具體的合作行動，并確保與歐洲人工智能策略(European Strategy on AI)和歐洲綠色新約(European Green Deal)步調(diào)一致，同時考慮到COVID-19帶來的新挑戰(zhàn)。協(xié)調(diào)計劃提出了一個加快人工智能投資的愿景，推動疫后復(fù)蘇，刺激各國人工智能發(fā)展策略，消除碎片化，應(yīng)對全球挑戰(zhàn)。

協(xié)調(diào)計劃將透過數(shù)字歐洲(Digital Europe)和展望歐洲(Horizon Europe)計劃，以及歐盟復(fù)蘇基金20%數(shù)字支出目標(biāo)和歐盟凝聚政策(Cohesion Policy)分配的資金來進行：

• 通過交流政策見解、數(shù)據(jù)共享和對關(guān)鍵計算能力的投資，為人工智能的發(fā)展創(chuàng)造有利環(huán)境;
• 透過公私協(xié)力伙伴關(guān)系(PPP)，建立研究、開發(fā)和創(chuàng)新能力，并向中小企業(yè)和公共管理部門提供測試和實驗設(shè)施以及數(shù)字創(chuàng)新中心，促進人工智能的商業(yè)化。
• 支持?jǐn)?shù)字領(lǐng)域的培訓(xùn)計劃、博士生網(wǎng)絡(luò)和博士后獎學(xué)金來培養(yǎng)人才和技能，在全球范圍內(nèi)促進歐洲人工智能愿景，確保人工智能為人們服務(wù)，成為社會的一股力量;
• 在高影響力的部門和技術(shù)中建立策略領(lǐng)導(dǎo)地位，包括人工智能對永續(xù)環(huán)境的貢獻、擴大跨境信息交流來推動智能醫(yī)療系統(tǒng)，以及人工智能在公共部門、交通、農(nóng)業(yè)，以及機器人技術(shù)的應(yīng)用。
• 《機械條例〈Machinery Regulation〉》：涵蓋了廣泛的消費者和專業(yè)產(chǎn)品，從機器人到割草機、3D打印機、建筑機械、工業(yè)生產(chǎn)線。確保新一代的機械保使用者和消費者的安全，并鼓勵創(chuàng)新。雖然人工智能法規(guī)將解決人工智能系統(tǒng)的安全風(fēng)險，但新的機械條例將確保人工智能系統(tǒng)與整個機械的安全整合。企業(yè)將只需要執(zhí)行一個單一的合格評估。

此外，新的機械條例將使現(xiàn)行規(guī)定更加明確，透過允許文件的數(shù)字格式和調(diào)整中小企業(yè)的合格評估費用，簡化企業(yè)的行政負(fù)擔(dān)和成本，同時確保與歐盟產(chǎn)品立法框架的一致性。

歐洲議會(European Parliament)和歐盟成員國將需要在普通立法程序中通過歐盟委員會對于人工智能系統(tǒng)和機械的建議。一旦通過，這些條例將直接適用于整個歐盟。同時，歐盟委員會將繼續(xù)與成員國合作，推動實施協(xié)調(diào)計劃。

背景：

多年來，歐盟委員會一直在促進和加強整個歐盟在人工智能方面的合作，以提高競爭力并確?；跉W盟價值觀的信任。

在2018年發(fā)布歐洲人工智能策略(European Strategy on AI)后，經(jīng)過廣泛的協(xié)商討論，人工智能高階專家小組(High-Level Expert Group on Artificial Intelligence)在2019年制定了可信賴人工智能準(zhǔn)則(Guidelines for Trustworthy AI)，并在2020年制定了可信賴人工智能評估列表(Assessment List for Trustworthy AI)。同時，2018年12月發(fā)布了第一個的人工智能協(xié)調(diào)計劃，作為與成員國的聯(lián)合承諾。

委員會在2020年發(fā)布的人工智能白皮書(White Paper on AI)為歐洲的人工智能提出了一個清晰的愿景：一個卓越和信任的生態(tài)系統(tǒng)，為AI法規(guī)提案奠定基礎(chǔ)。關(guān)于人工智能白皮書的公眾咨詢引起了世界各地的廣泛參與。白皮書中的關(guān)于人工智能、物聯(lián)網(wǎng)和機器人的安全和責(zé)任影響的報告，提到產(chǎn)品安全立法仍不夠完整。

歐擬推AI法規(guī) 業(yè)界反彈聲浪

對于歐盟提出全新法案管制人工智能(AI)的應(yīng)用方法，如果立法過關(guān)將成為全球第一套管制AI的法規(guī)，但企業(yè)擔(dān)心新法增加AI使用成本，限制或打壓歐盟科技創(chuàng)新。

歐盟最新法案將AI應(yīng)用方法依風(fēng)險高低分類，其中高風(fēng)險AI應(yīng)用涵蓋重大基礎(chǔ)建設(shè)、大學(xué)入學(xué)篩選系統(tǒng)及銀行貸款審查系統(tǒng)等。根據(jù)新法，這類高風(fēng)險AI應(yīng)用將受到歐盟嚴(yán)格監(jiān)管，違法企業(yè)最高面臨全球年營收6%的罰款。

除了加強監(jiān)管之外，新法更將禁止特定AI應(yīng)用，例如公共運輸系統(tǒng)、公共場所、商店使用臉部辨識偵測、警察追查犯人的遠程生物辨識系統(tǒng)，或是能夠讀取潛意識的AI技術(shù)。新法規(guī)規(guī)定，在使用前，必須先向主管機關(guān)提出法規(guī)遵從報告，詳述臉部辨識系統(tǒng)如何取得數(shù)據(jù)。

對于AI新法被批評過于攏統(tǒng)不明，實際該如何實施仍有待觀察。法律界人士認(rèn)為，法規(guī)例外情況實在太多，反而失去AI規(guī)范保護及禁止的意義。