人工智能法案旨在為人工智能的使用創(chuàng)建一個共同的監(jiān)管和法律框架，包括它是如何開發(fā)的，公司可以使用它做什么，以及不遵守要求的法律后果。該法案可能會要求公司采用人工智能前，在某些情況下需要獲得批準(zhǔn)；并將某些被認(rèn)為風(fēng)險太大的人工智能用途定為非法，并創(chuàng)建一個其他高風(fēng)險人工智能用途的公開清單。

歐盟委員會(European Commission)在一份有關(guān)該法律的官方報告中表示，在廣泛的層面上，該法律尋求將歐盟值得信賴的人工智能范式法制化。這一范式“要求人工智能在法律、倫理和技術(shù)上強(qiáng)大，同時尊重民主價值觀、人權(quán)和法治”。

擬議的人工智能監(jiān)管框架具有以下目標(biāo):

1.確保在歐盟市場上部署和使用的人工智能系統(tǒng)是安全的，并尊重現(xiàn)有法律基本權(quán)利和歐盟價值觀;

2.確保法律確定性，以促進(jìn)人工智能的投資和創(chuàng)新;

3.加強(qiáng)治理和有效執(zhí)行有關(guān)基本權(quán)利和安全的現(xiàn)行法律適用于AI系統(tǒng);

4.促進(jìn)合法、安全和值得信賴的人工智能應(yīng)用的統(tǒng)一市場的發(fā)展，防止市場的分化。

雖然新法律的許多細(xì)節(jié)仍懸而未決，關(guān)鍵是人工智能的定義，但核心因素似乎是它的“產(chǎn)品安全框架”，它將未來的人工智能產(chǎn)品分為四個安全水平類別，適用于所有行業(yè)。

根據(jù)斯坦福-維也納跨大西洋技術(shù)法律論壇的Maruritz Kop匯編的2021年歐盟委員會關(guān)于新法律的報告，“臨界金字塔”的底部是風(fēng)險最小的系統(tǒng)。屬于這一類的人工智能應(yīng)用不需要遵守風(fēng)險較高的系統(tǒng)必須通過的透明度要求。在“有限風(fēng)險”類別中，則對人工智能系統(tǒng)有一些透明度要求，比如聊天機(jī)器人。

——?dú)W盟新的AI法案將AI程序分為四類，自下而上分別為：低風(fēng)險、有限風(fēng)險、高風(fēng)險和不可接受風(fēng)險。

在對透明度有嚴(yán)格要求的高風(fēng)險AI類別中，監(jiān)管會更加嚴(yán)苛。根據(jù)介紹，高風(fēng)險類別包括AI應(yīng)用在:

• 關(guān)鍵基礎(chǔ)設(shè)施，如交通，可能危及人的生命或健康(如自動駕駛汽車);
• 影響個人教育或職業(yè)成就的教育或職業(yè)培訓(xùn)(如考試成績);
• 產(chǎn)品的安全組件(如機(jī)器人輔助手術(shù));
• 就業(yè)、員工管理、自主創(chuàng)業(yè)(如簡歷、簡歷分類軟件);
• 基本的私人和公共服務(wù)(如信用評分);
• 執(zhí)法用例(如證據(jù)評估);
• 移民、邊防管理(包括護(hù)照真實(shí)性評估);
• 公正和民主程序(如將法律適用于一組具體事實(shí));
• 監(jiān)控系統(tǒng)(如生物特征監(jiān)測和面部識別)。

塔尖的第四類是“不可接受風(fēng)險”的人工智能系統(tǒng)。這些應(yīng)用基本上是非法的，因?yàn)樗鼈儙砹颂嗟娘L(fēng)險。這類應(yīng)用的例子包括操縱行為或人或“特定弱勢群體”的系統(tǒng)，社會評分，以及實(shí)時和遠(yuǎn)程生物識別系統(tǒng)。

高風(fēng)險類別可能是許多公司將努力確保透明度和合規(guī)的重點(diǎn)。歐盟的人工智能法案將建議企業(yè)在推出屬于高風(fēng)險類別的人工智能產(chǎn)品或服務(wù)之前采取四個步驟。

1. 開發(fā)高風(fēng)險人工智能系統(tǒng)，最好內(nèi)部首先使用人工智能影響評估和由包容、多學(xué)科團(tuán)隊(duì)監(jiān)督的行為準(zhǔn)則。
2. 高風(fēng)險人工智能系統(tǒng)必須經(jīng)過合格評定和批準(zhǔn)，并持續(xù)進(jìn)行在其生命周期內(nèi)遵守歐盟AI法案規(guī)定要求。某些系統(tǒng)外機(jī)構(gòu)將參與合格評定審核。這個動態(tài)的過程確保基準(zhǔn)測試、監(jiān)控和驗(yàn)證。此外，高危AI的動態(tài)系統(tǒng)，步驟2必須重復(fù)執(zhí)行。
3. 獨(dú)立高風(fēng)險人工智能系統(tǒng)的注冊將在一個專用的歐盟數(shù)據(jù)庫中進(jìn)行。
4. 必須簽署合格聲明，高風(fēng)險AI系統(tǒng)必須帶有CE標(biāo)記。?