上周，歐洲立法者以壓倒性多數(shù)投票支持具有里程碑意義的人工智能法規(guī)《歐盟人工智能法案》（EU AI Act）。雖然該法案還沒有法律效力，但一邊倒的投票表明它很快就會(huì)在歐盟生效。在其他國(guó)家，公司仍然可以自由使用人工智能。例如，到目前為止，美國(guó)對(duì)人工智能代表的是風(fēng)險(xiǎn)還是機(jī)遇缺乏共識(shí)。

歐洲議會(huì)499名議員投了贊成票，28人反對(duì)，93人棄權(quán)，以較大優(yōu)勢(shì)通過了《人工智能法案》草案。在議會(huì)成員、歐盟委員會(huì)和歐盟理事會(huì)進(jìn)行談判后，今年晚些時(shí)候可能會(huì)進(jìn)行最終投票。

2021年4月首次提出的《歐盟人工智能法案》將限制公司在其產(chǎn)品中使用人工智能的方式；要求人工智能以安全、合法、合乎道德和透明的方式實(shí)施；強(qiáng)制公司獲得某些人工智能用例的事先批準(zhǔn)；并要求公司監(jiān)控其人工智能產(chǎn)品。

人工智能法將根據(jù)不同的人工智能使用帶來的風(fēng)險(xiǎn)對(duì)其進(jìn)行排名并將其分為四類，并要求公司在人工智能給客戶使用之前達(dá)到相應(yīng)安全標(biāo)準(zhǔn)。

第一類風(fēng)險(xiǎn)最小的人工智能，如垃圾郵件過濾器或視頻游戲，可以繼續(xù)像以往一樣使用，并且不受透明度要求的約束。

第二類人工智能被稱為“風(fēng)險(xiǎn)有限”，這一類別包括OpenAI的ChatGPT或谷歌的Bard等聊天機(jī)器人。根據(jù)擬議的法律，為了遵守《歐盟人工智能法案》，必須告知用戶他們正在與聊天機(jī)器人互動(dòng)。

第三類是組織需要對(duì)所謂的高風(fēng)險(xiǎn)人工智能系統(tǒng)進(jìn)行影響評(píng)估和審計(jì)，其中包括自動(dòng)駕駛汽車，以及教育、移民和就業(yè)方面的決策支持系統(tǒng)。歐洲中央政府將在一個(gè)中央數(shù)據(jù)庫(kù)中跟蹤高風(fēng)險(xiǎn)的人工智能使用案例。

第四類被認(rèn)為具有“不可接受”風(fēng)險(xiǎn)的人工智能，在歐盟永遠(yuǎn)不會(huì)被允許，即使有審計(jì)和監(jiān)管。這種被禁止的人工智能的包括實(shí)時(shí)生物特征監(jiān)測(cè)和社會(huì)評(píng)分系統(tǒng)。不遵守規(guī)定可能會(huì)被處以相當(dāng)于公司收入6%或7%的罰款。

法案投票結(jié)果表明大多數(shù)人支持人工智能已經(jīng)失控，需要加以控制的觀點(diǎn)。一些著名的人工智能開發(fā)者最近呼吁禁止或暫停人工智能研究，包括Geoffrey Hinton和Yoshua Bengio，他們?yōu)槠占艾F(xiàn)代神經(jīng)網(wǎng)絡(luò)做出了巨大貢獻(xiàn)。如今他們簽署了人工智能安全中心的一份聲明，呼吁將人工智能視為全球風(fēng)險(xiǎn)。

Hinton今年初辭去了谷歌的工作，以便能夠更自由地談?wù)撊斯ぶ悄艿耐{，他將人工智能比作核武器。在5月3日Hinton對(duì)美國(guó)有線電視新聞網(wǎng)說：“我只是一個(gè)突然意識(shí)到這些東西比我們更聰明的科學(xué)家?！薄啊覀儜?yīng)該認(rèn)真考慮如何阻止這些事情控制我們?！?/span>

然而，并不是所有的人工智能研究人員或計(jì)算機(jī)科學(xué)家都認(rèn)同這一觀點(diǎn)。Yann LeCun是Facebook母公司meta的人工智能研究負(fù)責(zé)人，他與Hinton和Bengio一起因在神經(jīng)網(wǎng)絡(luò)方面的集體工作而獲得2018年圖靈獎(jiǎng)，他一直直言不諱地認(rèn)為，現(xiàn)在不是監(jiān)管人工智能的合適時(shí)機(jī)。

LeCun近期在推特上表示，他認(rèn)為“過早的監(jiān)管會(huì)扼殺創(chuàng)新”，特別是在提到新的歐盟人工智能法案時(shí)。

LeCunn上周在法國(guó)巴黎舉行的VivaTech會(huì)議上表示：“從總體上講，人工智能本質(zhì)上是好的，因?yàn)槿斯ぶ悄艿淖饔檬亲屓藗冏兊酶斆?。”“你可以把人工智能視為人類智慧的放大器。?dāng)人們更聰明時(shí)，事情就會(huì)發(fā)生。人們的生產(chǎn)力更高，更快樂。”

Meta的人工智能主管Yann LeCun在VivaTech上表示：“你可以把人工智能視為人類智能的放大器。”

LeCunn繼續(xù)說道：“現(xiàn)在毫無疑問，壞人可以利用它來做壞事?！薄叭缓笫且粋€(gè)問題，好人是否比壞人多?！?/span>

商業(yè)轉(zhuǎn)型專家Kamales Lardi表示，正如歐盟的《通用數(shù)據(jù)保護(hù)條例》（GDPR）構(gòu)成了其他國(guó)家和美國(guó)各州（如加利福尼亞州）許多數(shù)據(jù)隱私法的基礎(chǔ)一樣，擬議的《歐盟人工智能法案》將為世界各地的人工智能監(jiān)管開辟道路。

她說：“歐盟的法案可能會(huì)成為一項(xiàng)全球標(biāo)準(zhǔn)，對(duì)人工智能如何影響我們的生活以及如何在全球范圍內(nèi)對(duì)其進(jìn)行監(jiān)管產(chǎn)生影響?！薄叭欢摲ò敢灿芯窒扌浴O(jiān)管應(yīng)側(cè)重于在創(chuàng)新和技術(shù)錯(cuò)誤應(yīng)用之間取得智能平衡。該法案也不靈活，沒有考慮到人工智能發(fā)展的指數(shù)級(jí)速度，一兩年后人工智能的發(fā)展速度可能與今天大不相同。”

總部位于倫敦的人工智能公司Encord的聯(lián)合創(chuàng)始人兼總裁Ulrik Stig Hansen表示，現(xiàn)在不是監(jiān)管人工智能的合適時(shí)機(jī)。“我們聽說過太大而無法監(jiān)管，但太早怎么辦？”“按照歐盟的傳統(tǒng)方式，他們正在尋求監(jiān)管一項(xiàng)新技術(shù)，而這項(xiàng)技術(shù)很少有企業(yè)或消費(fèi)者采用，也很少有人在這一點(diǎn)上進(jìn)行開發(fā)?！彼f，由于我們還沒有牢牢把握人工智能系統(tǒng)固有的風(fēng)險(xiǎn)，現(xiàn)在制定監(jiān)管人工智能的法律還為時(shí)過早。

“一個(gè)更明智的方法可能是相關(guān)行業(yè)機(jī)構(gòu)像監(jiān)管其他技術(shù)一樣監(jiān)管人工智能?！薄叭斯ぶ悄茏鳛橐环N醫(yī)療設(shè)備，是一個(gè)很好的例子，它需要獲得美國(guó)食品藥品監(jiān)督管理局（FDA）的批準(zhǔn)或CE標(biāo)志。這與我們?cè)谟?guó)看到的情況一致，英國(guó)采取了更務(wù)實(shí)的支持創(chuàng)新的方法，并將責(zé)任交給了人工智能應(yīng)用領(lǐng)域的現(xiàn)有監(jiān)管機(jī)構(gòu)?！?/span>

雖然美國(guó)目前還沒有制定人工智能法規(guī)，但正在采取措施，指導(dǎo)各組織合乎道德地使用人工智能。今年1月，美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究所（NIST）發(fā)布了《人工智能風(fēng)險(xiǎn)管理框架》（RMF），該框架指導(dǎo)各組織完成人工智能系統(tǒng)的規(guī)劃、衡量、管理和治理過程。RMF有幾件事要做，包括有可能成為多方認(rèn)可的法律標(biāo)準(zhǔn)。更重要的是，它保留了適應(yīng)快速變化的人工智能技術(shù)的靈活性，這是《歐盟人工智能法案》所缺乏的。