近年來，人工智能(AI)系統(tǒng)的受歡迎程度顯著提高，尤其是在2023年，隨著一種被稱為“大型語言模型”(LLM)的特定類型系統(tǒng)的引入，人工智能(AI)系統(tǒng)將成為人們關(guān)注的焦點。這類系統(tǒng)的例子包括ChatGPT和Bard。

盡管人工智能技仍在發(fā)展中，但很明顯，人工智能系統(tǒng)的使用將深刻改變我們的工作生活、私人生活，以及如何組織和管理我們的社會。這并不是因為算法確實比人類更聰明，而是因為它們在執(zhí)行大量基本和高級任務(wù)時提供了經(jīng)濟穩(wěn)定性和效率，這是大多數(shù)人類智能無法比擬的。

對人工智能使用的擔(dān)憂

盡管公眾辯論總體上傾向于關(guān)注使用人工智能技術(shù)的經(jīng)濟效益和缺點、在公共行政和司法系統(tǒng)中引入人工智能系統(tǒng)，以及也在私人行為者提供某些基本服務(wù)方面的使用——如果人工智能系統(tǒng)輔助甚至取代人類決策，如何確保人權(quán)和民主的持續(xù)保護以及對法治的尊重，這引發(fā)了人們的嚴(yán)重擔(dān)憂。它們的使用還可能對民主進程產(chǎn)生重大影響，包括選舉、集會和結(jié)社的權(quán)利以及持有意見和接受或傳遞信息的權(quán)利——總之，這是自由民主的根本。

因此，世界各國和政府間組織現(xiàn)在應(yīng)該應(yīng)對人工智能技術(shù)帶來的挑戰(zhàn)，并建立必要的法律框架，以促進急需的創(chuàng)新，但不能以犧牲人權(quán)和基本自由為代價。我們需要仔細考慮如何使用人工智能系統(tǒng)來改善社會運作方式、環(huán)境保護以及促進經(jīng)濟發(fā)展，而不是無意中創(chuàng)造一個由算法規(guī)則而不是法治統(tǒng)治的反烏托邦和不民主的世界。

監(jiān)管人工智能技術(shù)的使用

歐洲委員會是歐洲大陸歷史最悠久的政府間區(qū)域組織，擁有46個成員國，其歐洲人權(quán)法院或許是世界上最廣為人知的機構(gòu)。2019年，歐洲委員會開始了開創(chuàng)性的工作，探討基于其自身以及在人權(quán)、民主和法治領(lǐng)域的其他相關(guān)國際法律標(biāo)準(zhǔn)，研究制定一項人工智能國際條約的可行性和必要性。這項重要的開創(chuàng)性工作在國際層面上的成果導(dǎo)致了2022年人工智能委員會(CAI)的成立。CAI的任務(wù)是制定一項關(guān)于人工智能技術(shù)的框架公約，該公約將從人權(quán)、民主和法治的角度出發(fā)，規(guī)定與人工智能系統(tǒng)的設(shè)計、開發(fā)、使用和退役有關(guān)的具有法律約束力的要求、原則、權(quán)利和義務(wù)。

全球方法

俗話說，“沒有人是一座孤島”，世界上沒有一個地區(qū)能夠完全獨立。我們都是全球化經(jīng)濟的一部分，最終面臨著同樣的挑戰(zhàn)和政策選擇。人工智能技術(shù)無國界，與人工智能系統(tǒng)相關(guān)的人權(quán)和民主方面的有意義的國際標(biāo)準(zhǔn)制定顯然不能僅限于世界的特定地區(qū)。因此，歐洲委員會部長委員會決定允許具有歐洲委員會價值觀和目標(biāo)的感興趣的非歐洲國家參與談判，并且全球越來越多的國家已經(jīng)已加入或正在加入我們的努力。

同樣，歐洲委員會讓相關(guān)非國家行為體密切參與這些談判也很重要。目前，CAI有61名民間社會和行業(yè)代表作為觀察員，與各國以及其他國際組織和歐洲委員會相關(guān)機構(gòu)和委員會的代表一起參與談判。

保護人權(quán)和民主

在歐洲地區(qū)，歐盟(EU)在其27個成員國的人工智能系統(tǒng)監(jiān)管中發(fā)揮著關(guān)鍵作用，因此，歐盟也代表這些成員國直接參與了歐洲委員會的談判。歐盟的人工智能法案和歐洲委員會的框架公約生效后，將相互促進，為如何最好地利用兩個歐洲組織的綜合優(yōu)勢和能力提供了一個例子。

框架公約草案的重點是確保人工智能技術(shù)的使用，不會導(dǎo)致在保護人權(quán)、民主和民主進程的運作或尊重法治原則方面存在法律真空。根據(jù)前人工智能特設(shè)委員會(CAHAI)編制的可行性研究結(jié)果，其目的不是針對人工智能環(huán)境創(chuàng)造新的實質(zhì)性人權(quán)，而是保證現(xiàn)有的人權(quán)尤其受國際法保護的人權(quán)和基本自由不容侵犯。這將通過要求各方迫使監(jiān)管機構(gòu)、開發(fā)商、提供商和其他人工智能參與者，從構(gòu)想的那一刻起以及這些系統(tǒng)的整個生命周期考慮對人權(quán)、民主和法治的風(fēng)險來實現(xiàn)。此外，鑒于人工智能技術(shù)的透明度和可解釋性等具體挑戰(zhàn)，應(yīng)更新侵犯人權(quán)行為受害者可用的法律補救制度。

對民主的威脅

當(dāng)涉及到人工智能技術(shù)對民主和民主進程的潛在威脅時，特別是這些系統(tǒng)被用來操縱或欺騙個人的能力，這將由條約解決。這包括使用所謂的“深度造假”、微觀目標(biāo)或更直接地干預(yù)言論自由、形成和持有意見、集會和結(jié)社自由以及接收或傳遞信息的權(quán)利。《框架公約》將載有具有法律約束力的義務(wù)，要求締約國提供有效保護，防止這種做法。

“法治”是一個長期存在的法律哲學(xué)概念，其中包括政府和私人行為者在法律下承擔(dān)責(zé)任的想法;法律應(yīng)該明確和公開;法律的制定、管理和執(zhí)行以一種方便、公平和有效的方式進行;保證每個人都能獲得公正的爭端解決。很明顯，在設(shè)計和使用可能在敏感環(huán)境中使用的人工智能系統(tǒng)時，必須尊重構(gòu)成公平、自由、守法社會的基本概念，例如(但不限于)起草法律、公共行政，尤其是通過法院進行司法行政。《框架公約》還將規(guī)定締約方在這方面的具體義務(wù)。

平衡之舉：基于風(fēng)險的人工智能方法

框架公約草案，以及CAI的所有工作，對人工智能系統(tǒng)的設(shè)計、開發(fā)、使用和退役采取了一種基于風(fēng)險的方法，在這樣做的過程中，人的尊嚴(yán)和能動性得到了重視。重要的是，我們不能被人工智能技術(shù)提供的明顯可能性沖昏頭腦，而沒有仔細考慮在各種環(huán)境中使用人工智能系統(tǒng)的潛在負面后果。因此，框架公約草案還要求各締約方就如何使用人工智能技術(shù)提高認(rèn)識并激發(fā)知情的公眾辯論。

如上所述，人工智能和其他新興數(shù)字技術(shù)給民主社會帶來了許多根本性的問題和挑戰(zhàn)。與此同時，這些技術(shù)也為我們提供了在科學(xué)、醫(yī)學(xué)、保護和改善環(huán)境方面取得寶貴進步的機會，本文僅舉幾個關(guān)鍵領(lǐng)域。其還承諾促進全球經(jīng)濟，并最終為全人類創(chuàng)造更好的生活條件。但也一些有影響力的聲音最近一直在呼吁暫停甚至禁止人工智能技術(shù)，因為其認(rèn)為人工智能帶來的危險超過了所帶來的好處。盡管對人工智能提出的合理擔(dān)憂需要認(rèn)真對待，但我們必須承認(rèn)，問題已經(jīng)出現(xiàn)，我們無法有效地逆轉(zhuǎn)科學(xué)和技術(shù)的發(fā)展，而這些發(fā)展使得先進而強大的人工智能系統(tǒng)得以創(chuàng)造。

因此，現(xiàn)實的方法必須是找到負責(zé)任地使用人工智能和其他數(shù)字技術(shù)的方法，并確保世界各地盡可能多的人能夠從中受益，并受到保護，免受濫用此類技術(shù)的影響。

這是一項艱巨的任務(wù)，需要志同道合的國家共同努力，并需要民間社會、科技行業(yè)和學(xué)術(shù)界的支持才能取得成功。我們希望并雄心勃勃地希望，歐洲委員會正在與世界各國共同制定的《框架公約》，將為保護基本權(quán)利提供一些迫切需要的法律明確性和保障，并將成為當(dāng)前和未來討論如何制定平衡和持久的政策解決辦法，以應(yīng)對引入新的強大數(shù)字技術(shù)對人權(quán)和民主構(gòu)成的挑戰(zhàn)的焦點。