算法基于人的行為而產(chǎn)生“鎖定效應(yīng)”。雖然立法也賦予了用戶拒絕個(gè)性化推薦的權(quán)利，但對(duì)許多用戶而言，完全拒絕算法追蹤，可能會(huì)影響平臺(tái)內(nèi)其他功能的使用。因此，還需對(duì)算法進(jìn)行場(chǎng)景化和精細(xì)化治理。

“大數(shù)據(jù)殺熟”升級(jí)、個(gè)性化推送固化思維……前不久，上海市消費(fèi)者權(quán)益保護(hù)委員會(huì)透露，隨著人工智能等新技術(shù)的應(yīng)用，算法快速更迭，再加上平臺(tái)對(duì)消費(fèi)者個(gè)人信息的全方位收集，算法“殺熟”方式升級(jí)，轉(zhuǎn)向基于被平臺(tái)充分掌握個(gè)人信息的“殺熟”，比如平臺(tái)會(huì)根據(jù)消費(fèi)者使用的手機(jī)型號(hào)等個(gè)人信息匹配相關(guān)的產(chǎn)品、廣告或不同的優(yōu)惠券。

面對(duì)越來越多的算法套路、越來越精準(zhǔn)的營(yíng)銷和個(gè)性化推送，用戶能否徹底拒絕或者脫離算法?又該如何對(duì)算法進(jìn)行規(guī)制?近日，專家學(xué)者接受民主與法制社記者采訪時(shí)，從技術(shù)和立法層面對(duì)這些問題進(jìn)行了剖析。

算法技術(shù)會(huì)固化、放大偏見

上海大學(xué)法學(xué)院大數(shù)據(jù)與人工智能法治研究中心執(zhí)行主任陳吉棟表示，狹義上的算法可以視為純粹的技術(shù)，但隨著人工智能技術(shù)及大數(shù)據(jù)的發(fā)展，它被應(yīng)用于更多領(lǐng)域。廣義上的算法是一種以構(gòu)建社會(huì)秩序等目標(biāo)而設(shè)定的一系列步驟。

“我們常說的人工智能從某種意義上講，就是一種能學(xué)習(xí)、判斷和決策的算法。”陳吉棟說，算法是一種人機(jī)交互場(chǎng)景下決策的新形態(tài)，在算法技術(shù)下，人類可以通過代碼設(shè)置、數(shù)據(jù)運(yùn)算與機(jī)器自動(dòng)化判斷進(jìn)行決策。這個(gè)過程人機(jī)共同參與，既有人的決策也有機(jī)器的自動(dòng)化決斷。

既然如此，算法歧視到底是人為還是機(jī)器所為?對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心執(zhí)行主任張欣說，這應(yīng)從算法技術(shù)架構(gòu)原理說起。

“導(dǎo)致算法歧視的原因很多，有模型設(shè)計(jì)原因，有數(shù)據(jù)本身存在歧視的問題。”張欣說，算法本身是一項(xiàng)純粹的技術(shù)，但如今算法技術(shù)深度嵌入平臺(tái)經(jīng)濟(jì)，依據(jù)不同場(chǎng)景運(yùn)行，有些是完全自動(dòng)化決策，有些需要人為干預(yù)，但最終產(chǎn)生的算法結(jié)果是批量、大規(guī)模、系統(tǒng)性的決策，這可能會(huì)使傳統(tǒng)世界中存在的偏見和歧視問題被系統(tǒng)性放大。

陳吉棟也表示，運(yùn)用算法技術(shù)進(jìn)行決策可能會(huì)固化和放大偏見。這是由于算法數(shù)據(jù)采集于人類，其不可避免地在數(shù)據(jù)中會(huì)摻雜人的情感認(rèn)知偏見。這些數(shù)據(jù)輸入終端后使得算法在模型更新迭代過程中讓偏見因素進(jìn)一步固化，加深偏見和歧視，例如求職類App對(duì)應(yīng)聘者進(jìn)行篩選時(shí)可能包含一些性別和地域偏好。

這種基于人為偏見而導(dǎo)致的算法模型在多個(gè)場(chǎng)景深度嵌入后，會(huì)出現(xiàn)用戶在多個(gè)場(chǎng)景中被屢次歧視的“鎖定效應(yīng)”。張欣舉例稱，如果某個(gè)用戶不恰當(dāng)?shù)乇淮蛏狭?ldquo;信譽(yù)低”的數(shù)據(jù)標(biāo)簽，通過數(shù)據(jù)標(biāo)簽的共享，就可能產(chǎn)生歧視“鎖定效應(yīng)”。如用戶在免押租金使用共享單車的場(chǎng)景下因?yàn)?ldquo;信譽(yù)低”被拒絕，轉(zhuǎn)而發(fā)現(xiàn)在保險(xiǎn)費(fèi)率核定、銀行貸款等更多場(chǎng)景下，也會(huì)遇到類似情形。

陳吉棟說，因?yàn)樗惴C(jī)器學(xué)習(xí)和自身的復(fù)雜性，加之部分商業(yè)平臺(tái)算法的商業(yè)秘密特征，使得大多數(shù)人無法理解算法的工作原理，由此導(dǎo)致算法使用者處于事實(shí)上的支配地位。

法律賦予用戶拒絕個(gè)性化推薦的權(quán)利

除算法歧視問題外，近年來，個(gè)性化推薦、精準(zhǔn)營(yíng)銷等引發(fā)公眾對(duì)個(gè)人信息安全的擔(dān)憂。同時(shí)，算法在用戶畫像越來越精準(zhǔn)的同時(shí)，也讓人們擔(dān)心同質(zhì)化內(nèi)容會(huì)固化甚至引發(fā)人的思維退化，會(huì)阻礙人們通過網(wǎng)絡(luò)獲取多元化的信息。

陳吉棟說，算法的精準(zhǔn)推薦使得個(gè)人信息自主選擇受限，加劇“信息繭房”現(xiàn)象。網(wǎng)絡(luò)的開放性給予了人們更多的信息選擇機(jī)會(huì)，借助算法可以為人們量身打造符合自身喜好App內(nèi)容，但也使用戶陷于自身編織的“信息繭房”之中。

陳吉棟表示，目前，算法可能引發(fā)的法律風(fēng)險(xiǎn)在于其基于社會(huì)因素對(duì)個(gè)人進(jìn)行分類、排序和決策，主要包括搜索結(jié)果競(jìng)價(jià)排序、精準(zhǔn)廣告營(yíng)銷、個(gè)性化推薦、保險(xiǎn)或貸款評(píng)定、信用評(píng)級(jí)、圖像識(shí)別和數(shù)據(jù)畫像等活動(dòng)場(chǎng)景。

張欣說，實(shí)際上，我國(guó)立法賦予了用戶拒絕個(gè)性化推薦的權(quán)利，例如《中華人民共和國(guó)電子商務(wù)法》第十八條明確規(guī)定，電子商務(wù)經(jīng)營(yíng)者根據(jù)消費(fèi)者的興趣愛好、消費(fèi)習(xí)慣等特征向其提供商品或者服務(wù)搜索結(jié)果的，應(yīng)當(dāng)同時(shí)向該消費(fèi)者提供不針對(duì)其個(gè)人特征的選項(xiàng)，尊重和平等保護(hù)消費(fèi)者合法權(quán)益。

陳吉棟表示，電子商務(wù)法第十八條規(guī)定了網(wǎng)絡(luò)平臺(tái)算法個(gè)性化推薦結(jié)果的消費(fèi)者保護(hù)義務(wù)，并明確平臺(tái)的推薦算法搜索結(jié)果應(yīng)提供非個(gè)性化推薦的一般結(jié)果，即不針對(duì)消費(fèi)者個(gè)人的普通搜索結(jié)果。但此條規(guī)定的立法目的不是限制定向提供搜索結(jié)果的行為和定向結(jié)果推送，僅對(duì)其加以限制。

此外，我國(guó)民法典、網(wǎng)絡(luò)安全法、消費(fèi)者權(quán)益保護(hù)法都從個(gè)人信息和數(shù)據(jù)處理的層面對(duì)算法進(jìn)行了間接規(guī)制。比如網(wǎng)絡(luò)安全法第四章“網(wǎng)絡(luò)信息安全”中，對(duì)網(wǎng)絡(luò)運(yùn)營(yíng)者收集、使用個(gè)人信息進(jìn)行了詳細(xì)的規(guī)定和嚴(yán)格的限制。其中，該法第四十一條規(guī)定，網(wǎng)絡(luò)運(yùn)營(yíng)者收集、使用個(gè)人信息，應(yīng)當(dāng)遵循合法、正當(dāng)、必要的原則，公開收集、使用規(guī)則，明示收集、使用信息的目的、方式和范圍，并經(jīng)被收集者同意。網(wǎng)絡(luò)運(yùn)營(yíng)者不得收集與其提供的服務(wù)無關(guān)的個(gè)人信息，不得違反法律、行政法規(guī)的規(guī)定和雙方的約定收集、使用個(gè)人信息，并應(yīng)當(dāng)依照法律、行政法規(guī)的規(guī)定與用戶約定處理其保存的個(gè)人信息。同時(shí)該法第四十三條賦予了公民發(fā)現(xiàn)網(wǎng)絡(luò)運(yùn)營(yíng)者違規(guī)使用個(gè)人信息時(shí)對(duì)其信息進(jìn)行刪除或更正的權(quán)利。

基于此，陳吉棟認(rèn)為，App應(yīng)設(shè)置用戶拒絕接收精準(zhǔn)營(yíng)銷等選項(xiàng)，為用戶提供選擇退出項(xiàng)。

應(yīng)開展場(chǎng)景化和精細(xì)化治理

用戶能否徹底拒絕“算法”?張欣說，正在制定中的《數(shù)據(jù)安全管理辦法(征求意見稿)》試圖解決該問題。

《數(shù)據(jù)安全管理辦法(征求意見稿)》第二十三條規(guī)定，“網(wǎng)絡(luò)運(yùn)營(yíng)者利用用戶數(shù)據(jù)和算法推送新聞信息、商業(yè)廣告等，應(yīng)當(dāng)以明顯方式標(biāo)明‘定推’字樣，為用戶提供停止接收定向推送信息的功能;用戶選擇停止接收定向推送信息時(shí)，應(yīng)當(dāng)停止推送，并刪除已經(jīng)收集的設(shè)備識(shí)別碼等用戶數(shù)據(jù)和個(gè)人信息。”

張欣分析稱，該規(guī)定可以在技術(shù)上保證用戶拒絕個(gè)性化精準(zhǔn)推薦的權(quán)利。“每一臺(tái)移動(dòng)設(shè)備中都有一個(gè)設(shè)備識(shí)別碼，設(shè)備識(shí)別碼一旦從算法系統(tǒng)中刪除，那么系統(tǒng)再也不能追蹤這臺(tái)設(shè)備的數(shù)據(jù)，也就不能再對(duì)用戶進(jìn)行畫像，進(jìn)而推送精準(zhǔn)營(yíng)銷廣告和個(gè)性化推薦內(nèi)容。”

但張欣認(rèn)為，對(duì)許多用戶而言，完全拒絕算法的追蹤在生活中是不現(xiàn)實(shí)的。因?yàn)槿绻捎脛h除設(shè)備識(shí)別碼的方法拒絕算法推薦，可能會(huì)影響用戶平臺(tái)內(nèi)其他功能的使用，比如難以獲得具有針對(duì)性的評(píng)分高的美食店鋪的推薦信息。同時(shí)，互聯(lián)網(wǎng)平臺(tái)負(fù)有許多法律上的責(zé)任和義務(wù)，一旦刪除設(shè)備識(shí)別碼，平臺(tái)難以通過識(shí)別設(shè)備對(duì)設(shè)備上的賬號(hào)進(jìn)行風(fēng)險(xiǎn)控制。

如何解決上述矛盾?有觀點(diǎn)認(rèn)為，應(yīng)當(dāng)通過算法公開、提高算法的透明度，來對(duì)算法進(jìn)行規(guī)制。對(duì)此，陳吉棟表示，技術(shù)層面的算法公開是算法應(yīng)用者公布算法運(yùn)算數(shù)據(jù)和編程源代碼，算法公開也能夠在一定程度上促進(jìn)算法治理。

算法公開的目的是抹平消費(fèi)者和平臺(tái)方之間力量對(duì)比關(guān)系的失衡，通過公開達(dá)到可治理和可規(guī)制，通過對(duì)算法的可接觸反向驗(yàn)證算法是否存在妨害。但由于技術(shù)鴻溝的存在，這樣的公開對(duì)普通用戶而言并無意義。陳吉棟說，礙于算法和機(jī)器學(xué)習(xí)技術(shù)的復(fù)雜性，算法公開能實(shí)現(xiàn)的效果可能有限。因此，對(duì)算法進(jìn)行治理，還需要更廣泛的配套制度，如算法認(rèn)證、算法查驗(yàn)等。

張欣也表示，目前，算法公開還涉及商業(yè)秘密和知識(shí)產(chǎn)權(quán)保護(hù)問題，如何公開、公開到何種程度需要進(jìn)行合理規(guī)制。目前，國(guó)際上比較成熟的算法治理方式是對(duì)算法開展影響評(píng)估，通過成立專門的監(jiān)管機(jī)構(gòu)或者評(píng)估工作組，對(duì)算法在個(gè)人隱私權(quán)、公平權(quán)、平等權(quán)及社會(huì)經(jīng)濟(jì)等多方面可能產(chǎn)生的影響進(jìn)行系統(tǒng)評(píng)估。

陳吉棟說，這在《中華人民共和國(guó)個(gè)人信息保護(hù)法(草案)》(以下簡(jiǎn)稱《草案》)中也有體現(xiàn)，包括事前的算法影響評(píng)估、事中的算法審計(jì)和事后的算法決策要求說明及拒絕制度。

張欣表示，目前《草案》規(guī)定，算法影響的評(píng)估只要求對(duì)用戶個(gè)人進(jìn)行評(píng)估，且規(guī)定評(píng)估的依據(jù)是“法律法規(guī)”，但法律可能存在滯后性，應(yīng)當(dāng)引入算法倫理規(guī)范一并作為評(píng)估依據(jù)，并開展多方面的評(píng)估。

張欣說，實(shí)踐中對(duì)算法公開或者算法透明的呼吁主要集中在公共事業(yè)領(lǐng)域。“目前，我國(guó)立法對(duì)算法規(guī)制主要集中在電商領(lǐng)域，但實(shí)踐中，許多領(lǐng)域都已經(jīng)使用了算法技術(shù)，包括行政領(lǐng)域。一旦公共領(lǐng)域的算法適用出現(xiàn)問題，可能會(huì)對(duì)公民權(quán)利造成不利影響。因此，應(yīng)制定科學(xué)合理的規(guī)制議程，按照風(fēng)險(xiǎn)等級(jí)，優(yōu)先對(duì)公共事業(yè)領(lǐng)域的算法進(jìn)行規(guī)制。

張欣建議，對(duì)算法進(jìn)行場(chǎng)景化和精細(xì)化治理，立法機(jī)關(guān)應(yīng)在起草涉及不同場(chǎng)景的法律法規(guī)時(shí)，具有系統(tǒng)化、場(chǎng)景化的算法規(guī)制意識(shí)。