麻省理工學(xué)院（MIT）研究人員近日發(fā)布了一個號稱迄今為止最全面的AI風(fēng)險動態(tài)數(shù)據(jù)庫，涵蓋了43大AI風(fēng)險類別共計777種AI風(fēng)險。

這是業(yè)界首次嘗試全面整理、分析和提取人工智能風(fēng)險，并整合成一個公開可訪問、全面、可擴(kuò)展的分類風(fēng)險數(shù)據(jù)庫。為業(yè)界統(tǒng)一定義、審計和管理人工智能風(fēng)險奠定了基礎(chǔ)。

對于從事AI安全和治理的專業(yè)人士來說，這是一個不可或缺的知識庫，可用于創(chuàng)建自己（所在企業(yè)）的個性化風(fēng)險數(shù)據(jù)庫。

AI風(fēng)險數(shù)據(jù)庫

MIT科技評論的一篇文章指出，AI技術(shù)應(yīng)用面臨多種危險，系統(tǒng)可能存在偏見、傳播錯誤信息，甚至具有成癮性。這些風(fēng)險只是冰山一角，AI還有可能被用于制造生物或化學(xué)武器，甚至在未來失控，造成難以挽回的災(zāi)難性后果。

AI風(fēng)險全景圖

為了滿足AI風(fēng)險治理的迫切需求，MIT的計算機(jī)科學(xué)與人工智能實(shí)驗(yàn)室（CSAIL）下屬的FutureTech團(tuán)隊著手開發(fā)了“全覆蓋”AI風(fēng)險數(shù)據(jù)庫。

據(jù)CSAIL網(wǎng)站發(fā)布的新聞，研究人員在現(xiàn)有的AI風(fēng)險框架中發(fā)現(xiàn)了大量嚴(yán)重漏洞，現(xiàn)有的最詳盡的AI風(fēng)險框架（例如NIST、谷歌和歐盟發(fā)布的框架）也僅涵蓋了所有風(fēng)險的約70%。因此，項(xiàng)目負(fù)責(zé)人Peter Slattery博士擔(dān)心決策者可能會因?yàn)檎J(rèn)知偏差而忽略重要問題，從而形成集體決策盲區(qū)。

MIT的AI風(fēng)險數(shù)據(jù)庫旨在為學(xué)者、安全審計人員、政策制定者、AI公司和公眾提供關(guān)于AI風(fēng)險“全景圖”，為研究、開發(fā)和治理AI系統(tǒng)提供了一個統(tǒng)一的參考框架。該數(shù)據(jù)庫由三部分組成：AI風(fēng)險數(shù)據(jù)庫、AI風(fēng)險因果分類法以及AI風(fēng)險領(lǐng)域分類法，具體如下：

• AI風(fēng)險數(shù)據(jù)庫：記錄了從43種現(xiàn)有框架中提取的700多種風(fēng)險，并附有相關(guān)引用和頁碼。
• AI風(fēng)險因果分類法：分類AI風(fēng)險發(fā)生的方式、時間和原因。
• AI風(fēng)險領(lǐng)域分類法：將風(fēng)險分為七大領(lǐng)域和23個子領(lǐng)域，涵蓋歧視與有害內(nèi)容、隱私與安全、虛假信息、惡意行為者及誤用、人機(jī)交互、社會經(jīng)濟(jì)與環(huán)境危害、AI系統(tǒng)安全與故障等。

AI治理的利器

Info-Tech研究集團(tuán)首席研究總監(jiān)Brian Jackson認(rèn)為，AI風(fēng)險數(shù)據(jù)庫對負(fù)責(zé)AI治理的企業(yè)領(lǐng)導(dǎo)者來說極具價值。它不僅幫助企業(yè)識別新的AI風(fēng)險，還可以作為制定具體治理策略的基礎(chǔ)工具。此外，該數(shù)據(jù)庫以Google Sheets的形式提供，便于各組織根據(jù)自己的需求進(jìn)行定制。

AI風(fēng)險數(shù)據(jù)庫的功能和適用場景如下：

通用功能：

• 吸納新成員進(jìn)入AI風(fēng)險領(lǐng)域。
• 為復(fù)雜項(xiàng)目奠定基礎(chǔ)。
• 為開發(fā)更細(xì)化或特定的分類體系提供信息支持（例如，系統(tǒng)性風(fēng)險或歐盟相關(guān)的虛假信息風(fēng)險）。
• 利用分類體系進(jìn)行優(yōu)先級排序（如通過專家評分）、綜合分析（如進(jìn)行審查）或比較（如跨領(lǐng)域探討公眾關(guān)注點(diǎn)）。
• 識別被忽視的領(lǐng)域（如AI的福利和權(quán)利）。

適用人群和場景：

• 政策制定者：用于制定法規(guī)和共享標(biāo)準(zhǔn)的開發(fā)。
• 審計人員：開發(fā)AI系統(tǒng)的審計標(biāo)準(zhǔn)。
• 學(xué)術(shù)界：識別研究空白，開發(fā)教育和培訓(xùn)。
• 行業(yè)：內(nèi)部評估和準(zhǔn)備AI風(fēng)險，制定相關(guān)戰(zhàn)略、教育和培訓(xùn)。

盡管數(shù)據(jù)庫還存在一些限制，例如依賴現(xiàn)有的43種分類法，可能遺漏新興的特定領(lǐng)域風(fēng)險，但MIT的研究人員表示，這項(xiàng)工作為未來的AI風(fēng)險評估奠定了基礎(chǔ)，促進(jìn)了更協(xié)調(diào)和全面的風(fēng)險管理方法。

展望未來：AI治理的新篇章

面對AI技術(shù)的野蠻生長和潛在風(fēng)險的快速累積，越來越多的企業(yè)和機(jī)構(gòu)在部署AI應(yīng)用時更加謹(jǐn)慎，并渴望提高嚴(yán)重滯后的AI風(fēng)險治理能力。

MIT發(fā)布的AI風(fēng)險數(shù)據(jù)庫為AI的健康發(fā)展提供了全方位的風(fēng)險地圖，標(biāo)志著AI治理的新篇章已經(jīng)開啟。

Gartner副總裁分析師Bart Willemsen指出，這項(xiàng)研究是邁向更深入理解AI技術(shù)風(fēng)險的重要一步。他期待未來的版本能夠不僅列出AI風(fēng)險，還能提供相關(guān)的緩解措施，為行業(yè)應(yīng)用提供最佳實(shí)踐指南。