谷歌、微軟、OpenAI 和 Anthropic 發(fā)布聯(lián)合聲明，任命美國(guó)智庫(kù)學(xué)會(huì)高管 Chris Meserole 為前沿模型論壇 (Frontier Model Forum) 首任執(zhí)行董事。并宣布設(shè)立 1000 萬(wàn)美元的 AI 安全基金，“以推動(dòng)正在進(jìn)行的工具開(kāi)發(fā)研究，幫助社會(huì)能夠有效地測(cè)試和評(píng)估最有能力的 AI 模型?！?/p>

前沿模型論壇由微軟、OpenAI、谷歌和 Anthropic 在今年 7 月聯(lián)合創(chuàng)立而成，是一個(gè)專(zhuān)注于確保安全和負(fù)責(zé)任地開(kāi)發(fā)前沿人工智能模型的行業(yè)機(jī)構(gòu)。該論壇旨在幫助：

• 推動(dòng)人工智能安全研究，促進(jìn)負(fù)責(zé)任地開(kāi)發(fā)前沿模型并最大限度地降低潛在風(fēng)險(xiǎn)；
• 確定前沿模型的安全最佳實(shí)踐；
• 與政策制定者、學(xué)術(shù)界、民間社會(huì)和其他方面分享知識(shí)，推動(dòng)負(fù)責(zé)任的人工智能發(fā)展；
• 以及大力支持開(kāi)發(fā)有助于應(yīng)對(duì)社會(huì)挑戰(zhàn)的 AI 應(yīng)用程序。

公告指出，AI 安全基金將支持來(lái)自世界各地附屬于學(xué)術(shù)機(jī)構(gòu)、研究機(jī)構(gòu)和初創(chuàng)公司的獨(dú)立研究人員。初始資金來(lái)自 Anthropic、谷歌、微軟和 OpenAI，以及其他慈善合作伙伴。

基金的主要重點(diǎn)將在于，支持開(kāi)發(fā)新的模型評(píng)估技術(shù)，以幫助開(kāi)發(fā)和測(cè)試前沿系統(tǒng)潛在危險(xiǎn)能力的評(píng)估技術(shù)?！拔覀兿嘈?，增加該領(lǐng)域的資金將有助于提高安全標(biāo)準(zhǔn)，并為行業(yè)、政府和民間社會(huì)應(yīng)對(duì) AI 系統(tǒng)帶來(lái)的挑戰(zhàn)所需的緩解和控制提供見(jiàn)解。 ”

該基金將在未來(lái)幾個(gè)月內(nèi)征集提案。前沿模型論壇還計(jì)劃成立一個(gè)顧問(wèn)委員會(huì)，以幫助指導(dǎo)其戰(zhàn)略和優(yōu)先事項(xiàng)。

1000 萬(wàn)美元不算小數(shù)目，但在 AI 安全研究的背景下以及與前沿模式論壇成員在商業(yè)活動(dòng)上的花費(fèi)相比，這一數(shù)目就 “顯得相當(dāng)保守了”。科技媒體 TechCrunch 指出，僅今年一年，Anthropic 就從亞馬遜籌集了數(shù)十億美元，用于開(kāi)發(fā)下一代 AI 助手，此前谷歌也向其投資了 300 美元。

且與其他 AI 安全基金相比，該基金的規(guī)模也很小。根據(jù)博客 Less Wrong 的分析，由 Facebook 創(chuàng)始人 (Dustin Moskovitz 聯(lián)合創(chuàng)辦的資助和研究基金會(huì) Open Philanthropy 已為 AI 安全捐贈(zèng)了約 3.07 億美元。

公益公司 “The Survival and Flourishing Fund” 也已向 AI 安全項(xiàng)目捐贈(zèng)了約 3000 萬(wàn)美元。美國(guó)國(guó)家科學(xué)基金會(huì)表示，未來(lái)兩年將斥資 2000 萬(wàn)美元用于 AI 安全研究，部分資金由 Open Philanthropy 資助。

“前沿模型論壇暗示下一步將成立一個(gè)規(guī)模更大的基金。如果這一目標(biāo)實(shí)現(xiàn)，它可能有機(jī)會(huì)推動(dòng) AI 安全研究 —— 前提是我們相信該基金的明確營(yíng)利性支持者不會(huì)對(duì)研究施加不當(dāng)影響。但無(wú)論你如何劃分，首批資金似乎都過(guò)于有限，無(wú)法取得多大成就?！?/p>