OpenAI憲章中文版
本文檔反映了我們?cè)谶^(guò)去兩年中完善的戰(zhàn)略,包括OpenAI內(nèi)部和外部許多人的反饋。AGI的時(shí)間表仍然不確定,但我們的《憲章》將指導(dǎo)我們?cè)谡麄€(gè)人類發(fā)展過(guò)程中以人類的最大利益為出發(fā)點(diǎn)。
OpenAI的使命是確保通用人工智能(AGI)——我們指的是在最具經(jīng)濟(jì)價(jià)值的工作中超越人類的高度自主系統(tǒng)——造福全人類。我們將嘗試直接建立安全有益的AGI,但如果我們的工作有助于其他人實(shí)現(xiàn)這一結(jié)果,我們也會(huì)認(rèn)為我們的使命已經(jīng)完成。為此,我們致力于以下原則:
廣泛分布的好處
我們承諾利用我們對(duì)AGI部署的任何影響力,確保其用于造福所有人,并避免使用人工智能或AGI傷害人類或過(guò)度集中權(quán)力。
我們的首要信托義務(wù)是對(duì)人類。我們預(yù)計(jì)需要調(diào)集大量資源來(lái)完成我們的使命,但我們將始終努力采取行動(dòng),最大限度地減少員工和利益相關(guān)者之間可能損害廣泛利益的利益沖突。
長(zhǎng)期安全
我們致力于進(jìn)行使AGI安全所需的研究,并推動(dòng)人工智能社區(qū)廣泛采用此類研究。
我們擔(dān)心后期AGI發(fā)展成為一場(chǎng)沒(méi)有時(shí)間采取足夠安全預(yù)防措施的競(jìng)爭(zhēng)性比賽。因此,如果一個(gè)價(jià)值觀一致、安全意識(shí)強(qiáng)的項(xiàng)目在我們之前接近構(gòu)建AGI,我們承諾停止與該項(xiàng)目競(jìng)爭(zhēng),并開始協(xié)助該項(xiàng)目。我們將根據(jù)具體情況制定協(xié)議,但一個(gè)典型的觸發(fā)條件可能是“未來(lái)兩年成功的幾率甚至更大”
技術(shù)領(lǐng)導(dǎo)力
為了有效應(yīng)對(duì)AGI對(duì)社會(huì)的影響,OpenAI必須處于人工智能能力的前沿——僅憑政策和安全宣傳是不夠的。
我們相信,在AGI之前,人工智能將產(chǎn)生廣泛的社會(huì)影響,我們將努力在與我們的使命和專業(yè)知識(shí)直接一致的領(lǐng)域發(fā)揮領(lǐng)導(dǎo)作用。
我們將積極與其他研究和政策機(jī)構(gòu)合作;我們尋求建立一個(gè)全球社會(huì),共同應(yīng)對(duì)AGI的全球挑戰(zhàn)。
我們致力于提供公共產(chǎn)品,幫助社會(huì)走上AGI之路。如今,這包括發(fā)布我們的大部分人工智能研究,但我們預(yù)計(jì),安全和安保問(wèn)題將在未來(lái)減少我們的傳統(tǒng)發(fā)布,同時(shí)增加共享安全、政策和標(biāo)準(zhǔn)研究的重要性。