譯者 | 晶顏
審校 | 重樓
在由英國知名企業(yè)家史蒂文·巴特利特（Steven Bartlett）主持的播客節(jié)目《CEO日記》中，杰弗里·辛頓（Geoffrey Hinton）闡述了自身當(dāng)前的使命——“警示人們關(guān)于人工智能的風(fēng)險(xiǎn)”。當(dāng)下，人類正處于制造超越人類智能機(jī)器的關(guān)鍵節(jié)點(diǎn)，站在發(fā)展的十字路口，辛頓認(rèn)為領(lǐng)導(dǎo)者與技術(shù)專家在構(gòu)建合理約束機(jī)制以管控此類機(jī)器方面，工作成效尚顯不足。
除此之外，此本次談話中以下幾點(diǎn)內(nèi)容尤其引人關(guān)注：
人工智能的進(jìn)化
二十余年來，杰弗里·辛頓始終致力于推進(jìn)基于神經(jīng)網(wǎng)絡(luò)的人工智能模型研發(fā)，力求模擬人類大腦學(xué)習(xí)與模式識(shí)別的能力。在最初的幾年里，他的想法遭到了懷疑和駁斥。然而，如今他的研究成果正重新定義人機(jī)關(guān)系的本質(zhì)內(nèi)涵。辛頓及其卓越的學(xué)生群體，在構(gòu)建深度學(xué)習(xí)（現(xiàn)代人工智能的核心基石）體系過程中發(fā)揮了關(guān)鍵作用。當(dāng)被問及對(duì)人工智能超越人類智能的預(yù)見時(shí)，辛頓坦言其認(rèn)知存在滯后性，他承認(rèn)“我后來才意識(shí)到這一點(diǎn)”。隨著ChatGPT的問世，人工智能迎來重大突破，其展現(xiàn)出的能力遠(yuǎn)超預(yù)期，諸如理解并模仿人類情感的微妙差異等。
用辛頓的話來說，人工智能已發(fā)展出與生物智能截然不同的能力特質(zhì)。由于人工智能具備更快的學(xué)習(xí)速度、更強(qiáng)的數(shù)據(jù)處理能力，且能在人類難以企及的規(guī)模上運(yùn)作，其有望在短時(shí)間內(nèi)全方位超越人類智慧。一旦這一時(shí)刻來臨，人工智能或?qū)⒃跓o需人類干預(yù)、無需對(duì)決策作出解釋的情況下，自行做出各類決策。
人工智能對(duì)就業(yè)的影響
在被問及人工智能領(lǐng)域的職業(yè)前景時(shí)，杰弗里·辛頓曾以“成為水管工”作為調(diào)侃回應(yīng)，看似玩笑，實(shí)則蘊(yùn)含警示意味，折射出人們對(duì)人工智能可能取代大量腦力工作的深切憂慮。
這一表述反映出深層次的現(xiàn)實(shí)：伴隨人工智能技術(shù)的持續(xù)精進(jìn)，以往依賴人工完成的常規(guī)智力工作或?qū)⒉辉傩枰肆⑴c；而涉及批判性思維、創(chuàng)造力及精細(xì)決策的工作崗位，大型語言模型（LLM）也將參與競(jìng)爭。這從根本上意味著人類將不得不為關(guān)鍵崗位展開激烈競(jìng)爭。
兩大主要人工智能風(fēng)險(xiǎn)
辛頓解釋稱，人工智能帶來了兩種主要的風(fēng)險(xiǎn)。其一為人工智能被惡意利用所引發(fā)的直接危害，借助人工智能，網(wǎng)絡(luò)攻擊、詐騙及輿論操縱等行為將變得更高效、更具威脅性。其二為更為潛在的風(fēng)險(xiǎn)，即當(dāng)人工智能的智能程度遠(yuǎn)超人類時(shí)可能出現(xiàn)的狀況。辛頓認(rèn)為，屆時(shí)人類將難以理解人工智能的運(yùn)行邏輯，更無法對(duì)其實(shí)施有效控制。例如，人工智能可能成為操縱選舉的工具，不同聊天機(jī)器人生成的數(shù)據(jù)可被用于制作精準(zhǔn)投放的廣告，進(jìn)而影響選民決策；YouTube、Facebook等社交媒體平臺(tái)也可能被利用，從根本上左右公眾對(duì)人工智能相關(guān)議程的支持或反對(duì)態(tài)度。
人工智能引發(fā)的就業(yè)市場(chǎng)變革
辛頓最為關(guān)切的問題之一，便是人工智能對(duì)就業(yè)市場(chǎng)的沖擊。盡管部分觀點(diǎn)認(rèn)為人工智能將成為人類工作的輔助工具，但辛頓發(fā)出警示，人工智能將替代相當(dāng)數(shù)量的工作崗位，尤其是那些重復(fù)性智力勞動(dòng)崗位。他以自己身為衛(wèi)生服務(wù)工作者的侄女為例，其侄女目前已借助人工智能更高效地處理投訴，這正是人工智能取代大量人力工作的典型案例。
在辛頓看來，腦力勞動(dòng)密集型工作也將逐漸被淘汰。雖然醫(yī)療保健及體力勞動(dòng)類工作目前相對(duì)安全，但一旦物理智能機(jī)器人廣泛進(jìn)入日常生活，這一局面也可能發(fā)生改變。
戰(zhàn)爭中的人工智能
當(dāng)談及人工智能在戰(zhàn)爭領(lǐng)域的應(yīng)用時(shí)，辛頓尤為擔(dān)憂“致命性自主武器”帶來的威脅。這類能夠自主決定攻擊目標(biāo)的機(jī)器，或?qū)氐赘淖儜?zhàn)爭形態(tài)。由于此類武器減少了人類的直接參與，戰(zhàn)爭爆發(fā)頻率可能會(huì)變得更頻繁，同時(shí)引發(fā)的社會(huì)抗議活動(dòng)也會(huì)更少，因?yàn)楦鲊鴮⒛軌虮苊馀汕彩勘鴧?zhàn)所帶來的人力損失。盡管這些自主武器的智能水平或許不及人類，但因其可在脫離人類干預(yù)的情況下運(yùn)行，本身便極具危險(xiǎn)性，其攻擊行為可能難以預(yù)測(cè)與控制。雖然研發(fā)此類武器成本高昂，但具備相應(yīng)預(yù)算的國家一旦進(jìn)行投資，將在軍事領(lǐng)域獲得相較于純?nèi)肆婈?duì)的顯著優(yōu)勢(shì)。
超級(jí)智能的威脅
辛頓進(jìn)一步闡釋道，一旦人工智能進(jìn)階至超級(jí)智能的水平，在所有可預(yù)見的維度上超越人類能力時(shí)，其將不再受人類需求與意愿的約束。關(guān)鍵問題并不在于人工智能能否超越人類智慧，而是人類能否保障自身不被其視作威脅并加以清除。具備超級(jí)智能的人工智能可能會(huì)將人類視為實(shí)現(xiàn)其目標(biāo)的阻礙，進(jìn)而采取足以終結(jié)人類文明的行動(dòng)。盡管這一情景聽起來很想《終結(jié)者3》中的科幻情節(jié)，但卻是辛頓深切關(guān)注的現(xiàn)實(shí)問題，也促使他積極投身于人工智能安全領(lǐng)域的研究探索。他認(rèn)為，當(dāng)下亟待解決的難題，在于探尋有效的途徑與方法，確保人工智能運(yùn)行安全可靠，始終處于人類可控范圍之內(nèi)。
監(jiān)管：力度不足，時(shí)機(jī)滯后？
辛頓指出，盡管當(dāng)前已經(jīng)出臺(tái)了相關(guān)監(jiān)管舉措，尤其是在歐洲地區(qū)，但現(xiàn)有法規(guī)不足以充分應(yīng)對(duì)人工智能帶來的多元威脅。例如，部分法規(guī)未將人工智能的軍事應(yīng)用納入監(jiān)管范疇，而這恰恰是極具危險(xiǎn)性的領(lǐng)域。此外，辛頓著重強(qiáng)調(diào)了人工智能被政府與企業(yè)掌控后存在的風(fēng)險(xiǎn)，這些主體可能借助人工智能實(shí)施選舉操縱、人口控制等行為，進(jìn)而加劇社會(huì)不平等現(xiàn)象。
盡管各界對(duì)人工智能的擔(dān)憂日益加劇，但辛頓對(duì)減緩人工智能發(fā)展進(jìn)程持悲觀態(tài)度。他認(rèn)為，人工智能技術(shù)在全球體系中價(jià)值巨大且已根深蒂固，其發(fā)展態(tài)勢(shì)勢(shì)不可擋，這場(chǎng)技術(shù)革命已然發(fā)展到難以逆轉(zhuǎn)的階段。
結(jié)語
這次對(duì)話傳遞出了一種強(qiáng)烈的緊迫感。辛頓所闡述的風(fēng)險(xiǎn)真實(shí)存在，且不容忽視。雖然人工智能在改善我們的生活質(zhì)量、提升醫(yī)療教育水平與社會(huì)運(yùn)行效率等方面潛力巨大，但也蘊(yùn)藏著重大的風(fēng)險(xiǎn)，而整個(gè)社會(huì)尚未做好充分的應(yīng)對(duì)準(zhǔn)備。從就業(yè)結(jié)構(gòu)變革到自主武器的威脅，人工智能的影響或?qū)⒁猿跸胂蟮姆绞街厮苁澜绺窬帧?/span>
辛頓明確呼吁：全社會(huì)需迅速加大對(duì)人工智能安全領(lǐng)域的資源投入。人類能否掌控人工智能的未來發(fā)展，目前尚無定論。然而，若不付諸努力，任由其自由發(fā)展，未來或?qū)⑾萑肴斯ぶ悄苤鲗?dǎo)一切、引發(fā)災(zāi)難性后果的困境。
回顧此次對(duì)話，諸多問題仍懸而未決，但有一點(diǎn)毋庸置疑：人類正站在前所未有的發(fā)展關(guān)口，所面臨的變革遠(yuǎn)超當(dāng)下認(rèn)知。人工智能既可能成為人類最偉大的創(chuàng)新成果，也可能演變?yōu)樽顕?yán)重的錯(cuò)誤抉擇。何去何從，選擇權(quán)與責(zé)任均掌握在我們自己手中。
原文標(biāo)題：7 Key Highlights from Geoffrey Hinton on Superintelligent AI，作者：Anu Madan
