3 月 24 日消息，人工智能領(lǐng)域的開創(chuàng)者之一，被譽(yù)為“AI 教父”的杰弗里?辛頓（Geoffrey Hinton）近日接受日本經(jīng)濟(jì)新聞采訪，講述了 AI 與人類的未來。

IT之家注：去年 5 月，杰弗里?辛頓宣布離開他工作了十年的谷歌公司，原因是他對(duì)人工智能技術(shù)的發(fā)展越來越擔(dān)憂。

談到當(dāng)初從谷歌離職的原因時(shí)，辛頓稱希望自己離職后能夠“自由地傳播”自己相信的東西。去年 4 月，他曾與自己的上司 —— 首席科學(xué)家杰夫?迪恩（Jeff Dean）交談，自己提出了 AI 有可能帶來事關(guān)人類生存危機(jī)的看法。迪恩試圖挽留辛頓，并提議留在谷歌研究 AI 的安全對(duì)策，但最終被辛頓拒絕。辛頓表示，自己非常尊敬迪恩，“即使不會(huì)被明確限制，但若身為谷歌的一員，講話時(shí)也不得不考慮到公司的利益。”

辛頓之所以認(rèn)為 AI 有可能威脅人類，是因?yàn)槿艚o AI 設(shè)定目標(biāo)，作為解決對(duì)策，它可能會(huì)找出對(duì)人類不利的方法。

比方說，假設(shè)向 AI 下達(dá)遏制氣候變化的指令。AI 會(huì)意識(shí)到為了達(dá)到目的而有必要將人類清除，我擔(dān)心真的會(huì)付諸實(shí)施的風(fēng)險(xiǎn)。

今后還可能會(huì)出現(xiàn)不同的 AI 相互競爭的局面。例如，如果 AI 之間發(fā)生數(shù)據(jù)中心等資源的爭奪，這將是一個(gè)像生物體一樣推動(dòng)進(jìn)化的過程。面對(duì)通過競爭變得更聰明的 AI，我們?nèi)祟悓⒙湓诤竺妗?/p>

很多人主張，要防止 AI 失控，只要關(guān)掉電源開關(guān)就可以。但超越人類智慧的 AI 可以用語言操縱我們，或許會(huì)試圖說服我們不要關(guān)掉開關(guān)。

日本經(jīng)濟(jì)新聞提到了 OpenAI 聯(lián)創(chuàng)伊爾亞?蘇茨克維（Ilya Sutskever）在去年曾試圖解雇該公司首席執(zhí)行官 (CEO) 山姆?阿爾特曼（Sam Altman）的話題，辛頓稱伊爾亞非常擔(dān)心 AI 的危險(xiǎn)性。“以前我們都認(rèn)為數(shù)字的智能不會(huì)像人類那么優(yōu)秀，理解語言和復(fù)雜的東西或?qū)⑹呛芫弥蟮氖虑椤?span>伊爾亞率先改變了看法，但我并沒有馬上同意，現(xiàn)在我覺得他是對(duì)的。”

半個(gè)世紀(jì)以來，辛頓一直在培養(yǎng) ChatGPT 等聊天機(jī)器人背后的核心技術(shù)。但是現(xiàn)在，他擔(dān)心 AI 會(huì)造成嚴(yán)重危害。