?譯者 | 李睿

審校 | 孫淑娟

近年來，深度學(xué)習(xí)在人工智能的一些最具挑戰(zhàn)性的領(lǐng)域取得了長足的進步，其中包括計算機視覺、語音識別和自然語言處理。  

然而，深度學(xué)習(xí)系統(tǒng)仍然沒有解決一些問題。因為深度學(xué)習(xí)系統(tǒng)不擅長處理新情況，它們需要大量數(shù)據(jù)進行訓(xùn)練，有時還會犯一些奇怪的錯誤，甚至連它們的創(chuàng)造者都會感到困惑。

一些科學(xué)家認(rèn)為，這些問題要以通過創(chuàng)建越來越大的神經(jīng)網(wǎng)絡(luò)并在越來越大的數(shù)據(jù)集上進行訓(xùn)練來解決。也有人認(rèn)為，人工智能領(lǐng)域需要的是人類的一些“常識”。  

計算機科學(xué)家Ronald J.Brachman和Hector J.Levesque在他們出版的新書《像我們這樣的機器》中，提出他們對人工智能難題這一缺失部分的看法和可能的解決方案，而“常識“這一難題已經(jīng)困擾了研究人員幾十年的時間。在接受行業(yè)媒體的采訪時，Brachman討論了什么是常識，什么不是常識，為什么機器沒有常識，以及“知識表示”這一概念是如何引導(dǎo)人工智能社區(qū)朝著正確的方向發(fā)展的?！爸R表示”這個概念已經(jīng)存在了幾十年，但在深度學(xué)習(xí)熱潮中被擱置了。

盡管仍停留在假設(shè)領(lǐng)域，但《像我們這樣的機器》這本書為潛在的研究領(lǐng)域提供了一個新的視角，這得益于這兩位自從上世紀(jì)70年代以來一直深入研究人工智能的科學(xué)家。

優(yōu)秀人工智能系統(tǒng)會犯奇怪錯誤

Brachman說，“在過去的10到12年，隨著人們對深度學(xué)習(xí)表現(xiàn)出非凡的熱情，有很多關(guān)于基于深度學(xué)習(xí)的系統(tǒng)能夠完成我們最初希望人工智能系統(tǒng)所做的一切的討論。”

在人工智能的發(fā)展早期，其愿景是創(chuàng)建一個自給自足的自主系統(tǒng)，并且可能以機器人的形式出現(xiàn)，它可以在幾乎不需要或根本不需要人工干預(yù)的情況下獨立做事。

Brachman說，“如今，由于許多人對深度學(xué)習(xí)所能取得的成就感到興奮，研究的范圍已經(jīng)縮小了很多。特別是在工業(yè)領(lǐng)域，大量資金和人才招聘推動了對基于經(jīng)驗或經(jīng)過實例訓(xùn)練的系統(tǒng)的高度關(guān)注，許多人聲稱已經(jīng)接近通用人工智能，或者說‘有效的老式人工智能’（GOFAI）或象征性方法完全過時或沒有必要?！?/p>

顯而易見的是，盡管令人印象深刻，但深度學(xué)習(xí)系統(tǒng)正面臨著尚未解決的令人困惑的問題。神經(jīng)網(wǎng)絡(luò)容易受到對抗性攻擊，其中對輸入值的特制修改會導(dǎo)致機器學(xué)習(xí)模型對其輸出進行突然的錯誤更改。深度學(xué)習(xí)也在努力理解簡單的因果關(guān)系，而且在構(gòu)思概念和將它們組合在一起方面的表現(xiàn)非常糟糕。大型語言模型最近成為了一個特別關(guān)注的領(lǐng)域，但有時會在生成連貫且令人印象深刻的文本時犯下非常愚蠢的錯誤。

Brachman說，“人們對人工智能犯的這些錯誤的看法是，它們看起來很愚蠢、很無知，人類很少犯這種錯誤。但是重要的是，導(dǎo)致這些錯誤的原因有些難以解釋?！?/p>

這些錯誤導(dǎo)致Brachman和Levesque反思當(dāng)今人工智能技術(shù)中缺少什么，以及需要什么來補充或取代示例驅(qū)動的訓(xùn)練神經(jīng)網(wǎng)絡(luò)系統(tǒng)。  

Brachman說，“如果仔細(xì)想想，這些系統(tǒng)顯然缺少的是人類所稱的常識，即能夠看到對許多人來說顯而易見的事情，并快速得出簡單和明顯的結(jié)論，并能夠在決定做一些立即意識到是荒謬或錯誤選擇的事情時阻止自己?！?/p>

什么是常識？

人工智能社區(qū)從早期開始就一直在談?wù)摮ＷR。事實上，John McCarthy于1958年撰寫的最早的人工智能論文之一的名稱為《具有常識的程序》。  

Brachman說，“這不是什么新鮮事，也不是我們發(fā)明的名稱，但這一領(lǐng)域已經(jīng)忽視了人工智能先驅(qū)者所說的核心意義。如果進一步了解什么是常識以及擁有它的意義，對我們來說更重要的是，它是如何工作的以及將如何實施它，人們在心理學(xué)文獻中幾乎找不到指導(dǎo)?！?/p>

在《像我們這樣的機器》一書中，Brachman和Levesque將常識描述為“有效利用普通、日常、經(jīng)驗知識來實現(xiàn)普通、日常、實際目標(biāo)的能力”。  

常識對生存至關(guān)重要。人類和高等動物已經(jīng)進化到通過經(jīng)驗學(xué)習(xí)，發(fā)展常規(guī)和自動駕駛技能，可以處理他們每天面臨的大多數(shù)情況。但日常生活不僅僅是人們反復(fù)看到的例行公事。人們經(jīng)常面臨從未見過的新情況。它們中的一些可能與正常情況有很大不同，但大多數(shù)時候，人們看到的事物與已經(jīng)習(xí)慣的有些不同。在人工智能討論中，這有時被稱為“長尾”。

Brachman說，“在我們看來，當(dāng)這些例行公事被打斷時，常識實際是第一個被激活的事物，能讓人們快速了解新情況，記住之前所做的事情，快速調(diào)整記憶，并將其應(yīng)用于新情況，并繼續(xù)前進。”  

在某種程度上，常識與心理學(xué)家、諾貝爾獎獲得者Daniel Kahneman推廣的雙系統(tǒng)思維范式有些不同。常識并不是快速、自動駕駛的系統(tǒng)1思維，它執(zhí)行人們可以在沒有特意集中精力的情況下完成的大多數(shù)日常任務(wù)（例如，刷牙、系鞋帶、扣扣子、在熟悉的區(qū)域開車）。它需要積極思考來來打破目前的常規(guī)。

與此同時，常識也不是系統(tǒng)2思維，系統(tǒng)2思維是一種緩慢的思維模式，是需要全神貫注、循序漸進的思維（例如，規(guī)劃為期六周的旅行、設(shè)計軟件、解決復(fù)雜的數(shù)學(xué)方程）。  

Brachman說，“人們可以深思熟慮，以應(yīng)對挑戰(zhàn)。這種思考會讓人們的大腦感到疲乏，而且速度很慢。常識讓人們在幾乎任何日常生活中都能避開這種情況，因為不需要深入思考下一步該做什么?！?

Brachman和Levesque在他們出版的著作中強調(diào)，常識是一種“膚淺的認(rèn)知現(xiàn)象”，與深思熟慮、有條不紊的分析相比，它運行速度更快。  

他們寫道，“如果需要大量思考才能弄清楚，這不是常識。我們可以將其視為‘反思性思維’，‘反思性’與‘思考’一樣重要，”

沒有常識的人工智能面臨的危險  

常識需要可預(yù)測性、信任、可解釋性和問責(zé)制。  

Brachman說，“大多數(shù)人并不會犯一些奇怪的錯誤。雖然人們可能會做一些傻事，但在反思之后可能會避免這樣的錯誤。雖然人類并不完美，但有些錯誤在一定程度上是可以預(yù)測的。”  

沒有常識的人工智能系統(tǒng)面臨的挑戰(zhàn)是，當(dāng)它們達到訓(xùn)練的極限時可能會犯錯。Brachman說，這些錯誤是完全不可預(yù)測和無法解釋的。  

Brachman說，“沒有常識的人工智能系統(tǒng)沒有這種觀點，沒有阻止自己做奇怪事情的退路，而且會變得脆弱。當(dāng)它們犯錯時，錯誤對它們來說根本沒有任何意義?！? 

這些錯誤可能是無害的，例如給圖片貼錯標(biāo)簽；也可能是極其有害的，例如導(dǎo)致自動駕駛汽車駛?cè)脲e誤的車道。  

Brachman和Levesque在書中寫道，“如果一個人工智能系統(tǒng)遇到的問題是下棋，而它所考慮就是贏得比賽，那么常識對它們來說不會發(fā)揮作用，而當(dāng)人們玩國際象棋游戲時，常識將發(fā)揮作用?！? 

因此，隨著人工智能系統(tǒng)進入開放領(lǐng)域的敏感應(yīng)用，例如駕駛汽車或與人類合作，甚至參與開放式對話，常識將發(fā)揮非常關(guān)鍵的作用。這些領(lǐng)域總是會發(fā)生新奇的事情。

Brachman和Levesque在《像我們這樣的機器》書中寫道，“如果我們希望人工智能系統(tǒng)能夠以合理的方式處理現(xiàn)實世界中普遍發(fā)生的事情，我們需要的不僅僅是通過對已經(jīng)發(fā)生的事情進行采樣而得出的專業(yè)知識。僅僅基于看到和內(nèi)化過去發(fā)生的事情來預(yù)測未來是行不通的。我們需要常識。”

重新審視符號人工智能  

大多數(shù)科學(xué)家都認(rèn)為當(dāng)前的人工智能系統(tǒng)缺乏常識。然而，涉及解決方案時通常出現(xiàn)一些分歧意見。一個流行的趨勢是繼續(xù)使神經(jīng)網(wǎng)絡(luò)的規(guī)模變得越來越大。有證據(jù)表明，更大的神經(jīng)網(wǎng)絡(luò)繼續(xù)進行漸進式改進。在某些情況下，大型神經(jīng)網(wǎng)絡(luò)表現(xiàn)出零樣本學(xué)習(xí)技能，它們執(zhí)行未經(jīng)訓(xùn)練的任務(wù)。

然而，也有大量的研究和實驗表明，更多的數(shù)據(jù)和計算并不能解決人工智能系統(tǒng)沒有常識的問題，而只是將它們隱藏在更大、更混亂的數(shù)字權(quán)重和矩陣運算中。  

Brachman說，“這些系統(tǒng)注意并內(nèi)化相關(guān)性或模式。它們不會形成‘概念’。即使這些系統(tǒng)與語言互動，它們也只是模仿人類行為，而沒有人們認(rèn)為他們擁有的潛在心理和概念機制?！?/p>

Brachman和Levesque主張創(chuàng)造一種系統(tǒng)，將常識性知識和對世界的常識性理解編碼。

他們在書中寫道：“常識知識是關(guān)于世界上的事物及其所具有的屬性，以我們所謂的概念結(jié)構(gòu)為中介，它是關(guān)于可能存在的各種事物以及它們可能擁有的各種屬性的一系列想法。知識將通過符號化表示和在這些符號結(jié)構(gòu)上執(zhí)行計算操作來使用。關(guān)于該做什么的常識性決策相當(dāng)于使用這些表征知識來考慮如何實現(xiàn)目標(biāo)，以及如何對觀察到的情況做出反應(yīng)?！? 

Brachman和Levesque認(rèn)為，該領(lǐng)域需要回顧并重新審視早期關(guān)于符號人工智能的一些工作，以便為計算機帶來常識。他們稱之為“知識表示”假設(shè)。這本書詳細(xì)介紹了如何構(gòu)建知識表示(KR)系統(tǒng)，以及如何將不同的知識片段結(jié)合起來，形成更復(fù)雜的知識和推理形式。

根據(jù)知識表示(KR)假設(shè)，常識知識的表示將分為兩個部分：“一個表示世界狀態(tài)的世界模型，另一個是表示概念結(jié)構(gòu)的概念模型，而這是一個可用于對世界中的項目進行分類的概括框架?！?/p>

Brachman表示“我們的觀點是回到早期關(guān)于人工智能的一些思考，其中某種符號和符號操作程序（人們過去稱之為推理引擎）可以用來編碼和使用人們稱之為常識的世界基礎(chǔ)知識：直觀或幼稚的物理學(xué)，對人類和其他主體的行為方式以及意圖和信念的基本了解，時間和事件如何運作，因果關(guān)系等。這些都是我們在初始一兩年內(nèi)獲得的所有知識。正式表示的世界知識實際上可以對機器的行為產(chǎn)生因果影響，并且還可以通過操縱符號來做所有事情，例如組合性。并將人們熟悉的事物以新的方式呈現(xiàn)出來?！?/p>

Brachman強調(diào)，他們在書中提出的假設(shè)在未來可以被推翻。  

Brachman說，“從長遠(yuǎn)來看，到底是預(yù)構(gòu)建、預(yù)編碼所有這些知識，還是讓人工智能系統(tǒng)以不同的方式學(xué)習(xí)，我不知道。但作為一個假設(shè)和實驗，我認(rèn)為人工智能的下一步應(yīng)該是嘗試建立這些知識庫，并讓系統(tǒng)使用它們來處理日常生活中的意外事件，對如何處理熟悉和不熟悉的情況作出粗略的猜測?！?

Brachman和Levesque的假設(shè)建立在先前創(chuàng)建大型符號常識知識庫（例如Cyc）的基礎(chǔ)之上，該項目可以追溯到上世紀(jì)80年代，并收集了數(shù)百萬條關(guān)于世界的規(guī)則和概念。  

Brachman說，“我認(rèn)為我們需要走得更遠(yuǎn)。我們需要關(guān)注自主決策機器如何在日常的決策環(huán)境中使用這些事物。積累事實知識并能夠回答危險類型的問題是一回事；但在這個紛繁嘈雜的世界里工作，并能夠理性、及時地應(yīng)對不可預(yù)見的意外，則完全是另一回事?！?/p>

機器學(xué)習(xí)在常識中有作用嗎？  

Brachman表示，基于機器學(xué)習(xí)的系統(tǒng)將繼續(xù)在人工智能的感知方面發(fā)揮關(guān)鍵作用。  

他說，“我不會推動使用一階謂詞演算來處理人造視網(wǎng)膜上的像素或處理速度信號處理的符號操作系統(tǒng)。這些機器學(xué)習(xí)系統(tǒng)非常擅長低感官水平的識別任務(wù)，目前尚不清楚這些事物在認(rèn)知鏈中有多高，但它們并沒有走到最后，因為它們不會在人們在場景中看到的事物和自然語言之間形成概念和聯(lián)系?！?/p>

神經(jīng)網(wǎng)絡(luò)和符號系統(tǒng)的結(jié)合是近年來越來越突出的一個想法。Gary Marcus、Luis Lamb和Joshua Tenenbaum以及其他科學(xué)家正在提議開發(fā)“神經(jīng)符號”系統(tǒng)，將最好的符號系統(tǒng)和基于學(xué)習(xí)的系統(tǒng)結(jié)合在一起，以解決人工智能當(dāng)前面臨的挑戰(zhàn)。  

盡管Brachman認(rèn)同該領(lǐng)域正在進行的大部分工作，但他也表示，目前對混合人工智能的看法需要一些調(diào)整。

他說：“我認(rèn)為目前的任何神經(jīng)符號系統(tǒng)難以解釋常識與更有條理、更深入的符號推理之間的差異，而這些符號推理是數(shù)學(xué)、繁重的規(guī)劃和深度分析的基礎(chǔ)。我希望在這個混合人工智能世界中看到的是真正考慮常識，讓機器像人類一樣利用常識，讓它做與人類所做的相同的事情。”

原文標(biāo)題：??How to solve AI’s “common sense” problem???，作者：Ben Dickson?