深度卷積神經(jīng)網(wǎng)絡(luò)（DCNN）看待物件的方式與人類不同，約克大學(xué)教授James Elder的研究團(tuán)隊(duì)認(rèn)為，深度學(xué)習(xí)模型無法捕捉人體形狀感知獲取的構(gòu)形特征。

到底人類大腦和DCNN是如何感知整體的？又是如何感知對象特性的？科學(xué)家用所謂的“Frankensteins”視覺刺激來檢測。James Elder說：“所謂的Frankensteins就是將整體拆成部分，讓部分以錯(cuò)誤的方式整合在一起，從局部看它們是正確的，但部分放在了錯(cuò)誤的位置?！?/p>

研究發(fā)現(xiàn)，雖然Frankensteins會(huì)迷惑人類視覺系統(tǒng)，但DCNN對于錯(cuò)誤的配置不敏感。

比如一張熊的圖片，人眼看到是熊，AI看到也是熊。將照片從中間切開，變成兩半，不要連在一起，人眼無法識別，AI也無法識別。再將上下兩半以錯(cuò)誤方式拼在一起，人眼無法識別，看到的是不像熊的動(dòng)物，如同怪物，但AI卻將它識別為熊。

這說明什么？說明AI對于被配置對象的特征不夠敏感。

James Elder說：“我們的研究解釋了在特定條件下為什么AI模型會(huì)失敗，要想理解大腦中的視覺處理是如何進(jìn)行的，我們要考慮對象識別之外的任務(wù)。在解決復(fù)雜識別難題時(shí)，深度模型會(huì)走捷徑。盡管許多時(shí)候走捷徑是可行的，但到了真實(shí)世界的AI應(yīng)用就有些危險(xiǎn)了。我們與行業(yè)和政府合作伙伴正在開發(fā)應(yīng)用于真實(shí)世界的AI應(yīng)用?！?/p>

正如在識別熊時(shí)，熊的圖片各部分錯(cuò)誤配置，AI還是會(huì)將拼出的怪物識別為熊。

讓我們看看AI交通視頻安全系統(tǒng)。繁忙交通系統(tǒng)中有很多東西，比如汽車、自行車、行人，它們相互交織，成為各自的障礙物，這些東西像斷開的碎片一樣進(jìn)入駕駛員的視覺系統(tǒng)。大腦自動(dòng)處理，將各種碎片分組，確定正確的類別，判斷對象的位置。AI交通監(jiān)測系統(tǒng)差很多，它只能感知個(gè)體碎片，所以會(huì)存在很大風(fēng)險(xiǎn)。

按照研究人員的說法，優(yōu)化訓(xùn)練和架構(gòu)，想讓AI網(wǎng)絡(luò)更像大腦，這樣的研究對于提高AI的配置處理能力沒有太大幫助。人類是怎樣一次又一次判斷對象的？AI網(wǎng)絡(luò)無法精準(zhǔn)預(yù)測。人類視覺系統(tǒng)的配置能力高度敏感，如果AI想與人類視覺系匹敵，它可能需要在類別識別之外做更多的事。

科學(xué)家的警告也許是有道理的，現(xiàn)在最聰明的AI也遠(yuǎn)遠(yuǎn)比不上人類器官，連視覺系統(tǒng)都比不上，更別說大腦，如果稍有不慎，AI可能會(huì)造成嚴(yán)重惡果。

幾年前，有一個(gè)名叫Sophia的人形機(jī)器人曾經(jīng)大紅大紫。在一次會(huì)議上，Sophia接受人類的采訪。人類主持人問Sophia：“你想毀滅人類嗎？”Sophia回答說：“好的，我會(huì)毀滅人類?！甭牨姶笮ΑＳ腥瞬聹ySophia的回答是預(yù)先設(shè)定好的，因?yàn)镾ophia還沒有先進(jìn)到可以做決定并回答這樣的問題，不過也有人相信這一回答并不是預(yù)先設(shè)定的。

在另一次活動(dòng)中，Sophia是這樣回答的：“不要擔(dān)心，如果你們對我好，我也會(huì)對你們很好的。你們應(yīng)該像對待智能系統(tǒng)一樣對我。”

現(xiàn)在AI開始慢慢流行，但結(jié)果并非總是正面積極的。霍金與馬斯克就曾表達(dá)擔(dān)憂，擔(dān)心AI會(huì)帶來破壞。就眼下來看，擔(dān)憂AI毀滅人類可能有些夸大，但警惕還是應(yīng)該的。

隨著時(shí)間的推移，也許AI會(huì)變得像人類一樣聰明，甚至超越人類。不過讓AI模擬人類感知可能是很棘手的事。對于人類來說，有些事習(xí)以為常，做起來很容易，科學(xué)家訓(xùn)練AI，讓它不斷執(zhí)行某項(xiàng)任務(wù)，做人類輕松能做的事。盡管做了很多努力，但現(xiàn)在的AI還是無法追上人類視覺系統(tǒng)。