[[419993]]

文/陳杰

人工智能技術(shù)一直是當前科技領(lǐng)域的熱點，不論是從圖像分析到自然語言理解，再到科學(xué)領(lǐng)域。得益于神經(jīng)網(wǎng)絡(luò)的“深度”變革，以大量數(shù)據(jù)和算法加持的算力去處理復(fù)雜的數(shù)據(jù)已成為日常，而這在過去是無法想象的，背后則是人工智能技術(shù)突飛猛進發(fā)展的必然結(jié)果。

在刷臉、自動駕駛、智慧家庭等各種人工智能應(yīng)用場景紛紛落地日常生活的當下，從消費者的視角來看，人工智能已經(jīng)讓生活變得更美好了，但這一技術(shù)是否已經(jīng)足夠強大了呢？學(xué)術(shù)界的答案卻恰恰相反——當前的人工智能技術(shù)在安全可靠方面其實完全不夠看！

人工智能并沒有那么可靠

在日前召開的首屆“青年科學(xué)家50²論壇”上，清華大學(xué)教授朱軍對正在高速發(fā)展的人工智能產(chǎn)界潑出一盆冷水：今天的人工智能遠遠算不上完美。首先是深度學(xué)習(xí)仍然面臨著魯棒性差的問題，比如很多手機都會配備人臉識別方案，但通過一副打印了特殊紋理圖案的眼鏡，就能輕松解鎖很多手機；再說到安全需求更高的自動駕駛系統(tǒng)，黑客們只需要在標識牌上加上特定圖案，就能讓系統(tǒng)將限速標識識別為停止標識，導(dǎo)致致命事故的發(fā)生……

這些看似非常符合人們直覺或者是常見的問題，放到很智能的系統(tǒng)面前，卻會出現(xiàn)錯誤的結(jié)果，背后的原因是什么？

“這里面一個關(guān)鍵的問題，是現(xiàn)在的人工智能技術(shù)‘不知道自己不知道’。”朱軍表示，人類都能夠遵循“知之為知之，不知為不知，是知

也”的道理，但當前的人工智能主流技術(shù)，絕大部分都欠缺這種能力。比如在一個很多貓和狗照片的比對系統(tǒng)中放一張人工智能還不知道的蘋果照片，讓人工智能來分析這是什么，結(jié)果答案要么是貓，要么是狗，而這只取決于這張?zhí)O果照片和貓、狗哪個更相似一些。

不用懷疑人工智能的學(xué)習(xí)能力，但確實缺乏“知道自己不知道”的能力。學(xué)術(shù)界認為，一個人工智能系統(tǒng)如果知道自己“不知道”，其實代表著其有更高的智能水平。“具體來說，在現(xiàn)實世界里存在兩種不確定性會影響到人工智能對此的認知，一種是比較直觀的環(huán)境和數(shù)據(jù)的不確定性導(dǎo)致的信息采集不完全；另一種則是更抽象的、更難以被感知的信息，這種模型的不確定性，讓大數(shù)據(jù)的模型存在歧義，讓人工智能在訓(xùn)練時也許表現(xiàn)得非常好，但是測試上就會發(fā)現(xiàn)性能距離很大。”朱軍表示，目前的解決思路是更深入地研究貝葉斯智能理論，解決如何定量、客觀地計算這種不確定性，得到最優(yōu)的結(jié)果。推動貝葉斯智能理論研究的深化，則需要產(chǎn)學(xué)研界的共同努力。

安全是必須跨越的鴻溝

人工智能的概念產(chǎn)生最早可追溯到1956年的達特茅斯會議，但直到近十年來這一領(lǐng)域才真正地深刻改變了大眾生活，甚至攻克了多種人類世界的頂級挑戰(zhàn)，比如戰(zhàn)勝圍棋頂級選手、預(yù)測蛋白質(zhì)結(jié)構(gòu)、擊敗人類飛行員等等。但目前來看，當前的人工智能技術(shù)不僅在可靠性方面存在很大問題，安全和可信方面也開始進入瓶頸期。

8月3日，在首屆全球數(shù)字經(jīng)濟大會的人工智能產(chǎn)業(yè)治理主題論壇上，中國科學(xué)院院士張鈸拋出了一個觀點：當前人工智能的安全治理是迫在眉睫的，隨著技術(shù)潛入到“深水區(qū)”，研究發(fā)現(xiàn)，人工智能的算法存在一些根本性的問題，本身就帶有不安全性，容易受到攻擊。“人工智能技術(shù)所面臨的安全問題是非常特殊的，其問題不在于設(shè)計，而是源自算法本身的不安全性。這種算法的不安全性，是由第二代人工智能所引起的。”

“學(xué)術(shù)界已經(jīng)開始思考技術(shù)下一步的發(fā)展方向，新一代人工智能的發(fā)展路徑是融合第一代的知識驅(qū)動和第二代的數(shù)據(jù)驅(qū)動的人工智能，同時利用知識、數(shù)據(jù)、算法和算力等4個要素，建立新的可解釋和魯棒的人工智能理論與方法，發(fā)展安全、可信、可靠和可擴展的人工智能技術(shù)。”朱軍表示，“安全可靠”作為第三代人工智能的核心發(fā)展目標逐漸成為共識，數(shù)據(jù)與算法安全也成為學(xué)界和業(yè)界人士重點關(guān)注的研究主題之一。