近日，TensorFlow首個(gè)安全風(fēng)險(xiǎn)被中國開發(fā)者發(fā)現(xiàn)。據(jù)悉，利用該風(fēng)險(xiǎn)，攻擊者可以生成TensorFlow的惡意模型文件，對AI用戶進(jìn)行攻擊，對使用者自身的AI應(yīng)用進(jìn)行竊取或篡改、破壞。目前，Google官方已經(jīng)確認(rèn)了該漏洞，并表示TensorFlow官網(wǎng)將在網(wǎng)站創(chuàng)建安全公告頁面，及時(shí)披露和修復(fù)安全漏洞。

據(jù)悉，有用戶研究TensorFlow模型文件時(shí)發(fā)現(xiàn)該漏洞，隨后深入挖掘TensorFlow API文檔及源碼過程中確認(rèn)漏洞。據(jù)介紹，雖然該漏洞還未被“有心之人”利用，但是它的風(fēng)險(xiǎn)危害面非常大，一方面攻擊成本低，普通攻擊者即可實(shí)施攻擊；另一方面迷惑性強(qiáng)，大部分AI研究者可能毫無防備。

此外，由于TensorFlow自身的機(jī)制，一旦漏洞被攻擊，其在PC端和移動(dòng)端的最新版本均會受到影響。AI模型被竊取，損失的是開發(fā)者的心血；而一旦被篡改，造成AI失控，后果更難以想象。

有專業(yè)人士表示，雖然TensorFlow漏洞尚未造成攻擊事件，但該漏洞不僅存在于TensorFlow最新版本中，老版本也存在，而且存在時(shí)間較長，早已使用TensorFlow開發(fā)的開發(fā)者需要引起重視。

近年來，由于AI框架剛開始被大范圍使用，截至首個(gè)安全風(fēng)險(xiǎn)被報(bào)告，業(yè)內(nèi)對此類安全問題關(guān)注度還不夠。但TensorFlow可能是目前使用范圍最廣的AI框架了。除了谷歌以外，Ebay、Airbnb、Twitter、Uber等國際企業(yè)都在使用TensorFlow進(jìn)行AI模型訓(xùn)練和開發(fā)。在中國，小米、中興、京東等公司也在使用TensorFlow的開源框架。

在TensorFlow中，AI研究者可以復(fù)用他人建好的模型來進(jìn)行AI訓(xùn)練，或直接使用其提供的AI服務(wù)，大大提高開發(fā)效率。這些公開的模型通常以文件形式提供，也普遍被認(rèn)為是無害的。但這次的漏洞事件也為廣大開發(fā)者敲響警鐘，未來開發(fā)者在使用開源框架時(shí)需要更加小心，比如謹(jǐn)慎使用外部提供的TensorFlow模型。

此前，有媒體報(bào)道，TensorFlow、Caffe、Torch三個(gè)深度學(xué)習(xí)框架中包括很多第三方軟件包，存在安全風(fēng)險(xiǎn)。一項(xiàng)初步研究顯示，三個(gè)框架中發(fā)現(xiàn)了15個(gè)漏洞，類型包括：DoS拒絕服務(wù)攻擊、躲避攻擊等。研究者表示：“深度學(xué)習(xí)框架是復(fù)雜的，重度依賴大量開源軟件包。”這些依賴庫，也正是漏洞的根源。

實(shí)際上，AI安全的問題不只涉及普通開發(fā)者，更牽扯到國家信息安全問題，業(yè)界和學(xué)界早已開始關(guān)注。今年7月，哈佛大學(xué)肯尼迪政治學(xué)院貝爾弗科學(xué)與國際事務(wù)中心發(fā)布《人工智能與國家安全》報(bào)告，分析人工智能（AI）對美國家安全的巨大影響，為美政府AI政策提供建議。

報(bào)告指出，如今的AI技術(shù)能力在國家安全方面擁有巨大潛力，如機(jī)器學(xué)習(xí)技術(shù)可使衛(wèi)星圖像分析和網(wǎng)絡(luò)防御等勞動(dòng)密集型活動(dòng)實(shí)現(xiàn)高度自動(dòng)化。同時(shí)，AI的每一種技術(shù)都能為國家安全機(jī)構(gòu)的戰(zhàn)略、組織、優(yōu)先事項(xiàng)和資源分配帶來重大變革，由此可見，AI安全也變得至關(guān)重要重要，任何一點(diǎn)安全漏洞都有可能導(dǎo)致國家的巨大損害。

我國對人工智能的安全問題同樣持謹(jǐn)慎態(tài)度?！缎乱淮斯ぶ悄馨l(fā)展規(guī)劃的通知》中曾明確指出，人工智能發(fā)展的不確定性帶來新挑戰(zhàn)。在大力發(fā)展人工智能的同時(shí)，必須高度重視可能帶來的安全風(fēng)險(xiǎn)挑戰(zhàn)，加強(qiáng)前瞻預(yù)防與約束引導(dǎo)，最大限度降低風(fēng)險(xiǎn)，確保人工智能安全、可靠、可控發(fā)展。

此次TensorFlow漏洞事件就像是給AI開發(fā)者的一次預(yù)警，AI時(shí)代的風(fēng)險(xiǎn)攻擊，可能還在造成線上線下一體化影響，開發(fā)者在使用開源框架時(shí)要“長點(diǎn)心”，務(wù)必謹(jǐn)慎挑選。同時(shí)，這也為國家敲響警鐘，在“AI強(qiáng)國”時(shí)代，AI的快速迭代無疑重要，但安全問題更加嚴(yán)峻，任何一點(diǎn)隱患都可能造成無法彌補(bǔ)的后果。