竟在音頻中暗藏指令？語(yǔ)音助手的5大安全威脅
家庭語(yǔ)音數(shù)字助理，比如亞馬遜的Echo、Alexa、微軟的Cortana和蘋(píng)果Siri，本是為了幫助用戶(hù)通過(guò)簡(jiǎn)單易用的語(yǔ)音接口快速登錄各項(xiàng)服務(wù)的，卻也在同時(shí)為網(wǎng)絡(luò)攻擊者打開(kāi)了方便之門(mén)。
比如說(shuō)，本月晚些時(shí)候舉行的黑帽大會(huì)上，4名研究人員就將演示Cortana如何被用于繞過(guò)鎖定Windows設(shè)備的安全保護(hù)措施。雖然該團(tuán)隊(duì)利用的是名為“芝麻開(kāi)門(mén)”的特定漏洞，語(yǔ)音助理的問(wèn)題卻不僅止于此。
語(yǔ)音接口是個(gè)好主意，但并不適用于所有設(shè)備或行為。讓語(yǔ)音接口可以全權(quán)處理所有PC事務(wù)，或者可通過(guò)語(yǔ)音接口登錄企業(yè)網(wǎng)絡(luò)環(huán)境，并不是個(gè)非常明智的架構(gòu)決策。
將在黑客大會(huì)上演示的這個(gè)研究?jī)H涉及利用語(yǔ)音助理的最新攻擊。語(yǔ)音助理往往太過(guò)強(qiáng)調(diào)便捷性而忽視了安全因素。但市面上往各種設(shè)備中添加數(shù)字助理的做法大行其道，智能手機(jī)和PC往往都帶有語(yǔ)音助理以作為與設(shè)備互動(dòng)的快捷新方法。亞馬遜Echo和谷歌Home之類(lèi)的智能音箱也迎來(lái)了銷(xiāo)售高峰，每6個(gè)美國(guó)人就擁有一臺(tái)此類(lèi)設(shè)備。
然而，安全問(wèn)題遲早暴露，安全事件已經(jīng)呈現(xiàn)。2017年1月，電視機(jī)里新聞主播的一句“我喜歡小女孩說(shuō)‘Alexa幫我訂個(gè)玩偶’”，就讓觀眾家中的Alexa去下單訂購(gòu)?fù)媾剂恕?018年5月，亞馬遜智能音箱捕捉到一對(duì)夫妻的交談，默默錄下并發(fā)送給了他們的一個(gè)朋友。
這些事件凸顯出，除了繞過(guò)安全控制措施，語(yǔ)音助理簡(jiǎn)直就是個(gè)從不偷懶的傳感器，隨時(shí)監(jiān)聽(tīng)周?chē)曇羰叭撛谥噶?。在語(yǔ)音助理面前，主人的隱私?不存在的。
會(huì)被意外觸發(fā)的事件，比如上面所說(shuō)的電視播音導(dǎo)致Echo訂購(gòu)?fù)媾际录?，處在?yōu)先處理序列。研究如何避免此類(lèi)事件的領(lǐng)域如今比較熱門(mén)。
那么，攻擊者利用語(yǔ)音助理的方式有哪些呢?
1. 在音頻中暗藏指令
針對(duì)機(jī)器學(xué)習(xí)和人工智能系統(tǒng)的攻擊中，有一類(lèi)是通過(guò)修改輸入(視覺(jué)系統(tǒng)改圖像，聲音系統(tǒng)改音頻)來(lái)讓機(jī)器將之理解成完全不同的另一個(gè)東西。
加州大學(xué)伯克利分校的Carlini博士在研究中采用了這種技術(shù)，僅改動(dòng)了0.1%的語(yǔ)音音頻，就將轉(zhuǎn)錄出來(lái)的文字變成了完全不同的另一句話(huà)。該技術(shù)甚至能在音樂(lè)中隱藏指令。
目前，該技術(shù)還只能應(yīng)用在嚴(yán)格控制的環(huán)境中，但發(fā)展成通用攻擊也是可行的。
| 該攻擊能否無(wú)線(xiàn)實(shí)施尚未可知。我們?cè)囘^(guò)一些很明顯的東西，但都沒(méi)有太深入。我認(rèn)為這種可能性是存在的。”
——Carlini |
2. 機(jī)器能聽(tīng)見(jiàn)，人耳聽(tīng)不見(jiàn)
在其他語(yǔ)音中隱藏指令不是唯一一種操縱語(yǔ)音助理的隱秘方式。2017年演示的攻擊中，浙江大學(xué)的6名研究人員就用人耳聽(tīng)不到的語(yǔ)音指揮Siri撥打電話(huà)或做點(diǎn)別的什么事了。
該攻擊被命名為“海豚攻擊”，證明了語(yǔ)音助理安全性的缺失可被黑客利用來(lái)操控其訪(fǎng)問(wèn)惡意網(wǎng)站、監(jiān)視用戶(hù)、注入虛假信息或執(zhí)行拒絕服務(wù)攻擊。
研究人員稱(chēng)：“該攻擊提醒我們，應(yīng)重新思考語(yǔ)音控制系統(tǒng)應(yīng)支持的功能和人類(lèi)互動(dòng)等級(jí)了。”
3. 被竊聽(tīng)?沒(méi)錯(cuò)!
即便沒(méi)有采取任何操作，語(yǔ)音助理也總在監(jiān)聽(tīng)潛在指令。與手機(jī)類(lèi)似，家庭語(yǔ)音助理是知道你很多私密事的傳感器。這就讓語(yǔ)音助理背后的公司在你家里占據(jù)了特權(quán)地位，了解你生活的方方面面，也就讓它們成為了攻擊者的理想目標(biāo)。
這些設(shè)備從設(shè)計(jì)上就是要隨時(shí)監(jiān)聽(tīng)周?chē)h(huán)境才能及時(shí)捕獲用戶(hù)的關(guān)鍵字，然后開(kāi)始收集數(shù)據(jù)并傳輸?shù)皆贫?，?jīng)運(yùn)算分析后再采取相應(yīng)操作。所以，語(yǔ)音助理本來(lái)就是放在用戶(hù)家里的竊聽(tīng)器。
除了惡意攻擊，此類(lèi)設(shè)備還會(huì)意外暴露用戶(hù)隱私。夫妻私密對(duì)話(huà)被亞馬遜Echo錄下的事件中，該設(shè)備誤聽(tīng)了3個(gè)指令，或者說(shuō)誤將他倆對(duì)話(huà)中的三句當(dāng)成了指令，他們的交談就被錄下并發(fā)給了朋友。
4. 超越系統(tǒng)安全
很多通用設(shè)備，比如PC或手機(jī)，其代碼庫(kù)中的很多部分都可以被黑客利用。加入語(yǔ)音助理技術(shù)并將便利性置于安全考慮之上時(shí)，該攻擊界面只會(huì)變大變薄，讓攻擊者更好利用。
今年黑客大會(huì)上將有研究人員演示Cortana數(shù)字助理給Windows設(shè)備帶來(lái)的諸多弱點(diǎn)。
| “在這么多用例中引入如此復(fù)雜的邏輯，而且全都建立在假定計(jì)算機(jī)已被鎖定的情況下——這么做肯定沒(méi)好果子吃。這攻擊界面太寬廣了。” |
5. 在設(shè)備間跳轉(zhuǎn)
攻擊者常會(huì)通過(guò)路由器或不安全無(wú)線(xiàn)網(wǎng)絡(luò)侵入用戶(hù)家庭。語(yǔ)音助理又給他們?cè)鎏砹肆硪粭l橋接攻擊的途徑——利用電視機(jī)甚至街上聲音巨大的車(chē)載收音機(jī)來(lái)向語(yǔ)音助理發(fā)號(hào)施令。
電視里的新聞主播讓Echo買(mǎi)了個(gè)玩偶的事件就是此類(lèi)攻擊的意外版本。
大多數(shù)此類(lèi)問(wèn)題都沒(méi)有容易的解決方案。雖然可以設(shè)置過(guò)濾器限制非人類(lèi)聽(tīng)覺(jué)范圍內(nèi)的輸入，但其他問(wèn)題的大多數(shù)安全補(bǔ)丁都會(huì)讓設(shè)備更難以使用，因而僅會(huì)在特定情況下才會(huì)應(yīng)用，比如購(gòu)買(mǎi)商品或轉(zhuǎn)賬時(shí)。
從可用性的角度看，多增加一個(gè)驗(yàn)證因子不是用戶(hù)希望的。但除此之外似乎又沒(méi)有其他更好的解決方案了。
【本文是51CTO專(zhuān)欄作者“”李少鵬“”的原創(chuàng)文章，轉(zhuǎn)載請(qǐng)通過(guò)安全牛（微信公眾號(hào)id:gooann-sectv）獲取授權(quán)】
