機(jī)器學(xué)習(xí)和人工智能（AI）正成為一些威脅檢測與響應(yīng)工具的核心技術(shù)。其即時學(xué)習(xí)和自動適應(yīng)網(wǎng)絡(luò)威脅動態(tài)的能力令安全團(tuán)隊如虎添翼。

然而，一些惡意黑客也會利用機(jī)器學(xué)習(xí)和AI擴(kuò)大其網(wǎng)絡(luò)攻擊，規(guī)避安全控制措施，以前所未有的速度找出新漏洞并帶來毀滅性的后果。黑客利用這兩種技術(shù)的常見方法有如下幾種。

1. 垃圾郵件

Omida分析師Fernando Montenegro表示，防疫人員采用機(jī)器學(xué)習(xí)技術(shù)檢測垃圾郵件的歷史已經(jīng)有幾十年之久了?！袄]件預(yù)防是機(jī)器學(xué)習(xí)最成功的初始用例?！?/p>

如果所用垃圾郵件過濾器提供了未放行電子郵件或給出某個分?jǐn)?shù)的原因，那么攻擊者就可以調(diào)整自己的行為。他們會使用合法工具來讓自己的攻擊更加成功?！爸灰峤坏膲蚨?，你就可以還原出模型是什么，然后你就可以調(diào)整攻擊，繞過這個模型?！?/p>

脆弱的不僅僅是垃圾郵件過濾器。提供評分或其他某種輸出的任何安全供應(yīng)商，都可能被濫用。“不是所有人都存在這個問題，但只要你不小心，有人就會惡意利用這種輸出?！?/p>

2. 更精致的網(wǎng)絡(luò)釣魚電子郵件

攻擊者不僅僅采用機(jī)器學(xué)習(xí)安全工具來測試自己的郵件能否通過垃圾郵件過濾器。他們還會使用機(jī)器學(xué)習(xí)來編造這些電子郵件。安永技術(shù)咨詢合伙人Adam Malone稱：“他們在犯罪論壇上發(fā)布售賣這些服務(wù)的廣告。他們利用這些技術(shù)生成更精致的網(wǎng)絡(luò)釣魚電子郵件，編造虛假人設(shè)來推進(jìn)詐騙活動。”

這些服務(wù)打廣告時的宣傳重點就是使用了機(jī)器學(xué)習(xí)，而且可能不僅僅是營銷辭藻，而是真的如此?！霸囘^就知道了?！盡alone稱，“效果那是真的好?！?/p>

攻擊者可以利用機(jī)器學(xué)習(xí)創(chuàng)造性地定制網(wǎng)絡(luò)釣魚電子郵件，防止這些郵件被標(biāo)記為垃圾郵件，從而讓目標(biāo)用戶有機(jī)會點進(jìn)去。他們定制的可不僅僅是郵件文本。攻擊者會利用AI生成看起來非常真實的照片、社交媒體資料和其他材料，讓交流看起來盡可能真實可信。

3. 更高效的密碼猜解

網(wǎng)絡(luò)罪犯還會采用機(jī)器學(xué)習(xí)來猜解密碼。“我們有證據(jù)顯示他們使用密碼猜解引擎的頻率更高了，猜解成功率也更高?！本W(wǎng)絡(luò)罪犯正在編造更好的字典來破解被盜散列。

他們還利用機(jī)器學(xué)習(xí)識別安全控制措施，以便能夠以更少的嘗試次數(shù)猜中密碼，提高成功入侵系統(tǒng)的概率。

4. 深度偽造

人工智能最令人驚恐的濫用方式是深度偽造工具：生成能夠以假亂真的視頻或音頻的工具?！澳軌蚰M他人聲音或相貌騙人非常有效?！盡ontenegro稱，“要是有人偽裝我的聲音，估計你也會中招?！?/p>

事實上，過去幾年里披露的一系列重大案件顯示，偽造的音頻可致使公司損失成百上千乃至數(shù)百萬美元。德克薩斯大學(xué)計算機(jī)科學(xué)教授Murat Kantarcioglu表示：“人們會接到老板打來的電話——那是假的。”

更為常見的是，騙子用AI生成看起來很真實的照片、用戶資料和網(wǎng)絡(luò)釣魚郵件，讓他們郵件看起來更可信。這是門大生意。根據(jù)FBI的報告，2016年至今，商務(wù)電郵欺詐已導(dǎo)致超過430億美元的損失。去年秋天，媒體報道稱，香港一家銀行被騙轉(zhuǎn)賬給犯罪團(tuán)伙3500萬美元，僅僅是因為一名銀行職員接到了自己認(rèn)識的公司董事的電話。他認(rèn)出了董事的聲音，毫不懷疑地授權(quán)了轉(zhuǎn)賬。

5. 無效化現(xiàn)成安全工具

當(dāng)前常用的很多安全工具都內(nèi)置了某種形式的人工智能或機(jī)器學(xué)習(xí)。比如說，殺毒軟件在查找可疑行為時就不止依賴基本的特征碼?！熬W(wǎng)上任何可用的東西，尤其是開源的東西，都會被壞人利用?！?/p>

攻擊者可以使用這些工具，不是用來抵御攻擊，而是用來調(diào)整自己的惡意軟件，直到能夠繞過檢測為止?！癆I模型都有很多盲點?！盞antarcioglu稱，“你可以通過改變攻擊的特征加以調(diào)整，比如發(fā)送數(shù)據(jù)包的個數(shù)、攻擊的資源等等?！?/p>

而且，攻擊者利用的可不僅僅是AI賦能的安全工具。AI只是大堆不同技術(shù)之一。舉個例子，用戶常能學(xué)會通過找尋語法錯誤來識別網(wǎng)絡(luò)釣魚郵件。而AI賦能的語法檢查器，比如Grammarly，可以幫助攻擊者改善他們的寫作。

6. 偵察

機(jī)器學(xué)習(xí)可用于偵察，攻擊者可以之查看目標(biāo)的流量模式、防御措施和潛在的漏洞。偵察不是件容易的事，普通網(wǎng)絡(luò)罪犯干不了?！跋胍肁I偵察，你得具備一定的技能。所以，我認(rèn)為，只有高級的國家黑客才會用這些技術(shù)?！?/p>

但是，一旦某種程度上商業(yè)化了，這種技術(shù)通過地下黑市以服務(wù)的形式提供，那就很多人都可以利用了?！叭绻硞€黑客國家隊開發(fā)了一套使用機(jī)器學(xué)習(xí)的工具包，并且發(fā)布到犯罪社區(qū)，這種情況也可能出現(xiàn)?！盡ellen稱，“但網(wǎng)絡(luò)罪犯仍需了解機(jī)器學(xué)習(xí)應(yīng)用程序的作用和有效利用方式，這就是利用的門檻?！?/p>

7. 自治代理

如果企業(yè)發(fā)覺自己正遭受攻擊，斷開受影響系統(tǒng)的互聯(lián)網(wǎng)連接，那么惡意軟件可能就無法回連其命令與控制（C2）服務(wù)器接收進(jìn)一步的指令?！肮粽呖赡芟胍愠鲆惶字悄苣Ｐ停词乖跓o法直接控制的情況下也能長期駐留?！盞antarcioglu稱，“但對于普通網(wǎng)絡(luò)犯罪，我認(rèn)為這一點不是特別重要?！?/p>

8. AI投毒

攻擊者可以通過饋送新信息來欺騙機(jī)器學(xué)習(xí)模型。全球風(fēng)險研究所高級副研究員Alexey Rubtsov稱：“對手可以操縱訓(xùn)練數(shù)據(jù)集。例如，他們故意讓模型產(chǎn)生偏向，讓機(jī)器學(xué)習(xí)錯誤的方式。”

舉個例子，黑客可以操縱被劫持的用戶賬戶每天凌晨2點登錄系統(tǒng)進(jìn)行無害的工作，導(dǎo)致系統(tǒng)認(rèn)為凌晨2點工作沒有任何可疑之處，從而減少用戶必須通過的安全關(guān)卡。

2016年微軟Tay聊天機(jī)器人被教成種族主義者就是類似的原因。同樣的方法可用于訓(xùn)練系統(tǒng)認(rèn)為特點類型的惡意軟件是安全的，或者特定爬蟲行為是完全正常的。

9. AI模糊測試

合法軟件開發(fā)人員和滲透測試人員使用模糊測試軟件生成隨機(jī)樣本輸入，嘗試搞崩應(yīng)用程序或者找出漏洞。此類軟件的加強(qiáng)版利用機(jī)器學(xué)習(xí)以更具針對性、更有條理的方式產(chǎn)生輸入，例如優(yōu)先考慮最有可能導(dǎo)致問題的文本字符串。這類模糊測試工具為企業(yè)所用能取得更好的測試效果，但在攻擊者手中也更為致命。

以上這些技術(shù)都是安全補丁、反網(wǎng)絡(luò)釣魚教育和微分隔等網(wǎng)絡(luò)安全手段依然至關(guān)重要的原因之一。佛瑞斯特研究所的Mellen稱：“深度防御為什么如此重要？這也是其中一個原因。你得設(shè)置多重路障，而不是僅僅采用攻擊者反用來對付你的那一種?！?/p>

缺乏專業(yè)知識阻礙了惡意黑客利用機(jī)器學(xué)習(xí)和AI

投資機(jī)器學(xué)習(xí)需要大量的專業(yè)知識，而機(jī)器學(xué)習(xí)相關(guān)專業(yè)知識目前是稀缺技能。而且，由于很多漏洞都沒修復(fù)，攻擊者可以用來突破企業(yè)防線的便捷途徑多的是。

“唾手可得的目標(biāo)多的是，不必使用機(jī)器學(xué)習(xí)和人工智能發(fā)起攻擊也能賺錢的其他渠道也大把抓?！盡ellen表示，“根據(jù)我的經(jīng)驗，絕大多數(shù)情況下，攻擊者并沒有利用這些技術(shù)。”不過，隨著企業(yè)防御的提升，網(wǎng)絡(luò)罪犯和黑客國家隊也會繼續(xù)投入攻擊開發(fā)，這種平衡可能很快就會開始轉(zhuǎn)變了。