GenAI的迅速出現(xiàn)已經(jīng)改變了網(wǎng)絡(luò)安全的天平，促使各國政府采取行動，美國總統(tǒng)喬·拜登在10月份發(fā)布了一項(xiàng)全面的行政命令(EO)。

關(guān)于安全、有保障和值得信賴的AI開發(fā)和使用的行政命令就如何確保這項(xiàng)新興技術(shù)的安全提供了指導(dǎo)——這是以前的訂單所缺乏的，它還概述了與AI快速加速相關(guān)的挑戰(zhàn)。雖然CEO尋求讓國內(nèi)使用AI安全、可靠，但也許最高的任務(wù)是競相為好人利用AI的潛力，并防止將其用于壞人。這就提出了一個(gè)問題：在接下來的五年里，誰將受益更多——捍衛(wèi)者還是攻擊者?答案是：目前還不清楚。

有一點(diǎn)是肯定的，防御者和攻擊者都希望獲得生成性AI的優(yōu)勢。在這一點(diǎn)上，我們無法預(yù)測的是，是否會有一方占上風(fēng)，這是一場需要雙方投入時(shí)間、精力和費(fèi)用的比賽，雙方都將看到爆發(fā)式的成功。

它不一定要完全混亂。公司、安全從業(yè)者和政府機(jī)構(gòu)現(xiàn)在可以采取措施，確保他們跟上攻擊者的步伐，甚至可以通過更多的協(xié)作、持續(xù)的立法框架和安全的創(chuàng)新空間來發(fā)揮帶頭作用。

AI為威脅參與者和安全團(tuán)隊(duì)提供力量

對于攻擊者來說，AI為社會攻擊和模仿攻擊增加了前所未有的速度和力量，特別是在規(guī)模上。如果沒有AI，針對CFO電子郵件的網(wǎng)絡(luò)釣魚攻擊對攻擊者來說是耗時(shí)的，因?yàn)樗麄儽仨毷紫群Y選舊電子郵件，以獲得溝通風(fēng)格的感覺，然后才能在釣魚電子郵件中模仿它。GenAI模型已經(jīng)證明了熟練的寫作能力，它們很快就能做到這一點(diǎn)，從而實(shí)現(xiàn)了更多的威脅戰(zhàn)役。在攻擊者目前可以一次發(fā)起十次釣魚或電子郵件泄露攻擊的地方，AI將使他們能夠在幾秒鐘內(nèi)點(diǎn)擊一個(gè)按鈕執(zhí)行一千次攻擊。

這些類型的攻擊之所以成功，是因?yàn)楣粽咭淮慰梢悦闇?zhǔn)更多的潛在受害者，這無疑與AI的火力成倍增加。當(dāng)被用于邪惡時(shí)，GenAI已被證明會加劇攻擊強(qiáng)度和后果的嚴(yán)重性。

當(dāng)然，攻擊者的這些炮轟不會被忽視。該行業(yè)將用AI支持的技術(shù)進(jìn)行反擊，該技術(shù)可以檢測并響應(yīng)這些類型的攻擊，但這些對策可能需要六個(gè)月的時(shí)間才能制定出來，在此期間會讓許多公司變得脆弱不堪。

軍備競賽就是這樣進(jìn)行的，例如，有報(bào)道稱，惡意AI聊天機(jī)器人的開發(fā)者正在開發(fā)更復(fù)雜的工具，其中一個(gè)工具使用整個(gè)黑暗網(wǎng)絡(luò)作為其大型語言模型的知識庫。

與此同時(shí)，網(wǎng)絡(luò)安全行業(yè)也在響應(yīng)這一號召，并利用AI進(jìn)行積極的改進(jìn)，一個(gè)明顯的例子是修復(fù)現(xiàn)有的安全漏洞，這主要是一個(gè)手動的、耗時(shí)的過程，這一點(diǎn)，再加上緊張的資源，使傳統(tǒng)產(chǎn)品變得脆弱不堪。隨著自動攻擊的持續(xù)增加，手動修復(fù)缺陷不再站得住腳。我們現(xiàn)在可以使用AI在軟件開發(fā)過程中左移，并在一開始就消除漏洞，優(yōu)先進(jìn)行自動修復(fù)。

AI將在未來幾年內(nèi)在網(wǎng)絡(luò)安全的每一個(gè)類別中實(shí)現(xiàn)這種創(chuàng)新，AI模型將作為安全運(yùn)營中心(SOC)團(tuán)隊(duì)的初級助理運(yùn)行。人們希望，隨著更少的漏洞進(jìn)入開發(fā)過程，就越容易緩解和防御威脅。

同一戰(zhàn)線：行業(yè)和政府應(yīng)該在AI軍備競賽中結(jié)成伙伴

GenAI發(fā)展如此之快，以至于很難預(yù)測網(wǎng)絡(luò)軍備競賽的結(jié)果。我們所知道的是，協(xié)作是關(guān)鍵。雖然《雇傭條例》中規(guī)定的監(jiān)管是重要的一步，但它不會解決所有問題。

隨著科技公司不斷推出AI產(chǎn)品，它們在競爭中扮演著關(guān)鍵的合作伙伴角色。雖然他們繞過了賽道的角落，但他們從客戶那里獲得的反饋對于塑造未來的AI法規(guī)至關(guān)重要，這些法規(guī)將促進(jìn)創(chuàng)新、保護(hù)數(shù)據(jù)并解決社會關(guān)切。公私合作伙伴關(guān)系在各個(gè)行業(yè)已經(jīng)使用了幾十年，對AI的需求也沒有什么不同。政府和科技行業(yè)之間的合作是為AI創(chuàng)新和安全蓬勃發(fā)展創(chuàng)造一個(gè)安全空間的關(guān)鍵。

至關(guān)重要的是，行業(yè)和政府應(yīng)不斷評估為保護(hù)公眾不受限制地使用AI而設(shè)置的護(hù)欄，無論是網(wǎng)絡(luò)罪犯還是老牌公司。首席運(yùn)營官承諾制定標(biāo)準(zhǔn)，確保AI系統(tǒng)是安全的，并針對一系列嚴(yán)格的資格進(jìn)行測試，這些資格和標(biāo)準(zhǔn)將需要隨著時(shí)間的推移而完善，才能真正標(biāo)準(zhǔn)化。

美國商務(wù)部還將制定水印和內(nèi)容認(rèn)證指南，以明確標(biāo)記AI生成的內(nèi)容，而Alphabet、Meta和OpenAI等公司已經(jīng)承諾實(shí)施此類措施，這種做法與美國特勤局(US Secret Service)在彩色復(fù)印機(jī)和打印機(jī)制造商變得足夠先進(jìn)、可以偽造貨幣后，讓制造商在打印頁面上添加數(shù)字水印的做法產(chǎn)生了共鳴，然而，它確實(shí)給不良演員帶來了一系列獨(dú)特的挑戰(zhàn)，以供濫用。

為了確保負(fù)責(zé)任地開發(fā)和部署AI技術(shù)，我們的立法框架必須繼續(xù)演變，以透明度、可見性和理解為基石，科技行業(yè)和政府可以共同努力，降低風(fēng)險(xiǎn)，對抗威脅。

采用積極主動的方法來實(shí)現(xiàn)GenAI

我們正在進(jìn)入網(wǎng)絡(luò)安全軍備競賽的新階段，AI占據(jù)了主導(dǎo)地位。任何新技術(shù)都是一把雙刃劍，GenAI的力量和潛力讓它的鋒芒格外鋒利。

貓捉老鼠的游戲才剛剛開始。軍備競賽將如何發(fā)展還不確定，但至關(guān)重要的是，行業(yè)和政府的捍衛(wèi)者都要積極主動。好消息是：AI以前所未有的速度推出了具有里程碑意義的法規(guī)。當(dāng)我們擁抱這片未知領(lǐng)域時(shí)，改進(jìn)我們的防御性AI戰(zhàn)略必須是一項(xiàng)全力以赴的努力。