人工智能技術(shù)現(xiàn)在幾乎可以說是無處不在了。在RSAC 2021看的演講視頻，發(fā)表一下我個(gè)人的淺見。先說好的方面，人工智能在極大的提高安全工作人員的效率，尤其是在安全從業(yè)人員極度短缺的背景之下。AI在XDR、IR方面的作用，對(duì)大量數(shù)據(jù)的智能處理，告警的關(guān)聯(lián)分析，優(yōu)先級(jí)的排序，極大地改善了企業(yè)SOC的運(yùn)行。結(jié)果是安全分析員嗨皮了，不用996了。安全工程師高興了，不用痛苦地維護(hù)更新規(guī)則了。CISO也高興了，預(yù)算控制好不超額了，董事會(huì)也不會(huì)一出事就炒魷魚了。

最強(qiáng)大的AI技術(shù)在SOC里應(yīng)該能夠幫助組織主動(dòng)識(shí)別、隔離及響應(yīng)安全問題，幫助團(tuán)隊(duì)評(píng)估問題對(duì)業(yè)務(wù)的相對(duì)影響。這類平臺(tái)能夠確定潛在問題是否屬于勒索軟件攻擊、有無滲透至計(jì)算機(jī)系統(tǒng)內(nèi)并及時(shí)關(guān)閉對(duì)關(guān)鍵數(shù)據(jù)的訪問通道。此外，這類平臺(tái)還有望找出具有長(zhǎng)期影響的威脅因素，例如可能給組織造成巨大聲譽(yù)損失的客戶數(shù)據(jù)泄露問題。

網(wǎng)絡(luò)安全方面有其特殊性，AI也是一把雙刃劍。“魔高一尺，道高一丈”，使用AI來對(duì)付AI的技術(shù)也有不少演講。

Sophos AI team 討論了使用GPT來生成特定的文風(fēng)和內(nèi)容的句子。黑客可以使用GPT來生成SPAM郵件，同樣的AI技術(shù)也可以反過來作為SPAM郵件的過濾器來識(shí)別AI生成的垃圾郵件。

不管是攻防哪個(gè)方向使用AI技術(shù)，畢竟還是人在使用AI技術(shù)。第一天的keynote演講，來自哈佛大學(xué)肯尼迪學(xué)院的安全技術(shù)專家、研究員和講師Bruce Schneier描述了一個(gè)科幻電影里的場(chǎng)景，如果AI變成了黑客，會(huì)對(duì)社會(huì)造成怎樣的影響。

演講的題目是《The Coming AI Hackers》，“黑客行為通常被認(rèn)為是針對(duì)計(jì)算機(jī)系統(tǒng)所做的攻擊。這種想法可以擴(kuò)展到任何規(guī)則系統(tǒng)：稅法、金融市場(chǎng)和任何法律系統(tǒng)都可以被黑掉。不如設(shè)想一下，當(dāng)AI可以成為黑客的世界–我們的社會(huì)、經(jīng)濟(jì)和政治系統(tǒng)的黑客被發(fā)現(xiàn)來源于計(jì)算機(jī)系統(tǒng)本身。因此，人們的快速響應(yīng)方法必須改變。”

這個(gè)演講里有很多有意思的話題。比如說人類有很多認(rèn)知的東西，是不需要特地寫明的，比如同理心、底限?？梢哉f，“人之初，性本善”?，F(xiàn)在的AI還沒有建立這樣的功能。AI可以為實(shí)現(xiàn)目標(biāo)無所不為，因?yàn)閷?duì)AI來說并沒有人類習(xí)以為常的規(guī)則和價(jià)值體系。整個(gè)演講很有意思，對(duì)于我們技術(shù)崇拜者來說，也是從不同角度敲了敲警鐘。