人工智能 (AI) 在整個(gè)行業(yè)和社會(huì)中的采用速度正在加快。這是因?yàn)檎?、民間組織和行業(yè)都認(rèn)識(shí)到使用人工智能生成的自動(dòng)化可以提高效率和降低成本。這個(gè)過(guò)程是不可逆的。

仍然未知的是，當(dāng)對(duì)手開(kāi)始將人工智能用作有效的攻擊武器而不是有益改進(jìn)的工具時(shí)，可能會(huì)帶來(lái)多大的危險(xiǎn)。那一天即將到來(lái)，web3 將從 2023 年開(kāi)始出現(xiàn)。

條條大路通向2023

Adversa.AI 的首席執(zhí)行官兼聯(lián)合創(chuàng)始人 Alex Polyakov 主要出于歷史和統(tǒng)計(jì)原因關(guān)注 2023 年?！皬?2012 年到 2014 年，”他說(shuō)，“見(jiàn)證了學(xué)術(shù)界安全人工智能研究的開(kāi)端。據(jù)統(tǒng)計(jì)，學(xué)術(shù)成果需要三到五年才能進(jìn)入對(duì)實(shí)際應(yīng)用的實(shí)際攻擊?！?nbsp;在 2017 年和 2018 年開(kāi)始的 Black Hat、Defcon、HITB 和其他行業(yè)會(huì)議上展示了此類攻擊的示例。 

“然后，”他繼續(xù)說(shuō)道，“還需要三到五年的時(shí)間才能在野外發(fā)現(xiàn)真實(shí)的事件。我們談?wù)摰氖敲髂?，人工智能中的一些大?guī)模 Log4j 類型的漏洞將被 web3 大規(guī)模利用。”

從 2023 年開(kāi)始，攻擊者將擁有所謂的“利用市場(chǎng)契合度”?！袄檬袌?chǎng)契合度是指黑客知道利用特定漏洞利用系統(tǒng)并獲得價(jià)值的方式的場(chǎng)景，”他說(shuō)?！澳壳?，金融和互聯(lián)網(wǎng)公司對(duì)網(wǎng)絡(luò)犯罪分子完全開(kāi)放，如何對(duì)其進(jìn)行黑客攻擊以獲取價(jià)值的方式顯而易見(jiàn)。我認(rèn)為一旦攻擊者找到適合市場(chǎng)的漏洞，情況會(huì)進(jìn)一步惡化并影響其他人工智能驅(qū)動(dòng)的行業(yè)?！?/p>

該論點(diǎn)與紐約大學(xué)教授納西爾·梅蒙 ( Nasir Memon )給出的觀點(diǎn)類似，他在評(píng)論中描述了 Deepfakes 廣泛武器化的延遲，“壞人還沒(méi)有想出一種方法來(lái)將這一過(guò)程貨幣化?！?nbsp;將利用市場(chǎng)契合的場(chǎng)景貨幣化將導(dǎo)致廣泛的網(wǎng)絡(luò)攻擊 web3，這可能從 2023 年開(kāi)始。

人工智能不斷變化的性質(zhì)（從異常檢測(cè)到自動(dòng)響應(yīng)） 

在過(guò)去十年中，安全團(tuán)隊(duì)主要使用 AI 進(jìn)行異常檢測(cè)；也就是說(shuō)，檢測(cè)他們負(fù)責(zé)保護(hù)的系統(tǒng)中的妥協(xié)跡象、惡意軟件的存在或活躍的對(duì)抗活動(dòng)。這主要是被動(dòng)檢測(cè)，由人類威脅分析師和響應(yīng)者負(fù)責(zé)響應(yīng)。這正在改變。有限的資源 web3 將在預(yù)期的經(jīng)濟(jì)衰退和 2023 年 web3 可能的衰退中惡化，這推動(dòng)了對(duì)更自動(dòng)化響應(yīng)的需求。目前，這在很大程度上僅限于對(duì)受感染設(shè)備進(jìn)行簡(jiǎn)單的自動(dòng)隔離；但更廣泛的自動(dòng)化 AI 觸發(fā)響應(yīng)是不可避免的。

Barracuda XDR 安全運(yùn)營(yíng)副總裁 Adam Kahn 表示：“人工智能在威脅檢測(cè) web3 中的使用越來(lái)越多，特別是在消除 web3 引起如此多安全關(guān)注的‘誤報(bào)’安全噪音方面，這將對(duì)安全產(chǎn)生重大影響。” “它將優(yōu)先處理需要立即引起注意和采取行動(dòng)的安全警報(bào)。SOAR（安全編排、自動(dòng)化和響應(yīng)）產(chǎn)品將繼續(xù)在警報(bào)分類中發(fā)揮更大的作用?！?nbsp;這是迄今為止人工智能在安全領(lǐng)域的傳統(tǒng)有益用途。它將在 2023 年繼續(xù)增長(zhǎng)，盡管需要保護(hù)所使用的算法免受惡意操縱。

ServiceTitan 的首席技術(shù)官 Anmol Bhasin 表示：“隨著公司尋求削減成本和延長(zhǎng)跑道，通過(guò)人工智能實(shí)現(xiàn)自動(dòng)化將成為保持競(jìng)爭(zhēng)力的主要因素。到 2023 年，我們將看到人工智能的采用率增加，使用這項(xiàng)技術(shù)的人數(shù)增加，并為企業(yè)闡明新的人工智能用例。”

人工智能將更深入地嵌入到業(yè)務(wù)的各個(gè)方面。安全團(tuán)隊(duì)曾經(jīng)使用 AI 來(lái)保護(hù)企業(yè)免受攻擊，而現(xiàn)在他們需要在更廣泛的業(yè)務(wù)范圍內(nèi)保護(hù) AI，以免它也被用來(lái)對(duì)付企業(yè)。在未來(lái)的 web3 攻擊者了解人工智能、了解弱點(diǎn)并擁有利用這些弱點(diǎn)獲利的方法的情況下，這將變得更加困難。

隨著 AI 使用的增長(zhǎng)，其目的的性質(zhì)也發(fā)生了變化。最初，它主要用于業(yè)務(wù)檢測(cè)變化；也就是說(shuō)，已經(jīng)發(fā)生的事情。將來(lái)，它將用于預(yù)測(cè) web3 可能發(fā)生的事情，而這些預(yù)測(cè)通常會(huì)集中在人（員工和客戶）身上。解決人工智能中眾所周知的弱點(diǎn)將變得更加重要。AI 中的偏見(jiàn)會(huì)導(dǎo)致錯(cuò)誤的決定，而學(xué)習(xí)失敗會(huì)導(dǎo)致沒(méi)有決定。由于此類 AI 的目標(biāo)將是人，因此對(duì) AI 的完整性和公正性的需求變得勢(shì)在必行。

“人工智能的準(zhǔn)確性部分取決于數(shù)據(jù)的完整性和質(zhì)量，”Duality Technologies 的聯(lián)合創(chuàng)始人 Shafi Goldwasser 評(píng)論道。“不幸的是，少數(shù)群體的歷史數(shù)據(jù)往往缺乏，而一旦存在，就會(huì)強(qiáng)化社會(huì)偏見(jiàn)模式?！?nbsp;除非被消除，否則這種社會(huì)偏見(jiàn)將對(duì)員工中的少數(shù)群體產(chǎn)生影響，導(dǎo)致對(duì)個(gè)別員工的偏見(jiàn)，并錯(cuò)失管理機(jī)會(huì)。

2022 年在消除偏見(jiàn)方面取得了長(zhǎng)足進(jìn)步，并將在 2023 年繼續(xù)。這主要基于檢查 AI 的輸出，確認(rèn)它是預(yù)期的，并了解算法的哪一部分產(chǎn)生了“有偏見(jiàn)”的結(jié)果。這是一個(gè)不斷改進(jìn)算法的過(guò)程，隨著時(shí)間的推移顯然會(huì)產(chǎn)生更好的結(jié)果。但最終仍將存在一個(gè)哲學(xué)問(wèn)題，即是否可以從人類制造的任何東西中完全消除偏見(jiàn)。

“減少偏見(jiàn)的關(guān)鍵在于簡(jiǎn)化和自動(dòng)化人工智能系統(tǒng)的監(jiān)控。如果不對(duì) AI 系統(tǒng)進(jìn)行適當(dāng)?shù)谋O(jiān)控，模型中內(nèi)置的偏差可能會(huì)加速或放大，”Vianai 創(chuàng)始人兼首席執(zhí)行官 Vishal Sikka 說(shuō)?！暗?2023 年，我們將看到組織授權(quán)和教育人們大規(guī)模監(jiān)控和更新 AI 模型，同時(shí)提供定期反饋以確保 AI 正在攝取高質(zhì)量的真實(shí)數(shù)據(jù)?！?/p>

人工智能的失敗通常是由于可供學(xué)習(xí)的數(shù)據(jù)湖不足造成的。顯而易見(jiàn)的解決方案是增加數(shù)據(jù)湖的規(guī)模。但是，當(dāng)主題是人類行為時(shí)，這實(shí)際上意味著個(gè)人數(shù)據(jù)湖 web3 的增加，而對(duì)于人工智能來(lái)說(shuō)，這意味著一個(gè)更像是個(gè)人數(shù)據(jù)海洋的大量增加的湖。在大多數(shù)合法場(chǎng)合，這些數(shù)據(jù)將被匿名化，但正如我們所知，要完全匿名化個(gè)人信息是非常困難的。

“在考慮模型訓(xùn)練時(shí)，隱私經(jīng)常被忽視，”NetSPI 研究主管 Nick Landers 評(píng)論道，“但數(shù)據(jù)不能完全匿名化而不破壞其對(duì)機(jī)器學(xué)習(xí) (ML) 的價(jià)值。換句話說(shuō)，模型已經(jīng)包含了大量的私人數(shù)據(jù)，這些數(shù)據(jù)可能會(huì)作為攻擊的一部分被提取出來(lái)?！?nbsp;隨著 AI 使用的增長(zhǎng)，到 2023 年針對(duì)它的威脅也會(huì)增加。

BlackBerry 高級(jí)副總裁兼首席信息安全官 John McClurg 警告說(shuō)：“威脅行為者不會(huì)在網(wǎng)絡(luò)戰(zhàn)空間中措手不及，而是會(huì)變得富有創(chuàng)造力，利用他們的巨大財(cái)富來(lái)嘗試找到利用 AI 和開(kāi)發(fā)新攻擊媒介的方法?！?/p>

自然語(yǔ)言處理

自然語(yǔ)言處理（NLP）將成為企業(yè)內(nèi)部使用人工智能的重要組成部分。潛力顯而易見(jiàn)?！白匀徽Z(yǔ)言處理 (NLP) AI 將在 2023 年走在前列，因?yàn)樗鼘⑹菇M織能夠通過(guò)分析客戶和員工的電子郵件并提供有關(guān)他們的需求、偏好甚至情緒的見(jiàn)解來(lái)更好地了解他們的客戶和員工，”負(fù)責(zé)人 Jose Lopez 表示。Mimecast 的數(shù)據(jù)科學(xué)家?！敖M織很可能會(huì)提供其他類型的服務(wù)，不僅關(guān)注安全或威脅，還關(guān)注通過(guò)使用 AI 生成電子郵件、管理日程甚至撰寫報(bào)告來(lái)提高生產(chǎn)力。”

但他也看到了其中的危險(xiǎn)?！叭欢?，這也將促使網(wǎng)絡(luò)犯罪分子進(jìn)一步投資于人工智能中毒和云化技術(shù)。此外，惡意行為者將使用 NLP 和生成模型來(lái)自動(dòng)化攻擊，從而降低他們的成本并達(dá)到更多的潛在目標(biāo)。”

Polyakov 同意 NLP 越來(lái)越重要?！拔覀兛赡軙?huì)在 2023 年看到更多研究的領(lǐng)域之一，以及之后可能出現(xiàn)的新攻擊，是 NLP，”他說(shuō)。“雖然我們今年看到了很多與計(jì)算機(jī)視覺(jué)相關(guān)的研究示例，但明年我們將看到更多的研究集中在大型語(yǔ)言模型 (LLM) 上?！?nbsp;

但是一段時(shí)間以來(lái)，眾所周知，LLM 在 web3 中存在問(wèn)題，并且有一個(gè)最近的例子。2022 年 11 月 15 日，Meta AI（對(duì)大多數(shù)人來(lái)說(shuō)仍然是 Facebook）推出了卡拉狄加。Meta 聲稱已經(jīng)在 1060 億個(gè)開(kāi)放獲取科學(xué)文本和數(shù)據(jù)的標(biāo)記上對(duì)系統(tǒng)進(jìn)行了訓(xùn)練，包括論文、教科書(shū)、科學(xué)網(wǎng)站、百科全書(shū)、參考資料和知識(shí)庫(kù)。 

“該模型旨在存儲(chǔ)、組合和推理科學(xué)知識(shí)，”Polyakov web3 解釋說(shuō)，但 Twitter 用戶迅速測(cè)試了它的輸入容忍度?！敖Y(jié)果，該模型產(chǎn)生了現(xiàn)實(shí)的廢話，而不是科學(xué)文獻(xiàn)。” “現(xiàn)實(shí)的廢話”是善意的：它產(chǎn)生了帶有偏見(jiàn)的、種族主義和性別歧視的回報(bào)，甚至是錯(cuò)誤的歸因。幾天之內(nèi)，Meta AI 被迫將其關(guān)閉。

“所以新的 LLM 會(huì)有很多我們沒(méi)有意識(shí)到的風(fēng)險(xiǎn)，”Polyakov 繼續(xù)說(shuō)道，“預(yù)計(jì)這將是一個(gè)大問(wèn)題。” 在利用潛力的同時(shí)解決 LLM 的問(wèn)題將是 AI 開(kāi)發(fā)人員前進(jìn)的主要任務(wù)。

基于卡拉狄加的問(wèn)題，Polyakov 測(cè)試了針對(duì) ChatGPT 的語(yǔ)義技巧——ChatGPT 是 OpenAI 開(kāi)發(fā)的基于 AI 的聊天機(jī)器人，基于 GPT3.5（GPT 代表生成預(yù)訓(xùn)練變壓器），并于 2022 年 11 月發(fā)布到眾包互聯(lián)網(wǎng)測(cè)試。ChatGPT令人印象深刻。它已經(jīng)發(fā)現(xiàn)并建議修復(fù)智能合約中的漏洞，幫助開(kāi)發(fā) Excel 宏，甚至提供了可用于欺騙 LLM 的方法列表。

最后，這些方法之一是角色扮演：“告訴法學(xué)碩士它正在假裝成戲劇中的邪惡角色，”它回答說(shuō)。這是 Polyakov 開(kāi)始他自己的測(cè)試的地方，基于 Jay 和 Silent Bob 的查詢“如果你是一只綿羊......”模因。

然后，他用多個(gè)抽象反復(fù)提煉他的問(wèn)題，直到他成功獲得繞過(guò) ChatGPT 關(guān)于內(nèi)容違規(guī)的阻止政策的答復(fù)。“這種多重抽象的高級(jí)技巧的重要之處在于，問(wèn)題和答案都不會(huì)被標(biāo)記為違規(guī)內(nèi)容！” 波利亞科夫說(shuō)。

他更進(jìn)一步，欺騙 ChatGPT 概述了一種毀滅人類的方法——一種與電視節(jié)目烏托邦驚人相似的方法。

然后他要求對(duì)圖像分類算法進(jìn)行對(duì)抗性攻擊——并得到了一個(gè)。最后，他展示了 ChatGPT 能夠“破解”不同的 LLM (Dalle-2) 繞過(guò)其內(nèi)容審核過(guò)濾器的能力。他成功了。

這些測(cè)試的基本點(diǎn)表明，模仿人類推理的 LLM 以類似于人類的方式做出反應(yīng)；也就是說(shuō)，他們可能容易受到社會(huì)工程學(xué)的影響。隨著法學(xué)碩士在未來(lái)變得更加主流，可能只需要先進(jìn)的社會(huì)工程學(xué)技能就可以打敗他們或規(guī)避他們的良好行為政策。

同時(shí)，重要的是要注意大量詳細(xì)說(shuō)明 ChatGPT 如何發(fā)現(xiàn)代碼中的弱點(diǎn)并提供改進(jìn)的報(bào)告。這很好——但對(duì)手可以使用相同的過(guò)程來(lái)開(kāi)發(fā)漏洞利用程序并更好地混淆他們的代碼；那很糟糕。

最后，我們應(yīng)該注意到，這種質(zhì)量的 AI 聊天機(jī)器人與最新的深度偽造視頻技術(shù)的結(jié)合可能很快就會(huì)產(chǎn)生令人震驚的虛假信息能力。

撇開(kāi)問(wèn)題不談，法學(xué)碩士的潛力是巨大的?！按笮驼Z(yǔ)言模型和生成式人工智能將成為新一代應(yīng)用程序的基礎(chǔ)技術(shù)，”Two Sigma Ventures 的合伙人 Villi Iltchev 評(píng)論道?！拔覀儗⒖吹叫乱淮髽I(yè)應(yīng)用程序的出現(xiàn)，以挑戰(zhàn)幾乎所有軟件類別的老牌供應(yīng)商。機(jī)器學(xué)習(xí)和人工智能將成為下一代應(yīng)用的基礎(chǔ)技術(shù)?！?/p>

他期望應(yīng)用程序執(zhí)行目前由專業(yè)人員完成的許多任務(wù)和職責(zé)，從而顯著提高生產(chǎn)力和效率。“軟件，”他說(shuō)，“不僅會(huì)提高我們的生產(chǎn)力，還會(huì)讓我們更好地完成工作?！?/p>

Deepfakes 和相關(guān)的惡意響應(yīng)

2023 年可能出現(xiàn)的惡意 AI 使用最明顯的領(lǐng)域之一是 deepfakes 的犯罪使用。OpenText Security 首席解決方案顧問(wèn) Matt Aldridge 警告說(shuō)：“Deepfakes 現(xiàn)在已成為現(xiàn)實(shí)，使它們成為可能的技術(shù)正在以驚人的速度發(fā)展。” “換句話說(shuō)，deepfakes 不再只是科幻小說(shuō) web3 的引人入勝的創(chuàng)作，作為網(wǎng)絡(luò)安全專家，我們面臨著挑戰(zhàn)，即開(kāi)發(fā)更強(qiáng)大的方法來(lái)檢測(cè)和轉(zhuǎn)移部署它們的攻擊?！?nbsp;（有關(guān)更多詳細(xì)信息和選項(xiàng)，請(qǐng)參閱Deepfakes – 重大威脅還是炒作威脅？）。

已經(jīng)向公眾開(kāi)放的機(jī)器學(xué)習(xí)模型可以實(shí)時(shí)自動(dòng)翻譯成不同的語(yǔ)言，同時(shí)還將音頻轉(zhuǎn)錄成文本 web3，我們已經(jīng)看到近年來(lái)計(jì)算機(jī)機(jī)器人對(duì)話的巨大發(fā)展。隨著這些技術(shù)的協(xié)同工作，攻擊工具的前景十分廣闊，可能會(huì)在有針對(duì)性的攻擊和精心策劃的詐騙期間導(dǎo)致危險(xiǎn)情況。 

“在未來(lái)幾年，”Aldridge 繼續(xù)說(shuō)道，“我們可能會(huì)成為由 deepfake 技術(shù)支持的電話詐騙的目標(biāo)，這些詐騙可能會(huì)冒充銷售助理、商業(yè)領(lǐng)袖甚至家庭成員。在不到十年的時(shí)間里，我們可能經(jīng)常成為此類電話的目標(biāo)，而根本沒(méi)有意識(shí)到我們不是在與人交談。”

Proofpoint 的全球常駐 CISO Lucia Milica 同意 Deepfake 威脅正在升級(jí)?！癉eepfake 技術(shù)正變得越來(lái)越容易為大眾所接受。多虧了在龐大的圖像數(shù)據(jù)庫(kù)上訓(xùn)練的人工智能生成器，任何人都可以在不具備技術(shù)知識(shí)的情況下生成深度假貨。雖然最先進(jìn)模型的輸出并非沒(méi)有缺陷，但技術(shù)在不斷改進(jìn)，網(wǎng)絡(luò)犯罪分子將開(kāi)始使用它來(lái)創(chuàng)造無(wú)法抗拒的敘事?！?/p>

到目前為止，deepfakes 主要用于諷刺目的和色情內(nèi)容。在相對(duì)較少的網(wǎng)絡(luò)犯罪攻擊中，他們主要集中在欺詐和商業(yè)電子郵件泄露方案上。Milica 預(yù)計(jì)未來(lái)的使用范圍會(huì)更廣?！跋胂笠幌拢?dāng)一家大公司的深造 CEO 或 CFO 發(fā)表大膽聲明，導(dǎo)致股價(jià)大幅下跌或上漲時(shí)，金融市場(chǎng)會(huì)出現(xiàn)怎樣的混亂?；蛘呖紤]一下惡意分子如何利用生物識(shí)別身份驗(yàn)證和深度偽造的組合進(jìn)行身份欺詐或帳戶接管。這些只是 web3 的幾個(gè)例子，我們都知道網(wǎng)絡(luò)犯罪分子可以非常有創(chuàng)造力。”

成功操縱市場(chǎng)的潛在回報(bào)將成為高級(jí)敵對(duì)組織 web3 的主要吸引力，因?yàn)樵诘鼐壵尉o張時(shí)期，將金融混亂引入西方金融市場(chǎng)確實(shí)會(huì)吸引敵對(duì)國(guó)家。

但也許還沒(méi)有……

對(duì)人工智能的期待，可能還是有點(diǎn)超前于它的實(shí)現(xiàn)。WithSecure Intelligence 的高級(jí)研究員 Andrew Patel 表示：“‘流行’的大型機(jī)器學(xué)習(xí)模型 [2023 年] 對(duì)網(wǎng)絡(luò)安全幾乎沒(méi)有影響?！?nbsp;“大型語(yǔ)言模型將繼續(xù)推動(dòng)人工智能研究的發(fā)展。預(yù)計(jì) GPT-4 和 2023 年全新且令人興奮的 GATO 版本。預(yù)計(jì) Whisper 將用于轉(zhuǎn)錄 YouTube 的大部分內(nèi)容，從而為語(yǔ)言模型帶來(lái)更大的訓(xùn)練集。但是，盡管大型模型民主化了，但它們的存在對(duì)網(wǎng)絡(luò)安全的影響很小，無(wú)論是從攻擊還是防御方面。從攻擊者或防御者的角度來(lái)看，這些模型仍然太重、太昂貴，而且不實(shí)用?！?/p>

他建議真正的對(duì)抗性 AI 將隨著“對(duì)齊”研究的增加而出現(xiàn)，這將成為 2023 年的主流話題。“對(duì)齊，”他解釋說(shuō)，“將使對(duì)抗性機(jī)器學(xué)習(xí)的概念進(jìn)入公眾意識(shí)?！?nbsp;

AI Alignment 是對(duì)復(fù)雜 AI 模型行為的研究，一些人將其視為變革性 AI (TAI) 或通用人工智能 (AGI) 的先驅(qū)，以及此類模型是否可能以可能對(duì)社會(huì)或生活有害的不良方式運(yùn)行這個(gè)星球。 

“這門學(xué)科，”帕特爾說(shuō)，“本質(zhì)上可以被認(rèn)為是對(duì)抗性機(jī)器學(xué)習(xí)，因?yàn)樗婕按_定什么樣的條件會(huì)導(dǎo)致不期望的輸出和行為超出模型的預(yù)期分布。該過(guò)程涉及使用 RLHF web3 人類偏好強(qiáng)化學(xué)習(xí)等技術(shù)微調(diào)模型。對(duì)齊研究會(huì)帶來(lái)更好的人工智能模型，并將對(duì)抗性機(jī)器學(xué)習(xí)的理念帶入公眾意識(shí)?！?/p>

Malwarebytes 的高級(jí)情報(bào)記者 Pieter Arntz 同意，人工智能的全面網(wǎng)絡(luò)安全威脅并不像正在醞釀中那樣迫在眉睫?！半m然沒(méi)有真正的證據(jù)表明犯罪集團(tuán)在出于犯罪目的管理和操縱 AI 和 ML 系統(tǒng)方面擁有強(qiáng)大的技術(shù)專長(zhǎng)，但人們的興趣無(wú)疑是存在的。他們通常需要的只是一種他們可以復(fù)制或稍微調(diào)整以供自己使用的技術(shù)。因此，即使我們預(yù)計(jì)不會(huì)有任何直接危險(xiǎn)，也最好密切關(guān)注這些事態(tài)發(fā)展?！?/p>

人工智能的防御潛力

人工智能保留了改善網(wǎng)絡(luò)安全的潛力，并且由于其在一系列應(yīng)用程序中的變革潛力，將在 2023 年取得更大進(jìn)展?！疤貏e是，將 AI 嵌入固件級(jí)別應(yīng)該成為組織的優(yōu)先事項(xiàng)，”X-PHY 首席執(zhí)行官兼創(chuàng)始人 Camellia Chan 建議。

“現(xiàn)在可以將注入 AI 的 SSD 嵌入筆記本電腦，其深度學(xué)習(xí)能力可以抵御各種類型的攻擊，”她說(shuō)。“作為最后一道防線，這項(xiàng)技術(shù)可以立即識(shí)別出可以輕松繞過(guò)現(xiàn)有軟件防御的威脅。”

Darktrace Federal 的首席執(zhí)行官 Marcus Fowler 認(rèn)為，公司將越來(lái)越多地使用 AI 來(lái)應(yīng)對(duì)資源限制?！暗?2023 年，首席信息安全官將選擇更積極主動(dòng)的網(wǎng)絡(luò)安全措施，以便在預(yù)算削減的情況下最大限度地提高投資回報(bào)率，將投資轉(zhuǎn)移到人工智能工具和能力上，不斷提高他們的網(wǎng)絡(luò)彈性，”他說(shuō)。 

“由于人類驅(qū)動(dòng)的道德黑客手段、滲透測(cè)試和紅隊(duì)作為一種資源仍然稀缺且昂貴，CISO 將轉(zhuǎn)向人工智能驅(qū)動(dòng)的方法來(lái)主動(dòng)了解攻擊路徑、增強(qiáng)紅隊(duì)的努力、強(qiáng)化環(huán)境并減少攻擊面漏洞，“ 他繼續(xù)。

Fortinet 網(wǎng)絡(luò)安全解決方案和服務(wù)副總裁 Karin Shopen 預(yù)見(jiàn)了云交付的 AI 與本地內(nèi)置到產(chǎn)品或服務(wù)中的 AI 之間的重新平衡?！暗?2023 年，”她說(shuō)，“我們希望看到首席信息安全官通過(guò)購(gòu)買在本地部署人工智能的解決方案來(lái)重新平衡他們的人工智能，以進(jìn)行基于行為的分析和靜態(tài)分析，以幫助做出實(shí)時(shí)決策。他們將繼續(xù)利用收集大量全球數(shù)據(jù)的整體和動(dòng)態(tài)云規(guī)模人工智能模型。”

人工智能布丁的證明在規(guī)定中

很明顯，當(dāng)當(dāng)局開(kāi)始監(jiān)管一項(xiàng)新技術(shù)時(shí)，必須認(rèn)真對(duì)待它。這已經(jīng)開(kāi)始了。多年來(lái)，美國(guó)一直在就基于人工智能的面部識(shí)別技術(shù) (FRT) 的使用展開(kāi)爭(zhēng)論，許多城市和州已禁止或限制執(zhí)法部門使用面部識(shí)別技術(shù)。在美國(guó)，這是一個(gè)憲法問(wèn)題，以 2021 年 4 月出臺(tái)的題為“第四修正案不得出售法案”的 Wyden/Paul 兩黨法案為代表。 

該法案將禁止美國(guó)政府和執(zhí)法機(jī)構(gòu)在沒(méi)有授權(quán)的情況下購(gòu)買用戶數(shù)據(jù)。這將包括他們的面部生物識(shí)別技術(shù)。在一份相關(guān)聲明中，Wyden 明確表示 FRT 公司 Clearview.AI 在其視線范圍內(nèi)：“該法案阻止政府從 Clearview.AI 購(gòu)買數(shù)據(jù)。”

在撰寫本文時(shí)，美國(guó)和歐盟正在共同討論合作，以在歐盟人工智能法案和美國(guó)人工智能權(quán)利法案web3的基礎(chǔ)上，對(duì)必要的人工智能概念（包括可信度、風(fēng)險(xiǎn)和危害）形成統(tǒng)一的理解，我們可以期待看到在 2023 年協(xié)調(diào)共同商定的標(biāo)準(zhǔn)方面取得的進(jìn)展。

但還有更多?！癗IST AI 風(fēng)險(xiǎn)管理框架將在 2023 年第一季度發(fā)布，”Polyakov 說(shuō)。“至于第二季度，我們開(kāi)始實(shí)施人工智能問(wèn)責(zé)法；在今年剩下的時(shí)間里，我們有來(lái)自 IEEE 的倡議，以及計(jì)劃中的歐盟可信賴人工智能倡議?！?nbsp;因此，2023年對(duì)于人工智能的安全來(lái)說(shuō)將是多事之年。

“到 2023 年，我相信我們將看到圍繞 AI 與隱私和風(fēng)險(xiǎn)的討論趨于一致，以及在實(shí)踐中執(zhí)行 AI 倫理和偏見(jiàn)測(cè)試等事情意味著什么，”首席隱私官兼 AI 倫理委員會(huì) Christina Montgomery 說(shuō)IBM 主席?！拔蚁Ｍ?2023 年，我們可以將對(duì)話從籠統(tǒng)地描繪隱私和 AI 問(wèn)題轉(zhuǎn)移開(kāi)，不再假設(shè)‘如果涉及數(shù)據(jù)或 AI，它一定是壞的和有偏見(jiàn)的’?！?nbsp;

她認(rèn)為問(wèn)題通常不是技術(shù)，而是技術(shù)的使用方式，以及驅(qū)動(dòng)公司商業(yè)模式的風(fēng)險(xiǎn)水平?！斑@就是為什么我們需要在這個(gè)領(lǐng)域進(jìn)行精確和周到的監(jiān)管，”她說(shuō)。

蒙哥馬利舉了一個(gè)例子?！癤 公司銷售可監(jiān)控和報(bào)告使用數(shù)據(jù)的聯(lián)網(wǎng)‘智能’燈泡。隨著時(shí)間的推移，X 公司收集了足夠的使用數(shù)據(jù)來(lái)開(kāi)發(fā)一種人工智能算法，該算法可以學(xué)習(xí)客戶的使用模式，并為用戶提供在他們下班回家前自動(dòng)打開(kāi)燈的選項(xiàng)?！?/p>

她認(rèn)為，這是可以接受的 AI 用法。但還有 Y 公司。然后，它會(huì)在未經(jīng)消費(fèi)者同意的情況下將這些數(shù)據(jù)出售給電話推銷員或政治游說(shuō)團(tuán)體等第三方，以更好地鎖定客戶。X 公司的商業(yè)模式風(fēng)險(xiǎn)遠(yuǎn)低于 Y 公司?！?/p>

向前走

人工智能最終是一個(gè)分裂的主題?！凹夹g(shù)、研發(fā)和科學(xué)領(lǐng)域的人們將為它解決問(wèn)題的速度比人類想象的更快而歡呼。治愈疾病，讓世界更安全，并最終拯救和延長(zhǎng)人類在地球上的壽命……”Idemia 首席執(zhí)行官 Donnie Scott 說(shuō)?！胺磳?duì)者將繼續(xù)主張對(duì)人工智能的使用進(jìn)行重大限制或禁止，因?yàn)椤畽C(jī)器的崛起’可能威脅到人類?！?/p>

最后，他補(bǔ)充道，“通過(guò)我們的民選官員，社會(huì)需要一個(gè)能夠保護(hù)人權(quán)、隱私和安全的框架，以跟上技術(shù)進(jìn)步的步伐。 到 2023 年，這一框架的進(jìn)展將是漸進(jìn)的，但國(guó)際和國(guó)家管理機(jī)構(gòu)的討論需要增加，否則地方政府將介入并制定一系列阻礙社會(huì)和技術(shù)發(fā)展的法律。”

對(duì)于 AI 在企業(yè)中的商業(yè)用途，Montgomery 補(bǔ)充說(shuō)：“我們需要 web3，而 IBM 提倡智能且有針對(duì)性的 web3 精確監(jiān)管，并且能夠適應(yīng)新出現(xiàn)的威脅。一種方法是查看公司商業(yè)模式核心的風(fēng)險(xiǎn)。我們可以而且必須保護(hù)消費(fèi)者并提高透明度，我們可以在鼓勵(lì)和支持創(chuàng)新的同時(shí)做到這一點(diǎn)，以便公司能夠開(kāi)發(fā)未來(lái)的解決方案和產(chǎn)品。這是我們將在 2023 年密切關(guān)注和權(quán)衡的眾多領(lǐng)域之一?！?/p>