近年來，全球人工智能產(chǎn)業(yè)呈現(xiàn)蓬勃發(fā)展勢(shì)頭，安全形勢(shì)也變得日趨復(fù)雜。

2023年7月18日，2023中國(guó)互聯(lián)網(wǎng)大會(huì)AI安全論壇在北京舉辦，與會(huì)嘉賓共同圍繞著“探尋AI下的安全新變局，探索數(shù)字安全建設(shè)發(fā)展新機(jī)遇”進(jìn)行了分享。

當(dāng)前，我們站到了一個(gè)新的歷史拐點(diǎn)，互聯(lián)網(wǎng)不僅進(jìn)入了萬(wàn)物互聯(lián)3.0時(shí)代，也進(jìn)入了萬(wàn)物皆可AI的時(shí)代。

中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)副理事長(zhǎng)黃澄清在致辭中表示，未來的世界應(yīng)該是一個(gè)人工智能驅(qū)動(dòng)的世界。我們要統(tǒng)籌發(fā)展和安全牢牢抓住新一輪科技革命和產(chǎn)業(yè)變革的歷史機(jī)遇，加快人工智能產(chǎn)業(yè)創(chuàng)新發(fā)展的步伐，推動(dòng)與實(shí)體經(jīng)濟(jì)深度融合，達(dá)到新水平，推動(dòng)行業(yè)規(guī)范發(fā)展，實(shí)現(xiàn)新突破，治國(guó)經(jīng)邦人才為急，無(wú)論是AI走入產(chǎn)業(yè)還是走進(jìn)家庭，我們期待涌現(xiàn)一批行動(dòng)力強(qiáng)的實(shí)踐者，共同助力我國(guó)AI邁上新的臺(tái)階。

據(jù)統(tǒng)計(jì)，截至2022年北京擁有人工智能核心企業(yè)數(shù)量，人工智能算力發(fā)展水平，人工智能領(lǐng)域核心技術(shù)的人才占比和人工智能論文發(fā)展數(shù)量在全國(guó)均列第一。不過，人工智能在賦能產(chǎn)業(yè)應(yīng)用，提高生產(chǎn)效率和質(zhì)量，降低成本和風(fēng)險(xiǎn)的同時(shí)，也給我們帶來了一系列新的安全應(yīng)用風(fēng)險(xiǎn)與挑戰(zhàn)。

對(duì)于人工智能產(chǎn)業(yè)未來的發(fā)展，北京市通信管理局黨組成員、副局長(zhǎng)王暉提出三點(diǎn)建議：

一是堅(jiān)持發(fā)展與安全并重。只有不斷探索并完善與創(chuàng)新發(fā)展相適應(yīng)的安全保障方式，在創(chuàng)新發(fā)展與風(fēng)險(xiǎn)規(guī)避之間尋求平衡，方能行穩(wěn)致遠(yuǎn)。

二是堅(jiān)持權(quán)利和義務(wù)并重。企業(yè)要積極用好政策紅利，發(fā)揮自身優(yōu)勢(shì)，加快人工智能領(lǐng)域的創(chuàng)新發(fā)展，同時(shí)要積極履行企業(yè)的主體責(zé)任，要加強(qiáng)人工智能發(fā)展的潛在風(fēng)險(xiǎn)研判和防范，維護(hù)人民利益和國(guó)家安全，確保人工智能安全可靠可控。

三是堅(jiān)持自主與協(xié)作并重。人工智能技術(shù)是戰(zhàn)略性新興技術(shù)，需要掌握核心技術(shù)和知識(shí)產(chǎn)權(quán)，提高自主創(chuàng)新能力和競(jìng)爭(zhēng)力，同時(shí)人工智能技術(shù)的發(fā)展需要跨學(xué)科跨領(lǐng)域的協(xié)作，需要企業(yè)高校、科研機(jī)構(gòu)等各方合作，共同開展技術(shù)研發(fā)、人才培養(yǎng)和產(chǎn)業(yè)應(yīng)用等工作。

今年以來，國(guó)產(chǎn)的大模型不斷涌現(xiàn)。根據(jù)《中國(guó)人工智能大模型地圖研究報(bào)告》顯示，截至2023年5月28日，中國(guó)10億參數(shù)規(guī)模以上的大模型已發(fā)布79個(gè)。與此同時(shí)，啟明星辰、天融信、深信服、瑞星、墨云科技等公司將大模型用于網(wǎng)絡(luò)安全的工作。另外，還有一些公司專門訓(xùn)練網(wǎng)絡(luò)安全領(lǐng)域垂直的大模型，并應(yīng)用于產(chǎn)品形態(tài)中。

在中關(guān)村國(guó)家實(shí)驗(yàn)室、清華大學(xué)教授李丹看來，大模型在安全領(lǐng)域的應(yīng)用場(chǎng)景主要集中在三個(gè)方面：

第一，代碼的漏洞挖掘。大模型可以高效處理很多的代碼數(shù)據(jù)，并且利用自身強(qiáng)大的學(xué)習(xí)能力和脫敏能力，能夠快速發(fā)現(xiàn)代碼里很多潛在的漏洞，同時(shí)根據(jù)上下文和目標(biāo)自動(dòng)給出合適的代碼的修改方案，提高代碼的合理性。

第二，通過大模型的能力開發(fā)網(wǎng)絡(luò)安全運(yùn)維機(jī)器人。可以基于大模型的文本理解生成能力、代碼的理解及生成能力、網(wǎng)絡(luò)安全風(fēng)險(xiǎn)評(píng)估值的規(guī)則引擎，以及像安全情報(bào)、樣本庫(kù)、知識(shí)庫(kù)等進(jìn)行精調(diào)，形成一個(gè)網(wǎng)安領(lǐng)域的垂直大模型，降低在網(wǎng)安領(lǐng)域?qū)\(yùn)維人員的專業(yè)要求，并且提高實(shí)時(shí)響應(yīng)的能力。

第三，自主進(jìn)化攻防演練?；诖竽Ｐ徒⒓t藍(lán)對(duì)抗，就像AlphaGo機(jī)器人通過虛擬對(duì)抗模擬實(shí)際對(duì)弈一樣?？梢詫⒑芏喙シ拦ぞ呒⒐シ蕾Y源池，甚至自動(dòng)發(fā)現(xiàn)的一些零日漏洞等，分別集成到紅藍(lán)隊(duì)中，進(jìn)行自動(dòng)對(duì)抗，給網(wǎng)絡(luò)安全領(lǐng)域帶來很多新的技術(shù)發(fā)展的機(jī)會(huì)和變量。

值得一提的是，為了促進(jìn)AI安全產(chǎn)業(yè)的快速發(fā)展，天翼安全科技有限公司中國(guó)電信安全公司(以下簡(jiǎn)稱“電信安全”)發(fā)起了《共建安全大模型高質(zhì)量數(shù)據(jù)集》的倡議。具體倡議如下：

一、數(shù)據(jù)共享：鼓勵(lì)安全領(lǐng)域的組織共享其積累的高質(zhì)量安全數(shù)據(jù)集，包括但不限于：安全領(lǐng)域知識(shí)、惡意代碼樣本、安全處置經(jīng)驗(yàn)等。承諾遵循相關(guān)法律法規(guī)來確保數(shù)據(jù)安全共享。

二、質(zhì)量為先：倡導(dǎo)各位業(yè)界專家共同努力，確保共建的數(shù)據(jù)集滿足質(zhì)量標(biāo)準(zhǔn)，滿足安全領(lǐng)域數(shù)據(jù)的三大特性：準(zhǔn)確性、專業(yè)性和時(shí)效性。

三、有效流通：致力構(gòu)建一個(gè)平等的合作生態(tài)。首先，在數(shù)據(jù)脫敏的前提下，推進(jìn)數(shù)據(jù)在合作機(jī)構(gòu)之間的有效流通;后續(xù)將逐步開放給業(yè)界的專業(yè)研究人員。

四、合法合規(guī)：承諾遵循國(guó)家網(wǎng)信辦、工信部等七部委《關(guān)于生成式人工智能服務(wù)管理暫行辦法》(第七條、第八條)關(guān)于訓(xùn)練數(shù)據(jù)處理活動(dòng)、數(shù)據(jù)標(biāo)注要求的相關(guān)準(zhǔn)則;承諾遵循中共中央、國(guó)務(wù)院《關(guān)于構(gòu)建數(shù)據(jù)基礎(chǔ)制度更好發(fā)揮數(shù)據(jù)要素作用的意見》、工信部印發(fā)《工業(yè)和信息化領(lǐng)域數(shù)據(jù)安全管理辦法(試行)》以及全國(guó)信息安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)印發(fā)《信息安全技術(shù)網(wǎng)絡(luò)安全信息共享指南》(征求意見稿)，確保數(shù)據(jù)要素生產(chǎn)流通使用全過程的合法合規(guī)。

綜上，電信安全將“數(shù)據(jù)共享、質(zhì)量為先、有效流通、合法合規(guī)”作為整體指導(dǎo)方針，通過共建安全大模型高質(zhì)量數(shù)據(jù)集，促進(jìn)AI安全產(chǎn)業(yè)的合理有序發(fā)展。我們邀請(qǐng)安全行業(yè)的各方共同參與，共同努力，共建AI安全的未來。

寫在最后：

總的來說，對(duì)于網(wǎng)絡(luò)安全領(lǐng)域來說，AI技術(shù)的不斷發(fā)展可謂是機(jī)遇與挑戰(zhàn)并存。一方面，AI應(yīng)用落地將帶來新的安全風(fēng)險(xiǎn);但另一方面，AI也會(huì)提升安全運(yùn)營(yíng)的可見性和生產(chǎn)力。

面向未來，只有加強(qiáng)AI技術(shù)安全，避免AI技術(shù)可能帶來的風(fēng)險(xiǎn)，并引導(dǎo)其始終在法律的紅線內(nèi)運(yùn)行，才能推動(dòng)AI技術(shù)的健康發(fā)展，并在網(wǎng)絡(luò)安全領(lǐng)域充分發(fā)揮自身價(jià)值。