AI的發(fā)展速度猶如閃電一般之快。據(jù)派拓網(wǎng)絡(luò)統(tǒng)計，2024年使用AI的用戶已達(dá)到2.5億人，AI應(yīng)用數(shù)量也已達(dá)到兩千余個，預(yù)計到2023年，AI應(yīng)用的數(shù)量可突破一萬兩千個。

AI的蓬勃發(fā)展以及AI應(yīng)用的激增改變了企業(yè)的運營模式，越來越多的企業(yè)開始大規(guī)模地使用AI，尤其在大型企業(yè)中，大模型已被廣泛地應(yīng)用在企業(yè)的各個生產(chǎn)流程中，人們享受著AI帶來的便利。

但是，大規(guī)模采用AI也為企業(yè)安全態(tài)勢帶來了新挑戰(zhàn)。據(jù)派拓網(wǎng)絡(luò)統(tǒng)計，在目前公開的模型中，80%的模型能夠被“越獄”，同時還有一百余種惡意模型在外傳播。而企業(yè)中的開發(fā)人員用AI工具寫代碼，或者直接用AI開發(fā)應(yīng)用，都會對企業(yè)產(chǎn)生潛在的安全威脅。

所以，為了幫助企業(yè)避免來自AI的威脅和攻擊，派拓網(wǎng)絡(luò)提出“從源頭規(guī)劃部署AI安全”。近日，派拓網(wǎng)絡(luò)舉辦了網(wǎng)絡(luò)媒體溝通會。在會上，派拓網(wǎng)絡(luò)大中華區(qū)售前總經(jīng)理董春濤介紹了派拓網(wǎng)絡(luò)的AI賦能網(wǎng)絡(luò)安全策略以及近期創(chuàng)新的安全解決方案。

從“源頭”規(guī)劃部署AI安全

那么，何為“源頭”？對于派拓網(wǎng)絡(luò)而言，這一“源頭”指的是在AI技術(shù)應(yīng)用的起始階段，即在數(shù)據(jù)的生成、處理、存儲和使用的每一個環(huán)節(jié)，都要采取嚴(yán)格的安全措施。這意味著，從數(shù)據(jù)的最初采集點直至在AI系統(tǒng)中的最終應(yīng)用，整個過程都必須確保數(shù)據(jù)的安全性，防止未經(jīng)授權(quán)的訪問和潛在的數(shù)據(jù)泄露風(fēng)險。

為了實現(xiàn)這一目標(biāo)，派拓網(wǎng)絡(luò)提出三大產(chǎn)品線和一個咨詢服務(wù)，為企業(yè)構(gòu)建堅固的安全防線。

第一個產(chǎn)品線是AI訪問安全。AI訪問控制能夠?qū)崟r、全面可視化員工訪問AI的情況，在保護(hù)數(shù)據(jù)的同時控制員工訪問AI應(yīng)用的顆粒度，避免員工在使用AI應(yīng)用時泄露企業(yè)數(shù)據(jù)、個人隱私數(shù)據(jù)等敏感信息。

第二個產(chǎn)品線是AI安全態(tài)勢管理，AI-SPM。AI-SPM具備感知AI模型、infra、數(shù)據(jù)集、代理的能力，并能將其可視化，實現(xiàn)對整體AI 生態(tài)的全面發(fā)現(xiàn)。此外，AI-SPM還具備實時評估和鑒別安全風(fēng)險的能力，并針對安全風(fēng)險給出可行動的見解和補救措施指導(dǎo)。

第三個產(chǎn)品線是AI運行時防護(hù)，AI Runtime Security。與傳統(tǒng)的應(yīng)用保護(hù)相比，AI應(yīng)用的保護(hù)更為復(fù)雜，因為除了對AI應(yīng)用本身的保護(hù)，還要確保支撐AI應(yīng)用運行的數(shù)據(jù)集和模型的安全。數(shù)據(jù)集和模型是AI應(yīng)用的基石，一旦受到攻擊，可能會嚴(yán)重影響AI應(yīng)用的性能和準(zhǔn)確性。因此派拓網(wǎng)絡(luò)推出保護(hù)AI應(yīng)用、AI數(shù)據(jù)和AI模型的AI運行時防護(hù)。

而咨詢服務(wù)AI Security Assessment能夠幫助企業(yè)前期調(diào)研AI的使用情況，發(fā)現(xiàn)潛在風(fēng)險的同時提出改善建議。

Precision AI賦能，助力企業(yè)用AI抵御AI攻擊

隨著AI的發(fā)展，越來越多的攻擊者和黑客開始采用AI技術(shù)進(jìn)行攻擊。通過AI，他們可以更輕松地攻擊更多目標(biāo)，以閃電般的速度擴(kuò)大攻擊范圍，且每次攻擊都是零日攻擊，這對企業(yè)的安全造成了巨大的威脅。

在AI時代，什么樣的安全防護(hù)才能避免AI的攻擊？董春濤表示，實時性和自動化是關(guān)鍵。具體來說，企業(yè)需要實現(xiàn)持續(xù)監(jiān)測異常和破壞行為，面對突發(fā)事件能夠?qū)崟r響應(yīng)并自動抑制和消除威脅，減少人工介入。而要想實現(xiàn)這兩點，則需要用AI抵御AI的攻擊。

在近十年的發(fā)展中，人工智能技術(shù)已經(jīng)成為提升安全檢測能力的關(guān)鍵因素，畢竟唯有及時發(fā)現(xiàn)潛在威脅，才能有效進(jìn)行防御。因此，眾多技術(shù)都在不斷優(yōu)化，致力于提高檢測的準(zhǔn)確性和檢出率。

不過，派拓網(wǎng)絡(luò)堅信，僅僅依靠檢測是不足以全面保障網(wǎng)絡(luò)安全的，因此必須將檢測與防御緊密結(jié)合，形成一套完整的安全策略。派拓網(wǎng)絡(luò)始終致力于探索和實施有效的防范措施，其中包括高度自動化的響應(yīng)機(jī)制。在派拓網(wǎng)絡(luò)的三大產(chǎn)品線中，防御功能的集成化程度非常高，許多產(chǎn)品都實現(xiàn)了自動化的防御措施。

不過，最值得一提的是Precision AI技術(shù)。依托于在安全領(lǐng)域積累的大量數(shù)據(jù)，包括長期運行的防火墻、終端防護(hù)以及云中防護(hù)數(shù)據(jù)，再結(jié)合十余年在機(jī)器學(xué)習(xí)和深度學(xué)習(xí)領(lǐng)域的經(jīng)驗，派拓網(wǎng)絡(luò)推出了Precision AI技術(shù)。

目前，派拓網(wǎng)絡(luò)已經(jīng)在全平臺內(nèi)置了Precision AI的基礎(chǔ)組合，為零信任網(wǎng)絡(luò)平臺、CODE TO CLOUD平臺以及AI驅(qū)動的SOC平臺提供支持，助力企業(yè)利用AI技術(shù)構(gòu)建起一道堅固的安全防線。通過這些措施，派拓網(wǎng)絡(luò)不僅提升了檢測能力，更在防御領(lǐng)域?qū)崿F(xiàn)了質(zhì)的飛躍，為企業(yè)網(wǎng)絡(luò)安全提供了全面的保障。

此外，在傳統(tǒng)的安全領(lǐng)域，從業(yè)人員常常面臨產(chǎn)品繁多、配置復(fù)雜、定制化工具數(shù)量龐大以及工作流程頻繁切換的挑戰(zhàn)。這些挑戰(zhàn)不僅增加了從業(yè)人員的操作難度，也無形之中要求從業(yè)人員必須掌握各個安全產(chǎn)品。為了解決這些難題，派拓網(wǎng)絡(luò)在過去的一年中充分利用自己的數(shù)據(jù)和積累的經(jīng)驗，不斷訓(xùn)練大模型，最終推出Copilots工具。這種自然語言交互方式的引入，極大地降低了安全管理系統(tǒng)和工具的使用門檻，使安全從業(yè)人員能夠更加輕松、高效地管理和操作復(fù)雜的安全系統(tǒng)。

隨著AI技術(shù)的不斷進(jìn)步，派拓網(wǎng)絡(luò)正朝著自主化運營和全自動化的方向發(fā)展。未來，派拓網(wǎng)絡(luò)的目標(biāo)是實現(xiàn)AI與安全的完全融合，達(dá)到自適應(yīng)和自學(xué)習(xí)的高度，最終實現(xiàn)自主安全的理想狀態(tài)。這不僅是技術(shù)發(fā)展的必然趨勢，也是派拓網(wǎng)絡(luò)對安全領(lǐng)域未來發(fā)展的堅定承諾。