近日，國(guó)際網(wǎng)絡(luò)安全專家解釋了人工智能聊天機(jī)器人背后的危險(xiǎn)，并分享了如何保持安全的建議。

隨著人工智能聊天機(jī)器人的興起，企業(yè)必須意識(shí)到使用ChatGPT技術(shù)的風(fēng)險(xiǎn)。這對(duì)企業(yè)來說可能是一把雙刃劍，在提供自動(dòng)化和潛在業(yè)務(wù)收益的同時(shí)，也帶來了獨(dú)特的威脅。黑客可能會(huì)利用ChatGPT=實(shí)施更復(fù)雜的攻擊，讓用戶更難發(fā)現(xiàn)潛在的網(wǎng)絡(luò)攻擊。為了避免業(yè)務(wù)損失，企業(yè)組織必須重新評(píng)估他們采取的步驟并了解風(fēng)險(xiǎn)。

ChatGPT被越來越多地用作犯罪工具

根據(jù)NordVPN的研究，暗網(wǎng)論壇上關(guān)于人工智能工具的新帖子數(shù)量從1月份的120個(gè)激增到2月份的870個(gè)，增長(zhǎng)了625%。

在暗網(wǎng)論壇上，ChatGPT的帖子數(shù)量在一個(gè)月內(nèi)從37個(gè)增加到91個(gè)，使得機(jī)器人開發(fā)成為暗網(wǎng)沖浪者中最受歡迎的話題之一。例如，論壇討論包括關(guān)于不良行為者如何編寫ChatGPT以生成基本惡意軟件的信息。后來，黑客社區(qū)的目標(biāo)是采取更激進(jìn)的行動(dòng)，比如接管聊天機(jī)器人的控制權(quán)，制造故障，從而造成嚴(yán)重破壞?，F(xiàn)在，暗網(wǎng)上的用戶都可以輕松獲得諸如“如何破解ChatGPT”、“ChatGPT越獄2.0”、“ChatGPT -惡意軟件的進(jìn)展”和“ChatGPT作為網(wǎng)絡(luò)釣魚工具”等主題的專業(yè)知識(shí)。

ChatGPT和社會(huì)工程

諸如網(wǎng)絡(luò)釣魚、詐騙或借口等社會(huì)工程攻擊可能很容易被用來竊取有價(jià)值的信息。ChatGPT可以生成令人信服的對(duì)話或腳本，操縱人們透露機(jī)密信息或執(zhí)行某些任務(wù)。此外，使用chatgpt可以很容易地避免措辭糟糕的電子郵件和語法錯(cuò)誤。這使得來自非英語的國(guó)家的人能夠更大規(guī)模地參與網(wǎng)絡(luò)犯罪，并取得更高的成功率。

泄露敏感信息

今年3月，ChatGPT經(jīng)歷了一次數(shù)據(jù)泄露。一個(gè)漏洞暴露了用戶的個(gè)人信息，比如聊天記錄和銀行卡詳細(xì)信息。這些事件證明使用該平臺(tái)會(huì)帶來很高的隱私風(fēng)險(xiǎn)。這意味著添加到聊天機(jī)器人中的任何類型的信息都可能有泄露的風(fēng)險(xiǎn)，特別是當(dāng)ChatGPT或其他人工智能工具用于營(yíng)銷目的或編寫電子郵件時(shí)。不要忘記，為了讓Chat GPT變得更好，它使用了用戶提供的數(shù)據(jù)，包括個(gè)人或商業(yè)信息以及其他重要數(shù)據(jù)。如果黑客能夠攻破系統(tǒng)，企業(yè)將遭受損失。

如何保護(hù)企業(yè)和員工

預(yù)防總是比破壞便宜。使用以下核心原則來保護(hù)企業(yè)與自身:

1、員工培訓(xùn)。如上所述，社會(huì)工程攻擊正變得越來越復(fù)雜。因此，需要更加重視員工培訓(xùn)。最有效的方法之一是組織網(wǎng)絡(luò)攻擊模擬演習(xí)，并公開討論結(jié)果。

2、制定業(yè)務(wù)彈性計(jì)劃。風(fēng)險(xiǎn)評(píng)估對(duì)任何公司來說都是必須的——無論大小或行業(yè)。請(qǐng)制定一個(gè)計(jì)劃來應(yīng)對(duì)任何可能出現(xiàn)的挑戰(zhàn)。

3、投資于預(yù)防、檢測(cè)和緩解威脅。擁有高質(zhì)量的網(wǎng)絡(luò)安全工具，防止威脅，提供網(wǎng)絡(luò)分割、識(shí)別和訪問管理。對(duì)于威脅檢測(cè)，維護(hù)IDS策略和數(shù)據(jù)完整性檢查。為了減輕威脅，需要有清晰的事后分析和備份策略。

ChatGPT是一項(xiàng)出色的技術(shù)，可以幫助人們自動(dòng)化任務(wù)并提高效率。然而，由于大多數(shù)聊天機(jī)器人對(duì)每個(gè)人都可用，使用這種技術(shù)進(jìn)行人眼無法檢測(cè)的復(fù)雜攻擊的不良行為者也同樣如此。例如，網(wǎng)絡(luò)釣魚攻擊現(xiàn)在被完美地翻譯并針對(duì)某些市場(chǎng)。此外，在暗網(wǎng)上，甚至ChatGPT也是一個(gè)目標(biāo)，未來可能會(huì)導(dǎo)致更多的數(shù)據(jù)泄露和泄露。對(duì)于員工和公司首席執(zhí)行官來說，最重要的是要對(duì)我們輸入這個(gè)工具的信息還是公司范圍內(nèi)的程序持關(guān)鍵態(tài)度。