3月14日，人工智能公司OpenAI發(fā)布了ChatGPT（GPT-3.5階段）的升級(jí)版GPT-4，讓原本已經(jīng)略顯沉寂的ChatGPT話(huà)題再次迎來(lái)了“爆炸式熱議”，毫無(wú)懸念地沖上了社交平臺(tái)熱搜?！癆I 終將取代人類(lèi)”、“GPP-4考試能力強(qiáng)國(guó)90%的人類(lèi)”等話(huà)題受到越來(lái)越多的用戶(hù)關(guān)注。

和之前的ChatGPT相比，此次GPT-4的升級(jí)堪稱(chēng)“重磅級(jí)”：采用了“超大多模態(tài)模型”，回答準(zhǔn)確率上大幅提升；輸出文本擴(kuò)寫(xiě)能力增強(qiáng)，處理上限增加至2.5W個(gè)單詞；在純文本輸入基礎(chǔ)上增加了圖像識(shí)別；創(chuàng)造力大幅提升，能夠處理更細(xì)微的指令......

和ChatGPT相比，GPT-4是如此之優(yōu)秀，帶來(lái)的可怕結(jié)果是：在用戶(hù)的瘋狂訂購(gòu)下，OpenAI付款系統(tǒng)宕機(jī)了。

扔掉Chat之后，GPT-4更強(qiáng)大了

如果說(shuō)基于GPT-3.5模型的ChatGPT還是個(gè)在及格線徘徊的”差生“，那么GPT-4的實(shí)力則有望踏入”尖子生“行列，不僅更加智能，也更加難以被“欺騙”。

扔掉Chat的前綴后，GPT-4能力發(fā)生了明顯的變化。簡(jiǎn)單來(lái)說(shuō)，隨著OpenAI在深度學(xué)習(xí)方向上的不斷擴(kuò)展，GPT-4朝著“更像人”的方向邁出了一大步，它甚至參加了美國(guó)律師資格考試 Uniform Bar Exam、法學(xué)院入學(xué)考試 LSAT等，成績(jī)排在前20%；還有用戶(hù)在 YouTube上進(jìn)行直播用GPT-4寫(xiě)文章、寫(xiě)代碼、報(bào)稅、寫(xiě)詩(shī)、講笑話(huà)……

通過(guò)對(duì)26種語(yǔ)言進(jìn)行測(cè)試，GPT-4在24種語(yǔ)言方面的表現(xiàn)均優(yōu)于GPT-3.5等其他大語(yǔ)言模型，包括拉脫維亞語(yǔ)、威爾士語(yǔ)和斯瓦希里語(yǔ)等低資源語(yǔ)言，其中對(duì)中文識(shí)別的準(zhǔn)確性達(dá)到了80.1%（下圖）。

OpenAI演示了一段用GPT-4用26個(gè)單詞寫(xiě)作的《灰姑娘》故事梗概，其中這26個(gè)單詞的首字母正好對(duì)應(yīng)26個(gè)字母從A到Z的正確排序，足以證明GPT-4在詞匯量及語(yǔ)言創(chuàng)作方面能力的強(qiáng)大。

但最大的更新之處，在于GPT-4在圖片識(shí)別方面的支持，能夠在讀懂圖片內(nèi)容的基礎(chǔ)上，給出有邏輯的回答。比如當(dāng)用戶(hù)問(wèn)下圖有何特別之處，GPT-4能夠直接描述出是”一名男子正在行駛中的出租車(chē)車(chē)頂上的熨衣板上熨燙衣服“。

在另一個(gè)例子中，GPT-4能夠按照用戶(hù)要求，在”讀懂“論文的基礎(chǔ)上給出摘要，并能對(duì)其中的某個(gè)試驗(yàn)過(guò)程進(jìn)行精簡(jiǎn)的描述。

此外，GPT-4還能在一定程度上讀懂網(wǎng)絡(luò)上流行的搞笑”梗圖“，比如能夠描述出下圖的搞笑之處在于”將過(guò)時(shí)的大型 VGA 連接器插入小型現(xiàn)代智能手機(jī)充電端口的荒謬做法“。

GPT-4將會(huì)成為黑客手中的利劍？

首先我們必須意識(shí)到一個(gè)問(wèn)題，越來(lái)越智能的GPT-4會(huì)不會(huì)帶來(lái)更加可怕的安全風(fēng)險(xiǎn)，或者成為網(wǎng)絡(luò)犯罪組織手中的“利劍”？

在ChatGPT版本，F(xiàn)reeBuf曾深入探討其在網(wǎng)絡(luò)犯罪方面被利用的情況，以及可能給網(wǎng)絡(luò)空間帶來(lái)的安全風(fēng)險(xiǎn)。

一是其本身的風(fēng)險(xiǎn)。

例如安全專(zhuān)家在ChatGPT生成的內(nèi)容中發(fā)現(xiàn)了與公司內(nèi)部機(jī)密十分相似的文本，原因可能是亞馬遜員工在使用ChatGPT生成代碼和文本時(shí)輸入了公司內(nèi)部數(shù)據(jù)信息。那么，在GPT-4中，這樣的安全隱患將會(huì)仍舊存在，各大巨頭依舊會(huì)對(duì)GPT進(jìn)行防守。

在網(wǎng)安政策方面，GPT-4同樣面臨踩紅線的危險(xiǎn)。例如是否違反了GDPR的“最小數(shù)據(jù)”原則，是否滿(mǎn)足“被遺忘權(quán)”或“刪除權(quán)”，對(duì)于公共數(shù)據(jù)的使用是否合規(guī)，對(duì)于學(xué)術(shù)型、知識(shí)產(chǎn)權(quán)型信息的收集適合符合當(dāng)前的法律、法規(guī)。

目前，我國(guó)《網(wǎng)絡(luò)安全法》《數(shù)據(jù)保護(hù)法》《個(gè)人信息保護(hù)法》對(duì)于數(shù)據(jù)的采集、使用都有細(xì)致的規(guī)定，僅從現(xiàn)有的情況來(lái)看，GPT-4顯然無(wú)法全部滿(mǎn)足這些要求。而且未來(lái)全球的法律體系將朝著“數(shù)據(jù)保護(hù)”的方向進(jìn)一步細(xì)化，那時(shí)GPT將面臨更加嚴(yán)峻的合規(guī)壓力。

其次是使用GPT-4編輯代碼可能存在更多隱蔽的漏洞。

在ChatGPT-3.5階段，已經(jīng)有企業(yè)和開(kāi)發(fā)人員嘗試?yán)盟鼇?lái)寫(xiě)代碼和漏洞排查。在卡巴斯基的一項(xiàng)實(shí)驗(yàn)中，分析師發(fā)現(xiàn)ChatGPT 可用于為未運(yùn)行端點(diǎn)檢測(cè)和響應(yīng) (EDR) 系統(tǒng)、檢測(cè)代碼混淆或逆向工程代碼二進(jìn)制文件的公司收集取證信息。

而更智能的GPT-4也被很多人給予厚望，當(dāng)越來(lái)越多的開(kāi)發(fā)人員使用GPT-4來(lái)編寫(xiě)代碼，其中隱藏的漏洞將會(huì)成為更加可怕的定時(shí)炸彈，一旦被攻擊者利用，將會(huì)給整個(gè)網(wǎng)絡(luò)安全空間帶來(lái)難以言表的災(zāi)難，尤其是在供應(yīng)鏈安全領(lǐng)域需要提高警惕。

最后，如何防止GPT-4被黑客利用，從而給網(wǎng)絡(luò)安全防御帶來(lái)新的壓力。

一個(gè)十分明顯的事實(shí)是，從ChatGPT 階段開(kāi)始，GPT 被用于黑產(chǎn)、網(wǎng)絡(luò)犯罪、黑客攻擊等領(lǐng)域的案例越來(lái)越多，未來(lái)甚至有可能成為常態(tài)。

例如Cybernews的研究人員曾發(fā)現(xiàn)，ChatGPT可以被黑客用于尋找網(wǎng)站的安全漏洞，在其幫助下，研究人員對(duì)一個(gè)普通網(wǎng)站進(jìn)行了滲透測(cè)試，并在45分鐘內(nèi)結(jié)合ChatGPT提供的建議和代碼更改示例完成了破解。

ChatGPT已經(jīng)具備這樣的能力，更何況更加智能的GPT-4？短時(shí)間想要利用GPT-4對(duì)網(wǎng)絡(luò)安全體系產(chǎn)生實(shí)質(zhì)性的強(qiáng)化似乎難以實(shí)現(xiàn)，但是被用于網(wǎng)絡(luò)犯罪卻已是近在眉睫，類(lèi)似的安全風(fēng)險(xiǎn)該如何處理已經(jīng)成為當(dāng)下必須要思考的問(wèn)題。

當(dāng)然，在安全方面OpenAI也在持續(xù)努力。例如他們聘請(qǐng)了50 多位來(lái)自人工智能對(duì)接風(fēng)險(xiǎn)、網(wǎng)絡(luò)安全、生物風(fēng)險(xiǎn)、信任和安全以及國(guó)際安全等領(lǐng)域的專(zhuān)家對(duì)模型進(jìn)行對(duì)抗性測(cè)試，訓(xùn)練各種高風(fēng)險(xiǎn)場(chǎng)景，從而為緩解措施和模型的改進(jìn)提供依據(jù)。例如通過(guò)搜集額外專(zhuān)業(yè)數(shù)據(jù)，以提高GPT-4拒絕有關(guān)如何合成危險(xiǎn)化學(xué)品請(qǐng)求的能力。

但僅依靠這些，很明顯無(wú)法滿(mǎn)足安全的訴求，這也意味著我們需要從多方面入手來(lái)增強(qiáng)，以GPT-4為代表的人工智能在安全方面的能力，包括制定政策法規(guī)、以技術(shù)手段遏制作惡的風(fēng)險(xiǎn)等。

寫(xiě)在最后

無(wú)論如何，科技的進(jìn)步對(duì)于人類(lèi)的發(fā)展有著不可估量的作用，但與此同時(shí)我們更需要對(duì)風(fēng)險(xiǎn)有清晰的認(rèn)識(shí)。換言之，我們以積極的態(tài)度擁抱GPT-4，但是我們更要做好應(yīng)對(duì)風(fēng)險(xiǎn)的準(zhǔn)備。

正如二戰(zhàn)某領(lǐng)袖所說(shuō)的那樣：我們改變不了別人的想法，既然他們要備戰(zhàn)，我們也要備戰(zhàn)。對(duì)于GPT-4也是如此，我們無(wú)法改變他人用它來(lái)“作惡”，但我們可以決定如何用它來(lái)“為善”。

AI這把劍，握在網(wǎng)安的手里，同樣異常鋒利。

我們做好準(zhǔn)備！