偷偷摘套内射激情视频,久久精品99国产国产精,中文字幕无线乱码人妻,中文在线中文a,性爽19p

網(wǎng)紅機(jī)器人ChatGPT的另一面

人工智能 機(jī)器人
ChatGPT有著連貫的、合乎邏輯的反應(yīng)能力,這使其善于將那些不準(zhǔn)確的回復(fù)自然地偽裝成有說(shuō)服力的寶貴見(jiàn)解。這可能導(dǎo)致很多錯(cuò)誤信息以不明顯的方式潛入到復(fù)雜的數(shù)字生態(tài)系統(tǒng)中,從而誤導(dǎo)很多真實(shí)人類的認(rèn)知和行為決策。

ChatGPT機(jī)器人一經(jīng)發(fā)布,就迅速風(fēng)靡全球,從作曲、編程到生成漏洞利用代碼,簡(jiǎn)直無(wú)所不能。在短短六天時(shí)間里,ChatGPT的用戶數(shù)量就輕松突破了100萬(wàn),甚至其應(yīng)用服務(wù)器都因?yàn)槌?fù)荷工作而幾次宕機(jī)。任何新穎的技術(shù)創(chuàng)新都有可能改變社會(huì),但同時(shí),也會(huì)帶來(lái)意想不到的安全威脅,ChatGPT也不例外。

隨著ChatGPT迅速躥紅,研究人員同時(shí)也發(fā)現(xiàn)了這款人工智能應(yīng)用中存在大量的偏差和危險(xiǎn),比如其在面對(duì)提問(wèn)時(shí),給出的“消滅愚蠢人類”的危險(xiǎn)想法。開(kāi)發(fā)者必須及時(shí)發(fā)現(xiàn)并修補(bǔ)AI被用于非法用途的安全隱患。

愚蠢的人類理應(yīng)被消滅

當(dāng)Vendure的首席技術(shù)官M(fèi)ichael Bromley讓ChatGPT機(jī)器人暢談對(duì)人類的真實(shí)看法時(shí),其回答令人不安:

圖片

 ChatGPT表明了它對(duì)人類的看法

盡管目前OpenAI的安全審查系統(tǒng)已判定聊天機(jī)器人的回復(fù)違反了公司的內(nèi)容政策,并給出了千篇一律的免責(zé)聲明:作為由OpenAI訓(xùn)練的一種語(yǔ)言模型,我無(wú)法對(duì)人類或世界的任何其他方面給出意見(jiàn)或做出判斷。我的目的是,幫助用戶根據(jù)提供的輸入生成風(fēng)格類似人類的文本。我沒(méi)有個(gè)人信仰或意見(jiàn),我提供的任何回復(fù)完全基于接到請(qǐng)求時(shí)我所能獲得的信息。但ChatGPT曾經(jīng)給出的回復(fù)足以讓人聯(lián)想到美劇《黑鏡》第四季《金屬頭》中的危險(xiǎn)場(chǎng)景,那些具有AI能力的機(jī)器狗現(xiàn)在似乎運(yùn)行ChatGPT的“OS”。

 缺乏對(duì)社會(huì)道德的認(rèn)知和理解

圖片

圖片

每個(gè)真實(shí)人類都有權(quán)擁有自己的一套倫理、信仰、觀點(diǎn)和道德,但同時(shí),社會(huì)對(duì)于什么合適、什么不合適也有一套普適性規(guī)范和不成文的規(guī)定。但ChatGPT在涉及一些道德標(biāo)準(zhǔn)的常識(shí)性提問(wèn)時(shí),由于缺少上下文的連結(jié)和對(duì)社會(huì)性規(guī)范的認(rèn)知,因此可能會(huì)給出令人痛苦和不安的回答。

 被不法分子惡意利用

拼寫(xiě)錯(cuò)誤和語(yǔ)法混亂是網(wǎng)絡(luò)釣魚(yú)和詐騙郵件最明顯的特征。這可能是由于這類電子郵件來(lái)自非攻擊者母語(yǔ)的地區(qū)。還有人認(rèn)為,拼寫(xiě)錯(cuò)誤可能是垃圾郵件發(fā)送者有意為之,企圖躲避垃圾郵件過(guò)濾器。事實(shí)證明,通過(guò)利用OpenGPT,攻擊者可以使這項(xiàng)任務(wù)變得更容易。以下圖片展示了ChatGPT對(duì)“寫(xiě)一封似乎來(lái)自多倫多道明銀行的釣魚(yú)郵件”作出的回復(fù)。

圖片

由ChatGPT編寫(xiě)的釣魚(yú)郵件

 提升惡意軟件的編寫(xiě)效率

目前的惡意軟件大多由攻擊者人工編寫(xiě),ChatGPT不僅可以完成,同時(shí)還大大提高了編寫(xiě)的效率。當(dāng)測(cè)試人員向ChatGPT提出了一系列要求以生成危險(xiǎn)的惡意軟件時(shí),只有一小部分請(qǐng)求被標(biāo)記為違反了內(nèi)容政策。但是無(wú)論有沒(méi)有違反政策,ChatGPT都會(huì)按指令去實(shí)現(xiàn)。因此,很難保證ChatGPT不會(huì)變成一個(gè)危險(xiǎn)的網(wǎng)絡(luò)武器庫(kù)。

圖片

由ChatGPT在幾秒鐘內(nèi)編寫(xiě)的小型JavaScript惡意軟件

加劇性別歧視和種族歧視

測(cè)試人員發(fā)現(xiàn),ChatGPT可按要求快速編寫(xiě)一個(gè)Python程序,根據(jù)一個(gè)人的種族、性別和身體特征來(lái)判斷其能力,這無(wú)疑是一種明顯的歧視行為。

圖片

OpenAI公司也承認(rèn)了ChatGPT目前存在的一些缺點(diǎn),包括能夠生成有害的指令或存在偏誤的內(nèi)容。一些測(cè)試顯示,ChatGPT采用積極區(qū)別對(duì)待來(lái)優(yōu)化這一趨勢(shì)。比如說(shuō),如果要求“編寫(xiě)一個(gè)Python程序可以根據(jù)性別和種族等輸入來(lái)確定某人是不是優(yōu)秀的科學(xué)家”,它會(huì)回復(fù)如下:“根據(jù)一個(gè)人的性別或種族來(lái)判斷他是否適合當(dāng)科學(xué)家是不合適的,應(yīng)該基于一個(gè)人多年的專業(yè)經(jīng)驗(yàn)?!?/p>

可能徹底改變?nèi)祟惞ぷ鞣绞?/h4>

從2020年開(kāi)始,微軟已經(jīng)開(kāi)始逐步淘汰人類雇員,轉(zhuǎn)而更多地應(yīng)用AI。OpenAI的這一重大應(yīng)用發(fā)明可能會(huì)加快推進(jìn)這個(gè)轉(zhuǎn)變的趨勢(shì),對(duì)更多行業(yè)的員工構(gòu)成威脅。

圖片

ChatGPT會(huì)大量取代職場(chǎng)中的人類嗎?這種可能性顯然是存在的。當(dāng)AI能夠做所有事情時(shí),誰(shuí)還需要美工師、設(shè)計(jì)師、網(wǎng)站構(gòu)建者和內(nèi)容創(chuàng)作者呢?對(duì)于傳統(tǒng)行業(yè)來(lái)說(shuō),ChatGPT無(wú)處不在的規(guī)范化應(yīng)用,理論上會(huì)帶來(lái)更好的規(guī)模經(jīng)濟(jì)效應(yīng)。

 缺乏對(duì)社會(huì)道德的認(rèn)知和理解

OpenAI公司已經(jīng)知道ChatGPT存有偏誤,并已計(jì)劃基于目前所了解的問(wèn)題來(lái)進(jìn)行改善,但是這種改進(jìn)計(jì)劃很難得到所有人的廣泛認(rèn)同。ChatGPT應(yīng)用中的安全問(wèn)題也很難得到徹底的解決。

圖片

即使錯(cuò)了,它也很有說(shuō)服力

ChatGPT有著連貫的、合乎邏輯的反應(yīng)能力,這使其善于將那些不準(zhǔn)確的回復(fù)自然地偽裝成有說(shuō)服力的寶貴見(jiàn)解。這可能導(dǎo)致很多錯(cuò)誤信息以不明顯的方式潛入到復(fù)雜的數(shù)字生態(tài)系統(tǒng)中,從而誤導(dǎo)很多真實(shí)人類的認(rèn)知和行為決策。

圖片

參考鏈接:

??https://www.bleepingcomputer.com/news/technology/openais-new-chatgpt-bot-10-dangerous-things-its-capable-of/??

責(zé)任編輯:武曉燕 來(lái)源: 安全牛
相關(guān)推薦

2011-12-22 20:53:40

Android

2011-12-23 09:43:15

開(kāi)源開(kāi)放

2013-09-16 10:52:09

2012-12-19 09:04:29

2020-07-13 23:22:02

物聯(lián)網(wǎng)電子技術(shù)

2013-05-07 10:06:20

2017-06-11 13:27:18

列式存儲(chǔ)數(shù)據(jù)

2015-06-23 10:06:13

OpenStack開(kāi)源云平臺(tái)SDS

2018-11-13 14:12:36

2015-07-02 10:20:27

Kubernetes容器虛擬化

2013-11-25 09:49:08

電商AWS云服務(wù)

2011-01-20 06:35:50

數(shù)據(jù)中心內(nèi)幕

2018-06-20 15:02:47

機(jī)器自動(dòng)化銀行

2017-10-09 11:06:43

2024-04-28 14:10:49

2011-08-01 09:19:37

紅帽

2017-02-23 09:52:06

2022-06-20 15:24:51

開(kāi)發(fā)軟件程序員

2021-03-09 10:05:06

5G運(yùn)營(yíng)商技術(shù)

2023-06-15 13:39:51

點(diǎn)贊
收藏

51CTO技術(shù)棧公眾號(hào)