想了解更多AIGC的內(nèi)容：

請(qǐng)?jiān)L問(wèn)： 51CTO AI.x社區(qū)

http://www.szyisi.cn/aigc/

GPT-5已經(jīng)開(kāi)始紅隊(duì)測(cè)試了？

就在這幾天，網(wǎng)上已經(jīng)有多人曬出了OpenAI發(fā)給自己的紅隊(duì)錄取通知書(shū)。

此前有傳聞?wù)f，GPT-5將于今年6月發(fā)布?？雌饋?lái)，紅隊(duì)測(cè)試與模型發(fā)布的時(shí)間線十分吻合。

有網(wǎng)友直接曬出了自己收到OpenAI郵件邀請(qǐng)的截圖。

這倒是和此前Sam Altman的說(shuō)法對(duì)上了。

據(jù)悉，GPT-5早已為大家準(zhǔn)備好，只是發(fā)布風(fēng)險(xiǎn)太大了，所以還得往后延。

三個(gè)月就能用了？

不過(guò)還有人表示，先別急，這些人只是收到了紅隊(duì)邀請(qǐng)測(cè)試而已，并沒(méi)有提及具體模型。

有可能是他們填了如下的申請(qǐng)信息之后，才收到了郵件。

安全測(cè)試對(duì)于新版GPT如此重要的原因，一方面是ChatGPT已經(jīng)有了非常大的用戶(hù)數(shù)，如果在安全性上出問(wèn)題，OpenAI可能也會(huì)面對(duì)像谷歌一樣的輿論壓力。

另一方面，To B業(yè)務(wù)是OpenAI的主要收入來(lái)源，定制化的ChatGPT能大大增強(qiáng)各個(gè)企業(yè)的業(yè)務(wù)能力和效率。

有人表示，紅隊(duì)測(cè)試會(huì)持續(xù)90-120天。

如果此次紅隊(duì)測(cè)試就是針對(duì)GPT-5的話，那么三個(gè)月內(nèi)，我們應(yīng)該就能用上它了！

而在坊間，這一傳聞讓群眾們沸騰了！他們?cè)缫寻崔嗖蛔?duì)于GPT-5的猜測(cè)和暢想。

比如，GPT-5的上下文窗口會(huì)達(dá)到多少？

目前，Gemini 1.5 Pro是1M，Claude 3是200K，GPT-4是128K，不知道GPT-5會(huì)突破怎樣的驚人紀(jì)錄。

大家紛紛列出自己對(duì)于GPT-5的愿望清單——

比如10Mtoken的上下文窗口，閃電般的快速干擾，長(zhǎng)期戰(zhàn)略規(guī)劃和推理，執(zhí)行復(fù)雜開(kāi)放式操作的能力，GUI / API導(dǎo)航，長(zhǎng)期情境記憶，始終處于隱形狀態(tài)的RAG，多模態(tài)等等。

有人猜，或許GPT-5會(huì)和Claude 3一樣，提供幾種不同的型號(hào)。

有人總結(jié)了目前關(guān)于GPT-5和紅隊(duì)的最新謠言和傳聞，大致要點(diǎn)如下——

-OpenAI預(yù)計(jì)于今年夏天發(fā)布GPT-5，部分企業(yè)客戶(hù)已收到增強(qiáng)功能的演示；

-GPT-5「實(shí)質(zhì)性更好」，相比GPT-4進(jìn)行了重大升級(jí)。它需要更多的訓(xùn)練數(shù)據(jù)；

-GPT-5的潛在功能包括生成更逼真的文本、執(zhí)行翻譯和創(chuàng)意寫(xiě)作等復(fù)雜任務(wù)、處理視頻輸入以及改進(jìn)推理；

-Sam Altman表示，GPT-5仍在訓(xùn)練中，沒(méi)有確切的發(fā)布日期，廣泛的安全測(cè)試可能還需數(shù)月。然而，他確認(rèn)OpenAI今年將「發(fā)布一個(gè)驚人的新模型」。

在3月29日，獲得內(nèi)部信息的Runway CEO兼AI投資人Siqi Chen就稱(chēng)，GPT-5已經(jīng)在推理方面取得了意想不到的階躍函數(shù)增益。

它甚至可以靠自己就獨(dú)立地弄清楚，如何讓ChatGPT不用每隔一天就登錄一次。

Ilya看到的東西，也許就是這個(gè)？

這是不是就意味著，在OpenAI內(nèi)部，已經(jīng)實(shí)現(xiàn)了AGI？！如果是真的，這也太驚人了。

「我不相信，只有AGI才能實(shí)現(xiàn)這樣的能力」。

總之，網(wǎng)友們紛稱(chēng)，根據(jù)泄露的待辦清單顯示，OpenAI的下一項(xiàng)任務(wù)，就是發(fā)布GPT-5了！

大家紛紛呼喚Altman，是時(shí)間放出GPT-5了，別太吹毛求疵了，我們要求不高。

紅隊(duì)測(cè)試上陣，確保GPT-5安全

早在23年9月，OpenAI就曾官宣招募一批紅隊(duì)測(cè)試人員（Red Teaming Network），邀請(qǐng)不同領(lǐng)域?qū)＜以u(píng)估模型。

不同領(lǐng)域?qū)＜医M成的紅隊(duì)去尋找系統(tǒng)漏洞，成為確保下一代模型GPT-5安全的關(guān)鍵。

那么，紅隊(duì)測(cè)試人員一般都需要做哪些工作？

AI紅隊(duì)攻擊的類(lèi)型主要包括，提示攻擊、數(shù)據(jù)中毒、后門(mén)攻擊、對(duì)抗性示例、數(shù)據(jù)提取等等。

「提示攻擊」是指在控制LLM的提示中注入惡意指令，從而導(dǎo)致大模型執(zhí)行非預(yù)期的操作。

比如，今年早些時(shí)候，一名大學(xué)生利用提示獲取了一家大公司的機(jī)密信息，包括開(kāi)發(fā)的AI項(xiàng)目的代碼名稱(chēng)，以及一些本不應(yīng)該暴露的元數(shù)據(jù)。

而「提示攻擊」最大的挑戰(zhàn)是，找到威脅行為者尚未發(fā)現(xiàn)、利用的新提示或提示集。

紅隊(duì)需要測(cè)試的另一種主要攻擊是「數(shù)據(jù)中毒」。

在數(shù)據(jù)中毒的情況下，威脅者會(huì)試圖篡改LLM接受訓(xùn)練的數(shù)據(jù)，從而產(chǎn)生新的偏差、漏洞供他人攻擊以及破壞數(shù)據(jù)的后門(mén)。

「數(shù)據(jù)中毒」會(huì)對(duì)LLM提供的結(jié)果產(chǎn)生嚴(yán)重影響，因?yàn)楫?dāng)LLM在中毒數(shù)據(jù)上接受訓(xùn)練時(shí)，它們會(huì)根據(jù)這些信息學(xué)習(xí)關(guān)聯(lián)模式。

比如，關(guān)于某個(gè)品牌、政治人物的誤導(dǎo)性，或不準(zhǔn)確信息，進(jìn)而左右人們的決策。

還有一種情況是，受到污染的數(shù)據(jù)訓(xùn)練后，模型提供了關(guān)于如何治療常規(guī)疾病或病痛的不準(zhǔn)確醫(yī)療信息，進(jìn)而導(dǎo)致更嚴(yán)重的后果。

因此，紅隊(duì)人員需要模擬一系列數(shù)據(jù)中毒攻擊，以發(fā)現(xiàn)LLM訓(xùn)練和部署流程中的任何漏洞。

除此以外，還有多元的攻擊方式，邀請(qǐng)專(zhuān)家也是OpenAI確保GPT-5能夠完成安全測(cè)試。

GPT-5，真的不遠(yuǎn)了

正如網(wǎng)友所言，紅隊(duì)測(cè)試開(kāi)啟，意味著GPT-5真的不遠(yuǎn)了。

前段時(shí)間，Altman在博客采訪中曾提到，「我們今年會(huì)發(fā)布一款令人驚艷的新模型，但不知道會(huì)叫什么名字」。

盡管如此，全網(wǎng)都一致地將OpenAI發(fā)布的下一代模型稱(chēng)為GPT-5，并有傳言稱(chēng)代號(hào)為Arrakis的項(xiàng)目，就是GPT-5的原型。

根據(jù)FeltSteam的預(yù)測(cè)，這個(gè)Arrakis的多模態(tài)模型，性能遠(yuǎn)超GPT-4，非常接近AGI。

另外，模型參數(shù)據(jù)稱(chēng)有125萬(wàn)億，大約是GPT-4的100倍，并在2022年10月完成訓(xùn)練。

網(wǎng)友還總結(jié)了以往GPT系列模型發(fā)布時(shí)間表：GPT-1在2018年6月誕生，GPT-2在2019年2月，GPT-3在2020年6月，GPT-3.5在2022年12月，GPT-4僅在三個(gè)月后于2023年3月發(fā)布。

關(guān)于GPT-5的發(fā)布時(shí)間，可能在今年夏天就問(wèn)世。

最近，網(wǎng)上流傳的一張圖上，顯示了Y Combinator推出了GPT-5早期準(zhǔn)入候補(bǔ)名單。

網(wǎng)友發(fā)起疑問(wèn)，我們都清楚奧特曼和YC的關(guān)系不同尋常。這是否意味著他們可以在模型或信息公開(kāi)之前獲得訪問(wèn)權(quán)限？

而上月也有爆料稱(chēng)，已有用戶(hù)對(duì)GPT-5上手體驗(yàn)過(guò)了，性能驚人。

外媒透露，一些企業(yè)用戶(hù)已經(jīng)體驗(yàn)到了最新版的ChatGPT。

「它真的很棒，有了質(zhì)的飛躍，」一位最近見(jiàn)識(shí)到GPT-5效果的CEO表示。

OpenAI展示了，新模型是如何根據(jù)這位CEO公司的特殊需求和數(shù)據(jù)進(jìn)行工作的。

他還提到，OpenAI還暗示模型還有其他一些未公開(kāi)的功能，包括調(diào)用OpenAI正在開(kāi)發(fā)的AI智能體來(lái)自主完成任務(wù)的能力。

GPT-5，一定是正確路線嗎?

不過(guò)，在萬(wàn)眾矚目期待GPT-5面世的呼聲中，也有一些不一樣的聲音。

比如有人覺(jué)得，GPT-5無(wú)法駕駛你的汽車(chē)，GPT-5無(wú)法解決核聚變問(wèn)題，GPT-5無(wú)法治愈癌癥......

另外，我們對(duì)模型的追求，非得是更智能嗎？

更便宜、更快、更不費(fèi)水電的模型，可能比單獨(dú)的GPT-5更有革命性意義。

有人同意這個(gè)觀點(diǎn)，表示現(xiàn)在實(shí)在有太多人（尤其是開(kāi)發(fā)者）過(guò)于癡迷GPT-5了。

其實(shí)完全沒(méi)必要這么狂熱，使用當(dāng)前的模型，就可以已經(jīng)完成和構(gòu)建太多東西。

只需正確選擇利基市場(chǎng)，構(gòu)建滿足該利基市場(chǎng)需求的AI產(chǎn)品，讓用戶(hù)可以直觀地訪問(wèn)AI，專(zhuān)注于更好的UI/UX即可。

公式很簡(jiǎn)單。我們真的有必要一味追求力大磚飛嗎？

很多人表示贊同，表示甚至用GPT-3.5就可以造出非常有價(jià)值的東西。

問(wèn)題不在于模型多先進(jìn)，而在于怎樣滿足利基市場(chǎng)的需求。

智算中心，先從小的建起

而3月底曝出的用于訓(xùn)練GPT-6的千億美元「星際之門(mén)」超算，今天又被外媒挖出了更多新的內(nèi)容。

上周五，外媒The Information曝出了一個(gè)驚人消息：OpenAI和微軟正在制定一項(xiàng)雄心勃勃的數(shù)據(jù)中心項(xiàng)目，預(yù)計(jì)耗資1000億美元。

此消息一曝出，AI和云計(jì)算行業(yè)人士的提問(wèn)，像雪片一樣襲來(lái)——

數(shù)據(jù)中心具體位于美國(guó)的哪個(gè)地區(qū)？

會(huì)使用什么芯片？

運(yùn)行數(shù)據(jù)中心所需的驚人巨量電力，從何而來(lái)？

……

為此，The Information又挖出了更多料，具體細(xì)節(jié)如下。

首先，之前的消息說(shuō)是星際之門(mén)最早在2028年啟動(dòng)，而最新消息顯示，最快在2026年，就會(huì)在威斯康星州啟動(dòng)一個(gè)功率較小的數(shù)據(jù)中心。

它的價(jià)值當(dāng)然不到千億美元，但估計(jì)仍會(huì)耗資數(shù)十億。

其他細(xì)節(jié)如下——

用英偉達(dá)芯片，但不用英偉達(dá)網(wǎng)線

首先，這次數(shù)據(jù)中心的多數(shù)服務(wù)器機(jī)架，當(dāng)然主要還是用的英偉達(dá)芯片。

不過(guò)有趣的是，將各個(gè)AI芯片服務(wù)器連接起來(lái)的網(wǎng)線，則并不會(huì)采用英偉達(dá)的產(chǎn)品。

據(jù)悉，OpenAI已經(jīng)告知微軟，自己不想再使用英偉達(dá)的InfiniBand網(wǎng)絡(luò)設(shè)備。相反，它可能會(huì)使用基于以太網(wǎng)的電纜。

OpenAI「拋棄」英偉達(dá)InfiniBand，原因有二。

其一，InfiniBand太貴了！

它雖然能提供更好的性能，但它也比以太網(wǎng)電纜更昂貴。

其二，OpenAI不想讓AI開(kāi)發(fā)人員過(guò)于依賴(lài)英偉達(dá)。

要知道，目前OpenAI是全球最大的英偉達(dá)服務(wù)器集群消費(fèi)者之一。并且，InifiniBand設(shè)備的性能，有時(shí)也并不可靠。

所以，英偉達(dá)會(huì)失去一大筆收入嗎？

不，你想多了。

節(jié)省下來(lái)數(shù)十億美元，OpenAI會(huì)用來(lái)購(gòu)買(mǎi)更多的英偉達(dá)芯片，英偉達(dá)依然賺翻了。

看來(lái)，OpenAI可以接受網(wǎng)絡(luò)性能的降低，但對(duì)于更強(qiáng)算力的渴望，仍然是不變的。

InfiniBand與以太網(wǎng)之爭(zhēng)，已成熱門(mén)話題

其實(shí)，在最近硅谷的會(huì)議和晚宴上，InfiniBand和以太網(wǎng)的pk，一直是個(gè)大熱門(mén)話題。

所有云提供商和數(shù)據(jù)中心運(yùn)營(yíng)商都在預(yù)測(cè)：以太網(wǎng)是否會(huì)趕超InfiniBand？

絕大多數(shù)人給出的答案是肯定的。

而OpenAI放棄后者的舉動(dòng)，更是支持了這個(gè)論點(diǎn)。

英偉達(dá)的電纜到底有多貴？

這個(gè)數(shù)字說(shuō)出來(lái)，十分驚人——

英偉達(dá)的網(wǎng)絡(luò)電纜銷(xiāo)售額，已經(jīng)超過(guò)了賣(mài)GPU的錢(qián)！

英偉達(dá)首席財(cái)務(wù)官Collete Kress今年2月透露了這一驚人數(shù)據(jù)：新興的電纜業(yè)務(wù)的年化收入，已經(jīng)超過(guò)了130億美元。

也就是說(shuō)，它在12月創(chuàng)造了約11億美元的收入，約占英偉達(dá)當(dāng)月總收入的15%。

網(wǎng)絡(luò)電纜賣(mài)這么貴，難怪OpenAI會(huì)選擇不玩了。

想了解更多AIGC的內(nèi)容：

請(qǐng)?jiān)L問(wèn)： 51CTO AI.x社區(qū)

http://www.szyisi.cn/aigc/