奧特曼專訪自曝OpenAI掌握AGI密鑰,2025年降臨!1人1萬(wàn)塊GPU締造十億獨(dú)角獸
1個(gè)人+10000個(gè)GPU,就能打造價(jià)值10億美元的公司?
OpenAI已經(jīng)掌握了通往AGI的內(nèi)部路徑,我們距ASI只有幾千天時(shí)間了?
就在最近,OpenAI CEO奧特曼在最新訪談里,再次爆出不少金句。

YC總裁兼CEO Garry Tan對(duì)奧特曼展開(kāi)了一次訪問(wèn),談?wù)摿薕penAI的起源,公司的下一步發(fā)展,以及他對(duì)于創(chuàng)始人該如何駕馭一個(gè)龐大公司的建議。
在所有人都在認(rèn)為奧特曼又在炒作的同時(shí),德?lián)渲?、OpenAI研究員Noam Brown卻證實(shí),「但據(jù)我所見(jiàn),他所說(shuō)的一切都與OpenAI一線研究人員的普遍觀點(diǎn)相符」。

另一位OpenAI員工稱,「100%贊成!在OpenAI工作的三年里,我一直在專心地聽(tīng)奧特曼的話,他的言辭和評(píng)論都很準(zhǔn)確」。

這也就意味著,4級(jí)AGI——「AI發(fā)明者」很快將要實(shí)現(xiàn)了!

ASI幾千天內(nèi)降臨,現(xiàn)在是創(chuàng)辦科技公司的最佳時(shí)機(jī)嗎
前不久,奧特曼的一篇《ASI幾年內(nèi)降臨,人類奇點(diǎn)將至》在圈內(nèi)引發(fā)熱議。
他表示,深度學(xué)習(xí)已經(jīng)奏效了,它能夠真正學(xué)習(xí)任何數(shù)據(jù)的分布模式。如今人類奇點(diǎn)已經(jīng)近在咫尺,我們眼看著就要邁進(jìn)ASI的大門。
奧特曼甚至直接預(yù)言:ASI將在「幾千天內(nèi)」降臨!

由此,Garry Tan和奧特曼展開(kāi)了進(jìn)一步討論。
奧特曼表示,如今可以說(shuō)是創(chuàng)辦科技公司的最佳時(shí)機(jī)。
每次重大技術(shù)革命,都讓我們能比之前做得多,這也讓他希望,公司會(huì)更令人驚奇,更有影響力。
當(dāng)事情進(jìn)展緩慢時(shí),大公司會(huì)占據(jù)優(yōu)勢(shì)。當(dāng)移動(dòng)互聯(lián)網(wǎng)/半導(dǎo)體/AI革命發(fā)生時(shí),新興公司就會(huì)占據(jù)優(yōu)勢(shì)。
Garry Tan提到奧特曼之前對(duì)ASI幾千天內(nèi)到來(lái)的預(yù)判,奧特曼表示,這其實(shí)是OpenAI的愿景,其實(shí)相當(dāng)瘋狂。
他認(rèn)為,自己能看到這樣一條路徑。
當(dāng)OpenAI的工作不斷積累,過(guò)去三年中的進(jìn)展繼續(xù)在接下來(lái)的三年、六年、九年中持續(xù)下去,保持這種速度,那系統(tǒng)能做的事情,就會(huì)非常非常多。
跟封閉的、在某領(lǐng)域有明確任務(wù)的原始智商相比,o1已經(jīng)非常聰明了。
奧特曼認(rèn)為,我們可能會(huì)遇到未知的障礙,或者錯(cuò)過(guò)一些東西,但目前看來(lái),前方還有許多復(fù)合增長(zhǎng)尚未發(fā)生。
在他看來(lái),解決氣候問(wèn)題、建立太空殖民地、發(fā)現(xiàn)所有物理學(xué)、近乎無(wú)限的智能和充足的能源這些事情,也許的確離我們并不遙遠(yuǎn)。
而他喜歡YC的一點(diǎn)就是,它鼓勵(lì)這種稍微不切實(shí)際的技術(shù)樂(lè)觀主義,以及「你可以做到」的信念感。
如果我們能實(shí)現(xiàn)充足能源,人類的體力勞動(dòng)就能通過(guò)機(jī)器人和隨時(shí)可調(diào)動(dòng)的語(yǔ)言和智能來(lái)解鎖,我們將進(jìn)入一個(gè)真正的富足時(shí)代。
我們會(huì)更快地得出更好的想法,然后在物理世界中將之實(shí)現(xiàn)(當(dāng)然也需要大量能源)。
如今,太陽(yáng)能加儲(chǔ)能的發(fā)展軌跡已經(jīng)足夠好,即使沒(méi)有重大的核突破,我們也會(huì)很好。
奧特曼預(yù)言到:未來(lái),我們會(huì)解決物理學(xué)中的每一個(gè)問(wèn)題,這只是時(shí)間問(wèn)題。
到那一天,我們不會(huì)再討論核聚變,而是討論戴森球。

對(duì)我們的曾孫來(lái)說(shuō),地球的能源已經(jīng)不夠了,他們會(huì)去有大量物質(zhì)的外太空。
OpenAI「5級(jí)AGI」藍(lán)圖
Garry Tan表示,對(duì)OpenAI來(lái)說(shuō),這是偉大的一年,盡管有一些戲劇性事件。你從去年秋天的罷免事件中學(xué)到了什么,對(duì)一些離職有什么感受?
奧特曼稱,很累,但還好。我們用了不到兩年的時(shí)間,加速一個(gè)中型、甚至是大型科技公司的進(jìn)程,這通常來(lái)說(shuō)會(huì)需要十年的時(shí)間。

奧特曼最近表示,ChatGPT已經(jīng)成為世界上第八大網(wǎng)站

Garry Tan對(duì)此表示肯定。
這會(huì)伴隨著很多痛苦的事情。任何公司隨著規(guī)模擴(kuò)大,都會(huì)以某種速度經(jīng)歷管理團(tuán)隊(duì)的變動(dòng)。那些在0-1階段表現(xiàn)出色的人,也不一定適合1-10,10-100的階段。
奧特曼繼續(xù)稱,我們也在改變目標(biāo)。在這個(gè)過(guò)程中犯了很多錯(cuò)誤,但也做對(duì)了一些事情。
這帶來(lái)了很多變化,奧特曼認(rèn)為公司的目標(biāo)不論是AGI還是其他,就需要我們?cè)诿總€(gè)階段盡可能做出最好的決策。
奧特曼希望,OpenAI正在走向一個(gè)更穩(wěn)定的時(shí)期,但他也確定信未來(lái)還會(huì)有其他的,畢竟一切發(fā)展都是動(dòng)態(tài)的。
Garry Tan追問(wèn)道,OpenAI現(xiàn)在是如何運(yùn)作的?
奧特曼稱,我認(rèn)為從目前為止到構(gòu)建AGI仍有大量工作要做。而且,OpenAI的研究路徑相當(dāng)清晰,基礎(chǔ)設(shè)施路徑、產(chǎn)品路徑也越來(lái)越清晰。
最近,OpenAI在YC舉辦了o1黑客馬拉松,獲勝者之一是Camphor。所以CAD/CAM初創(chuàng)公司,在黑客馬拉松期間,也可以構(gòu)建出一個(gè)可以迭代改進(jìn)的模型,這聽(tīng)起來(lái)有點(diǎn)像AGI第四級(jí),也就是創(chuàng)新者階段。

Garry Tan稱,我認(rèn)為從二級(jí)躍升到三級(jí)很快就會(huì)發(fā)生,但三級(jí)到四級(jí)的跳躍會(huì)更加困難,需要一些中型或更大模型的想法。
奧特曼表示,那個(gè)演示和其他一些演示讓我相信,只要以非常有創(chuàng)意的方式使用現(xiàn)有模型,就可以獲得大量的創(chuàng)新。
Garry稱,Camphor基本上已經(jīng)構(gòu)建了CAD/CAM的基礎(chǔ)軟件。然后,語(yǔ)言就像是LLM的接口,可以像工具一樣使用軟件。如果你將其與代碼生成的想法結(jié)合起來(lái),那是一個(gè)有點(diǎn)可怕又瘋狂的想法,對(duì)吧?
不僅LLM可以編寫代碼,它還可以為自己創(chuàng)建工具,然后組合這些工具,就像一個(gè)思維鏈一樣。
奧特曼肯定道,「是的,我認(rèn)為事情的發(fā)展速度會(huì)比人們現(xiàn)在所意識(shí)到的要快得多」。
Garry Tan問(wèn)道,你能簡(jiǎn)要談?wù)劦谌?jí)、第四級(jí)和第五級(jí)嗎?
奧特曼稱,AGI已經(jīng)成為一個(gè)被嚴(yán)重濫用的詞,人們指的東西各不相同。我們?cè)噲D說(shuō),這是我們對(duì)事物順序的最佳猜測(cè)。
第二級(jí)推理者,o1已經(jīng)實(shí)現(xiàn)了這一階段。第三級(jí)是智能體,能夠執(zhí)行長(zhǎng)期任務(wù),比如與環(huán)境多次互動(dòng),并與人類協(xié)同工作....我認(rèn)為,OpenAI很快就實(shí)現(xiàn)這點(diǎn)。
第四級(jí)是創(chuàng)新者,就像科學(xué)家一樣,能夠在很長(zhǎng)一段時(shí)間內(nèi),探索不太被理解的現(xiàn)象,并理解其本質(zhì)。
第五級(jí),在整個(gè)公司/整個(gè)組織的規(guī)模上,將帶來(lái)巨變。

不得不承認(rèn),這聽(tīng)起來(lái)感覺(jué)有點(diǎn)像分形,第二級(jí)目標(biāo)是為了和第五級(jí)相呼應(yīng),讓多個(gè)智能體自主糾正,并協(xié)同工作。
奧特曼繼續(xù)表示,這將會(huì)成為創(chuàng)業(yè)公司的最大時(shí)機(jī),我不知道如何看待這一點(diǎn),但它確實(shí)發(fā)生在我的身上。要知道,一個(gè)人+1萬(wàn)塊GPU,將會(huì)打造數(shù)十億美元的公司。
最后,Garry Tan問(wèn)道,你對(duì)那些即將開(kāi)始創(chuàng)業(yè),或剛剛開(kāi)始創(chuàng)業(yè)的人,有什么建議?
奧特曼表示,繼續(xù)押注這個(gè)趨勢(shì),當(dāng)前技術(shù)還遠(yuǎn)未達(dá)到飽和點(diǎn)。未來(lái),模型會(huì)變得更好,而且速度非???。作為創(chuàng)業(yè)公司創(chuàng)始人,利用這這點(diǎn)與沒(méi)有用上其相比,能夠做到的事情,是截然不同的。
那些大公司,中型公司,甚至是成立幾年的初創(chuàng)公司,他們已經(jīng)在進(jìn)行季度規(guī)劃周期。谷歌則是在進(jìn)行年度、十年規(guī)劃周期。
你的速度、專注、信念,以及對(duì)技術(shù)快速發(fā)展的反應(yīng)能力,是創(chuàng)業(yè)公司最大的優(yōu)勢(shì)。從古至今幾乎一直都是如此,但尤其是現(xiàn)在。
因此,我建議去構(gòu)建一些與AI相關(guān)的東西,并利用這種能力去發(fā)現(xiàn)新事物,并立即做出行動(dòng),而不是將其納入季度規(guī)劃周期。
此外,奧特曼還表示,當(dāng)有一個(gè)新的技術(shù)平臺(tái)時(shí),一些人很容易陷入誤區(qū):
我在做AI,所以普通的商業(yè)規(guī)則不適用于我。有了AI就足夠了,因此不需要其他競(jìng)爭(zhēng)優(yōu)勢(shì)。
實(shí)際上,商業(yè)基本規(guī)則依然適用,不要被AI的光環(huán)迷惑,技術(shù)優(yōu)勢(shì)只是成功的一個(gè)要素,而并非全部。
奧特曼:我是如何加入YC的
Paul Graham追憶過(guò),在2005年,奧特曼還是斯坦福大學(xué)的大一新生時(shí),就堅(jiān)持加入YC。
Graham跟他說(shuō),你太年輕了可以再等等,奧特曼于是當(dāng)場(chǎng)撒了個(gè)謊,表示我大二了,我就要來(lái)。
Garry Tan問(wèn)道,是這樣嗎?
奧特曼承認(rèn)了這個(gè)故事,并且表示自己并不像這些人傳說(shuō)中的那樣強(qiáng)大。
在他看來(lái),YC之所以如此特別,就是有一個(gè)了不起的人告訴你:去做吧,我相信你。而另外一個(gè)原因,就是在這里擁有一群同樣做事的同伴群體。
因此奧特曼給年輕人最好的建議就是找到這樣一群做事的同伴。當(dāng)時(shí),他還沒(méi)有意識(shí)到,這件事對(duì)著自己后來(lái)的成功如此重要。

主持人提到:通過(guò)輟學(xué),你選擇了一條收益更大的路。
奧特曼表示,自己很喜歡斯坦福,但的確并沒(méi)有感覺(jué)到自己被一群讓自己想變得更好、更有雄心的人包圍。
在斯坦福,所有的競(jìng)爭(zhēng)就集中在:誰(shuí)能去哪個(gè)投行實(shí)習(xí)?
奧特曼慚愧地表示,自己也掉進(jìn)了那個(gè)陷阱。但在看到Y(jié)C的氛圍后,選擇從斯坦福輟學(xué)其實(shí)并不那么難。
奧特曼認(rèn)為,沒(méi)人能免于同輩壓力,但你可以選擇和優(yōu)秀的人同行。
在他進(jìn)入YC研究的早期時(shí)間里,幾乎每個(gè)人都在談?wù)撝鳤I,似乎它已觸手可及,但那是10年前。
在這樣的氛圍影響下,奧特曼開(kāi)始希望他能夠講述一個(gè)AI顯然能成功并成為焦點(diǎn)的故事。YC所做的,以及奧特曼此后的行為,就是將資源分給聰明的人。
有時(shí)會(huì)成功有時(shí)會(huì)失敗,但這種嘗試是必不可少的。
在奧特曼加入YC后不久,經(jīng)歷了AI發(fā)展的一個(gè)小高潮。
在2014年年末到2016年年初這段時(shí)間,DeepMind取得了一系列矚目的成就,超級(jí)智能成為了當(dāng)時(shí)的熱議話題。
作為一個(gè)AI迷,奧特曼決定自己應(yīng)該嘗試做些什么了。
OpenAI的創(chuàng)業(yè)那些事
尋找志同道合同伴的感覺(jué),就像銀行搶劫的電影開(kāi)頭,你開(kāi)著車四處尋找合適的人。
而那些被你擄到車上的人,他們會(huì)說(shuō):「你這個(gè)混蛋,我加入了」。
在奧特曼聽(tīng)聞了Ilya的大名,并通過(guò)Youtube上的視頻,確認(rèn)了他卻有不負(fù)盛名的能力后,他立即向Ilya發(fā)送了郵件。
當(dāng)然,Ilya沒(méi)有回復(fù)。
奧特曼便去了Ilya演講的一個(gè)會(huì)議去見(jiàn)他,在見(jiàn)面后,他們開(kāi)始了頻繁的交流。
而Greg Brockman是奧特曼在Stripe的工作的早期認(rèn)識(shí)的。
奧特曼回憶,他與OpenAI初創(chuàng)成員間的第一次談話中,就立下了追求通用人工智能的目標(biāo)。

這種言論在當(dāng)時(shí)幾乎是瘋狂且不負(fù)責(zé)任的,但它確實(shí)引起了成員們的注意和熱情。
奧特曼表示,他們當(dāng)時(shí)就像是掌握主流話語(yǔ)權(quán)的老頑固眼里的一群烏合之眾。奧特曼那時(shí)大概是30歲,是成員里年齡最大的那個(gè),和其他人的差距也很大。
但就是這樣的一群充滿熱情的小年輕,到處奔波、逐個(gè)找人,與不同的群體會(huì)面。
而關(guān)于實(shí)現(xiàn)通用人工智能的這件事,在歷經(jīng)九個(gè)月后,開(kāi)始成形。
2016年的1月3日,在Ilya處理完與谷歌的事宜后,團(tuán)隊(duì)一起去了Greg的公寓,開(kāi)始決定他們未來(lái)究竟要做哪些事。
而那時(shí)他們只有10個(gè)人左右。
而OpenAI的成員花了很長(zhǎng)的時(shí)間才弄清楚他們究竟要做什么。
奧特曼現(xiàn)在回顧時(shí),發(fā)現(xiàn)當(dāng)時(shí)的努力的目標(biāo)其實(shí)只有三個(gè):
弄清楚如何進(jìn)行無(wú)監(jiān)督學(xué)習(xí),解決強(qiáng)化學(xué)習(xí),團(tuán)隊(duì)人數(shù)不超過(guò) 120 人。
雖然第三個(gè)目標(biāo)沒(méi)有達(dá)成,但前兩項(xiàng)在預(yù)期內(nèi)完成得不錯(cuò)。
但他們的第二個(gè)大目標(biāo)卻在當(dāng)時(shí)引起了許多爭(zhēng)議和批評(píng)。
強(qiáng)化學(xué)習(xí)的核心信念就是深度學(xué)習(xí)有效,并且會(huì)隨著規(guī)模的擴(kuò)大變得更好。但在當(dāng)時(shí),擴(kuò)大規(guī)模的做法被視為一種異端,批評(píng)者認(rèn)為這些是一些偷懶的小把戲,不是真正的學(xué)習(xí),也算不上推理。
擴(kuò)大規(guī)模只是在浪費(fèi)計(jì)算資源,甚至可能導(dǎo)致AI冬天的到來(lái)。
但對(duì)OpenAI來(lái)說(shuō),擴(kuò)大規(guī)模的做法雖然一開(kāi)始源于團(tuán)隊(duì)的直覺(jué),后來(lái)有了數(shù)據(jù)來(lái)證明它的可預(yù)測(cè)性。
OpenAI的團(tuán)隊(duì)開(kāi)始前,就通過(guò)自己得出的數(shù)據(jù)結(jié)果堅(jiān)定了擴(kuò)大規(guī)模的趨勢(shì)。
隨著他們不斷提高模型的規(guī)模,結(jié)果也在不斷變好。
人們期望「少即是多」,但OpenAI卻證明了「多即是多」。
奧特曼表示,深度學(xué)習(xí)就像一種非常重要的涌現(xiàn)現(xiàn)象。雖然他們現(xiàn)在還沒(méi)完全理解實(shí)踐中的所有細(xì)節(jié),但確實(shí)有一些非?;A(chǔ)且重要的東西在發(fā)生。
對(duì)于OpenAI這樣的創(chuàng)業(yè)公司來(lái)說(shuō),它所擁有的資源比DeepMind這樣的公司要少得多。
大公司可以嘗試很多事,但創(chuàng)業(yè)公司只能專注在一項(xiàng)中,這就是OpenAI獲勝的原因和方法。
「我們不知道我們不知道的事,但我們知道這件事有效,所以我們會(huì)真正專注于此」。
「我們沒(méi)有花費(fèi)努力去找到一個(gè)聰明的方式去解決問(wèn)題,而只是做眼前的事并持續(xù)推進(jìn)它」。
奧特曼表示,自己一直對(duì)規(guī)模感興趣,它對(duì)所有事物都具有涌現(xiàn)的特性。
對(duì)創(chuàng)業(yè)公司是這樣,事實(shí)也證明,它對(duì)深度學(xué)習(xí)也同樣起效。
但讓OpenAI獲得成功的原因,是它即使在籍籍無(wú)名時(shí),也擁有一個(gè)極具才華的研究團(tuán)隊(duì)。
他們?yōu)槟繕?biāo)的推進(jìn)貢獻(xiàn)非常巨大。
而另一點(diǎn)是OpenAI將所有資源都賭在了他們擴(kuò)大規(guī)模的信念上。
人們總覺(jué)得雞蛋不能當(dāng)放同一個(gè)籃子里,但OpenAI則對(duì)自己的選擇All in。
做一個(gè)堅(jiān)定的樂(lè)觀主義者,奧特曼認(rèn)為這是許多成功的YC創(chuàng)業(yè)公司中的共同點(diǎn)。
同樣的,奧特曼也表示,沒(méi)有人能掌握世界上的所有正確答案,會(huì)告訴你應(yīng)該怎么去做。
你需要的是去尋找并快速迭代自己的路,而在初期,沒(méi)有數(shù)據(jù)和結(jié)果能支持你,你只能依靠自己的信念。
滿血版o1、Sora即將大放送
未來(lái)幾周,甚至兩個(gè)月內(nèi),OpenAI真的要放大招了。
還記得幾周前,奧特曼突然冒泡,「下個(gè)月是ChatGPT的第二個(gè)生日,我們應(yīng)該送它什么生日禮物呢」?

在11月30日,即將迎來(lái)的ChatGPT兩周年前后,人們都在等著OpenAI新模型的發(fā)布。
這不,就連ChatGPT官方賬號(hào)都不藏著掖著了,滿血版o1快來(lái)了。

就在剛剛,OpenAI研究員Jason Wei解釋了,o1推理思維的過(guò)程。
在o1范式之前,思維鏈的實(shí)際表現(xiàn)和人類期望它達(dá)到的效果之間存在差距。它更像是先有了答案,再去對(duì)答案進(jìn)行解釋,列出步驟。
實(shí)際上,模型只是模仿了它在預(yù)訓(xùn)練中見(jiàn)過(guò)的推理路徑,比如數(shù)學(xué)作業(yè)解答,而不是一步步推理得到答案。
這些數(shù)據(jù)的問(wèn)題在于,它是作者在其他地方完成所有思考后才總結(jié)出來(lái)的解答,而不是真正的思維過(guò)程。所以這些解答通常信息密度很差。
一個(gè)明顯的例子就是「答案是5,因?yàn)?..」這樣的表述,其中「5」這個(gè)數(shù)字突然包含了大量新信息。

在o1范式下,你可以看到思維鏈與教科書中的數(shù)學(xué)解答很不相同。
這些思維鏈更像是「內(nèi)心獨(dú)白」或「意識(shí)流」。你可以看到模型在不斷調(diào)整思路,說(shuō)一些像「另外,讓我們?cè)囋嚒够颉傅鹊?,但是」這樣的話。
雖然我沒(méi)有直接測(cè)量過(guò),但我敢打賭(我的心理語(yǔ)言學(xué)朋友們可能能夠確認(rèn)),思維鏈中的信息密度比互聯(lián)網(wǎng)上的普通文本要均勻得多。
由此可見(jiàn),o1的思維鏈更接近「人類的思維過(guò)程」,答案是通過(guò)推理得出的。
另一邊,關(guān)了近一年的Sora,終于要解禁了。

Runway的聯(lián)合創(chuàng)始人表示,有傳言稱,OpenAI計(jì)劃在兩周內(nèi)發(fā)布Sora。我最擔(dān)心的是,不得不聽(tīng)AGI領(lǐng)域的人在播客上談?wù)撍囆g(shù)和創(chuàng)造力的未來(lái)。

除此之外,OpenAI內(nèi)部還有什么驚喜?畢竟,奧特曼都稱AGI明年就降臨了。
下一代Orion,改進(jìn)不大
Information獨(dú)家爆料稱,下一個(gè)代號(hào)為Orion旗艦新模型,可能并不會(huì)像前代那樣實(shí)現(xiàn)巨大的飛躍。

OpenAI員工測(cè)試后發(fā)現(xiàn),盡管Orion性能超過(guò)了OpenAI現(xiàn)有模型,但與從GPT-3跳躍到GPT-4相比,改進(jìn)幅度較小。
換句話說(shuō),OpenAI模型的改善速度似乎正在放緩。
事實(shí)上,Orion 在某些領(lǐng)域(例如編碼)可能根本不會(huì)比以前的模型更好。
為此,OpenAI內(nèi)部已經(jīng)成立了一個(gè)基礎(chǔ)團(tuán)隊(duì),以研究如何在新訓(xùn)練數(shù)據(jù)減少的情況下,繼續(xù)改進(jìn)模型。
據(jù)稱,這些新策略包括,在AI模型上生成的合成數(shù)據(jù)來(lái)訓(xùn)練Orion,以及在訓(xùn)練后過(guò)程中進(jìn)行更多的模型改進(jìn)。
OpenAI副總稱,「人們低估了測(cè)試時(shí)計(jì)算能力的強(qiáng)大:可以計(jì)算更長(zhǎng)時(shí)間,并行計(jì)算,或任意分叉和分支 —— 就像克隆你的思維1000次并挑選最好的想法?!?/span>
就是說(shuō),在AI推理階段,我們可以通過(guò)增加計(jì)算資源來(lái)顯著提升模型表現(xiàn)。

但有網(wǎng)友表示,「聽(tīng)說(shuō)從某個(gè)前沿實(shí)驗(yàn)室(老實(shí)說(shuō)不是OpenAI)傳出消息,他們?cè)趪L試通過(guò)延長(zhǎng)訓(xùn)練時(shí)間,使用越來(lái)越多數(shù)據(jù)來(lái)強(qiáng)行提升結(jié)果時(shí),遇到了一個(gè)意想不到的巨大收益遞減瓶頸」。

如此說(shuō)來(lái),OpenAI該如何挽救Scaling Law?















 
 
 










 
 
 
 