信仰是人們內(nèi)心深處的信念，是推動人類前進(jìn)的驅(qū)動力。AI從幾十年前的緩慢探索，到如今的飛速發(fā)展，是什么信仰在驅(qū)動這一切呢？

摩爾定律

聊起信仰，我就會想起信息時(shí)代的摩爾定律。摩爾定律是由英特爾聯(lián)合創(chuàng)始人戈登·摩爾在1965年提出的一個(gè)觀察性定律。

摩爾定律指出，在大規(guī)模集成電路中，可容納的晶體管數(shù)量大約每兩年會增加一倍，而計(jì)算能力也會隨之大幅提升。這一定律貫穿于整個(gè)芯片的發(fā)展歷程。

如果說是真理、公理、定理，那毫無疑問具有很大的說服力。

但是，摩爾定律是一個(gè)基于觀察和經(jīng)驗(yàn)的預(yù)測規(guī)律，為什么全世界都相信它呢？它為什么能引起英特爾、AMD、高通等巨頭紛紛投入大量資金、人才去發(fā)展芯片呢？

我認(rèn)為這可能就是信仰的力量吧。這些芯片界的領(lǐng)袖，因?yàn)橄嘈潘钥匆?，才愿意重倉投入，才會持續(xù)推動芯片行業(yè)的發(fā)展。

一旦基于這樣的信仰產(chǎn)生了持續(xù)的發(fā)展，那就會演變成一種默認(rèn)的確定性。確定性就會持續(xù)吸引更多的資金和人才，會產(chǎn)生持續(xù)的變革。

規(guī)模效應(yīng)

在回到AI的發(fā)展上看，AI的飛速發(fā)展源于神經(jīng)網(wǎng)絡(luò)的發(fā)展，神經(jīng)網(wǎng)絡(luò)借鑒了人腦的神經(jīng)元機(jī)制。

人腦的是由百萬億的神經(jīng)元連接組成的龐大網(wǎng)絡(luò)，每個(gè)神經(jīng)元都接受輸入，然后經(jīng)過簡單計(jì)算，最后輸出給下一個(gè)神經(jīng)元。但是簡單的神經(jīng)元，被放大到了萬億級別的規(guī)模，則會產(chǎn)生更多的智能。

這一點(diǎn)，我們從生物的演化史也能看出來。

早起的地球只有單細(xì)胞，然后演化出了多細(xì)胞、低等生物、高等生物，再到人類。這個(gè)過程中，生物的神經(jīng)系統(tǒng)也是越來越發(fā)達(dá)，智能程度也越來越高。

這就是規(guī)模效應(yīng)。

AI時(shí)代的信仰

現(xiàn)在流行的大語言模型，是基于神經(jīng)網(wǎng)絡(luò)訓(xùn)練而來。早期的神經(jīng)網(wǎng)絡(luò)規(guī)模不夠大，所以還沒產(chǎn)生智能。

隨著神經(jīng)網(wǎng)絡(luò)的參數(shù)被放大到一個(gè)閾值，模型會產(chǎn)生質(zhì)的飛越，突然變得聰明，擁有智能，這就是量變引起質(zhì)量。

這一切的發(fā)現(xiàn)都要?dú)w功于OpenAI，隨后OpenAI還提出了類似摩爾定律這種信仰級別的理念，即規(guī)模越大越好。重點(diǎn)是3個(gè)：

• 神經(jīng)網(wǎng)絡(luò)的模型參數(shù)越多越好
• 訓(xùn)練數(shù)據(jù)集的越大越好
• 算力越強(qiáng)越好

OpenAI自己也是吹起了沖鋒號，OpenAI的CEO山姆·奧特曼正在尋求巨額投資，準(zhǔn)備建立更多的AI基礎(chǔ)設(shè)施和超大算力平臺。

這就是AI時(shí)代的信仰吧，這種信仰推動這一個(gè)個(gè)AI巨頭持續(xù)重倉在算力領(lǐng)域、大模型領(lǐng)域。

這一信仰將來應(yīng)該也會與摩爾定律一樣，持續(xù)推動科技的高速發(fā)展。

總結(jié)

每個(gè)時(shí)代和行業(yè)，總得有一些領(lǐng)袖存在信仰，正是這種信仰推動著一個(gè)又一個(gè)高科技的發(fā)展！

AI時(shí)代的信仰就是規(guī)模效應(yīng)，無限去追求 模型參數(shù)、訓(xùn)練數(shù)據(jù)集、算力。