大模型開不開源,硅谷大佬激辯: 一方談科學(xué)進(jìn)步,另一方提美國安全

3月8日消息,風(fēng)投界的兩位巨頭,馬克·安德森(Marc Andreessen)和維諾德·科斯拉(Vinod Khosla),近期在X平臺(tái)激烈辯論人工智能應(yīng)該開源還是閉源,此議題迅速成為硅谷最具爭議的焦點(diǎn)之一。
安德森等人強(qiáng)烈支持開源人工智能,他們認(rèn)為共享知識(shí)是科學(xué)進(jìn)步的關(guān)鍵,提高透明度能夠防止大公司壟斷這項(xiàng)革命性技術(shù)。而科斯拉等閉源人工智能的支持者認(rèn)為,讓私營部門掌握人工智能技術(shù),是防止濫用和潛在風(fēng)險(xiǎn)的有效方法。
開源人工智能意味著技術(shù)將對(duì)公眾免費(fèi)開放,以促進(jìn)共同的建設(shè)和分享。而閉源或?qū)S腥斯ぶ悄軇t被其創(chuàng)作者控制,不對(duì)外公開。盡管二者看似對(duì)立,實(shí)則可以和諧共存。例如,許多公司在開源代碼的基礎(chǔ)上發(fā)展出自有的專有系統(tǒng)。
此場辯論起因于特斯拉CEO埃隆·馬斯克(Elon Musk)對(duì)OpenAI及其CEO薩姆·奧特曼(Sam Altman)的起訴,凸顯了人工智能的部署和安全問題的復(fù)雜性,特別是在監(jiān)管機(jī)構(gòu)、大型科技公司和科學(xué)家等對(duì)人工智能的發(fā)展邊界和速度仍在探索時(shí),想要找到明確的答案何其艱難。
在人工智能是否應(yīng)該開源的爭論中,身處漩渦中心的科技巨頭們已經(jīng)明確了各自的立場。Meta堅(jiān)定支持開源人工智能,發(fā)布了Llama 2模型供全球開發(fā)者使用和改進(jìn)。緊隨其后的是法國Mistral AI,發(fā)布了具有開放“權(quán)重”的模型,即模型運(yùn)作的核心參數(shù)。
然而,行業(yè)領(lǐng)頭羊OpenAI和Anthropic采取了完全不同的策略,他們提供的是閉源人工智能模型,并堅(jiān)持把技術(shù)牢牢控制在自己手中。
在這場辯論中,安德森于上周六通過社交媒體X發(fā)帖。他指責(zé)科斯拉正在“游說禁止開源”。這發(fā)生在科斯拉公開支持OpenAI及其CEO奧特曼之后。而他的支持是在馬斯克對(duì)OpenAI提起訴訟之后表達(dá)的;馬斯克指責(zé)奧特曼和OpenAI違背了公司創(chuàng)立時(shí)的原則,把追求利潤放在了開源人工智能之前。
作為科斯拉風(fēng)投公司(Khosla Ventures)的創(chuàng)始人,科斯拉不僅支持OpenAI的盈利性業(yè)務(wù),還聲稱,人工智能就如同核武器一旦開源將可能威脅到國家安全。他甚至引用了OpenAI首席科學(xué)家伊利亞·蘇茨凱弗(Ilya Sutskever)的話說,“不分享科學(xué)也是完全可以的?!?/p>
科斯拉風(fēng)投公司的一位發(fā)言人進(jìn)行了解釋。他說,科斯拉確實(shí)曾支持開源技術(shù)。然而,科斯拉現(xiàn)在認(rèn)為,大型人工智能模型“關(guān)乎國家安全和技術(shù)”優(yōu) 勢,這些模型需要得到嚴(yán)密保護(hù),不應(yīng)輕易開源。
安德森所在的安德森-霍洛維茨(Andreessen Horowitz)風(fēng)投公司對(duì)此次開源與閉源的辯論保持緘默,對(duì)評(píng)論請求沒有給出回應(yīng)。
雙方雖立場對(duì)立,但均認(rèn)同一個(gè)觀點(diǎn):驅(qū)動(dòng)ChatGPT等AI工具的大語言模型仍處于成長階段。ChatGPT與其他人工智能工具面臨的問題眾多,包括產(chǎn)生幻覺性輸出、偏見性結(jié)果,甚至有潛力輸出有害或攻擊性內(nèi)容。此外,這些模型的應(yīng)用和訓(xùn)練成本高昂,還會(huì)消耗大量能源。
開源支持者認(rèn)為,正是這些技術(shù)的未成熟,更加凸顯了開源的重要性。他們認(rèn)為,只有在科學(xué)家和學(xué)者組成的開放的科研社區(qū)內(nèi),才能排除商業(yè)利益的干擾,共同推進(jìn)通用人工智能的發(fā)展,最終實(shí)現(xiàn)機(jī)器能夠如同人類一樣學(xué)習(xí)和思考。
艾倫人工智能研究所(Allen Institute for AI)的首席執(zhí)行官阿里·法哈迪(Ali Farhadi)表示:“我們現(xiàn)在正處在一個(gè)關(guān)鍵節(jié)點(diǎn),大規(guī)模部署了一項(xiàng)我們尚未完全理解的技術(shù),也不知道如何有效控制這些系統(tǒng)?!痹撗芯克梢压饰④浡?lián)合創(chuàng)始人保羅·艾倫(Paul Allen)于2014年創(chuàng)立,是一個(gè)致力于人工智能研究的非營利機(jī)構(gòu)。
法哈迪及其他支持開源的人士強(qiáng)調(diào),共享研究成果是科學(xué)界的長久傳統(tǒng)。人工智能的發(fā)展不是從2017年谷歌分享的“轉(zhuǎn)換器”(Transformer,GPT中的T)模型開始的,其背后有更深遠(yuǎn)的歷史。
同時(shí),一些美國議員則支持科斯拉的觀點(diǎn),他們擔(dān)心自由分享的人工智能技術(shù)可能落入國外競爭對(duì)手手中,因此認(rèn)為應(yīng)該加以保護(hù)。許多主張閉源的人工智能公司也持有相似立場,認(rèn)為這種技術(shù)可能對(duì)人類生存構(gòu)成威脅,可能帶來災(zāi)難性后果。
奧特曼也強(qiáng)調(diào),OpenAI高度重視其在開發(fā)人工智能方面的安全責(zé)任,堅(jiān)信應(yīng)該小心謹(jǐn)慎。他同時(shí)承認(rèn),人工智能為企業(yè)帶來了巨大商業(yè)機(jī)會(huì)。
回顧歷史,軟件行業(yè)的開源運(yùn)動(dòng),自Linux等項(xiàng)目興起后蓬勃發(fā)展,為當(dāng)前開放與封閉的辯論提供了豐富的歷史借鑒。開源軟件已成為包括云計(jì)算在內(nèi)的眾多技術(shù)領(lǐng)域的基石,其商業(yè)化甚至促成了亞馬遜等科技巨頭的誕生。然而,開源軟件也面臨著網(wǎng)絡(luò)安全挑戰(zhàn),因?yàn)槿魏稳硕寄茌p易下載和修改代碼。
專家們指出,封閉和開源技術(shù)并不是相互排斥的,兩者可以并行發(fā)展。Meta負(fù)責(zé)生成人工智能的副總裁艾哈邁德·達(dá)勒(Ahmad Al-Dahle)就認(rèn)為,把開源和封閉視為二選一的對(duì)立選擇是誤導(dǎo),實(shí)際上兩者各有其發(fā)展空間。
人工智能初創(chuàng)公司AI21的聯(lián)合創(chuàng)始人兼聯(lián)席CEO奧里·戈申(Ori Goshen)也分享了相似觀點(diǎn),他認(rèn)為,“開源在人工智能領(lǐng)域扮演著至關(guān)重要的角色。即便是像AI21這樣的專有供應(yīng)商,其基礎(chǔ)模型最終也可能開源,商業(yè)價(jià)值將來源于獨(dú)特的知識(shí)產(chǎn)權(quán)?!?/p>















 
 
 




 
 
 
 