出品 | 51CTO技術(shù)棧（微信號：blog51cto）
OpenAI CEO Sam Altman 和好友 Airbnb CEO Brian Chesky 與 NBC 主持人 Lester Holt 展開了一場圓桌討論。對話內(nèi)容廣泛涵蓋了人工智能 (AI) 在日常生活和工業(yè)應(yīng)用的各個方面的普遍影響，強調(diào)了AI能力的不斷增強將給社會帶來的廣泛變化。Altman提到，希望AI技術(shù)持續(xù)給人類帶來利益，讓他們在自己所做的事情中發(fā)揮出最佳狀態(tài)。以下是經(jīng)過整理的圓桌全文：
1.AI技術(shù)的滲透：每個行業(yè)都將被AI改造
主持人：感謝大家來到這里。我對這次談話感到非常興奮。首先，我想介紹一下兩位嘉賓的好友關(guān)系，你們的工作在一些重要項目和事情上有過合作。所以我們也會探討其中的一些問題。如果你想知道為什么他們兩個會一起出現(xiàn)在這里，這就是為什么。非常感謝嘉賓的時間。讓我從一個角度來看，山姆，你認為今天有多少觀眾以某種方式與AI互動？
Sam Altman：我敢打賭……
主持人：順便說一下，我不打算讓你為預(yù)測結(jié)果負責(zé)。
Sam Altman：大約90%的觀眾。
主持人 ：我們大多數(shù)人甚至都不知道它在哪里影響了我們的生活。
Sam Altman：是的，你知道，有些人使用ChatGPT，但你不清楚你是否在使用它，因為太多人通過采用我們的GPT-4或者其他模型，將AI集成到他們的其他服務(wù)中。你知道，這有點像是提升了很多服務(wù)。
主持人 ：在過去的一年里，AI是否已經(jīng)越過了一個關(guān)鍵的門檻？
Sam Altman：我認為是的，但我認為人工智能將跨越許多門檻。你知道，我們曾經(jīng)，布萊恩實際上在這方面給了我很好的建議。我們曾經(jīng)談?wù)撨^我們將會到達這個像AGI一樣的時刻。而且，你知道，這是一個非常不明確定義的術(shù)語。我認為一開始就沒有感知以那種方式思考它。但我們過去是這樣的，現(xiàn)在我們考慮它，因為它只是這一系列的門檻，系統(tǒng)將獲得新的和更好的能力。所以，你知道，今天你可以使用聊天來處理一些事情，將來你可以用它來完成更有用的任務(wù)。
你知道，也許今天有一些東西，比如……，我們的一個合作伙伴，Color Health現(xiàn)在正在使用GPT-4進行癌癥篩查和治療計劃。這很好。也許未來的版本將有助于發(fā)現(xiàn)癌癥的治療方法。所以我認為它是連續(xù)的門檻，但事實上，我們可以用自然語言與計算機交談，讓它們理解我們并幫助我們，這肯定是一個門檻。
主持人：我想談?wù)勛罱谛侣勚锌吹降囊恍┦虑?，并得到你的反?yīng)。有時。你很快就交了朋友和敵人。最近你和蘋果達成了一筆大交易。埃洛·馬斯克感到不滿，表示他不會允許蘋果產(chǎn)品出現(xiàn)在他的公司。你看到那種反應(yīng)了嗎？
Sam Altman：我看到它發(fā)生了，但，我有點懷疑這事是不是真的會發(fā)生，但我預(yù)測錯了。
主持人：在OpenAI的邊緣地帶，其他科技公司對這一現(xiàn)象的反應(yīng)是否可以視作一些正在發(fā)生的事情？
Sam Altman：不，我認為這就像通常的埃倫反應(yīng)一樣。
主持人 ：布萊恩，讓我轉(zhuǎn)向你。AirBNB最近選擇了一家AI創(chuàng)業(yè)公司。我們現(xiàn)在是否處于每個科技公司都必須參與這項行動、建立合作伙伴關(guān)系或制定自己的發(fā)展計劃的階段？
Brian Chesky ：是的，我的意思是，我認為就像現(xiàn)在一樣，幾乎世界上的每家公司都在互聯(lián)網(wǎng)上。AI將完全嵌入我們所做的一切中。
Brian Chesky：我認為山姆令人難以置信的一件事是，就像山姆曾經(jīng)說過的那樣，如果你想成為一個偉大的企業(yè)家，你必須在職業(yè)生涯中的一件大事上做得正確。我認為山姆對科技史上最重大的事情之一的看法是正確的，因為這將是一件比我們過去見過的任何技術(shù)都更能影響人們生活的事情。但我認為很多對話，你知道，我們談?wù)摰腁I就像存在的、神秘的東西。我認為我們?nèi)鄙俚囊患戮褪钦務(wù)撊藗兛梢詮闹惺芤娴膶嶋H方式。
AirBNB是一個例子，但奧特曼也有很多例子。所以今天，AirBNB是你喜歡在城市中輸入的一種類型，你可以找到一個住所并預(yù)訂，這就是AirBNB。這基本上就是過去20年來互聯(lián)網(wǎng)的運作方式。
但想象一下未來，系統(tǒng)會更好地理解你。這就是真正的承諾。一臺能夠理解你的電腦，他們會問你，好吧，你是誰？你的希望是什么，你的夢想是什么，你想去哪里旅行？有一天你想用自己的人生做什么？然后它可以真正理解你，成為更好的媒人，真正理解你，并將你與人、社區(qū)、服務(wù)、經(jīng)驗、任何你想旅行和生活在世界任何地方的人匹配。
這就是我認為AirBNB可以使用的方式。但我認為幾乎每個行業(yè)都可以通過AI進行改造，而且我認為他們可以參與其中。
2.理解大眾對AI的恐懼，AI安全要設(shè)置紅線
主持人 ：但這里的利害關(guān)系比你所說的更重要，我的意思是，你所談?wù)摰闹饕潜ж?。但是有了AI，你會看到一些真正的恐懼，我認為我們都理解這是什么意思。那么，對于運營這個項目的人來說，這意味著什么呢？他們只是這輛公共汽車上的乘客，正在看著你們做這些不可思議的事情，談?wù)撍c曼哈頓項目（編者注：二戰(zhàn)期間美國主導(dǎo)的計劃，旨在研制原子彈）相比，想知道它將走向何方，想知道誰是背后的人？我們能相信這些人嗎？所以，如果可以的話，談?wù)劦赖仑?zé)任，讓我們所有人了解這些人，了解像你這樣正在做出這些改變的人。
Brian Chesky：是的，我的意思是，我可以分享它。我，你知道的，我在2008年遇到了山姆，當我來到硅谷時，“技術(shù)” 這個詞可能就像 “好” 這個詞的字典定義一樣。我的意思是Facebook是一種分享朋友照片的方式。YouTube就像是一個看貓視頻的地方。推特就是在談?wù)撃憬裉煲龅氖虑?。我認為有一種普遍的天真無邪。
我認為隨著時間的推移，我們意識到的是當你拿一個工具時，我認為技術(shù)就是一個工具，你知道，史蒂夫·喬布斯說過的一件事是，他在每臺電腦后面加了一個手柄，因為他說，永遠不要相信電腦，否則你會想把它扔出窗外。他說，這些都是工具，我們注定要主宰它們。他們不會主宰我們。
我認為發(fā)生的其中一件事是，當你把工具交到億萬人手中時，你知道，他們會以你不打算使用的方式使用它。我認為在這個新一代中，我們更加清醒和現(xiàn)實，因為我認為我們學(xué)到了上一代的很多教訓(xùn)。我們了解了技術(shù)如何被廣泛使用，但總會產(chǎn)生意想不到的后果。所以我認為這一次，我看到山姆做的一件事是他對這項技術(shù)的發(fā)展非常謹慎，一點也不悲觀，并真正告訴政府實際上需要監(jiān)管。
主持人：山姆，我想要得到你的理解，給你一個機會談?wù)勀愕慕夤?。你被自己的公司解雇了，為什么?/p>
Sam Altman：讓我先談?wù)劜既R恩在你之前的問題中所說的一些話，然后我很樂意談?wù)勥@個問題。這將是社會的一個巨大變化。與其他技術(shù)趨勢不同，我們有點意識到，即使今天我們像，ChatGPT是非常有用的工具。而且，你知道的，一旦我使用它，我就不會害怕它。關(guān)于AI將走向何方，存在著感知可以理解的巨大焦慮。如果這些工具以它們一直在變得更有能力的速度不斷提高，并且有很多令人驚嘆的事情發(fā)生，這意味著什么？我們可以花費一整天的時間談?wù)撨@個主題。
Sam Altman ：但即使我們解決了每一個安全問題，即使我們解決了每一個濫用問題，即使我們找出了完美的監(jiān)管制度，未來會是什么樣子？當計算機不僅理解我們、了解我們、幫助我們、做這些事情，而且我們可以說，嘿，計算機，像發(fā)現(xiàn)所有的物理學(xué)，它可以去做這些事情時，我們的生活會是什么樣子？當我們可以說 “嘿，開始并經(jīng)營一家偉大的公司” 時，這意味著什么？它能做到那個？這是一個很大的改變。我們必須贏得很多信任才能成為這些技術(shù)的管理者之一。會有很多其他人在研究這項技術(shù)。
我們?yōu)槲覀兊臉I(yè)績記錄感到自豪。我認為，如果你看看我們推出的系統(tǒng)以及我們所花費的時間和關(guān)注，我們已經(jīng)能夠?qū)⑺鼈冞_到普遍接受的穩(wěn)健性和安全性水平，這遠遠超出了幾年前我們推出這些初始系統(tǒng)時人們認為我們能夠做到的程度。就像當你看著GPT-2或GPT-3時，我們是否能夠讓它足夠安全地使用？很多人認為，不，但是里面有這個東西，有這個，未來就像隱約可見的大。
我們必須繼續(xù)用我們所做的事情贏得信任，用我們在世界上建立的系統(tǒng)，以及我們?nèi)绾螌@些系統(tǒng)進行合法決策，如何廣泛地賦予人們權(quán)力，面對所有這些變化，我們?nèi)绾卫^續(xù)促進世界的穩(wěn)定。這讓人們非常焦慮。就像整個董事會將我解雇并最終重返的事情所展現(xiàn)出來的那樣。布萊恩在那期間幫了我很大的忙。
這顯然是一次超級痛苦的經(jīng)歷，但我確實理解為什么焦慮水平如此之高，我認為之前的董事會成員，就像他們對AI的持續(xù)發(fā)展感到緊張一樣，對我和我們的做事方式有任何感受。盡管我非常不同意他們的想法，以及他們自行為以來所說的話，但我認為他們從根本上就像是好人，他們對未來感到緊張，并試圖找出我們?nèi)绾潍@得好的結(jié)果。
我對新的董事會非常興奮。他們非常有建設(shè)性、樂于助人、經(jīng)驗豐富且堅強，從那時起，這是一件非常富有成效的事情。但那是一次可怕的經(jīng)歷，而不是在那一刻，就像這是一件瘋狂的事情一樣。讓我們想出如何消除它，布萊恩對我非常有幫助，但在那之后的一段時間里，我不得不在這種情感沖擊的狀態(tài)下收拾殘局。
主持人：那真的很糟糕。你在試圖收拾殘局。而布萊恩特當時和你通了電話。
Brian Chesky：解釋一下原因？也許只是追憶一下過去，當ChatGPT發(fā)布時，它是在2022年十一月底發(fā)布的。這是自iPhone推出以來我們可能從未見過的現(xiàn)象。我什么都不記得了。我只記得一夜之間一切都改變了。
我記得與Sam見面時，我說過，你知道，我之前有一點類似火箭般的經(jīng)歷，我不會就AI的核心研究給你建議。但是當涉及到市場營銷、利益相關(guān)者管理、公關(guān)、設(shè)計、產(chǎn)品和所有其他方面時，你們不會像坐上一艘火箭一樣飛速前進。而我之所以處在今天的位置，是因為人們相信我，人們幫助了我。硅谷的一大優(yōu)點是它是一個高度信任的地方，人們會在這里提供幫助。所以我只是想幫助他（薄弱的地方）。
所以這種情況持續(xù)了大約一年，已經(jīng)是一年之后了，我得到了一個短信息，實際上是有人說山姆被解雇了。我就像被解雇了一樣。我立刻給他發(fā)短信，我想他發(fā)短信給我的時間是五分鐘后。他剛剛發(fā)現(xiàn)自己被解雇了，他說得很殘忍，我就去問，發(fā)生了什么事？所以我們接了電話，他不知道發(fā)生了什么，向他解釋道，順便說一句，他的聯(lián)合創(chuàng)始人，也曾是董事會成員，被從董事會中除名。這對我來說似乎非?？梢?。所以我和他和格雷格通了電話，我對這種情況感到非常不舒服，認為這不是一個公平的過程。我認為這應(yīng)該是一個公平的過程，尤其是如果董事會成員是創(chuàng)始人的話，他們應(yīng)該非常難被替換。
在最初的24個小時里，我注意到的是，沒有多少人支持山姆。而在我最黑暗的危機時期，有人支持我，這就是我想為山姆做的事情。我基本上，我們討論了一些事情，我說我認為對你來說最重要的事情就是在內(nèi)部和外部對你所知道的和正在發(fā)生的事情保持完全透明。但最值得注意的事情，也是讓我真正想要為他辯護的事情是，你知道，你學(xué)到了很多關(guān)于危機中的人的東西。如果你真的想知道是否有人想看到他們處于危機之中，并且在這五天內(nèi)從未發(fā)生過這種情況，山姆是否甚至有一秒鐘的時間專注于自我保護。
他完全，我就像，你為什么不專注在這里？你為什么不更關(guān)心自己呢？這就是我對他說的。總得有人支持你。你甚至為自己而堅持。他非常專注于團隊，專注于什么對團隊最好。我認為這就是真正讓我如此強烈地專注于幫助的原因。
主持人：如果我能轉(zhuǎn)向你最近收到的一些不好的宣傳，包括Sky聲音帶來的一些傳聞，我想把山姆的形象抹黑了。有一件事可以幫助消除對于Skys與Scarlett Johansson的相似性的擔(dān)憂，那就是聽聽你所說的被聘請為Skys配音的演員的意見。這是你會做的事情嗎？
Sam Altman：當然，如果她想的話。我的意思是，我知道Scarlett通過經(jīng)紀人發(fā)表了聲明，但我沒有。我不，我不知道我的意思，她想做的任何事我們都可以接受。
主持人：整個事情打開了，當然還面臨一個更大的問題，我們擁有什么？在一個AI世界中，我們可以控制我們的肖像嗎？我們現(xiàn)在看到的，你知道的，深度假色情片，你知道的——人的臉被替換了。這些在個人層面上是有害的，我知道這并不是OpenAI獨有的，但這個行業(yè)將如何回應(yīng)呢？
Sam Altman：我的意思是，我們認為行業(yè)需要在這方面采取超級強硬的態(tài)度。我們顯然是這樣做的，還有其他與這項技術(shù)如何被用來傷害人們相關(guān)的問題，我們認為該行業(yè)需要采取非常強硬的立場。我們不僅試圖大聲呼吁監(jiān)管，以防止一些濫用和濫用的情況，我認為這些情況正在發(fā)生，而且還試圖在我們提供的產(chǎn)品和服務(wù)中樹立一個非常好的榜樣，并堅持自己。
主持人：非常好。但是這些事情是不可避免的嗎？我的意思是，隨著這項技術(shù)的成熟，你清楚地看到了風(fēng)險，就像深度造假之類的東西。
Sam Altman：是的，這項技術(shù)將不可避免地具備這樣的能力。所以，你知道，當然，它們將是被允許這樣做的系統(tǒng)，但我認為這就是我們社會和政府可以發(fā)揮作用的地方，你知道，我們將允許一些我們不提倡的技術(shù)用例。但在某些地方，我們將畫一條底線，深度偽造的報復(fù)性色情應(yīng)當被劃出界限。
主持人：我們即將舉行總統(tǒng)選舉，正如你所知，我們已經(jīng)看到一些深層次的偽造正在發(fā)生。多年來一直有人談?wù)撨@將是一場非常艱難的選舉。當你開始看到這些東西出現(xiàn)時，你有什么想法？就你的責(zé)任而言，你所在的行業(yè)有責(zé)任確保我們不會被虛假信息淹沒？
Sam Altman：是的，所以，你知道，我認為這將是第一次不僅有美國的選舉受影響，還有許多其他的選舉，在這些選舉中，AI成為了一個重要的技術(shù)元素。來源非常重要，準確的民意調(diào)查信息，并避免我們在以前的技術(shù)平臺和其他選舉周期中看到的一些問題。而且，你知道，防止像深度造假這樣的事情，我認為這是我們在這個選舉周期中最重要的三個問題。我還會補充一點，可能還有其他的事情，人們試圖濫用的方式，我們還沒有意識到的濫用方式。所以我們建立了一個完整的監(jiān)控措施，我認為隨著選舉的臨近，我們需要一個非常緊密的反饋循環(huán)，看看是否還有其他人們試圖濫用技術(shù)的領(lǐng)域。
主持人：當我們談?wù)撨x舉的話題時，布萊恩，你先開始吧。你認為這次選舉的結(jié)果會對你的個人企業(yè)產(chǎn)生什么影響？
Brian Chesky：很難說。我的意思是AirBNB更像是一個城市，一個州。因此，聯(lián)邦政府的變化在歷史上并沒有對我們產(chǎn)生巨大的影響。我們當然在220個國家中有業(yè)務(wù)，所以我們是一個相當有彈性的企業(yè)。我的意思是，我們在疫情期間看到的一件事是，當我們業(yè)務(wù)的一個部分發(fā)生變化時，它會從另一個部分取得平衡。所以我不認為根據(jù)誰當選會發(fā)生真正的大變化。你呢，山姆？
Sam Altman：我確實預(yù)計我們選舉后會產(chǎn)生一些重大影響，但我不知道如何做到。我不知道會是什么。在我看來，像AI一樣將成為世界上越來越重要的地緣政治優(yōu)先事項，但我很難說它將如何發(fā)展。
關(guān)于Brian，我真正珍視的一點是，Brian在他之前提到的那第一年，有點輕描淡寫了他對我?guī)椭淖饔弥?。當ChatGPT開始起飛，一切都為我瘋狂起來時，很多人都聯(lián)系我說，哦，我很樂意幫助你，我可以做這個，我可以做那個。你知道，每個人都忙碌，我想他們說的時候是認真的，但每個人都很忙。Brian就像是那個每隔一周會坐下來跟我聊三個小時的人，給我傾聽，然后說，現(xiàn)在你得做這五件事情，這里你落后了，這里你搞砸了，這里你要主動做，這里你要考慮一下。這基本上幾乎總是正確的。我學(xué)會了靜靜地聽取這些建議，跟隨Brian開始說的一些事情。
最近更重要的是，你可能沒有足夠考慮政治和政策，以及這對世界如何看待人工智能的影響。這里是你需要雇傭的人才。這里是，你需要像是制定這個計劃并思考戰(zhàn)略一樣的意義。這里是你應(yīng)該做和絕對不應(yīng)該做的事情。這些都非常有幫助。我確實認為對我們的業(yè)務(wù)來說，這將非常重要。
3.GPT-6或GPT-7的賦能下，個人成就潛力將成倍增加
主持人：我想問一件事情，我們在研發(fā)ChatGPT和其他項目時學(xué)到的一點是，訓(xùn)練這些模型需要大量的數(shù)據(jù)。它似乎有一種無法滿足的需求。這是否改變了你對什么是公平使用以及可以使用誰的材料合作材料的看法？
Sam Altman：首先，我認為我們還不知道這些模型變得聰明的未來會是什么樣子。你知道，我們永遠都會需要越來越多的數(shù)據(jù)嗎？我感覺這不太可能是正確的。你知道，如果你想想一個人可以從閱讀一本教科書中學(xué)到什么，這與目前需要這些人工智慧模型學(xué)習(xí)的東西非常不同。所以我期望，并且也存在一個點，想要發(fā)明新科學(xué)，AI只需要坐在那里思考和進行一些實驗。但它沒有出現(xiàn)在任何教科書中，因為它是新的知識。所以我期待未來我們?nèi)绾慰创?xùn)練數(shù)據(jù)以及讓這些模型真正具備能力的方式。
主持人：這是否會成為發(fā)展中的障礙？這些是產(chǎn)品嗎？
Sam Altman：這就是我想說的。你知道，這就像科學(xué)一樣，我們并不確定。我認為它不會。話雖如此，關(guān)于公平使用的問題，以及如何思考那些創(chuàng)造數(shù)據(jù)、創(chuàng)造知識、創(chuàng)作出優(yōu)秀書籍的人，我認為，盡管從法律角度來看，我們對我們的公平使用立場感到有信心，但現(xiàn)在我們看到這可能發(fā)展的方向，我們需要找出新的經(jīng)濟模型，讓整個世界都能參與其中。
我認為這不僅僅涉及到我們訓(xùn)練數(shù)據(jù)的人，我們已經(jīng)找到了許多不同的許可方式和做法，還包括那些向模型提供反饋的人，那些創(chuàng)造出實時新聞的人，也許模型沒有進行訓(xùn)練，但你希望在特定時刻顯示出來，這需要大量的工作。你知道，我認為人工智能可能會在一定程度上顯著改變?nèi)藗兪褂没ヂ?lián)網(wǎng)的方式。如果是這樣，你可以看到一些過去的經(jīng)濟模型正在演變。我認為這不僅僅是關(guān)于訓(xùn)練數(shù)據(jù)的更廣泛的對話，而是關(guān)于內(nèi)容的一般性討論。
主持人：我想問一下關(guān)于人工通用智能的問題，它顯著地提升了這場游戲的水平。如果我理解正確，AGI就是當計算機能夠做我們能做的任何事情時。這樣總結(jié)是否合理？
Sam Altman：你知道我認為我最初認為這是錯誤的，就像我們談?wù)摰哪菢?。但在我看來，現(xiàn)在我認為人們使用AGI來表示各種各樣的事情。在我看來，試圖為世界制定路線圖，我們認為能力的顯著提高將是AI可以做人們可以做的事情，可以創(chuàng)造新的科學(xué)，可以做整個公司可以做的事情。感覺讓行業(yè)達成一致非常有用，這樣我們就可以以更有效率的方式進行這些對話。
Brian Chesky：這就是我們談?wù)摰钠渲幸患拢拖裢该鞯剡\作，讓人們知道這可能不是從人工智能到AGI的普羅米修斯時刻，有很多很多步驟，就像科技更迭的故事一樣。而且非常重要的是，我們要帶領(lǐng)社會一起前進，不要在這個黑匣子中運作。人們認為只有少數(shù)人控制未來，我們對其他開發(fā)者、計算機科學(xué)家和研究人員以及政策制定者是透明的。這些是我們正在采取的步驟。這就是我們所看到的，這就是我們認為接下來的四個步驟看起來像但并非如此。
主持人：但這不是一個不同層次的競賽嗎？賭注如此之高，當然。我的意思是，你認為自己在參與競賽嗎？你認為你能贏得通向人工通用智能的競賽嗎？
Sam Altman ：我不認為這是場競賽。我理解為什么把它描述成一場非常吸引人的、戲劇性的競賽，但我認為可能在某些時候國家之間會存在競爭。然而，目前正在開發(fā)這項技術(shù)的公司，我認為每個人都明白必須把事情做對的重要性。還有，回應(yīng)布萊恩的觀點，不是說我們都在朝著某個里程碑競賽。這是技術(shù)的持續(xù)演變——從把沙子熔化成晶體管，到開發(fā)操作系統(tǒng)，進而推進編程能力，現(xiàn)在再到訓(xùn)練越來越智能的系統(tǒng)。這些系統(tǒng)不是自主運行的實體，而是增強我們能力的工具，就像電腦在人工智能出現(xiàn)之前所做的那樣，就像工業(yè)革命期間的機器所做的那樣，就像農(nóng)業(yè)使我們有時間和空間去做更多事情那樣。
我不認為這是奔向某個特定目標的競賽；這是一個不斷進步的過程。這些工具會不斷改進，但重要的是要認識到，技術(shù)和工具本身并不是中立的。我們開發(fā)這些工具所能帶來的影響是巨大的，因為人們會使用這些工具來創(chuàng)造我們共同生活的未來。即使在ChatGPT出現(xiàn)之前，個人現(xiàn)在所能完成的事情已經(jīng)非常了不起。展望未來的GPT-6或GPT-7，個人成就的潛力將成倍增加，我對此感到非常興奮。在我看來，這就是世界不斷變得更好的故事——我們制造技術(shù)，賦予人們創(chuàng)造的能力，社會因此進步。
主持人：是的，當你談?wù)撨@些程序并賦予它們我們所擁有的能力時，我們也有一套價值觀，盡管各不相同。我們有時對待常識禮儀的看法并不那么一致。你如何以一種不會有害的方式將這些價值觀教給計算機呢？你如何教授積極的價值觀呢？
Sam Altman：有一件事讓我感到驚訝，我并不是說這能完全解決AI對齊問題，但在我們目前的系統(tǒng)水平上，我們教一個模型一套特定的價值觀并使其表現(xiàn)出特定行為的能力，比我預(yù)期的要好得多?，F(xiàn)在有一個更難的問題，那就是誰來決定這些價值觀是什么，誰來決定默認設(shè)置是什么，個人用戶在這些廣泛的界限內(nèi)可以多大程度地自定義它們？作為早期的一步，我們大約一兩個月前推出了一項名為“規(guī)范”的東西，我們試圖說，這就是我們期望的模型行為，這是我們希望模型遵循的價值觀，這樣人們至少可以知道，當模型做了他們不喜歡的事情時，這是一個錯誤還是有意為之。隨著時間的推移，社會可以討論這些價值觀是什么，我們可以適應(yīng)這些變化。所以，我對我們在這個話題上的技術(shù)進展感到非常鼓舞，但天哪，寫出那套價值觀并讓社會討論并達成共識，這是一個更大的挑戰(zhàn)。
4.AI與下一次經(jīng)濟騰飛，十年內(nèi)全球GDP將翻倍
主持人：布萊恩，正如你所說的，你時不時地會給山姆一些建議。我讀到過某個地方的一句話，我現(xiàn)在沒有確切的引用在手頭，至少我現(xiàn)在找不到，但大意是“先去做，再去想辦法”。我不知道具體是怎么說的。這種想法是你認為在這種研究上需要大膽去做，有沒有什么需要剎車的地方呢？
Brian Chesky ：嗯，是的，我的意思是，如果你想象自己在開車，車速越快，你就越需要看得更遠，預(yù)判前方的彎道。我認為我們都承認這項技術(shù)非常強大，這就是為什么我們?nèi)绱酥斏鞯脑?。人們確實在苦思冥想如何處理這些系統(tǒng)。我記得我們在2007年、2008年時并沒有這么做。所以我確實認為現(xiàn)在是一個非常不同的時代。我和山姆討論的一件事就是要盡早引入其他利益相關(guān)者。你去年做的一件事是環(huán)游世界，與人們見面。我認為這主要是一種從人們那里獲得反饋、教育人們并真正獲得反饋的方法。
Brian Chesky：我認為關(guān)鍵的一點是，萊斯特，我們從來不會快到把社會甩在身后，我們只會以能夠帶動每個人的速度前進。如果每個人都覺得自己可以參與其中，并且可以提供自己的意見，那么我認為就沒有什么可怕的。我認為可怕的是我們不了解的東西，或者我們被排除在外的東西，那些我們無法控制的東西。這是我們不想生活的未來。此外，很有趣的是，如果你說“人工智能”這個詞，可能會讓人感到害怕。但你說“ChatGPT”，聽起來就不那么可怕，因為它是一個非常具體的工具。所以我認為我們也需要關(guān)注眼前的事物，思考我們?nèi)绾文軌驇椭藗儭?/p>
現(xiàn)在有很多問題。OpenAI，可以推動大量的科學(xué)研究和發(fā)現(xiàn)。ChatGPT可以成為藝術(shù)家的一個令人難以置信的工具，你知道AirBNB，我們認為它可以真正將人們聚集在一起。我們生活名為“孤獨”的巨大流行病中，我們可以利用它來幫助人們團結(jié)在一起。歸根結(jié)底，問題不在技術(shù)，而在人。隨著技術(shù)的發(fā)展。它總是歸結(jié)于人們，他們的價值觀，以及他們是好人嗎？
Sam Altman：我對此的看法是，我們需要學(xué)習(xí)如何制造安全的技術(shù)，如何開發(fā)安全的產(chǎn)品，這包括與社會進行持續(xù)對話，比如，“嘿，這個技術(shù)產(chǎn)生了我沒預(yù)料到或不希望的影響?！?還有，“你不讓我做這件對我來說非常重要的事情，因為你沒有理解其中的原因?！?我們需要與更廣泛的世界以及使用和受我們產(chǎn)品影響的人們交流，傾聽他們的需求，同時制定一個安全的操作計劃，以便我們能夠越來越好地預(yù)測技術(shù)的能力。
當然，研究是一個開放性的問題。你并不總是知道它會去哪里。但在我們開始訓(xùn)練一個新模型之前，我們希望能夠說，以下是我們認為可能發(fā)生的危險能力。我們有一個準備框架來測試它們。
有時這需要很長時間。例如，從我們完成培訓(xùn)到發(fā)布GPT-4，我們有大約八個月的時間，包括很多外部咨詢和紅隊合作。未來的模型可能需要更長的時間，但從社會獲得反饋非常重要。我認為有一件事是不好的，那就是讓一個巨大的能力過剩建立起來。然后我們還沒有與社會建立反饋循環(huán)。所以我們確實需要弄清楚如何平衡這一點。但是，你知道，花時間把事情做好是非常重要的。
主持人：你是否曾經(jīng)傾向于，認為你會傾向于回頭去看未來，并發(fā)現(xiàn)它可能像一些人建議的那樣可怕？你是否準備好迎接這樣一個時刻，即使你的競爭對手可能想要前進，你也必須退后一步？
Sam Altman：當然，我們已經(jīng)建立了一些東西，并選擇不發(fā)布或長時間保留。有很多其他公司會發(fā)布我們不會發(fā)布的東西。當然，我們不會讓每個決定都正確。我們也可能在某個時候部署一些東西并需要收回它。但也會有一些東西我們只是不部署。
主持人：你知道，我們談?wù)撨@些可怕的圖像，當你比較AI、曼哈頓項目、制造原子武器的競賽時，這有幫助嗎？當你試圖說明你的理由時，這對你有幫助嗎？
Sam Altman：我的意思是，我們試圖給出一些歷史類比，因為我們認為這很重要。我們可能是錯的，我們可能是對的，但對我們來說，告訴社會我們相信這項技術(shù)的重要性是非常重要的。任何新技術(shù)都沒有完美的歷史模擬。所以我們可以說曼哈頓項目有些事情就像我們現(xiàn)在正在做的那樣。有一些關(guān)于阿波羅計劃的東西，有一些關(guān)于iPhone的東西，有一些關(guān)于那個帶有手柄的iMac的東西，我也非常喜歡，還有一些關(guān)于互聯(lián)網(wǎng)的東西。有一些關(guān)于工業(yè)革命的事情。但我認為重要的是要說，這里有一些部分我們可以用歷史類比來類比，而這里有一些我們不能類比的部分，而且這項技術(shù)的形態(tài)、決策和影響從根本上來說有點不同，我認為。
Brian Chesky：我認為它與曼哈頓項目不同。這不是一場比賽，也不會秘密進行。我認為各國可以合作，并且可能會有一個跨國的團體或機構(gòu)，能夠真正地達成一致，以確保我們都在同一頁面上，這對社會是最好的，坦率地說，可能對企業(yè)家來說是最好的，這樣他們就不必遵守像200個不同的法律一樣。
Sam Altman：我們認為，建立某種全球框架與合作非常重要。我認為我們真的需要那個。
主持人：我想你們中有一個人提到過民族國家存在風(fēng)險，它正在以一種危險的方式利用這項技術(shù)。
Brian Chesky：絕對的，而且我，你知道，我認為你必須總是非常非常小心，比如這項技術(shù)是誰掌握的，你把這項技術(shù)交給誰。我認為這可以追溯到山姆思考的一些事情。就像我們喜歡的東西之一，我知道他們早期開發(fā)但選擇不發(fā)布的就像語音克隆，對吧？已經(jīng)有技術(shù)可以讓你基本上像捕捉某人的聲音一樣，但顯然這將是非常危險的，因為顯然你可以想象它會如何損害選舉和重大的安全風(fēng)險。所以我認為其中一件事就是思考，這些工具最終會落入誰的手中。因此，如果你讓精靈從瓶子里出來，會不會變得太危險？所以要非常深思熟慮。
主持人：根據(jù)一份報告，你猜測人工智能和通用智能可以積累多達100萬億美元的財富。那就是你說你會重新分配的財富。這是一個準確的引用嗎？我想對此進行擴展。
Sam Altman：我認為我想要表達的觀點是，我認為我可以把世界的國內(nèi)生產(chǎn)總值（GDP） 翻倍，這對我來說是合理的，而且肯定會與其他技術(shù)革命保持一致。是的，我們確實認為這將成為生產(chǎn)力的巨大驅(qū)動力，并且已經(jīng)處于早期階段，看看人們正在做什么，以極大地改善產(chǎn)品和服務(wù)。
主持人：你明白這對很多人來說是什么聲音嗎？
Sam Altman：肯定的，當然。但我認為這就是歷史類比有幫助的地方，這也是查看世界國內(nèi)生產(chǎn)總值（GDP） 隨時間變化的圖表有幫助的地方。而且，你知道，如果世界國內(nèi)生產(chǎn)總值（GDP） 能夠以每年7% 的速度增長，這聽起來非常快，但也許像這樣的技術(shù)變革并不遙遠。在我的腦海中，我總是不擅長做這件事，但我認為這只需要十年的時間就可以翻倍了。所以我認為，你知道，我認為值得認真考慮這項技術(shù)的潛力，以做出巨大的貢獻。我認為隨著人們采用工具預(yù)覽，我們現(xiàn)在可以看到更多的東西。
主持人 ：如果你愿意，為了我們。GPT-5，技術(shù)的飛躍會是什么？這是否讓你走上了一條通往你想去的地方的直路？
Sam Altman：它是否讓我們走上了什么道路？
主持人：抱歉，哪條路？它是否讓你在目標方面走得更直？
Sam Altman：所以我們還不知道，你知道，我們很樂觀，但我們?nèi)杂泻芏喙ぷ饕?，但我預(yù)計這將是一個重大的飛躍，很多GPT-4出錯的事情，你知道，在推理方面做不了什么，有時只是完全偏離了軌道，就像犯了一個愚蠢的錯誤，就像一個六歲的孩子永遠不會犯的錯誤。我期望在這些方面它對我來說好得多，并且能夠用于更廣泛的更有幫助的任務(wù)。
主持人：ChatGPT有時候會犯錯。這是回到我們談?wù)摂?shù)據(jù)缺乏或數(shù)據(jù)短缺的地方的結(jié)果嗎？
Sam Altman：我認為這是許多事情的結(jié)合。我們在開發(fā)如此復(fù)雜的系統(tǒng)方面還處于早期階段，存在數(shù)據(jù)問題，算法問題，相對于將來的模型來說，仍然很小。我們知道他們會以可預(yù)見的方式變得更好。所以我認為更像是有很多事情需要我們?nèi)ジ倪M，而且我們?nèi)匀惶幱诩夹g(shù)的早期，你知道，第一款iPhone仍然存在很多問題，但它已經(jīng)足夠好，可以對人們有用了。
Brian Chesky：是的，我認為在接下來的幾年里，世界上的事情不會發(fā)生如此大的變化。人們認為這不是線性的。事情會慢慢改變。然后可能突然之間，我想每個人都還在試圖弄清楚如何使用這項技術(shù)。
如果你拿起你的手機，看看你的主屏幕，問自己在ChatGPT推出一年半后，有多少應(yīng)用程序因為AI而有根本的不同？它們中很少有根本不同的。所以我認為我們?nèi)匀辉谶@個世界上，我們正在開發(fā)很多計算。山姆和團隊正在開發(fā)模型，當人們在這些模型和應(yīng)用程序的基礎(chǔ)上構(gòu)建時，很多大小的變化可能會發(fā)生，而且它有很多用途。
我的意思是，你知道，我們正在談?wù)摰囊粋€重要用例是科學(xué)發(fā)現(xiàn)。你知道，想想這會對藥物研究產(chǎn)生什么影響，你知道，社會上一些最大的弊病類型。這與教育有很多關(guān)系。我們認為這基本上可以讓世界各地的每個人，有創(chuàng)造力的人都能接觸到導(dǎo)師。我知道有很多人擔(dān)心藝術(shù)家可以被取代，但是，你知道，我認為如果藝術(shù)家參與，我去了設(shè)計學(xué)校，我認為這是他們可以使用的技術(shù)，所以我認為我們可以繼續(xù)下去。我認為在接下來的3到5年里，將會有很多令人興奮的機會。
主持人：山姆，五年后你想達到什么水平？
Sam Altman：進一步沿著這條道路？你知道的，工作中最有趣的部分之一是每天收到大量的電子郵件，這些郵件來自以各種驚人方式使用這些工具的人。我，比如說，有一個健康問題困擾了我多年，我一直沒能弄清楚，讓我的生活痛苦不堪。我把癥狀輸入ChatGPT，得到了一個建議，于是去看醫(yī)生，現(xiàn)在完全治好了，或者我一直試圖學(xué)習(xí)某些東西卻做不到，然后ChatGPT成了我的導(dǎo)師，或者我是一個開發(fā)人員，用它后生產(chǎn)力提高了三倍，做了很多驚人的事情。我是一個科學(xué)家，使用它，我喜歡收到這些反饋。我真的很喜歡人們對ChatGPT的熱愛。五年后，我希望能看到更多這樣的情況。我希望我們推出的這個工具能繼續(xù)帶給人們歡樂，讓他們在自己所做的事情中發(fā)揮出最佳狀態(tài)。
主持人：好的，我們將會有更多這樣的對話，當然當你走下去時，但我想感謝你們兩個山姆·阿爾特曼和布萊恩·切斯基抽出時間在這里和我們在一起。問我，很棒的對話，謝謝。和你在一起，感謝你的收看，隨時了解NBC新聞應(yīng)用程序的突發(fā)新聞和頭條新聞，或者在社交媒體上關(guān)注我們。
