出品 | 51CTO技術棧（微信號：blog51cto）

2024，大家不再卷參數(shù)卷測評了，開始卷應用了。但，誰又知道AI原生應用什么樣？怎么做？這個學費不好交。

令人興奮地是，AI大佬李彥宏今天終于現(xiàn)身說法。

4月16日，李彥宏輕裝上陣，在百度AI開發(fā)者大會一股腦將百度過去一年實踐出來的、開發(fā)AI原生應用的具體思路和工具全都放出來了。

Robin一口氣接連放出了百度三大AI原生應用的開發(fā)利器：ModelBuilder、AgentBuilder、AppBuilder，可以說這三個Builder完美彌合了從大模型到應用誕生的鴻溝。一時間現(xiàn)場掌聲不斷。

“我相信文心大模型將成為中國AI創(chuàng)業(yè)者和開發(fā)者的首選！”作為國內首發(fā)且大模型綜合能力極為靠前的文心一言，在應用層面也是布局最早最全面的，李彥宏自信滿滿：越來越多的應用會建立在文心大模型之上，也期待更多的創(chuàng)業(yè)者和開發(fā)者加入我們一起去創(chuàng)造未來。

1.百度第一劍，先斬開源大模型

李彥宏開場致辭，首先亮出了文心一言的成績單。

據(jù)介紹，文心一言于去年3月16日正式發(fā)布，截至目前用戶數(shù)已經突破2億，每天API的調用量突破2億，服務客戶數(shù)達到8.5萬，利用千帆平臺開發(fā)的AI原生應用數(shù)超過19萬。

圖片

回顧過往一年，文心4.0的發(fā)布是一道分水嶺。

李彥宏表示，文心4.0之后，百度可以根據(jù)需要，剪裁出適合各種場景的更小尺寸模型，并且支持精調和post-pretrain。

post-pretrain是一種模型預訓練策略，是指基礎模型預訓練后，繼續(xù)使用無標記數(shù)據(jù)對模型進行預訓練，旨在提升模型通用語言表達能力。

在同等尺寸下，通過post-pretrain的模型，會比直接開源的模型效果更好；在同等效果下，其成本會會更低。

在這一參照下，李彥宏給定結論：“開源模型會越來越落后”。

圖片

2.大小模型混用才是王道，開發(fā)應用會像拍短視頻一樣簡單

對于大模型本身，李彥宏曾放言：大模型已經夠多了，沒有必要卷大模型，應該卷應用。

如今，他也依然堅持自己的判斷：大模型本身并不能直接創(chuàng)造價值，基于其開發(fā)的AI原生應用才是市場需求所在。

在此前提下，李彥宏重點提到了三個行業(yè)關鍵詞。

其一，MoE。此處的MoE并非狹義上的機器學習領域的概念“混合專家模型”，指的是更廣義上的大小模型的混用。通常來說，只有5%-10%的情景需要大模型，其余30%-40%的情況需要中小模型。

李彥宏預判，未來大型的AI原生應用基本都是MoE的。針對不同的應用場景，不依賴一個模型來解決所有問題，判斷如何調用大小模型，就形成了MoE混用模式。

其二，小模型。小模型推理成本低，響應速度快，在一些特定場景中，經過精調后的小模型，其使用效果甚至可以媲美大模型。通過大模型壓縮蒸餾出一個基礎模型，然后再用數(shù)據(jù)去訓練。這比從頭開始訓小模型，效果要好很多，也比基于開源模型訓出來的模型，效果、速度和成本表現(xiàn)都更好。

目前，百度已經發(fā)布了ERNIE Speed，ERNIE Lite、ERNIE Tiny三個輕量級大模型，并將其內置于Model-Builder中，以便為開發(fā)者提供更高效靈活的大模型應用方案，以此適應不同場景的需求。

其三，智能體。智能體指的是能夠感知環(huán)境、進行決策和執(zhí)行動作的智能實體。在大模型驅動下，以自然語言為交互，可以自主完成復雜任務，在環(huán)境中持續(xù)學習、實現(xiàn)自我迭代和自我進化。它們可以更大程度地釋放人員精力，讓人更專注于創(chuàng)造性和決策性的事務。

李彥宏稱，大模型和生成式AI將徹底改變開發(fā)者群體，“過去開發(fā)者用代碼改變世界，未來自然語言將成為通用編程語言?！?/p>

基于文心大模型的智能代碼助手Comate，可以推薦代碼、生成代碼注釋、查找代碼缺陷、給出優(yōu)化方案，還可以解讀代碼庫、關聯(lián)私域知識生成新的代碼。

官方信息顯示，百度每天新增的代碼中，已經有27%是由Comate自動生成的；Comate還與喜馬拉雅、三菱電梯等上萬家企業(yè)合作，生成的代碼采納率達到46%。

“今天，你不會寫代碼，也可以做出一個應用；不用編程，也可以做出一個智能體“，李彥宏表示，未來開發(fā)應用就會像拍短視頻一樣簡單，人人都是開發(fā)者。

圖片

3.百度已經不滿足只做基座，而是要打造一個智能體平臺

“人人可開發(fā)、人人經營、人人可獲益”，其實百度早在去年秋天就在內部投入精力去打造智能體構建平臺AgentBuilder，主打高效便捷。

提及智能體（Agent），市面上有許多討論，李彥宏這次直接點名了Agent，并認為Agent可能是未來離每個人最近、最主流的大模型使用方式，基于強大的基礎模型，智能體可以批量生成，應用在各種各樣的場景。

作為基于文心大模型的智能體構建平臺，AgentBuilder為開發(fā)者提供了零代碼和低代碼兩種模式。無論是專業(yè)人員還是編碼小白，都能快速上手。

此外，AgentBuilder不止是開發(fā)平臺，開發(fā)者還可以通過百度生態(tài)矩陣分發(fā)路徑，做到“開發(fā)+分發(fā)+運營+變現(xiàn)”一體化賦能。

開發(fā)者的智能體可以通過百度搜索、小度、文心一言、百度地圖、車機等多場景、多設備實現(xiàn)分發(fā)，未來還將接入商業(yè)插件功能，進一步實現(xiàn)商業(yè)閉環(huán)。

截至目前，已經有3萬多個智能體被創(chuàng)建、5萬多名開發(fā)者和上萬家企業(yè)入駐。

“打造國內最完整的智能體生態(tài)”，百度正當其時！

除了AgentBuilder，李彥宏還介紹了另外兩大開發(fā)利器AppBuilder和ModelBuilder。它們同樣支持開發(fā)者開箱即用。

圖片

早在去年三月，百度推出“千帆大模型平臺”時就囊括了AppBuilder和ModelBuilder兩部分。

如今，AppBuilder工具組件擴增至55個，并上線了“三步生成應用”功能。

作為產業(yè)級AI原生應用開發(fā)平臺，AppBuilder封裝和預置了開發(fā)AI原生應用所需的各種組件和框架，最快只需三步，開發(fā)者就可以用自然語言開發(fā)出一個AI原生應用。

目前大量的開發(fā)者已通過AppBuilder生成豐富的AI原生應用，包括智能導購客服、心理咨詢助手、營銷素材生成、智能數(shù)據(jù)分析等等。

而適用于模型定制的ModelBuilder則是更適合專業(yè)開發(fā)者使用的工具。

ModelBuilder提供了包括文心大模型系列在內的77款精選大模型，內置業(yè)內最多的47個數(shù)據(jù)集和119個產業(yè)級Prompt模板。還設置了模型精調樣板間，開發(fā)者只需要跟著樣板間一步一步精調，就能做出一模一樣的專業(yè)模型。

4.多模型智能計算OS萬源亮相，云原生系統(tǒng)危險了

本次百度AI開發(fā)者大會上，還有一個重磅炸彈。

百度集團執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖冷不防就來了一個大招：智能計算操作系統(tǒng)萬源，而且同時支持包括文心一言、第三方大模型在內的77個大模型。

在AI原生時代，算力是至關重要的新質生產力。但是，在運營和管理過程中，智算中心也面臨重重挑戰(zhàn)：異構算力資源納管困難、算力調度能力不足、利用率低等等。

沈抖提到，基于國內芯片供應的不確定性，在進行單一任務訓練時往往會面臨多芯局面。為了更好地調度算力資源、減少性能損耗，百度推出了“萬源”。

這是一個強大的操作系統(tǒng)，可以把現(xiàn)有的算力資源發(fā)揮到極致來支撐大模型，以有效應對目前國內GPU等算力不確定性的問題。

據(jù)沈抖介紹，萬源是百度全新發(fā)布的一個單一任務一云多芯大模型訓練解決方案，解決了當下百卡甚至千卡混合訓練場景下性能損耗太大的問題，同時昆侖芯、昇騰、Intel、NVIDA等多種型號的主流芯片，讓他們高效綁定在一起就像一塊芯片一樣工作！

萬源OS在框架層面，一手以文心大模型、百舸AI異構計算平臺為內核（萬卡集群有效訓練時長占比高達98.8%，線性加速比95%），一手以ModelBuilder、AgentBuilder、AppBuilder為Shell/Toolkit，讓這些極簡易用的設計取代云原生系統(tǒng)的復雜性，從而推動加速AI原生應用的爆發(fā)。

圖片

不得不說，簡單是終極的復雜！萬源系統(tǒng)做到了！

5.百度移動大變天，該改名叫AI原生應用部門了

一個時代有一個時代的印記。在AI原生應用時代，百度移動已經煥然一新，百度搜索、百度文庫、百度地圖在今天的大會上也給出了全新的智能化進展。

百度移動生態(tài)部門在今年也化身百度智能體浪潮的先鋒官，勇立潮頭為業(yè)界做了一次最佳示范。

比如全場景語音指令可隨時隨地高效創(chuàng)作的新文庫（據(jù)悉，已經有累計1億+AI用戶數(shù)，功能使用次數(shù)達8億+），再比如文心一言App升級成了萬能搭子（為寶媽寶爸哄娃講睡前故事，練習英語等，目前已經有30萬創(chuàng)作者，40萬的智能體，8億調用量）。

下面是一些精彩畫面：

圖片

圖片

圖片

對了，據(jù)悉百度營銷這塊還推出了商家智能體，可以商家全天候地獲得線索并服務用戶，獲得線索的成本直降29%。具體都有哪些行業(yè)呢？目前看最受歡迎是教育培訓、房產家居、機械設備、商務服務等30多家行業(yè)。

同時，百度集團資深副總裁何俊杰還重點推薦了一個電商直播智能體：慧播星，擁有了它簡直就像擁有了一支風格各異、舌燦蓮花的主播天團。智能問答、智能腳本、智能場控，可謂一站式全天候在線。據(jù)悉，目前已經陸續(xù)上線了不少明星版本，包貝爾的智能體還獲得了帶貨榜第一名。

圖片

此外，大家熟知的對話機器人也迎來了重磅升級，DUER OS X發(fā)布！據(jù)悉它搭載了1.1萬個語音智能應用，更細化定制生態(tài)層的重構。

AI原生也成為了小度脫離存量競爭的秘鑰，如今的小度變得更加聰明、更加freestyle的交互、甚至更主動發(fā)起后續(xù)的追問、而且聲音更擬人、表情也更加豐富。

圖片

6.卷應用，但背后仍是大模型進化技術的較量

一年時間，文心大模型得到了快速的進化，從文心一言3.0到現(xiàn)在的集萬卡算力、飛槳平臺、多維數(shù)據(jù)、多階段對齊、可再生訓練等多位一體的文心大模型4.0（半年時間又提升了52.5%），再到工具版4.0的推出，這背后都是百度團隊交出的高昂學費、踩過無數(shù)個坑得出來的不易成果。

圖片

此外，百度首席技術官王海峰還介紹了百度團隊高效低成本的模型生產心得：大小模型協(xié)同訓練（知識繼承、對比增強技術），高效預訓練、精調對齊、模型壓縮、推理部署、數(shù)據(jù)提質與增強方面都有著很多經驗沉淀。

在多模型推理方面，百度團隊還研制了基于反饋學習的端到端多模型推理技術。

圖片

星河已現(xiàn)，強大、敏捷、開放，正是背后百度文心模型的持續(xù)創(chuàng)新，才造就了如今百度繁榮AI生態(tài)的堅實底座！

這次百度的開發(fā)者大會為我們描繪了一個“人人都是創(chuàng)造者”的未來。

在AI原生時代，AI已不再僅僅是少數(shù)專家的專屬領地，而是逐步滲透到千行百業(yè)中的普適性工具。

無論個體的專業(yè)背景、職業(yè)角色或技術熟練度如何，隨著用戶友好的AI開發(fā)平臺、零代碼編程工具等資源的日益豐富和完善，開發(fā)門檻顯著降低，使得非專業(yè)人士也能輕松利用AI技術實現(xiàn)創(chuàng)意落地。

日新月異的技術如同堅實的地基，支撐起一座座創(chuàng)新的燈塔，鼓勵無數(shù)后來者跨越技術邊界，打破傳統(tǒng)桎梏，共同點亮人類社會的未來星空。

來源： ??51CTO技術棧??