微軟Build大會(huì)前腳剛放出一籮筐生產(chǎn)力革命最新進(jìn)展：自定義Copilot、Team Copilot、Copilot擴(kuò)展……

這兩天在微軟AI Day上，Copilot到底是如何提升生產(chǎn)力的，直接被搬到了臺(tái)面上現(xiàn)場(chǎng)演示。

假設(shè)你的身份是一名公司財(cái)務(wù)，老板讓你1分鐘內(nèi)完成報(bào)銷核對(duì)，現(xiàn)在你有一個(gè)Excel，其中有公司報(bào)銷單、銀行賬單這兩個(gè)sheet，要如何在一分鐘內(nèi)迅速核對(duì)完？

別著急，打開具有Copilot for Finance的Excel賬號(hào)，就會(huì)發(fā)現(xiàn)在菜單欄右側(cè)多出了一個(gè)Copilot for Finance的圖標(biāo)：

接下來(lái)請(qǐng)看VCR：

微軟亞洲區(qū)Microsoft Azure策略運(yùn)營(yíng)總經(jīng)理康容表示：

以生成式智能為代表的新一代AI技術(shù)創(chuàng)新正在加速演進(jìn)，在今天的Scaling Laws下，AI技術(shù)的能力大約每六個(gè)月內(nèi)就會(huì)翻倍增長(zhǎng)。

與此同時(shí)，如何讓技術(shù)成果對(duì)齊行業(yè)、企業(yè)的實(shí)際業(yè)務(wù)需求，加速技術(shù)能力的落地轉(zhuǎn)化，助力更多客戶加速智能化轉(zhuǎn)型與創(chuàng)新，成為當(dāng)前微軟最關(guān)注的業(yè)務(wù)領(lǐng)域。

PS：

最新消息，微軟還將與Cognition攜手，把AI程序員Devin帶給客戶，來(lái)完成代碼遷移和現(xiàn)代化項(xiàng)目等復(fù)雜任務(wù)。作為雙方協(xié)議的一部分，Devin將由微軟智能云Azure提供支持。

AI時(shí)代，報(bào)表可以幫老板寫報(bào)表

微軟在北京舉辦的以“共創(chuàng)AI創(chuàng)新，智啟無(wú)限可能”為主題的Microsoft AI Day活動(dòng)中，集中展示了在生成式智能技術(shù)加速發(fā)展普及的過(guò)程中，微軟取得的最新技術(shù)突破與進(jìn)展。

并同步更新了在Microsoft Build 2024全球開發(fā)者大會(huì)上發(fā)布的一系列Azure AI新服務(wù)與新功能、加速壯大的Microsoft Copilot智能副駕駛(? )技術(shù)棧，以及用以幫助企業(yè)開發(fā)者打造專屬Copilot智能副駕駛(?)的Microsoft Copilot Studio等一系列開發(fā)工具與平臺(tái)服務(wù)等。

微軟亞洲區(qū)Microsoft Azure策略運(yùn)營(yíng)總經(jīng)理康容介紹，Azure AI方面，GPT-4o現(xiàn)已加入Azure AI Studio。

同時(shí)Azure AI Studio還提供Coherence、Databricks、Deci、Meta、Mistral AI、Snowflake等大模型服務(wù)支持。

微軟開發(fā)的Phi-3系列“小”模型最新推出的全新多模態(tài)模型Phi-3-vision，也可使用。開發(fā)者還能在Azure AI Studio中構(gòu)建和定制模型。

微軟大中華區(qū)首席運(yùn)營(yíng)官陶然還在現(xiàn)場(chǎng)以O(shè)PPO手機(jī)為例，演示了端側(cè)小模型的高效部署：

除此之外，陶然還展開分享了微軟的Copilot愿景。

首先，Copilot是個(gè)人的智能副駕駛(?)，微軟用Copilot打通了自家辦公產(chǎn)品線，讓個(gè)人實(shí)現(xiàn)生產(chǎn)力的提升。

在此基礎(chǔ)之上，微軟的最終目的是讓Copilot深入企業(yè)業(yè)務(wù)場(chǎng)景，實(shí)現(xiàn)部門級(jí)別的Copilot產(chǎn)品落地和業(yè)務(wù)能力的提升。

除了開頭所展示的Demo，現(xiàn)場(chǎng)還展示了Copilot的更多功能，例如用Copilot做報(bào)表：

在AI時(shí)代，報(bào)表也可以幫老板寫報(bào)表了。

繼續(xù)來(lái)看VCR：

在眾多服務(wù)基礎(chǔ)之上，微軟也透露了目前與企業(yè)的合作情況。

例如，攜程采用Azure OpenAI服務(wù)為旗下Trip.com海外網(wǎng)站提供面向海外39個(gè)國(guó)家的多語(yǔ)言服務(wù)，為海外旅行者打造自動(dòng)化客服機(jī)器人和郵件咨詢系統(tǒng)，還進(jìn)一步借助Azure OpenAI服務(wù)開發(fā)了高質(zhì)量的智能旅行對(duì)話機(jī)器人TripGenie。

TripGenie能夠自動(dòng)搜索、整合Trip.com海外平臺(tái)上的實(shí)時(shí)旅行線路、航班、酒店等信息，根據(jù)境外客戶提出的旅行需求和預(yù)算，自動(dòng)設(shè)計(jì)出最佳行程計(jì)劃。

在微軟支持下，TripGenie的構(gòu)建周期僅用時(shí)兩個(gè)月，目前可提供英、日、韓及繁體中文服務(wù)。

聯(lián)想選擇引入Dynamics 365 Sales作為全球統(tǒng)一的銷售管理系統(tǒng)。

Dynamics 365 Sales能夠整合不同來(lái)源的新老業(yè)務(wù)系統(tǒng)與業(yè)務(wù)流程，并集成了銷售協(xié)作與AI功能，讓全球70%的聯(lián)想銷售團(tuán)隊(duì)得以實(shí)時(shí)記錄客戶互動(dòng)活動(dòng)、即時(shí)共享銷售信息，為客戶提供更加主動(dòng)、個(gè)性化的服務(wù)體驗(yàn)。

麥當(dāng)勞中國(guó)選擇微軟為量身定制了整套智能化創(chuàng)新解決方案，包括由Azure云平臺(tái)提供自然語(yǔ)言交互、生成式智能、機(jī)器學(xué)習(xí)等企業(yè)級(jí)的智能化服務(wù)；以融入Copilot智能副駕駛(?)的Microsoft 365為基礎(chǔ)，構(gòu)建高效的員工協(xié)作平臺(tái)；通過(guò)GitHub Copilot智能副駕駛(?)加速IT開發(fā)和系統(tǒng)運(yùn)維，提升IT系統(tǒng)及業(yè)務(wù)應(yīng)用開發(fā)迭代效率等。

麥當(dāng)勞中國(guó)南京創(chuàng)新中心成立“AI-Lab”，將智能技術(shù)引入麥當(dāng)勞中國(guó)“漢堡大學(xué)”，為20萬(wàn)名員工提供職業(yè)發(fā)展與技術(shù)技能培訓(xùn)。

端上做應(yīng)用，小模型又快又劃算

會(huì)后，微軟亞洲區(qū)Microsoft Azure策略運(yùn)營(yíng)總經(jīng)理康容、微軟大中華區(qū)首席運(yùn)營(yíng)官陶然回答了大家感興趣的一些問(wèn)題。

量子位在不改變?cè)獾幕A(chǔ)上，對(duì)部分問(wèn)答進(jìn)行了整理。

Q：您講到Scaling Laws，參數(shù)越多性能越好。那對(duì)于小模型，怎樣能達(dá)到很好的推理能力？主要的原理是什么？

陶然：第一，我們?cè)谠贫舜竽Ｐ烷_放兼容并蓄；第二，在端側(cè)其實(shí)很多場(chǎng)景都需要用小模型的能力。您剛才講Scaling Laws也好，性能也好，隨著時(shí)間的演變和算力不斷加持，以及我們對(duì)于數(shù)據(jù)和算法的調(diào)優(yōu)，它的質(zhì)量肯定是穩(wěn)步提升。

大模型在往前走，但微軟研發(fā)的Phi小模型為什么能夠?qū)崿F(xiàn)用更低的成本和更小的size實(shí)現(xiàn)更高的質(zhì)量？

第一個(gè)關(guān)鍵在于算法，微軟有幾十年的技術(shù)研發(fā)實(shí)力。

第二是數(shù)據(jù)質(zhì)量，微軟采取了一個(gè)Synthetic Data的訓(xùn)練模式。通過(guò)和高質(zhì)量，甚至是超高質(zhì)量合成數(shù)據(jù)去實(shí)現(xiàn)Phi的小模型，用更小的size實(shí)現(xiàn)更高的性能。

在微軟看來(lái)，小模型的場(chǎng)景正在不斷分化。小模型并不是說(shuō)，只幫我寫詩(shī)、作畫就夠了。小模型也可以有多模態(tài)，也可以變成行業(yè)定制的模型。小模型和行業(yè)數(shù)據(jù)和企業(yè)業(yè)務(wù)場(chǎng)景的集成即將會(huì)變成更多的強(qiáng)需求。

Finetune一個(gè)大模型非常痛苦，有的時(shí)候也不一定達(dá)到效果。但小模型不一樣，企業(yè)業(yè)務(wù)數(shù)據(jù)可以更加高效實(shí)現(xiàn)常用場(chǎng)景下的Finetune，以及一些更好的embedding。

然后是復(fù)雜場(chǎng)景，比如真的是需要Agent，繼續(xù)交給云端大模型去完成。但是也可以把重用、常用、高頻、低延遲的場(chǎng)景交給小模型，這就是我們現(xiàn)在看到的行業(yè)發(fā)展的一些趨勢(shì)。

康容：我完全同意陶然講的。不是小模型是不是會(huì)把大模型取代的問(wèn)題，而是我們認(rèn)為未來(lái)會(huì)有多模型的合作。各個(gè)模型有不同的優(yōu)勢(shì)。

比如沒(méi)有網(wǎng)絡(luò)的場(chǎng)景，肯定小模型有優(yōu)勢(shì)。而對(duì)于非常復(fù)雜的項(xiàng)目或場(chǎng)景，要做大量自然語(yǔ)言翻譯，就要走大模型那一步，消耗大量的數(shù)據(jù)去理解，小模型“吞”不了那么多。如果你要快速在端上做基本的應(yīng)用，小模型又快又劃算。

Q：Copilot Studio最近推出新功能可以自定義Agent，底層用的哪些技術(shù)？

陶然：Copilot Studio不是一夜之間出現(xiàn)的全新獨(dú)立技術(shù)產(chǎn)品，而是基于微軟過(guò)去幾十年在商業(yè)應(yīng)用領(lǐng)域的云端的Business Applications積累快速迭代、快速生成的結(jié)果，比如Dynamics365 for Sales、for Finance、for Operation，傳統(tǒng)意義上理解的云端CRM、云端的ERP、云端HR系統(tǒng)，這些系統(tǒng)讓微軟可以快速打造Copilot。

基于我們對(duì)企業(yè)業(yè)務(wù)流程、數(shù)據(jù)、系統(tǒng)的理解，可以快速找到企業(yè)如何把核心的CRM、ERP、財(cái)務(wù)的系統(tǒng)做智能化改造的方法，很多企業(yè)都是在這個(gè)基礎(chǔ)上連接AI的layer。

Copilot Studio就是基于這樣的基礎(chǔ)框架實(shí)現(xiàn)產(chǎn)品的研發(fā)和迭代。產(chǎn)品背后本身集成三大核心能力：第一，微軟ERP、CRM和云端Dynamics365的能力；第二，結(jié)合了OpenAI大模型能力；第三，結(jié)合對(duì)于Agent、Copilot生態(tài)的理解以及生態(tài)的滲透。

Q：對(duì)于大模型在企業(yè)落地，一種思路是把大模型的能力跟企業(yè)私有數(shù)據(jù)結(jié)合，另外一種思路是用小模型，也就是Phi-3的思路。您認(rèn)為哪種思路更好？

陶然：微軟全球和微軟中國(guó)每天與眾多客戶探討大模型的應(yīng)用落地。根據(jù)我們的觀察，沒(méi)有哪種技術(shù)路線是絕對(duì)對(duì)或錯(cuò)的，關(guān)鍵在于是否適用以及相應(yīng)的成本。

大模型與企業(yè)數(shù)據(jù)的集成是一個(gè)平衡的決策過(guò)程，需綜合考慮成本、數(shù)據(jù)質(zhì)量、數(shù)據(jù)量、模型的成熟度和復(fù)雜度等因素。如果企業(yè)預(yù)算充足，當(dāng)然可以不計(jì)成本地購(gòu)買數(shù)據(jù)、進(jìn)行訓(xùn)練和推理。

康容：甚至訓(xùn)練自己的大模型。

陶然：企業(yè)都希望以高效且成本可控的方式實(shí)施方案，但這需要實(shí)際評(píng)估。

例如，若客戶希望對(duì)GPT模型進(jìn)行微調(diào)，但只有一萬(wàn)行數(shù)據(jù)，對(duì)于擁有1750億參數(shù)的GPT模型而言，一萬(wàn)行數(shù)據(jù)無(wú)法顯著影響其推理過(guò)程，因此無(wú)法實(shí)現(xiàn)預(yù)期效果。然而，如果通過(guò)添加企業(yè)數(shù)據(jù)集，如RAG技術(shù)，就能在大模型進(jìn)行數(shù)據(jù)輸入和輸出時(shí)，整合企業(yè)數(shù)據(jù)集并生成Embedding數(shù)據(jù)集。

微軟提供了多種技術(shù)選擇，例如在全球范圍內(nèi)開源的Semantic Kernel，任何企業(yè)都可以通過(guò)編程實(shí)現(xiàn)RAG和Embedding數(shù)據(jù)集成，并通過(guò)微軟網(wǎng)站下載使用。

同時(shí)，微軟也支持開源，可以使用第三方開源的RAG模型和編程開發(fā)SDK。最終，我們需要討論數(shù)據(jù)量和數(shù)據(jù)質(zhì)量的問(wèn)題。如果國(guó)內(nèi)客戶有此類需求，微軟中國(guó)可以幫助客戶進(jìn)行實(shí)際評(píng)估，選擇成本和效能最優(yōu)的技術(shù)路線，以推進(jìn)項(xiàng)目進(jìn)展。

Q：小模型相比大模型有何優(yōu)劣？

陶然：同樣去做Embedding與Fine-tuning，小模型的成本大多情況下比大模型低。

應(yīng)用場(chǎng)景是關(guān)鍵，如果希望小模型幫忙完成寫詩(shī)作畫，可以把企業(yè)內(nèi)部寫詩(shī)作畫的信息導(dǎo)入，然后它就可以根據(jù)上下文完成任務(wù)。

小模型跟大模型有能力上的差異，比如微軟的Phi-3，雖然我們盡可能把它的每一個(gè)能力象限往往前延申，但跟GPT4、GPT4o相比，肯定有些地方是缺失的。

針對(duì)不同場(chǎng)景有的放矢去做一些Embedding和Fine-tuning、RAG，可以更加事半功倍。小模型和大模型一樣，第一，可以定制化和集成；第二，定制化集成的東西可以到設(shè)備里去；第三，找到合適的場(chǎng)景。