9月17日，由南京市人民政府、中國信息通信研究院聯(lián)合主辦的2023南京人工智能產(chǎn)業(yè)發(fā)展大會盛大開幕。此次大會以“AI新趨勢 智能新時代”為主題，匯聚中外人工智能領(lǐng)域產(chǎn)業(yè)領(lǐng)袖、學(xué)術(shù)專家和行業(yè)代表，共謀人工智能產(chǎn)業(yè)發(fā)展新圖景。紫光股份旗下新華三集團(tuán)數(shù)字中國研究院常務(wù)副院長李飛受邀出席并發(fā)表主題演講，從行業(yè)用戶的使用角度出發(fā)，分享了新華三對大模型在行業(yè)私域部署落地的挑戰(zhàn)和問題，以新華三自身探索和應(yīng)用私域大模型百業(yè)靈犀（LinSeer）的經(jīng)驗(yàn)，提出以“五星原則”和“四域支撐”來助推AIGC走向業(yè)務(wù)場景。

圖片3.png

新華三集團(tuán)數(shù)字中國研究院常務(wù)副院長李飛

五星原則  設(shè)身處地為行業(yè)定制

當(dāng)前AIGC技術(shù)正在加速融入百行百業(yè)，行業(yè)客戶在積極擁抱AIGC的同時， AIGC的應(yīng)用效果和使用成本已經(jīng)成為CEO/CTO最關(guān)心的問題，然而不斷增長的大模型參數(shù)量、硬件資源需求以及持續(xù)激增的能耗壓力，導(dǎo)致其在行業(yè)落地時面臨困境。李飛指出，以合適的切入場景、合理的模型大小、高效的數(shù)據(jù)治理、合規(guī)的內(nèi)容安全、合用的落地工具為核心的“五星原則”，將有利于促進(jìn)AIGC與產(chǎn)業(yè)的深度融合。

圖片4.png

● 合適的切入場景：通過區(qū)分AIGC業(yè)務(wù)應(yīng)用場景可加速推動人工智能產(chǎn)業(yè)的落地應(yīng)用，目前，百業(yè)靈犀（LinSeer）可為各行業(yè)引入豐富的AIGC細(xì)分場景。

● 合理的模型大?。?/strong>AI大模型的大小需要平衡算力和能耗的開支，應(yīng)選擇適合行業(yè)特點(diǎn)和業(yè)務(wù)特點(diǎn)的大模型進(jìn)行私域部署。新華三集團(tuán)自主研發(fā)動態(tài)混合專家（Dynamic Mixture of Experts）模型技術(shù)，能夠?qū)⒍鄠€專家模型的預(yù)測結(jié)果進(jìn)行加權(quán)組合，實(shí)現(xiàn)最優(yōu)部署。

● 高效的數(shù)據(jù)治理：數(shù)據(jù)是私域大模型發(fā)展的核心要素之一，新華三以綠洲平臺為基礎(chǔ)，通過構(gòu)建私域數(shù)據(jù)湖進(jìn)一步沉淀行業(yè)數(shù)據(jù)，幫助客戶訓(xùn)練自己的知識模型，形成寶貴的行業(yè)數(shù)據(jù)資產(chǎn)。

● 合規(guī)的內(nèi)容安全：客戶業(yè)務(wù)與AIGC的結(jié)合可能會帶來商業(yè)機(jī)密或個人隱私的泄露、違反法律法規(guī)等內(nèi)容安全問題，通過建立內(nèi)容輸入防護(hù)、模型本身防護(hù)和內(nèi)容輸出防護(hù)為一體的內(nèi)容安全體系可有效規(guī)避安全問題。

● 合用的落地工具：有效規(guī)避大模型與應(yīng)用的場景割裂，利用大模型使能平臺幫助行業(yè)客戶打通大模型到具體業(yè)務(wù)場景需求通道，通過連接應(yīng)用與大模型，提升大模型的行動力和記憶力，實(shí)現(xiàn)應(yīng)用場景的拓展和衍生。

四域支撐 助推“四?！眱r值實(shí)現(xiàn)

AIGC生產(chǎn)新范式帶來生產(chǎn)力的變化，將重塑各行各業(yè)的生產(chǎn)關(guān)系。作為數(shù)字化解決方案領(lǐng)導(dǎo)者，新華三集團(tuán)與時俱進(jìn)，全面擁抱AIGC時代。在今年推出的私域大模型百業(yè)靈犀（LinSeer），具備行業(yè)專注、區(qū)域?qū)佟?shù)據(jù)專有、價值專享的特點(diǎn)，可為垂直行業(yè)和專屬地域的客戶提供安全、訂制、獨(dú)享、生長的智能化服務(wù)。

目前，百業(yè)靈犀（LinSeer）已形成以綠洲平臺為核心的數(shù)據(jù)域、以大模型使能平臺 （LinSeer Hub）為基礎(chǔ)的大模型域、以數(shù)據(jù)安全審查為重點(diǎn)的安全隔離域、以AI助手及AI服務(wù)組成的用戶域的“四域支撐”，可為行業(yè)用戶提供端到端的私域部署服務(wù)，勾勒出百業(yè)靈犀（LinSeer）價值實(shí)現(xiàn)的全景圖。

圖片5.png

新華三百業(yè)靈犀（LinSeer）價值實(shí)現(xiàn)全景圖

更簡單：以完備的AI工具鏈降低大模型應(yīng)用過程中的使用成本，通過會話調(diào)試可靈活測試、評估大模型領(lǐng)域能力，幫助客戶持續(xù)優(yōu)化提示詞，調(diào)配模型參數(shù)，在降低大模型運(yùn)營成本的同時提高推理效果；

更通用：可兼容不同推理平臺及各類大模型，用戶可靈活對應(yīng)用進(jìn)行授權(quán)，會話、知識檢索、指令調(diào)用等功能均可通過大模型使能平臺 （LinSeer Hub）統(tǒng)一管理和推理部署；

更安全：內(nèi)置安全限制提示詞和出入內(nèi)容過濾攔截功能，可對所有場景下大模型生成內(nèi)容進(jìn)行安全性限制，為用戶信息和數(shù)據(jù)安全保駕護(hù)航；

更智能：通過提示詞管理、編排和使用，可明確大模型對應(yīng)用場景的目標(biāo)、策略和約束，并通過向量存儲和檢索讓大模型具備記憶力，最大化提升大模型的行動力。

面向未來，新華三集團(tuán)將不斷深化“云智原生”戰(zhàn)略，秉持“精耕務(wù)實(shí)，為時代賦智慧”的理念，把握AIGC時代脈搏，精研云智原生前沿技術(shù)，深耕客戶應(yīng)用場景，以AI之力全面賦能百行百業(yè)數(shù)智創(chuàng)新。