在 2023 年即將結(jié)束之際，我們會發(fā)現(xiàn)隨著 ChatGPT 的引入，世界發(fā)生了不可逆轉(zhuǎn)的變化。人工智能的主流化繼續(xù)以強(qiáng)勁勢頭推進(jìn)，我們?nèi)绾螒?yīng)對這些不斷變化的時代需要信念的飛躍。人工智能可能同時具有潛在的變革性和不準(zhǔn)確性！但我們的未來不僅僅是人工智能，因為我們?nèi)匀恍枰^續(xù)提高數(shù)據(jù)管理水平。

2024 年的數(shù)據(jù)與人工智能的趨勢與管道和激活有關(guān)，特別是對于關(guān)注數(shù)據(jù)質(zhì)量、平臺架構(gòu)和治理的人工智能而言。服務(wù)于多種信息角色的自主代理和任務(wù)助理可以部分或完全自動化所需的活動。此外，用于生成高質(zhì)量數(shù)據(jù)集的工具可以在人工智能模型開發(fā)生命周期的各個階段提供不斷改進(jìn)的模型。以下是 2024 年的四個主要趨勢：

1. 智能數(shù)據(jù)平臺
2. 人工智能代理
3. 個性化人工智能堆棧
4. 人工智能治理

一、智能數(shù)據(jù)平臺

如今的數(shù)據(jù)平臺很大程度上是一個“記錄系統(tǒng)”堆棧，它將來自各種企業(yè)數(shù)據(jù)庫和應(yīng)用程序的數(shù)據(jù)匯集到一個公共存儲庫中。當(dāng)前，該堆棧的主要用例是報告和分析，在極少數(shù)情況下是數(shù)據(jù)驅(qū)動的自動化。還有什么比在數(shù)據(jù)平臺中注入智能來加速人工智能數(shù)據(jù)產(chǎn)品和應(yīng)用程序在整個企業(yè)中的采用更好的呢？

我們將智能數(shù)據(jù)平臺定義為大語言模型（LLM）基礎(chǔ)設(shè)施是核心數(shù)據(jù)平臺一部分的平臺。該智能層可用于將智能注入兩種應(yīng)用程序：

1. 核心數(shù)據(jù)應(yīng)用程序：這些應(yīng)用程序包括人工智能驅(qū)動的數(shù)據(jù)操作、語義搜索和發(fā)現(xiàn)代理、人工智能輔助攝取工具、人工智能輔助數(shù)據(jù)準(zhǔn)備和轉(zhuǎn)換以及用于數(shù)據(jù)分析的對話式人工智能代理。當(dāng)代理通過從錯誤中學(xué)習(xí)進(jìn)行推理時，此類應(yīng)用程序的自動化程度只會變得更好。
2. 智能應(yīng)用：智能化的人工智能代理是第二種應(yīng)用趨勢。

下圖顯示了智能數(shù)據(jù)平臺以及 AI 代理和應(yīng)用程序的示意圖。

智能數(shù)據(jù)平臺是當(dāng)前以倉庫/湖為中心的數(shù)據(jù)平臺環(huán)境的下一個演進(jìn)。隨著對簡化消費界面的渴望，智能應(yīng)用程序?qū)⑼苿游磥硎甑纳a(chǎn)力。到 2024 年，企業(yè)需要認(rèn)真審視當(dāng)前的數(shù)據(jù)平臺架構(gòu)，并解決與數(shù)據(jù)孤島、數(shù)據(jù)質(zhì)量和重復(fù)以及堆棧組件碎片相關(guān)的挑戰(zhàn)。高質(zhì)量、精選的數(shù)據(jù)和元數(shù)據(jù)是生成式人工智能計劃成功的關(guān)鍵。智能數(shù)據(jù)平臺以及相關(guān)的數(shù)據(jù)應(yīng)用程序?qū)槿斯ぶ悄苡美С痔峁┗A(chǔ)數(shù)據(jù)和建模層基礎(chǔ)設(shè)施。

二、人工智能代理

“人工智能代理”一詞在 2023 年下半年成為一個流行詞。人工智能代理是一個程序或系統(tǒng)，可以感知其環(huán)境、推理、將給定任務(wù)分解為一組步驟、做出決策并采取行動。像人類一樣自主地完成這些特定任務(wù)的行動。

語言理解的終極意味著人類可以通過自然語言界面與人工智能程序進(jìn)行對話、指導(dǎo)和互動。但人工智能程序除了幫助和回答與信息任務(wù)相關(guān)的問題（例如搜索、提取或生成代碼和/或圖像）之外還能做更多的事情嗎？

人工智能代理能否擴(kuò)大當(dāng)今需要更多人工干預(yù)的任務(wù)自動化領(lǐng)域以及需要高層次思考、推理和解決問題的認(rèn)知任務(wù)？例如，執(zhí)行市場分析、風(fēng)險評估和投資組合優(yōu)化等任務(wù)。或者，執(zhí)行迄今為止由于復(fù)雜性或成本而不太可能自動化的復(fù)雜任務(wù)。當(dāng)今人工智能代理/技術(shù)承擔(dān)顯著提高業(yè)務(wù)生產(chǎn)力和人機(jī)界面的任務(wù)的能力主要因為有經(jīng)濟(jì)價所值驅(qū)動。

早期的研究嘗試圍繞數(shù)學(xué)相關(guān)活動、思想鏈/圖和基于LLM的多步驟推理框架來展示自動化復(fù)雜任務(wù)的能力。這些早期的預(yù)言遠(yuǎn)未達(dá)到構(gòu)建完全自主的信息代理應(yīng)用程序所需的目標(biāo)，但它們展示了可能性的潛力。

下顯示了一種架構(gòu)，該架構(gòu)提供了一種通用范式，該范式結(jié)合了推理和行動的進(jìn)步以及圍繞該范式的早期工作，例如“思想鏈”，以解決各種語言推理和決策任務(wù)。這種推理和行動與語言模型的耦合使這些程序能夠執(zhí)行決策任務(wù)。這種范式被稱為“ReAct”。

人工智能代理可以協(xié)助數(shù)據(jù)任務(wù)的自動化，例如數(shù)據(jù)分析、BI 儀表板開發(fā)、流程優(yōu)化、數(shù)據(jù)輸入、調(diào)度或基本客戶支持。他們還可以自動化整個工作流程，例如供應(yīng)鏈優(yōu)化和庫存管理。下面描述人工智能代理所采取的步驟，使用戶能夠通過動態(tài)創(chuàng)建想法/計劃并調(diào)整行動計劃來動態(tài)執(zhí)行推理任務(wù)，同時還可以與外部交互將附加信息合并到推理中。

1. 該流程的第一步是選擇一個任務(wù)，并提示LLM將一個問題分解為一堆想法（子提示）。
2. 步驟2、3、4，進(jìn)一步使LLM能夠打破這些一堆想法，并思考和推理出這些子想法。
3. 第 5 步到第 8 步使 LLM 能夠進(jìn)行外部交互，例如根據(jù)完成想法/任務(wù)所需的信息提取信息。
4. 自由形式的思想/行動集成用于實現(xiàn)不同的任務(wù)，例如分解問題、提取信息、執(zhí)行常識/算術(shù)推理、指導(dǎo)搜索制定和綜合最終答案。

人工智能信息代理是一種趨勢，這可能會持續(xù)多年；預(yù)計 2024 年將在代理基礎(chǔ)設(shè)施/工具以及早期采用方面取得重大進(jìn)展。需要指出的是，我們?nèi)绾卫斫猱?dāng)前人工智能架構(gòu)承擔(dān)更復(fù)雜任務(wù)的潛力，很大程度上仍然取決于潛力，而且還有很多未解決的問題。

盡管如此，企業(yè)必須以一種實用的方法來構(gòu)建代理應(yīng)用程序，并期望在某種程度上，與當(dāng)前人工智能技術(shù)的差距將呈現(xiàn)出越來越復(fù)雜的自動化，而且這種差距可能會逐年縮小。它還必須考慮未來 12 個月內(nèi)各個用例可能實現(xiàn)的自動化程度。此類項目的進(jìn)化路徑/旅程可能會通過此類努力取得更好的成功。

三、個性化人工智能堆棧

第三個趨勢包括通過三種方法個性化或定制模型和/或其響應(yīng)：

• 使用更多上下文數(shù)據(jù)微調(diào)模型。
• 改進(jìn)用于訓(xùn)練或微調(diào)模型的數(shù)據(jù)集，包括合成數(shù)據(jù)。
• 使用矢量搜索來利用具有相關(guān)數(shù)據(jù)的模型。

A 微調(diào)模型

雖然像 OpenAI 的 GPT-4 這樣的基礎(chǔ)模型為企業(yè)提供了一個機(jī)會來原型化生成式 AI 模型用例的潛力，但它們并沒有充分解決企業(yè)數(shù)據(jù)的隱私和安全性、所使用的可視化數(shù)據(jù)的開放性等問題訓(xùn)練此類模型的能力，針對特定要求對其進(jìn)行微調(diào)的能力，實現(xiàn)任何給定任務(wù)所需的準(zhǔn)確性以及總體成本價值主張。

為了超越原型和獲得更好結(jié)果的需求，我們可能會看到定制或特定任務(wù)的小語言模型 (SLM) 的興起，特別是在利基和垂直應(yīng)用程序中。這些模型將利用基礎(chǔ)/預(yù)訓(xùn)練基礎(chǔ)模型作為訓(xùn)練 SLM 或使用領(lǐng)域/企業(yè)數(shù)據(jù)進(jìn)行微調(diào)的起點。下圖顯示了模型微調(diào)的生命周期

簡化定制 SLM 的開發(fā)、實現(xiàn)此類模型的生命周期管理并將其從實驗到部署仍然是一項挑戰(zhàn)：

1. 基礎(chǔ)LLM選擇：有多個、易于理解的選項，但缺乏支持性的詳細(xì)評估可能會使選擇基礎(chǔ)模型變得混亂和令人畏懼。
2. 參考數(shù)據(jù)集：在訓(xùn)練和RLHF微調(diào)以及模型評估和測試過程中需要參考數(shù)據(jù)集。參考數(shù)據(jù)集的可用性和創(chuàng)建仍然很費力，通常是主觀的，并且很大程度上依賴于人類。原始任務(wù)/領(lǐng)域特定或合成數(shù)據(jù)的可用性可以顯著加快模型開發(fā)的速度并縮短開發(fā)時間。
3. 微調(diào)模型：將指令微調(diào)模型與現(xiàn)實世界對模型性能的期望進(jìn)行調(diào)整和調(diào)整所需的關(guān)鍵訓(xùn)練步驟之一是應(yīng)用人類反饋。這一步驟使模型能夠減少幻覺、偏見、危害并提高安全性。參數(shù)高效微調(diào) (PEFT) 和 RLHF 是流行的常用技術(shù)，有助于根據(jù)任務(wù)/領(lǐng)域特定上下文微調(diào)基礎(chǔ) LLM。盡管現(xiàn)有技術(shù)得到了顯著改進(jìn)，但由于語言響應(yīng)驗證的創(chuàng)造性，高質(zhì)量的任務(wù)/領(lǐng)域特定提示響應(yīng)對/數(shù)據(jù)集和參考數(shù)據(jù)集（包括所需的人類反饋）仍然是手動的、費力的，并且容易發(fā)生變化。
4. 測試和評估模型：對處理復(fù)雜的自然語言的微調(diào)模型的評估取決于任務(wù)創(chuàng)造力和響應(yīng)評估，這通常是手動和主觀的。雖然現(xiàn)在可以使用各種指標(biāo)和技術(shù)，但它們通常不足以評估模型。來自另一個參考或高級模型的響應(yīng)等技術(shù)用于生成參考評估數(shù)據(jù)集，以幫助提高評估階段的效率。模型還必須經(jīng)過安全性、偏差和危害測試。

微調(diào)模型所需任務(wù)的成功取決于仍不成熟的人工智能治理領(lǐng)域。人工智能治理是一種上升趨勢，需要提供模型的可解釋性，以建立信任并滿足監(jiān)管合規(guī)性。它還用于實時監(jiān)控任何性能下降、負(fù)責(zé)任的使用、成本和產(chǎn)品可靠性問題的及時響應(yīng)。

圍繞 AI 模型開發(fā)、生命周期管理、部署和監(jiān)控的工具可用性的興起，解決上述挑戰(zhàn)并簡化模型開發(fā)和生命周期管理，是 SLM 和任務(wù)特定模型成功的關(guān)鍵。

請注意，特定任務(wù)的人工智能模型仍處于實驗階段，還有很多未解決的問題。這將導(dǎo)致大量此類實驗可能會失敗。盡管如此，這個主題在 2024 年整個生態(tài)系統(tǒng)的投資將會增加。

B 高質(zhì)量數(shù)據(jù)生態(tài)系統(tǒng)

雖然使用數(shù)萬億個參數(shù)進(jìn)行訓(xùn)練的模型（例如 OpenAI 的 GPT-4）增加了它們的知識庫，但最近的實驗表明，使用更好數(shù)據(jù)的更小模型可能能夠超越 OpenAI 現(xiàn)在所說的非常大的 LLM 的“前沿模型”。 ”

通用模型和自定義模型的高質(zhì)量數(shù)據(jù)集的可用性仍然是一個大問題，且不受隱私和版權(quán)的影響。大多數(shù)LLM預(yù)培訓(xùn)都是基于基于互聯(lián)網(wǎng)的網(wǎng)絡(luò)抓取數(shù)據(jù)集、書籍和一些源于學(xué)術(shù)界或研究的實驗數(shù)據(jù)集。雖然可以為微調(diào)階段獲取一些數(shù)據(jù)集，但根據(jù)任務(wù)/領(lǐng)域，此類現(xiàn)成數(shù)據(jù)集的選擇會進(jìn)一步縮小。

通常，甚至沒有足夠的數(shù)據(jù)來訓(xùn)練模型。以欺詐為例。據(jù)推測，組織并沒有充斥著猖獗的欺詐行為，因此對欺詐場景的了解有限。但他們需要使用廣泛的欺詐可能性來訓(xùn)練模型。合成數(shù)據(jù)是提供高質(zhì)量數(shù)據(jù)以提高LLM研究和開發(fā)速度的答案。

合成數(shù)據(jù)可以定義為不是直接從任何現(xiàn)實世界數(shù)據(jù)獲得的數(shù)據(jù)，而是模仿現(xiàn)實世界數(shù)據(jù)的屬性和特征而人為創(chuàng)建的數(shù)據(jù)。綜合數(shù)據(jù)集可能是提供高質(zhì)量數(shù)據(jù)的辦法，以提高許多用例中的LLM研究和開發(fā)速度。

使用合成數(shù)據(jù)的主要優(yōu)點之一是它可以保護(hù)最終用戶的隱私，遵守版權(quán)問題，并使企業(yè)能夠滿足原始來源的隱私要求。也避免了信息的無意泄露，同時模型研發(fā)不斷取得進(jìn)展。合成數(shù)據(jù)對于滿足訓(xùn)練大型語言模型不斷增長的需求非常重要。通過正確的解決方案，可以以經(jīng)濟(jì)高效的方式解決大型語言模型所需的高質(zhì)量數(shù)據(jù)，并為人工智能研究、模型開發(fā)和評估提供持續(xù)動力。有一些想法可以使用前沿模型本身生成合成數(shù)據(jù)集。盡管如此，很明顯，創(chuàng)建和使用合成數(shù)據(jù)集有可能解決日益饑餓的模型對更多數(shù)據(jù)的需求。

我們知道，考慮到任務(wù)的性質(zhì)，這樣的生態(tài)系統(tǒng)/服務(wù)線在解決高質(zhì)量數(shù)據(jù)集的需求方面發(fā)揮作用有很大的動力。如今，各種初創(chuàng)公司和服務(wù)提供商專門致力于圍繞通用培訓(xùn)數(shù)據(jù)需求提供帶注釋的圖像和文本數(shù)據(jù)。然而，有可能進(jìn)一步擴(kuò)展這些服務(wù)，以包含領(lǐng)域/任務(wù)特定數(shù)據(jù)集的需求，這一趨勢可能會在 2024 年出現(xiàn)勢頭。

C 集成向量數(shù)據(jù)庫

選擇矢量數(shù)據(jù)庫具有挑戰(zhàn)性。有多種因素在起作用，包括可擴(kuò)展性、延遲、成本、每秒查詢次數(shù)等。傳統(tǒng)數(shù)據(jù)庫的主要用例是關(guān)鍵字查詢與使用上下文搜索。大多數(shù)企業(yè)應(yīng)用程序可能需要這兩種功能。因此，我們的選擇是在傳統(tǒng) DBMS 中引入矢量數(shù)據(jù)庫功能。

大多數(shù)未來的企業(yè)人工智能應(yīng)用程序都需要處理結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)。管理多個數(shù)據(jù)庫會導(dǎo)致效率低下、潛在的競爭條件、OLAP 數(shù)據(jù)與矢量數(shù)據(jù)庫中的矢量索引之間的數(shù)據(jù)不一致以及導(dǎo)致數(shù)據(jù)不一致的管理開銷。

因此，集成矢量數(shù)據(jù)庫最適合需要最佳查詢功能和語義搜索的應(yīng)用程序。例如，矢量數(shù)據(jù)庫不僅可以嵌入組織的財務(wù)報告，還可以對這些數(shù)據(jù)模型建立索引并將它們存儲在同一數(shù)據(jù)庫中，同時提供語義/相似性搜索功能。

許多 DBMS 和 Lakehouse 參與者正在將向量嵌入和搜索功能納入其現(xiàn)有產(chǎn)品中。隨著企業(yè)構(gòu)建和部署 LLM 用例，具有語義搜索功能的集成數(shù)據(jù)庫/湖屋可能會在 2024 年獲得進(jìn)一步的關(guān)注。

構(gòu)建人工智能應(yīng)用程序的最常見技術(shù)是檢索增強(qiáng)生成（RAG），它結(jié)合了LLM和組織業(yè)務(wù)數(shù)據(jù)來提供對自然語言問題的響應(yīng)。RAG 集成了一個流程，在調(diào)用 LLM 完成 API 之前，首先搜索矢量化數(shù)據(jù)的相似性，從而提高響應(yīng)準(zhǔn)確性。

我們看到兩個影響 RAG 用例的趨勢。其中之一與不斷增加的 LLM 上下文大小有關(guān)，它可以直接獲取輸入數(shù)據(jù)，而無需通過數(shù)據(jù)庫進(jìn)行路由。這降低了執(zhí)行額外且復(fù)雜的 RAG 步驟的需要。然而，這并沒有減少對矢量數(shù)據(jù)庫的需求，因為它們預(yù)先過濾了LLM的提示，這使得人工智能應(yīng)用程序具有成本效益和高性能。他們還可以緩存提示及其響應(yīng)，從而避免對 LLM 進(jìn)行不必要且昂貴的 API 調(diào)用以進(jìn)行重復(fù)查詢。這些精選數(shù)據(jù)將來可用于微調(diào)組織的 SLM。

四、人工智能治理

高管們要求他們的領(lǐng)導(dǎo)者快速跟蹤人工智能項目，因為他們渴望從所有結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)資產(chǎn)中提取前所未有的見解。然而，IT 領(lǐng)導(dǎo)者知道，將人工智能應(yīng)用到底層數(shù)據(jù)基礎(chǔ)設(shè)施絕非易事。他們知道人工智能應(yīng)用程序的成功取決于確保數(shù)據(jù)質(zhì)量、安全性、隱私和治理。因此，需要人工智能治理。但它到底是什么？

人工智能治理，就像數(shù)據(jù)治理一樣，需要一個共同的定義。事實上，人工智能治理應(yīng)該與數(shù)據(jù)治理齊頭并進(jìn)。

與傳統(tǒng)人工智能相比，生成式人工智能的用戶范圍要廣泛得多。此外， AI代理還引入了向量搜索、RAG和提示工程等新概念。因此，現(xiàn)代人工智能治理必須滿足多種角色的需求，例如模型所有者和驗證者、審計團(tuán)隊、數(shù)據(jù)工程師、數(shù)據(jù)科學(xué)家、MLOps 工程師、合規(guī)性、隱私和數(shù)據(jù)安全團(tuán)隊等。

在最高層面，人工智能治理需要跨兩個層面應(yīng)用

• 模型訓(xùn)練或微調(diào)：治理任務(wù)包括識別正確的數(shù)據(jù)源、其保真度、數(shù)據(jù)漂移、模型權(quán)重和評估結(jié)果。比較版本之間的模型指標(biāo)的能力可以進(jìn)一步幫助了解模型性能的趨勢。具體來說，在 CPU 和 GPU 上使用不同模型的每次迭代的訓(xùn)練成本是人工智能治理的重要考慮因素。目前，由于資源要求非常高，參與基礎(chǔ)模型訓(xùn)練的廠商很少。隨著近年來這些成本的下降，越來越多的團(tuán)隊正在進(jìn)行微調(diào)。隨著成本進(jìn)一步下降，我們可能會看到更多的組織或部門訓(xùn)練自己的模型。
• 模型使用/推理：治理任務(wù)需要確保業(yè)務(wù)使用安全。任務(wù)包括風(fēng)險識別和風(fēng)險緩解、模型的可解釋性、成本以及使用人工智能模型實現(xiàn)業(yè)務(wù)用例目標(biāo)的性能。

下圖顯示了人工智能治理計劃的構(gòu)建模塊。

人工智能治理計劃由四個構(gòu)建模塊組成：

1.模型發(fā)現(xiàn)

模型正在快速激增，反映了該領(lǐng)域的動態(tài)和不斷擴(kuò)展的性質(zhì)。到 2023 年底，Hugging Face 的模特數(shù)量已接近 50 萬。問題是，當(dāng)這些出現(xiàn)在您的人工智能框架（如 Google Cloud 的 Vertex Model Garden 或 AWS Bedrock）中時，開發(fā)人員將開始使用其中的一些，無論是否經(jīng)過風(fēng)險管理和合規(guī)團(tuán)隊的批準(zhǔn)。為了克服這個問題，許多人開始采用模型目錄。

在這里，目錄的目的是發(fā)現(xiàn)正在使用的模型、它們的版本號和批準(zhǔn)狀態(tài)。它還記錄了模型的所有者、其目的和用途。對于批準(zhǔn)的模型，目錄將顯示用于訓(xùn)練模型的數(shù)據(jù)集、模型的評估方式及其公平性評分。風(fēng)險記分卡捕獲模型的漏洞及其影響，并應(yīng)定期審查以確保風(fēng)險在閾值內(nèi)。

理想情況下，模型目錄應(yīng)該是數(shù)據(jù)目錄的擴(kuò)展，這樣就不存在數(shù)據(jù)和人工智能治理的碎片。

2.模型消費

在模型消費中，人工智能治理的重點是將業(yè)務(wù)用例映射到批準(zhǔn)的模型并識別數(shù)據(jù)安全風(fēng)險。人工智能治理的這一部分處理對企業(yè)數(shù)據(jù)的不安全使用、提示注入和數(shù)據(jù)丟失的擔(dān)憂。

它還負(fù)責(zé)跟蹤整個模型生命周期譜系，包括法律、CISO、CDO、審計師等的批準(zhǔn)，一直到模型退役?？刂频轿缓螅梢约涌炷Ｐ筒渴鸬缴a(chǎn)中的速度。

治理工具不僅應(yīng)該允許識別偏見、危害、泄露、知識產(chǎn)權(quán)侵權(quán)等領(lǐng)域的風(fēng)險，還應(yīng)該記錄風(fēng)險緩解策略。人工智能治理工具應(yīng)該有助于提供模型的可解釋性。

3.持續(xù)監(jiān)控

一旦部署了批準(zhǔn)的模型，他們需要有一種機(jī)制來跟蹤它們的大規(guī)模表現(xiàn)，并自動掃描響應(yīng)中是否存在幻覺和其他不安全內(nèi)容。人工智能模型的最大問題之一是它們的不確定性反應(yīng)可能會導(dǎo)致幻覺。因此，監(jiān)測準(zhǔn)確性和相關(guān)性非常關(guān)鍵。隨著更多人工智能模型在 2024 年投入生產(chǎn)，跟蹤其性能和成本將變得至關(guān)重要。

需要不斷監(jiān)控上述風(fēng)險領(lǐng)域是否存在無法解釋的變化和異常。在檢測到異常情況時，應(yīng)智能地發(fā)出警報和通知，而不會造成“警報疲勞”。

盡管數(shù)據(jù)安全和隱私任務(wù)貫穿人工智能治理的每個部分，但監(jiān)控用戶、他們的權(quán)利和相關(guān)的安全策略是一個重要組成部分。

4.風(fēng)險管理

模型記分卡、推理/使用監(jiān)控數(shù)據(jù)集和儀表板以及工作流程自動化對于維持人工智能應(yīng)用程序的健康以及及時采取補(bǔ)救措施以應(yīng)對預(yù)期性能的任何下降至關(guān)重要。自動化工作流程可以幫助創(chuàng)建數(shù)據(jù)和模型推理 KPI，并根據(jù)需要觸發(fā)警報，以確保模型所有者可以啟動補(bǔ)救措施。

該工具應(yīng)提供事件管理功能來記錄解決事件所采取的步驟。最后，工作流程應(yīng)允許評估遵守相關(guān)的人工智能法規(guī)，例如NIST 人工智能風(fēng)險管理框架。

人工智能治理是任何人工智能計劃取得成功的基礎(chǔ)。我們預(yù)計 2024 年傳統(tǒng)數(shù)據(jù)目錄公司等多個供應(yīng)商以及 IBM等大型平臺提供商將主要關(guān)注人工智能治理。Databricks 的 Unity Catalog 已經(jīng)將數(shù)據(jù)目錄與 AI 模型元數(shù)據(jù)融合在一起。

2023 年最后幾天發(fā)布的幾項新法規(guī)和標(biāo)準(zhǔn)進(jìn)一步加速了這一重點。從歐盟人工智能法案到ISO 42001 ，再到 OpenAI 的準(zhǔn)備框架，它們都旨在促進(jìn)負(fù)責(zé)任地使用人工智能。例如，OpenAI 框架有四個目標(biāo)——“跟蹤、評估、預(yù)測和保護(hù)”模型風(fēng)險。