ML模型治理是組織如何控制訪問、實現(xiàn)策略和跟蹤模型活動的總體過程。它是降低模型故障、法規(guī)遵從性和攻擊風險的必備工具。治理是使組織的底線和品牌風險最小化的基礎。具有有效的機器學習治理的組織不僅對模型在生產(chǎn)中的運行方式具有細粒度的控制和可見性，而且通過將AI/ML治理策略與其他IT策略集成，可以釋放操作效率。

[[418683]]

通過治理，組織可以了解可能影響模型結(jié)果的所有變量，這有助于他們快速識別和緩解可能降低結(jié)果準確性和應用程序性能的問題(如模型漂移)。隨著時間的推移，這些問題會直接影響企業(yè)的底線，侵蝕客戶對品牌的信任。

為什么組織要與機器學習治理斗爭?

治理是2021年各組織面臨的首要挑戰(zhàn)，因為它們競相擴大其ML能力，以在快速數(shù)字化的市場中保持競爭力(資料來源：2021年企業(yè)發(fā)展趨勢(ML報告)

當我們的客戶需要為他們的組織處理機器學習治理時，我們看到他們面臨五個主要的挑戰(zhàn)。

1.最佳做法不明確。我們?nèi)蕴幱贛L治理的早期階段，組織缺乏一個清晰的路線圖或規(guī)范性的建議來在他們自己獨特的環(huán)境中有效地實現(xiàn)它。

2.法規(guī)不明確。不斷變化和模棱兩可的監(jiān)管環(huán)境導致了不確定性，公司需要投入大量資源來維持合規(guī)性。那些跟不上的公司有失去競爭優(yōu)勢的風險。

3.現(xiàn)有的解決方案是手工的，不完整。即使是現(xiàn)在正在實施治理的組織，也在使用各種不同的工具和手工流程來實現(xiàn)治理。這樣的解決方案不僅需要不斷的維護，而且還可能造成覆蓋范圍上的嚴重差距。

4.ML不容易集成到現(xiàn)有的IT策略中。有效的機器學習治理需要與IT協(xié)作，但是大多數(shù)組織仍然將ML視為一個精品計劃，這使得它很難集成到更標準化的企業(yè)IT流程和技術棧中。

5.管理不善會給公司資產(chǎn)帶來風險。實施ML的公司面臨著品牌和底線的風險。漂移或理解不足的模型可能會削弱客戶對品牌的信任，而不受監(jiān)控的模型則可能導致生產(chǎn)失敗。

組織應該如何改進機器學習治理?

組織應該實現(xiàn)一個MLOps平臺來解決上述機器學習治理挑戰(zhàn)。Algorithmia是唯一一家提供具有所需功能的現(xiàn)成MLOps解決方案的供應商，否則組織將被迫拼湊起來并維護自己的解決方案。無論哪種方式，都有七個關鍵領域可以確保您能夠支持：

1.完整的模型目錄，包括模型風險文檔、用于培訓和預測的模型數(shù)據(jù)源描述、模型輸出的目的地和用途

2.基于風險梯度的靈活模型風險管理框架：高風險模型得到更多的驗證、測試和監(jiān)控，而低風險模型得到更輕松的處理，更多的責任委托給業(yè)務部門或模型開發(fā)人員

3.部署模型并將其集成到遺留系統(tǒng)和數(shù)據(jù)體系結(jié)構的有效過程

4.用于操作、管理和監(jiān)視生產(chǎn)中模型運行狀況的工具，使模型開發(fā)人員脫離模型操作

5.監(jiān)控模型準確性和數(shù)據(jù)一致性的工具，如果模型結(jié)果或輸入數(shù)據(jù)開始漂移或輸入數(shù)據(jù)質(zhì)量下降，這些工具將生成警報

6.一個集成的模型和數(shù)據(jù)變更管理過程，以便對數(shù)據(jù)或模型的變更進行適當?shù)臏y試和溝通，以防止令人不快的意外

7.標準審計報告和日志，以便審查員和審計員能夠?qū)彶槟Ｐ徒Y(jié)果、變更歷史記錄、數(shù)據(jù)錯誤或過去模型故障的記錄以及采取的措施。