人工智能(AI)技術如今正在廣泛應用。人工智能治理之所以重要，是因為人工智能可以獲得更大的回報，但面臨很高的風險，如果做錯其后果會非常嚴重。

[[348667]]

組織必須從風險管理的角度進行治理。人工智能的主要風險因素包括以下幾個方面：

• 可以防止人工智能侵犯人們的隱私嗎?
• 能否消除人工智能驅(qū)動的應用程序中可能產(chǎn)生的社會和經(jīng)濟偏見?
• 能否確保人工智能驅(qū)動的過程對于人們完全透明、可解釋和可理解?
• 是否可以設計人工智能算法，以便始終清楚地表明人類對其算法結(jié)果的責任和義務?
• 是否可以將道德和道德原則納入人工智能算法中，以便它們將人類的全部考慮因素權衡可能會導致生死攸關的決定?
• 是否可以自動使人工智能應用程序與利益相關者的價值觀保持一致，或者至少在特殊情況下獲得抵御的能力，從而防止惡意機器人在自主決策場景中出現(xiàn)?
• 在不確定性太大而無法證明自主行動正當性的情況下，能否遏制人工智能驅(qū)動的決策?
• 是否可以制定故障保護程序，以便當人工智能自動化應用程序達到其能力極限時，人類可以收回控制權?
• 即使需要動態(tài)適應不斷變化的環(huán)境，能否確保人工智能驅(qū)動的應用程序以一致、可預測的方式運行，而沒有意外的副作用?
• 能否保護人工智能應用程序免受旨在利用其底層統(tǒng)計算法漏洞的敵對攻擊?
• 當環(huán)境數(shù)據(jù)與受過訓練的環(huán)境有很大出入時，是否可以設計優(yōu)雅地而不是災難性地失敗的人工智能算法?

基于軟件的流水線自動化的人工智能治理

如果在基于軟件的開發(fā)和運營(DevOps)流程中沒有適當?shù)乜刂七m當?shù)目丶?，那么人工智能治理將毫無用處。

人工智能應用程序是由數(shù)據(jù)科學家、數(shù)據(jù)工程師、數(shù)據(jù)管理員和其他人組成的團隊在復雜的工作流程中構(gòu)建、培訓、部署和管理的。為了滿足這一需求，許多組織正在將人工智能治理控制構(gòu)建到其MLOps過程中。本質(zhì)上，這需要策略驅(qū)動的流程自動化，這些流程管理數(shù)據(jù)、統(tǒng)計模型、元數(shù)據(jù)，以及用于構(gòu)建、培訓和部署人工智能應用程序的其他構(gòu)件。它還需要工具來監(jiān)視人工智能應用程序在其生命周期中的使用、行為和結(jié)果。

任何人工智能驅(qū)動過程的典型風險是不知道組織是否可以信任一個已部署的統(tǒng)計模型來準確可靠地完成分配的任務。如果一個統(tǒng)計模型的預測適合度下降到無法完成其指定任務(如識別人臉、理解人類語言或預測客戶行為)的程度，那么對于構(gòu)建和部署它的組織來說，這基本上是無用的。

因此，人工智能治理的核心功能是模型保證。這是一種確定人工智能應用程序的機器學習模型是否能夠預測適合其分配任務的能力，如果不適合，則將其重新放回原處。

然而，預測精度可能是一個難以保證的性能指標。人工智能的統(tǒng)計模型通常以人工神經(jīng)網(wǎng)絡的形式實現(xiàn)，可能是如此的復雜和神秘，以至于它們掩蓋了它們實際上是如何驅(qū)動自動推理的。同樣令人擔憂的是，基于統(tǒng)計的應用程序可能會無意中混淆其自動決策可能產(chǎn)生的任何偏見和其他不利后果的責任。此外，這些概率模型可能很少被評估和重新訓練，導致曾經(jīng)適合特定目的的模型現(xiàn)在已經(jīng)失去了預測能力。

在MLOps平臺中嵌入人工智能模型保證

將業(yè)務押注在人工智能驅(qū)動流程上的組織必須考慮，是將模型保證作為其MLOps平臺的一項嵌入式功能，還是從專注于這一令人興奮的利基市場的初創(chuàng)供應商那里獲得。

幸運的是，越來越多的數(shù)據(jù)科學DevOps環(huán)境提供了可靠的模型保證。這些工具的最新一代利用云原生基礎設施來部署和管理穩(wěn)定的人工智能模型流，并且代碼構(gòu)建一直到邊緣。商業(yè)產(chǎn)品中的主要產(chǎn)品是：

• 谷歌云人工智能平臺提供持續(xù)評估等模型質(zhì)量保證功能，讓數(shù)據(jù)科學家將模型預測與實際情況標簽進行比較，以獲得持續(xù)反饋，并優(yōu)化模型精度。
• H2O.ai無人駕駛?cè)斯ぶ悄芴峁┝素S富的模型質(zhì)量保證功能。它支持分析一個模型是否會對不同的人口群體產(chǎn)生不同的不利結(jié)果，即使它的設計并沒有考慮到這種結(jié)果。它可以自動監(jiān)控已部署模型的預測衰減;為A/B測試建立替代模型的基準;以及在需要重新校準、重新培訓和以其他方式維護模型以使其為生產(chǎn)做好準備時向系統(tǒng)管理員發(fā)出警報。
• Microsoft Azure機器學習MLOps可以通知機器學習生命周期中的事件并發(fā)送警報，例如實驗完成、模型注冊、模型部署和數(shù)據(jù)漂移檢測。它可以監(jiān)視機器學習應用程序的模型特定指標，并提供機器學習基礎設施的監(jiān)視和警報。它還可以根據(jù)新數(shù)據(jù)和其他操作和業(yè)務因素自動重新培訓、更新和重新部署模型。
• Amazon SageMaker Model Monitor持續(xù)監(jiān)視AWS Sagemaker云計算服務中的機器學習模型，檢測諸如數(shù)據(jù)漂移之類的偏差，這些偏差會隨著時間的推移降低模型性能，并警告用戶采取補救措施，例如審核或再培訓模型?？梢园才疟O(jiān)視作業(yè)按常規(guī)節(jié)奏運行，可以將摘要指標推送到Amazon CloudWatch以設置警報和觸發(fā)器以采取糾正措施，并支持Amazon SageMaker支持的多種實例類型。
• Superwise的人工智能保證提供了一個實時平臺，用于監(jiān)控和維護已部署人工智能模型的準確性。它使涉眾能夠在部署的人工智能模型產(chǎn)生負面業(yè)務影響之前發(fā)現(xiàn)模型衰退和其他問題。它標記了模型的不精確性，這些誤差源于人工智能模型的數(shù)據(jù)變化。它還可以捕捉到與模型部署到的業(yè)務環(huán)境中的變化相關聯(lián)的不精確性。它為數(shù)據(jù)科學團隊提供了前瞻性的建議，以采取人工操作來保持模型的準確性、公正性以及其他方面的適用性。它還可以自動執(zhí)行一些糾正措施，以防止模型漂移到潛在的次優(yōu)領域。

結(jié)論

雖然人工智能并不是公眾的威脅，但現(xiàn)實情況是，可能會看到更多的司法管轄區(qū)加強了這項技術的監(jiān)管規(guī)定。

隨著人們進入20世紀20年代，從最好的和最壞的意義上講，人工智能應用將是最具顛覆性的技術。如果擴散不受監(jiān)控和控制，則錯誤的人工智能模型將給社會造成嚴重破壞。人工智能的某些風險來自技術特定構(gòu)造中的設計限制。其他原因可能是由于對實時人工智能應用程序的運行時管理不足。還有其他一些可能是該技術難以理解的機器學習、深度學習和人工智能依賴的其他統(tǒng)計模型的“黑盒”復雜性所固有的。

為了減輕這些風險，組織將越來越多地要求在每個部署場景中對這些模型的性能進行自動化治理。