RegTech 公司Hawk: AI的首席技術(shù)官沃爾夫?qū)げ{(Wolfgang Berner)的表示，如果你真的可解釋性對于許多應(yīng)用尤為關(guān)鍵。

伯納表示:“在反洗錢等嚴格監(jiān)管的領(lǐng)域，考慮人工智能的使用透明度和可解釋性是完全合適的。當AI的決策與原始數(shù)據(jù)過于脫節(jié)，以及算法的工作方式缺乏透明度時，人們就會對這種典型的“黑匣子AI”產(chǎn)生擔憂?！?/p>

Hawk AI認為，合規(guī)行業(yè)、信任和接受的關(guān)鍵在于高度的透明度。因此，對于該公司來說，對人工智能可解釋性的需求遠遠超出了純粹的監(jiān)管要求。

借助可理解的人工智能，金融機構(gòu)甚至可以對神經(jīng)網(wǎng)絡(luò)等復(fù)雜模型進行概覽和控制。對于 Hawk AI，可解釋性由兩個方面組成——人工智能驅(qū)動的個人決策的理由是什么？有助于人工智能的算法是如何開發(fā)的？

Hawk AI 表示：“對于 Hawk AI 來說，這很清楚——只有技術(shù)上可以解釋的，最終才會被接受。決策的確切標準或某些風險的統(tǒng)計概率以及算法的組成與 AI 決策過程的完整文檔一樣重要。同樣重要的是，所有這些都以清晰易懂的語言而不是純粹的技術(shù)術(shù)語來表達?！?/p>

該公司認為，每個細節(jié)和每個數(shù)據(jù)源都必須是可驗證的——例如，與特定同行組相比，某些值是顯著高還是低。為什么人工智能假設(shè)某些預(yù)期值以及這些值如何相互關(guān)聯(lián)，必須是透明的。數(shù)據(jù)情況必須非常清楚，以至于合規(guī)官會使用相同的數(shù)據(jù)做出相同的決定。

此外，一致的反饋和驗證流程有助于不斷改進決策——因此，人工智能直接從合規(guī)團隊的決策中學習，并可以在未來更好地支持他們。

Hawk 提到，AI 不僅在其應(yīng)用之初必須是透明的——因為它通過接觸新數(shù)據(jù)來獨立改進，還需要能夠理解這樣的優(yōu)化。為此，該公司聲稱 AI 的每一個變更過程也都記錄在軟件中，并且需要明確的批準。因此，如果沒有合規(guī)團隊能夠理解和控制它，人工智能就永遠不會進化。

Hawk AI 總結(jié)道：“AI 反洗錢已經(jīng)準備就緒——有了 Hawk AI，它是透明且安全的。由于這些原因，Hawk AI 談到了與人工智能相關(guān)的“白盒 AI”，與“黑盒 AI”相比，其技術(shù)對于合規(guī)團隊來說是完全可以理解的。因此，我們的軟件提供了完全的控制和安全性。人工智能在金融領(lǐng)域的應(yīng)用正在徹底改變打擊金融犯罪的斗爭。

“技術(shù)驅(qū)動的反洗錢不僅在效率和有效性方面明顯超越了傳統(tǒng)系統(tǒng)，而且由于它能夠從犯罪行為模式中學習，因此特別具有前瞻性。因此，從長遠來看，使用人工智能打擊金融犯罪將成為行業(yè)標準。多年來，該技術(shù)已在實踐中得到驗證。即使在非常大的金融機構(gòu)中，它今天已經(jīng)在使用，或者至少在第一批試點中已經(jīng)建立。”

Hawk AI 已與推動金融和零售互聯(lián)商務(wù)的領(lǐng)導(dǎo)者 Diebold Nixdorf 合作，以擴大前者的 AML 解決方案的覆蓋范圍。