在過(guò)去的一年里，我曾與數(shù)百位客戶面談，討論 AI 如何改變了他們對(duì)事物可能性的認(rèn)識(shí)。我們討論了如何通過(guò)算法應(yīng)用實(shí)現(xiàn)智能分診，從而減少醫(yī)護(hù)人員的工作量;如何實(shí)現(xiàn)準(zhǔn)確的語(yǔ)言翻譯，從而將記者與全球各地的觀眾聯(lián)系在一起;如何實(shí)現(xiàn)自動(dòng)響應(yīng)常見請(qǐng)求，從而減少客戶服務(wù)等待時(shí)間。我們能夠應(yīng)用 AI 幫助客戶解決如此之多的業(yè)務(wù)問(wèn)題，這著實(shí)令我感到驚訝，但這些客戶也在一定程度上表達(dá)了對(duì) AI 的猶疑和擔(dān)心。

在這項(xiàng)技術(shù)的幫助下，我們實(shí)現(xiàn)了很多超乎想象的事情，但這同時(shí)也有可能帶來(lái)意料之外的后果。我們有許多客戶都在問(wèn)：我們?nèi)绾尾拍軓?AI 中獲益同時(shí)又避免其帶來(lái)的挑戰(zhàn)? 

NCSA Mosaic 網(wǎng)絡(luò)瀏覽器，發(fā)布于 1993 年

為便于從討論中得出正確的觀點(diǎn)，我經(jīng)常會(huì)從上面這張圖片說(shuō)起。這是在 1993 年面世的 Mosaic 網(wǎng)絡(luò)瀏覽器，在我看來(lái)，2018 年 AI 技術(shù)的現(xiàn)況就好比當(dāng)年的 Mosaic 網(wǎng)絡(luò)瀏覽器。與上世紀(jì) 90 年代中期的網(wǎng)絡(luò)技術(shù)類似，現(xiàn)時(shí)的 AI 正經(jīng)歷著從學(xué)術(shù)領(lǐng)域到主流技術(shù)的快速轉(zhuǎn)變?；ヂ?lián)網(wǎng)革命讓我們受益良多，但同時(shí)也給我們帶來(lái)了諸多風(fēng)險(xiǎn)，我們有責(zé)任考慮擺在我們面前的各種可能性。畢竟，像電子郵件和短信等技術(shù)讓我們很輕松就能保持聯(lián)系，要看到這一點(diǎn)并不難，但要想象這類技術(shù)在惡意軟件和網(wǎng)絡(luò)霸凌等現(xiàn)象蔓延中所起的作用卻不那么容易。

相較網(wǎng)絡(luò)技術(shù)發(fā)展早期時(shí)產(chǎn)生的問(wèn)題，未來(lái)十年我們可能會(huì)遇到更加復(fù)雜棘手的挑戰(zhàn)，但我們的客戶如此熱切地主動(dòng)迎接挑戰(zhàn)，讓我備受鼓舞。事實(shí)上，同樣的問(wèn)題往往會(huì)反復(fù)出現(xiàn)：

• 不公平的偏見：我們?nèi)绾文軌虼_定我們的機(jī)器學(xué)習(xí)模型對(duì)每位用戶一視同仁?
• 可解釋性：我們?nèi)绾文軌蜃?AI 更加透明，從而更好地理解它的建議?
• 改變員工：我們?nèi)绾文軌蜇?fù)責(zé)任地利用自動(dòng)化技術(shù)的力量，同時(shí)確保現(xiàn)在的員工為未來(lái)做好準(zhǔn)備?
• 正確利用：最后，我們?nèi)绾文軌虼_定我們正在將 AI 用于正途?

不公平的偏見

我們很容易認(rèn)為算法是客觀的，而且絕對(duì)可靠，但事實(shí)是，機(jī)器學(xué)習(xí)模型的可靠性有賴于訓(xùn)練模型時(shí)使用的數(shù)據(jù)。此外，由于負(fù)責(zé)尋找、組織和標(biāo)記這些數(shù)據(jù)的都是人類，因此即便是最輕微的不規(guī)范行為，也很容易在結(jié)果中造成重大差異。更糟糕的是，算法的執(zhí)行速度遠(yuǎn)非人類所能及，再加上是在全球范圍內(nèi)執(zhí)行，因此不公平的偏見不僅被重復(fù)，而且還有所擴(kuò)大。

雖然不公平的偏見可能是蓄意偏見的產(chǎn)物，但我們的盲點(diǎn)卻發(fā)揮著更普遍的作用。例如，我們往往會(huì)被能夠證實(shí)自己信念的人和觀點(diǎn)所吸引，而對(duì)置疑我們信念的人和觀點(diǎn)，則容易回避。這種現(xiàn)象被稱為證實(shí)性偏見，它甚至可以扭曲最有善意的開發(fā)者的看法。

此外，由于我們身邊已經(jīng)發(fā)現(xiàn)有不公平的偏見，因此即便是如實(shí)收集的數(shù)據(jù)，也可以反映這種偏見。例如，大量的歷史文本經(jīng)常用于訓(xùn)練涉及自然語(yǔ)言處理或翻譯的機(jī)器學(xué)習(xí)模型，如不改正，可能會(huì)使這種有害的成見持續(xù)下去。Bolukbasi 等人的開創(chuàng)性研究以令人震驚的清晰度量化了這一現(xiàn)象，證明統(tǒng)計(jì)語(yǔ)言模型能夠非常輕松地 “學(xué)習(xí)” 關(guān)于性別的過(guò)時(shí)假設(shè)，例如 “醫(yī)生” 是 “男性”，“護(hù)士” 是 “女性”。與此相似的嵌入性偏見問(wèn)題在種族方面也有體現(xiàn)。

我們正在多個(gè)領(lǐng)域處理這些問(wèn)題，其中以感知領(lǐng)域最為重要。為了促進(jìn)人們更廣泛地理解公平對(duì)于機(jī)器學(xué)習(xí)等技術(shù)的必要性，我們創(chuàng)建了教育資源，例如 ml-fairness.com，并在 ML 教育速成課程中新近推出公平性模塊。

我們還看到一種鼓舞人心的趨勢(shì)，即借助文檔記錄來(lái)更好地理解機(jī)器學(xué)習(xí)解決方案中的內(nèi)容。今年早些時(shí)候，研究人員提出了一種記錄數(shù)據(jù)集的正式方法，這種方法特別適用于數(shù)據(jù)集包含以人為中心的信息或人口統(tǒng)計(jì)敏感信息的情況。以此觀點(diǎn)為基礎(chǔ)，Google 的研究人員提出了 “模型卡片”，這是一種用于描述機(jī)器學(xué)習(xí)模型的目標(biāo)、假設(shè)、性能指標(biāo)、甚至倫理道德考量的標(biāo)準(zhǔn)化格式。一目了然，模型卡片旨在幫助開發(fā)者(無(wú)論是否有 ML 專業(yè)知識(shí))在掌握信息的情況下決定負(fù)責(zé)任地使用給定組件。

當(dāng)然，我們一直致力于為開發(fā)者提供值得信賴的工具，在挑戰(zhàn)偏見方面也是一樣。首先從嵌入式文檔開始，例如包容性 ML 指南，我們將該指南集成在 AutoML 中，并擴(kuò)展到類似 TensorFlow Model Analysis (TFMA) 和 What-If Tool 等工具，該指南為開發(fā)者提供所需的分析數(shù)據(jù)，使其確信他們的模型會(huì)公平對(duì)待所有用戶。TFMA 可以輕松將模型在用戶群體的不同環(huán)境、特征和子集下的性能表現(xiàn)可視化，而 What-If 支持開發(fā)者輕松運(yùn)行反設(shè)事實(shí)，闡明關(guān)鍵特征(例如給定用戶的人口屬性)逆轉(zhuǎn)時(shí)可能會(huì)發(fā)生的情況。這兩個(gè)工具都可以提供沉浸式互動(dòng)方法，用于詳細(xì)探索機(jī)器學(xué)習(xí)行為，幫助您識(shí)別公平性和代表性方面的失誤。

最后，我們計(jì)劃通過(guò)數(shù)據(jù)科學(xué)平臺(tái) Kaggle 充分發(fā)揮社區(qū)的力量。我們最近推出的包容性圖像挑戰(zhàn)賽主要解決圖像訓(xùn)練集中地理多樣性偏差的問(wèn)題，這一問(wèn)題導(dǎo)致分類器經(jīng)常難以描述來(lái)自代表人數(shù)不足地區(qū)的人。參賽者面臨的挑戰(zhàn)是構(gòu)建能夠在無(wú)需整合新數(shù)據(jù)的前提下更好地在不同地理環(huán)境間進(jìn)行泛化的模型，從而打造出更加包容、可靠的工具，以便更好地為全球用戶群提供服務(wù)。在此項(xiàng)任務(wù)中取得的進(jìn)展將應(yīng)用于其他領(lǐng)域，我們對(duì)此很樂觀，同時(shí)也很高興在 2018 年的神經(jīng)信息處理系統(tǒng)大會(huì)上展示這些成果。

對(duì)于目前采取的這些做法，我們深感自豪，我相信這些知識(shí)和我們正在開發(fā)的工具具有深遠(yuǎn)的意義，必將促進(jìn) AI 技術(shù)的公平性。但沒有一家公司能夠獨(dú)自解決如此復(fù)雜的問(wèn)題。這場(chǎng)對(duì)抗不公平偏見的斗爭(zhēng)將是一次集體行動(dòng)，由許多利益相關(guān)者的投入共同推動(dòng)，我們會(huì)傾聽多方意見。世界不斷變化，我們也將繼續(xù)學(xué)習(xí)。

可解釋性

AI 如何能夠真正贏得我們的信任?這屬于一個(gè)更基本的問(wèn)題，但其緊迫性絲毫不亞于應(yīng)對(duì)不公平偏見的挑戰(zhàn)。隨著機(jī)器學(xué)習(xí)在決策領(lǐng)域發(fā)揮的作用越來(lái)越大(這曾經(jīng)是人類的專屬領(lǐng)域)，答案將越來(lái)越多地依靠一個(gè)關(guān)鍵因素：可說(shuō)明性。

許多深度學(xué)習(xí)算法自誕生起就一直被人們視作 “神秘黑匣” 般的存在，這是因?yàn)榫瓦B它們的創(chuàng)造者也難以準(zhǔn)確表達(dá)輸入和輸出之間究竟發(fā)生了什么。如果我們繼續(xù)把 AI 當(dāng)作 “神秘黑匣” 看待，那我們就不能指望得到人們的信任，因?yàn)樾湃卧醋粤私狻?duì)于傳統(tǒng)軟件，我們可以通過(guò)逐行檢查源代碼來(lái)揭示其中的邏輯，但神經(jīng)網(wǎng)絡(luò)是一個(gè)通過(guò)暴露在數(shù)千乃至數(shù)百萬(wàn)個(gè)訓(xùn)練示例中而形成的密集連接網(wǎng)絡(luò)，所以結(jié)果只能是折衷一下，取靈活性而損直觀解釋性。

隨著最佳實(shí)踐的建立，成套工具的增多，再加上大家都在努力從開發(fā)周期伊始就獲得可解釋的結(jié)果，我們這方面的工作正在不斷取得進(jìn)展。事實(shí)上，在今年早些時(shí)候發(fā)布構(gòu)建負(fù)責(zé)任的 AI 系統(tǒng)的原則之時(shí)，我們就已將可解釋性列為四大基礎(chǔ)支柱之一。

目前，我們看到業(yè)界已經(jīng)在現(xiàn)實(shí)中考慮可解釋性這一問(wèn)題。例如，在圖像分類領(lǐng)域，Google AI 最近的研究演示了一種表現(xiàn)人性化概念的的方法，例如條紋狀皮毛或卷發(fā)，然后在給定圖像中量化這些概念的普遍性。由此產(chǎn)生的分類器能夠根據(jù)對(duì)人類用戶最有意義的特點(diǎn)來(lái)清楚表達(dá)其推理過(guò)程。例如，它可能將圖像歸類為 “斑馬”，部分原因在于 “條紋” 特征較明顯，而 “圓點(diǎn)花紋” 特征相對(duì)不夠明顯。實(shí)際上，研究人員正在試驗(yàn)將這種方法應(yīng)用于糖尿病視網(wǎng)膜病變的診斷，它可以使輸出更加透明，當(dāng)專家不同意模型的推理時(shí)，甚至允許對(duì)模型進(jìn)行調(diào)整。

改變員工

無(wú)可否認(rèn)，我們與工作的關(guān)系正在發(fā)生變化，我們有許多客戶都想知道應(yīng)該如何平衡自動(dòng)化技術(shù)的潛力與員工的價(jià)值。

不過(guò)，我認(rèn)為自動(dòng)化技術(shù)的未來(lái)并非一場(chǎng)零和游戲。PWC 最近的一份報(bào)告顯示，67% 的高管認(rèn)為通過(guò)人工智能和人類智能相結(jié)合，AI 將助推人類和機(jī)器協(xié)同工作，發(fā)揮更強(qiáng)大的作用。

另外，我們必須記往一點(diǎn)，工作很少會(huì)是單一的。大多數(shù)工作都是由無(wú)數(shù)不同任務(wù)組成，從高度創(chuàng)新到重復(fù)性任務(wù)，每一項(xiàng)任務(wù)都會(huì)在特定程度上受到自動(dòng)化的影響。例如，在放射醫(yī)學(xué)中，算法發(fā)揮著輔助作用，通過(guò)自動(dòng)評(píng)估簡(jiǎn)單常見的癥狀，讓人類專家可以集中精力應(yīng)對(duì)更具挑戰(zhàn)性的任務(wù)，同時(shí)更快、更持續(xù)地工作。

然而，某些類別的工作面對(duì)的變化要比其他工作更加緊迫，并且要做出更多努力才能緩和這種轉(zhuǎn)變。為此，Google.org 拿出了 5,000 萬(wàn)美元的資金，用于支持非盈利組織從三大方面為未來(lái)的工作做好準(zhǔn)備：

• 提供終身培訓(xùn)和教育，讓工人能夠滿足工作要求
• 根據(jù)技能和經(jīng)驗(yàn)，將潛在員工與理想的工作機(jī)會(huì)聯(lián)系起來(lái)
• 為從事低收入工作的工人提供支持

當(dāng)然，這只是第一步，我們期待在未來(lái)幾年中為越來(lái)越多的類似舉措提供支持。

正確利用

最后，還有一個(gè)最重要的問(wèn)題：“如何能夠確定我正在運(yùn)用 AI 給人們的生活帶來(lái)積極影響?”

這是一個(gè)很難回答的問(wèn)題，由于我們傾向于關(guān)注 AI 在極端情況下的行為，因此回答這一問(wèn)題變得更加困難。例如，采用倫敦動(dòng)物學(xué)會(huì)的做法，使用 AutoML 以低成本方式監(jiān)控瀕危物種，這無(wú)疑是一個(gè)好方法，幾乎沒人會(huì)否認(rèn)這點(diǎn)。我們也親眼目睹 Google 的開源機(jī)器學(xué)習(xí)框架 TensorFlow 如何幫助 Rainforest Connection 對(duì)抗非法森林采伐，幫助農(nóng)民識(shí)別患病植株，以及預(yù)測(cè)發(fā)生森林大火的可能性。此外，我們的 AI 造福社會(huì) (AI for Social Good) 計(jì)劃最近宣布撥款 2,500 萬(wàn)美元，用于資助以解決人道主義和環(huán)境挑戰(zhàn)為目標(biāo)的 AI 研究。 我們的變革應(yīng)對(duì)數(shù)據(jù)解決方案 (Data Solutions for Change) 計(jì)劃將繼續(xù)幫助非盈利組織和 NGO(非政府組織)利用目標(biāo)導(dǎo)向分析來(lái)應(yīng)對(duì)失業(yè)問(wèn)題，檢測(cè)阿茲海默癥，創(chuàng)建更多可持續(xù)的食品系統(tǒng)以及優(yōu)化社區(qū)規(guī)劃。

但是，這里有一個(gè)巨大的 “灰色" 地帶，特別是像 AI 武器這種有爭(zhēng)議的領(lǐng)域，這個(gè) “灰色” 地帶就是我們?cè)?AI 原則中所述決定不去追尋的技術(shù)應(yīng)用領(lǐng)域。在具有爭(zhēng)議的用例可能性方面，我們的客戶認(rèn)為自己身處各種不同境地，希望我們能夠幫助他們徹底想清楚 AI 對(duì)其業(yè)務(wù)的意義。

我們正在與客戶和產(chǎn)品團(tuán)隊(duì)合作，共同解決這些領(lǐng)域的問(wèn)題。關(guān)于這個(gè)問(wèn)題，為了能夠掌握資訊并帶來(lái)更多外部視角，我們尋求了技術(shù)倫理學(xué)家 Shannon Vallor 的幫助(她為 Cloud AI 提供咨詢)，請(qǐng)她協(xié)助我們理解這個(gè)不斷發(fā)展的 “灰色” 地帶，以及我們的工作該如何融入其中。 從內(nèi)部的 AI 倫理最佳實(shí)踐教育計(jì)劃到 AI 原則落實(shí)方面的咨詢建議，她從專家視角為 Cloud AI 介紹了如何通過(guò)倫理設(shè)計(jì)、分析和決策來(lái)引領(lǐng)這項(xiàng)技術(shù)的發(fā)展。例如，倫理設(shè)計(jì)原則可以用于幫助我們構(gòu)建更加公平的機(jī)器學(xué)習(xí)模型。審慎的倫理分析能夠幫助我們了解視覺技術(shù)的哪些潛在用途是不恰當(dāng)、有害或具侵入性的。倫理決策實(shí)踐可以幫助我們更好地推理具有挑戰(zhàn)性的兩難困境和復(fù)雜的價(jià)值權(quán)衡，例如是否在 AI 應(yīng)用中將透明度或隱私放在優(yōu)先位置，更多的透明度意味著更少的隱私，反之亦然。

共同打造 AI 的未來(lái)

對(duì)于前方的所有不確定因素，有一件事非常清楚：構(gòu)建 AI 的未來(lái)，所需要的遠(yuǎn)不只是技術(shù)。這需要我們共同努力，同樣有賴于工具、信息，以及對(duì)世界產(chǎn)生積極影響的共同愿望。

正因此，這并非一份宣言，而是一場(chǎng)對(duì)話。雖然我們渴望分享多年來(lái)在技術(shù)最前沿學(xué)到的知識(shí)，但沒有人比您更了解您客戶的需求，而且這兩種視角都將在構(gòu)建公平、負(fù)責(zé)任和值得信賴的 AI 中發(fā)揮至關(guān)重要的作用。畢竟，每個(gè)行業(yè)都在面臨自己的 AI 革命，因此，就引領(lǐng) AI 的發(fā)展而言，每個(gè)行業(yè)都不可或缺。我們期待與您展開持續(xù)對(duì)話，一起聊聊如何讓承諾變?yōu)楝F(xiàn)實(shí)。

作者：Rajen Sheth, Director of Product Management, Cloud AI