人工智能(AI)和機(jī)器學(xué)習(xí)(ML)提供的好處已經(jīng)得到共識(shí)。這項(xiàng)技術(shù)可以幫助企業(yè)實(shí)現(xiàn)流程自動(dòng)化，通過(guò)數(shù)據(jù)分析獲得洞察力，并與客戶和員工建立聯(lián)系。

它可以幫助他們滿足不斷變化的市場(chǎng)需求，降低運(yùn)營(yíng)成本，并在當(dāng)下快節(jié)奏的數(shù)字世界中保持競(jìng)爭(zhēng)力。

[[418554]]

人力資源應(yīng)用人工智能

如今，許多主要的云服務(wù)提供商已經(jīng)在其服務(wù)包中提供人工智能功能，為那些可能難以負(fù)擔(dān)昂貴的人工智能工程師和數(shù)據(jù)科學(xué)家的企業(yè)普及這項(xiàng)技術(shù)。

對(duì)于人力資源團(tuán)隊(duì)來(lái)說(shuō)，人工智能的價(jià)值是顯而易見的。一張招聘啟事就會(huì)導(dǎo)致成百上千的求職者，手動(dòng)查看每個(gè)簡(jiǎn)歷往往是一項(xiàng)艱巨且耗時(shí)的任務(wù)。通過(guò)利用人工智能和機(jī)器學(xué)習(xí)技術(shù)，人力資源團(tuán)隊(duì)獲得了大規(guī)模評(píng)估應(yīng)聘者的能力，并大大提高了招聘推薦的效率。

人工智能誘發(fā)偏見對(duì)人力資源的影響

雖然人工智能為人力資源企業(yè)或部門提供了相當(dāng)明顯的好處，但它也帶來(lái)了相當(dāng)嚴(yán)重的挑戰(zhàn)和潛在的陷阱。對(duì)于任何AI系統(tǒng)，你必須正面解決最困難(但也是最關(guān)鍵)的一個(gè)問(wèn)題就是確保它沒(méi)有偏見。

這對(duì)人力資源的人工智能系統(tǒng)尤其重要，因?yàn)槿魏稳斯ぶ悄芤l(fā)的偏見都可能導(dǎo)致公司錯(cuò)失合格的求職者——而且通常是在所有人不知情的情況下。

還記得幾年前，亞馬遜(Amazon)因?yàn)樾詣e歧視，而不得不取消了用于篩選簡(jiǎn)歷的人工智能系統(tǒng)嗎?(深度閱讀：人工智能的幾次著名“翻車”)這是訓(xùn)練數(shù)據(jù)力量的一個(gè)完美的例子——盡管很不幸是負(fù)面的。當(dāng)時(shí)，亞馬遜的大多數(shù)員工都是男性，因此，為人工智能系統(tǒng)提供的算法，根據(jù)公司自己的數(shù)據(jù)進(jìn)行訓(xùn)練，最終將應(yīng)用程序與男性化的詞匯聯(lián)系起來(lái)。

在這樣做的過(guò)程中，合格的女性候選人完全被模型忽略了。因此，如果用于訓(xùn)練AI模型的數(shù)據(jù)是有偏見的，那么部署的AI系統(tǒng)也會(huì)有偏見。而且它將繼續(xù)無(wú)限期地強(qiáng)化這種偏見。

人工智能系統(tǒng)無(wú)論是外包還是企業(yè)自建，都需要更密切關(guān)注偏見問(wèn)題

在亞馬遜的案例中，用于篩選簡(jiǎn)歷的人工智能系統(tǒng)是公司內(nèi)部構(gòu)建的，并使用該公司自己的求職者的數(shù)據(jù)進(jìn)行培訓(xùn)。但大多數(shù)公司沒(méi)有資源為其人力資源部門建立內(nèi)部人工智能系統(tǒng)。因此，越來(lái)越多的人力資源團(tuán)隊(duì)將工作外包給Workday或谷歌Cloud等供應(yīng)商。 

現(xiàn)在比以往任何時(shí)候都更重要的是，人力資源團(tuán)隊(duì)必須承認(rèn)外包任何人工智能所帶來(lái)的巨大責(zé)任。不要只是盲目地接受和執(zhí)行你的AI供應(yīng)商的模型。您和您的團(tuán)隊(duì)需要反復(fù)審查系統(tǒng)，以確保它們沒(méi)有偏見。你需要不斷地問(wèn)自己：

• 哪些數(shù)據(jù)源(或數(shù)據(jù)源的組合)被用于訓(xùn)練模型?
• 模型使用哪些具體因素來(lái)做出決策?
• 結(jié)果是令人滿意的，還是有什么不正確的地方?系統(tǒng)是否需要暫時(shí)關(guān)閉并重新評(píng)估?

仔細(xì)審查培訓(xùn)數(shù)據(jù)非常重要，特別是在外包人工智能系統(tǒng)中。但這并不是減輕來(lái)自偏見工作環(huán)境的偏見數(shù)據(jù)的唯一途徑。

因此，你的人力資源團(tuán)隊(duì)也有責(zé)任評(píng)估公司內(nèi)部的偏見或不公平問(wèn)題。例如，在公司里男性是否比女性擁有更大的權(quán)力?哪些有問(wèn)題的行為長(zhǎng)期以來(lái)被認(rèn)為是可以接受的?數(shù)據(jù)是否來(lái)自不具代表性的群體?

公司文化的多樣性、公平性和包容性在融入人工智能時(shí)是絕對(duì)相關(guān)的，因?yàn)樗苿?dòng)了人工智能系統(tǒng)和結(jié)果的部署。記住，人工智能并不知道它是有偏見的。這取決于我們自己。

公平且不帶偏見地利用人工智能的三個(gè)最佳實(shí)踐

最終，人力資源團(tuán)隊(duì)需要了解他們的人工智能系統(tǒng)能做什么，不能做什么?，F(xiàn)在，你的人力資源團(tuán)隊(duì)不必是技術(shù)專家或理解驅(qū)動(dòng)人工智能模型的算法。

但他們確實(shí)需要知道，培訓(xùn)數(shù)據(jù)中反映了哪種偏見，偏見是如何融入公司文化的，以及人工智能系統(tǒng)是如何讓這些偏見延續(xù)下去的。

以下是三個(gè)策略最佳實(shí)踐，可以幫助你的人力資源團(tuán)隊(duì)以公平和公正的方式利用AI技術(shù)。

定期審計(jì)人工智能系統(tǒng)。無(wú)論您的系統(tǒng)是內(nèi)部構(gòu)建的還是外包給供應(yīng)商的，例行檢查收集的數(shù)據(jù)以培訓(xùn)模型和產(chǎn)生的結(jié)果。數(shù)據(jù)集是否足夠龐大和多樣?它是否包括有關(guān)受保護(hù)群體的信息，包括種族和性別?如果結(jié)果不令人滿意，不要猶豫關(guān)閉系統(tǒng)重新改變方向。

了解數(shù)據(jù)供應(yīng)鏈。當(dāng)依賴外包的現(xiàn)成人工智能系統(tǒng)時(shí)，要認(rèn)識(shí)到培訓(xùn)數(shù)據(jù)可能反映了供應(yīng)商自己的偏見或第三方數(shù)據(jù)集的偏見。同樣需要例行檢查和定期審核。

使用AI來(lái)增強(qiáng)，而不是取代。人工智能的能力正在迅速發(fā)展，但現(xiàn)實(shí)是人工智能仍然需要管理。由于涉及的風(fēng)險(xiǎn)，人力資源團(tuán)隊(duì)?wèi)?yīng)該利用人工智能來(lái)增強(qiáng)自己的作用，而不是放任自流。最終的招聘和人力資源決策仍需要人力來(lái)做。

人力資源團(tuán)隊(duì)處于一個(gè)獨(dú)特的位置，以公平和無(wú)偏見的方式利用人工智能技術(shù)，因?yàn)樗麄円呀?jīng)非常精通偏見和不公平的系統(tǒng)性問(wèn)題。

認(rèn)識(shí)到人工智能系統(tǒng)所要求的責(zé)任，并始終努力了解它們是如何接受培訓(xùn)并產(chǎn)生結(jié)果的。

如果操作正確，人工智能將幫助你的人力資源團(tuán)隊(duì)發(fā)現(xiàn)偏見，并及時(shí)糾正，提高人力資源職責(zé)的效率和效力，并選擇值得推薦的申請(qǐng)人和有價(jià)值的員工，使他們的職業(yè)生涯更加順利。