?微軟正在逐步禁止公眾使用一些人工智能面部分析工具，包括一款聲稱可以從視頻和圖片中識別對象情緒的工具。

這種“情感識別”工具受到了專家的批評。他們說，人們普遍認(rèn)為面部表情在不同人群中是不同的，而且把外在的情緒表現(xiàn)與內(nèi)在的情感等同起來是不科學(xué)的。因?yàn)闄C(jī)器可以察覺到怒容，但這與察覺到憤怒不是一回事。

這一決定是微軟人工智能倫理政策大改革的一部分。該公司更新的負(fù)責(zé)任人工智能標(biāo)準(zhǔn)(于2019年首次提出)強(qiáng)調(diào)問責(zé)制，以找出誰使用了其服務(wù)，并加強(qiáng)對這些工具的應(yīng)用領(lǐng)域的人力監(jiān)督。

實(shí)際上，這意味著微軟將限制對其面部識別服務(wù)(被稱為Azure Face)的某些功能的訪問，并完全刪除其他功能。用戶必須申請使用Azure Face進(jìn)行面部識別，例如，告訴微軟他們將如何使用以及在哪里部署其系統(tǒng)。一些危害性較小的用例(如圖像和視頻中自動模糊人臉)將保持開放訪問。

除了移除公眾對其情感識別工具的訪問權(quán)限，微軟還取消了Azure Face識別“性別、年齡、微笑、面部毛發(fā)、頭發(fā)和妝容等屬性”的功能。

微軟首席人工智能負(fù)責(zé)人娜塔莎·克蘭普頓(Natasha Crampton)在一篇宣布這一消息的博客文章中寫道:“公司內(nèi)外的專家都強(qiáng)調(diào)，對‘情感’的定義缺乏科學(xué)共識，如何在用例、地區(qū)和人口統(tǒng)計數(shù)據(jù)之間進(jìn)行推斷存在挑戰(zhàn)，以及圍繞這類功能的隱私擔(dān)憂加劇。”

從6月21日起，微軟將停止向新用戶提供這些功能，而現(xiàn)有用戶的訪問權(quán)限將在2023年6月30日被取消。

微軟的某些人工智能應(yīng)用仍將提供情感識別。

盡管微軟不再向公眾開放這些功能，但它將至少在自己的一款產(chǎn)品中繼續(xù)使用這些功能:一款名為Seeing AI的應(yīng)用程序，它使用機(jī)器視覺為視力受損的人提供“看”世界的新能力。

微軟Azure AI主要團(tuán)隊(duì)的產(chǎn)品經(jīng)理薩拉·伯德(Sarah Bird)表示，情感識別等工具“在可訪問性可控場景中使用時很有價值”。目前還不清楚這些工具是否會在微軟的其他產(chǎn)品中使用。

微軟也在其自定義神經(jīng)語音(Custom Neural Voice)功能上引入了類似的限制，該功能允許客戶根據(jù)真人的錄音創(chuàng)建人工智能語音(有時被稱為深度偽裝音頻)。

這個工具“在教育、無障礙和娛樂方面具有令人興奮的潛力”，但伯德也指出，“它也很容易被用來不恰當(dāng)?shù)啬７卵葜v者和欺騙聽眾”。微軟表示，未來將把該功能的訪問權(quán)限限制在“管理客戶和合作伙伴”，并“確保在創(chuàng)建合成語音時原始發(fā)言者的積極參與”。