2012年，人工智能研究人員在計算機視覺方面取得了巨大進步，被稱為ImageNet的數(shù)據(jù)集至今仍被用于成千上萬的人工智能研究項目和實驗。但是上周ImageNet上的所有人臉都突然消失了，因為數(shù)據(jù)集管理者為了保護隱私?jīng)Q定模糊處理它們。

ImageNet 數(shù)據(jù)集的管理者為如今深度學習的進步鋪平了道路。現(xiàn)在，他們在保護人們的隱私方面又邁出了一大步：對數(shù)據(jù)集模糊處理。

2012年，人工智能研究人員在計算機視覺方面取得了巨大進步，這很大程度歸功于一個異常龐大的圖像集。

這個數(shù)據(jù)集中有數(shù)以千計的日常物體、人物和圖片中的場景，這些圖片都是從網(wǎng)上搜集并用手工標記的。

這些被稱為 ImageNet 的數(shù)據(jù)集至今仍被用于成千上萬的人工智能研究項目和實驗。

但是上周 ImageNet 上的所有人臉都突然消失了，因為負責管理數(shù)據(jù)集的研究人員決定模糊它們。

正如 ImageNet 幫助開創(chuàng)了人工智能的新時代，要修復它也面臨很多挑戰(zhàn)，主要是對無數(shù)人工智能程序、數(shù)據(jù)集和產(chǎn)品的影響和挑戰(zhàn)。

普林斯頓大學的助理教授 Olga Russakovsky 是 ImageNet 的負責人之一，他說: 「我們擔心隱私問題。」

在2012年，計算機科學家一直致力于能開發(fā)能夠識別圖像中物體的算法，ImageNet 就是為此而創(chuàng)建的。

然后，一種叫做深度學習的技術，通過給神經(jīng)網(wǎng)絡添加標記的例子來「教」它，而且還被證明比以前的方法效果更好。

從那時起，深度學習推動了人工智能的復興，同時也暴露了這個領域的缺陷。

例如，面部識別已經(jīng)被證明是深度學習的一個特別流行和有前景的應用，但它也是有爭議的。

出于對侵犯公民隱私的擔憂，美國一些城市已經(jīng)禁止政府使用這項技術，因為這些程序?qū)Ψ前兹四槻康淖R別精確度較低。

ImageNet 包含了150萬張圖片和大約1000個標簽。它主要用于評估機器學習算法的性能，或者訓練執(zhí)行特殊計算機視覺任務的算法。

如今，它對243198張照片進行了模糊處理。

Russakovsky 說 ImageNet 團隊想要確定是否有可能在不改變識別對象的能力的情況下模糊數(shù)據(jù)集中的人臉。

「人們在數(shù)據(jù)中是偶然出現(xiàn)的，因為他們恰好出現(xiàn)在描述這些物體的網(wǎng)絡照片中,」她說。

換句話說，在一張顯示啤酒瓶的圖片中，即使喝啤酒的人的臉上有一個粉紅色的污點，對啤酒瓶本身來說并無影響。

在 ImageNet 更新的同時，發(fā)布了一篇研究論文，數(shù)據(jù)庫背后的團隊解釋說，他們使用亞馬遜的人工智能服務 Rekognition 模糊了面孔。

然后，他們付錢給 Mechanical Turk 的員工確認并調(diào)整他們的選擇。

研究人員說，模糊臉部并不影響在 ImageNet 上訓練的幾種物體識別算法的性能。

他們還表明，用這些物體識別算法構(gòu)建的其他算法也同樣不受影響。

「我們希望這種概念驗證為該領域更多的隱私意識視覺數(shù)據(jù)收集實踐鋪平了道路,」魯薩科夫斯基說。

2019年12月，ImageNet 團隊刪除了由人工標簽引入的帶有偏見的貶義詞，因為一個名為挖掘 AI 的項目引起了人們對這個問題的關注。

該研究表明他們可以在數(shù)據(jù)集中識別個人，包括計算機科學研究人員。他們還發(fā)現(xiàn)其中包含色情圖片。

普拉布說，模糊臉是好事，但令人失望的是 ImageNet 團隊沒有承認他和比爾哈恩的工作。Russakovsky 表示，論文的更新版本中將出現(xiàn)一條引文。

模糊人臉仍然可能會對基于 ImageNet 數(shù)據(jù)訓練的算法產(chǎn)生意外后果。例如，算法可能學會在搜索特定對象時尋找模糊的面孔。

Russakovsky 說: 「需要考慮的一個重要問題是，當你部署一個基于面部模糊數(shù)據(jù)集的模型時，會發(fā)生什么情況。」

例如，在此數(shù)據(jù)集上訓練的機器人可能會因為不能識別現(xiàn)實世界中的人臉而被拋棄。

麻省理工學院的研究科學家 Aleksander Madry 已經(jīng)發(fā)現(xiàn)了 ImageNet 的局限性。他認為，一個人工智能模型在包含模糊人臉的數(shù)據(jù)集上訓練，當顯示包含人臉的圖像時，可能會表現(xiàn)得很奇怪。

他說: 「數(shù)據(jù)中的偏差可能非常微妙，但同時可能會產(chǎn)生重大的后果。這就是為什么在機器學習的背景下考慮魯棒性和公平性如此棘手。」

不過最近國內(nèi)「315」也在提AI公司侵犯隱私權(quán)的問題，還是希望各位AI公司在發(fā)展技術的同時，也能思考一下這些附帶來的問題。