Fawkes照片工具：秘密給人臉識別系統(tǒng)“下毒”
據(jù)外媒報道，互聯(lián)網(wǎng)上充斥著數(shù)十億張照片，其中許多都消失在已經(jīng)被廢棄的賬號和舊托管服務(wù)中。然而由于社交媒體平臺的興起，將它們跟照片中的人物鏈接起來比以往任何時候都容易。不為公眾所知的是，一些公司正在悄悄地下載這些內(nèi)容并用它來創(chuàng)建秘密的人臉識別模型的主體…但有一個解決方案，它被稱為Fawkes。
資料圖
很明顯，面部識別模型被面部識別系統(tǒng)用來識別一個特定的人。AI接受的圖像越多，它就能越能準確地識別隨機視頻和圖像中的人物--包括實時監(jiān)控等。很多人都沒有意識到這些面部識別模型的存在，而這對隱私的影響真的很可怕。
企業(yè)和政府能通過簡單地收集人們在網(wǎng)上自由發(fā)布的自己的圖片來訓(xùn)練他們的人工智能模型。大量的信息被輸入到人工智能系統(tǒng)中并由此形成一個難以阻止的難題。
芝加哥大學(xué)SAND實驗室的研究人員為解決這一問題邁出了一步，他們讓普通人能對自己的圖像進行復(fù)雜的控制。該團隊已經(jīng)公開發(fā)布了Fawkes，一個簡單、免費的工具，它使用人工智能對一個圖像進行微調(diào)從而使其在人類看來是不變的但在人工智能系統(tǒng)訓(xùn)練時卻變得“高度扭曲”。
研究人員解釋稱，通過向系統(tǒng)輸入這些圖像，某人本質(zhì)上是在參與一種“攻擊”，通過破壞系統(tǒng)對那個人長相的理解來毒害系統(tǒng)。輸入給人工智能的每一張“中毒”圖像都降低了它在圖像和視頻中準確識別那個人的能力，使得它對于任何想要利用它的公司或政府來說幾乎毫無用處。
Fawkes并不是一個簡單的圖像操縱器，而是一個更復(fù)雜的人工智能驅(qū)動的應(yīng)用，它會產(chǎn)生一些無法被目標面部識別訓(xùn)練系統(tǒng)檢測到的變化，這意味著它們將無法識別并移除那些有害的“有毒”圖像。研究人員稱，由于無法分辨出哪些圖像被隱藏了，這些公司將不得不投入相當大的精力，對收集到的所有內(nèi)容進行分類以找到導(dǎo)致圖像失真的圖像。
根據(jù)這項研究，對人工智能的測試顯示了非常高的準確率。
