種族大棒之下,人臉識(shí)別將何去何從?
在美國,白人警察對(duì)黑人平民的過度執(zhí)法司空見慣,近期,因一白人警察對(duì)一黑人“跪地鎖喉”至黑人死亡后,美國便掀起了一場規(guī)模前所未有的關(guān)于種族歧視的抗議行動(dòng)。
這一行動(dòng)開始后美國各地接連響應(yīng),甚至一度出現(xiàn)了抗議者渾水摸魚對(duì)除黑人商店外,其他人種的商店進(jìn)行“打、砸、搶”。國內(nèi)朋友圈甚至出現(xiàn)了所謂“海外奢侈品低價(jià)代購,無發(fā)票,下單立馬聯(lián)系黑人兄弟去搶”的段子。
抗議行動(dòng)愈演愈烈,美科技巨頭紛紛發(fā)聲
周一,IBM的CEO阿爾文德·克里什納呼吁美國國會(huì)實(shí)施改革,以推進(jìn)種族平等,抗擊系統(tǒng)性種族主義?!⊥瑫r(shí),他宣布IBM將正式退出人臉識(shí)別業(yè)務(wù)。
據(jù)了解,IBM人臉識(shí)別技術(shù)由于被多家公司部署應(yīng)用,但對(duì)于不同種族和性別的算法并不準(zhǔn)確,導(dǎo)致部分人認(rèn)為IBM涉及種族和性別歧視。
種族大棒之下,人臉識(shí)別將何去何從?
從股價(jià)來看,雖然并沒有證據(jù)指出8、9兩日的下跌與IBM放棄人臉識(shí)別有直接關(guān)系,但聯(lián)系前因難免不讓人多想。
就在今日,繼IBM之后,亞馬遜宣布在未來的一年內(nèi),將暫停警方使用人臉識(shí)別技術(shù)(在打擊人口販賣時(shí)例外)。亞馬遜與IBM不同,IBM本身的公關(guān)重心并不在人臉識(shí)別技術(shù)上,其業(yè)務(wù)占有量也并不高,從某種意義上來說對(duì)公司造成的沖擊并不大。但對(duì)于美國人臉識(shí)別“專業(yè)”戶的亞馬遜來說,這時(shí)的一波“停牌”,可能會(huì)讓原本在國外就處于“冰火兩重”的人臉識(shí)別更加難以推廣。
當(dāng)不完善的算法遇上“種族歧視”
早在2018年紐約時(shí)報(bào)英文網(wǎng)站發(fā)表一篇文章,指出如今非常熱門的 AI 應(yīng)用人臉識(shí)別,針對(duì)不同種族的準(zhǔn)確率差異巨大。其中,針對(duì)黑人女性的錯(cuò)誤率高達(dá) 21%-35%,而針對(duì)白人男性的錯(cuò)誤率則低于 1%。
同時(shí),法國Idemia公司的人臉識(shí)別在多國提供服務(wù),但是他們做了一個(gè)測試,用兩張相同的照片去測試算法是否標(biāo)準(zhǔn),結(jié)果得到的答案是,錯(cuò)誤匹配白人女性的概率為萬分之一,錯(cuò)誤匹配黑人女性的概率是千分之一,整整差了10倍。你要知道,這與我國五十六個(gè)民族親如一家的情形不同, 一個(gè)人無意中干的一件小事都有可能被視作種族歧視,進(jìn)而丟掉學(xué)業(yè)、工作或是面臨法律的制裁。
正因如此,人臉識(shí)別技術(shù)是罕有的沒能讓全球從業(yè)者達(dá)成初步認(rèn)知共識(shí)的技術(shù)。在我國,作為人臉識(shí)別等 AI 技術(shù)的天然試驗(yàn)田,安防行業(yè)過去幾年熱鬧非凡。在各類技術(shù)相互交織的時(shí)代,監(jiān)控設(shè)備既是終端商用落地場景,又是數(shù)據(jù)驅(qū)動(dòng)源頭之一,地位非同一般。大背景下,這條賽道除吸引了???、大華等傳統(tǒng)安防企業(yè)外,還包含 PATH(平安、阿里、騰訊、華為)等無數(shù)大小企業(yè)的密切關(guān)注。
而在大洋彼岸,這項(xiàng)技術(shù)的推進(jìn)則至今受阻,除了固有的人權(quán)與隱私問題之外,當(dāng)下種族歧視這頂帽子也因?yàn)樗惴ú煌晟票豢劢o了人臉識(shí)別技術(shù)。
人臉識(shí)別發(fā)展受阻,連帶之下誰要倒霉?
在MarketsandMarkets的一份報(bào)告指出,人臉識(shí)別發(fā)展的主要驅(qū)動(dòng)力包括:政府推行用戶和數(shù)據(jù)安全舉措的增加、越來越多移動(dòng)設(shè)備的使用以及全球?qū)∪墼p檢測和預(yù)防系統(tǒng)需求的日益增長。
由此我們也不難得出這樣一個(gè)結(jié)論,因?yàn)樗惴▎栴}而背上種族歧視這一黑鍋,進(jìn)而導(dǎo)致技術(shù)發(fā)展停滯不前后,倒霉的還是普通民眾。
從政府端來說,美國多地區(qū)出臺(tái)了相關(guān)法令,禁止人臉識(shí)別的應(yīng)用,盡管過去的這些法令是出于對(duì)隱私保護(hù)的考慮。而在本次IBM CEO阿爾文德·克里什納寫給國會(huì)的信中罕見的將“種族定性”與“人權(quán)和自由”并列,這將極有可能導(dǎo)致在未來的某一天,當(dāng)美國想重啟人臉識(shí)別技術(shù)時(shí),發(fā)現(xiàn)那道名為“種族歧視”的枷鎖。
從個(gè)人端來說,那些老生常談的安全防護(hù)收益按下不談,說說此次疫情之下人臉識(shí)別技術(shù)顯現(xiàn)出的額外優(yōu)勢。疫情之下,“非接觸”這一曾經(jīng)簡單的訴求在一時(shí)之間被無限放大,在社區(qū)防疫的過程中,所涌現(xiàn)的那些人臉識(shí)別+紅外測溫的出入口控制方案解放了大量的人力與物力,為防疫工作同時(shí)爭取了“空間”與“時(shí)間”。
反觀美國,截至今日兩百多萬的新冠患者是我國峰值的數(shù)十倍,在各州幾近各自為戰(zhàn)的情況下,還將社區(qū)防疫最有效的手段之一扣上種族歧視的帽子并廢止,則為那些原本不會(huì)感染的民眾平添的幾分感染的可能。
結(jié)語
一刀切雖然是最蠢的方法,但從某種意義上來說,這是目前美國能采用的唯一一個(gè)能在短期內(nèi)得見成效的方法。
常言道“摸著石頭過河”,我們不妨再摸著美國過一次河,以此為鑒,方明得失。
截至目前,雖然我國的人臉識(shí)別發(fā)展依然有認(rèn)證能力參差不齊、應(yīng)用流程不夠規(guī)范、法律效力尚未確認(rèn)、數(shù)據(jù)保護(hù)不足等客觀存在的疏漏。但有無數(shù)人為之奔走、努力,使該領(lǐng)域監(jiān)管做到有法可依,有章可循。