眾所周知，iPhone 雖然貴但很好用。人們選擇 iPhone 的一大理由就是信息安全：不論是手機上物理存在的「安全飛地」，還是蘋果公司面對 FBI 解鎖嫌犯手機需求寧愿打官司也不從的態(tài)度，這家公司對于個人隱私的保護一直為人稱道。

然而就在最近，蘋果突然改變態(tài)度的消息傳出，讓人大為驚訝。

[[415930]]

《金融時報》等媒體爆出，蘋果計劃掃描所有存儲在 iPhone 和 iCloud 上的照片，以找出兒童色情圖片。新系統(tǒng)將能夠幫助執(zhí)法部門進行刑事調(diào)查，但可能會導(dǎo)致法律和政府對用戶數(shù)據(jù)的需求增加。

據(jù)外媒報道，該系統(tǒng)名為 neuralMatch，一旦檢測到非法圖像，將主動提醒一組人工審核人員。如果經(jīng)驗證「違法內(nèi)容」屬實，公司將聯(lián)系執(zhí)法部門。

neuralMatch 系統(tǒng)使用來自美國國家失蹤與受剝削兒童保護中心(National Center for Missing & Exploited Children)的 20 萬張圖像進行訓(xùn)練。該系統(tǒng)將率先在美國推出，用戶存儲的照片將被掃描并與已知的兒童虐待圖像數(shù)據(jù)庫進行比較。

這還不是全部，蘋果還有一個新功能會掃描兒童賬號登陸的 iPhone，系統(tǒng)會掃描發(fā)送和接收到的所有 iMessage 圖像，以查找色情內(nèi)容，如果兒童年齡在限制以下，則出現(xiàn)違規(guī)圖像時會通知父母。父母可以選擇打開或關(guān)閉這個功能。

據(jù)介紹，蘋果的掃描是全方位的：這些新功能將會在今年晚些時候作為 iOS 15、iPadOS 15、watchOS 8 和 macOS Monterey 的特性在更新時推出，也就是說大概率會在 9 到 10 月份上線。

從 iPhone 本地開始掃描

在今天的金融時報上，蘋果的照片掃描計劃被正式曝光。

知情人士透露：之后在美國每張上傳到 iCloud 的照片都會得到一份「安全憑證」，來說明是否可疑。一旦一定數(shù)量的照片被標(biāo)記為可疑，蘋果就會對所有這些可疑的照片進行解密和人工審查，如果涉及違法行為，蘋果會將其轉(zhuǎn)交給相關(guān)法律部門。

具體來說，蘋果掃描照片的方式有點類似于微軟的 PhotoDNA，不過蘋果的掃描主要是在設(shè)備端進行的，處理過的圖像會被轉(zhuǎn)換為機器學(xué)習(xí)所需的參數(shù)，在云端與數(shù)據(jù)集進行匹配，設(shè)備端不會知道是否找到了匹配項。這意味著當(dāng)新功能推出時，NCMEC CSAM 數(shù)據(jù)庫的一個版本將下載到每部 iPhone 中。

不論這套技術(shù)中的隱私和安全保護是如何實現(xiàn)的，上傳到 iCloud 的所有照片都將被掃描。

蘋果的第二個新功能是基于 iMessage 發(fā)送或接收的掃描照片的敏感內(nèi)容通知。為了實現(xiàn)這種功能，其將推出一個設(shè)備端機器學(xué)習(xí)分類器，旨在檢測「色情圖片」。蘋果稱這些功能(在發(fā)布時)僅限于已注冊家庭帳戶的 18 歲以下美國用戶。在新流程中，如果 13 歲以下兒童持有的帳戶希望發(fā)送設(shè)備上機器學(xué)習(xí)分類器判定為色情圖片的圖像，則會彈出通知，告訴父母會接到通知。

如果兒童仍然選擇發(fā)送內(nèi)容，則系統(tǒng)將通知家長，且圖像將不可撤銷地發(fā)送至手機的家長控制部分，供家長稍后查看。對于 13 至 17 歲的用戶，會彈出類似的警告通知，但沒有家長通知。

類似地，如果 13 歲以下兒童收到 iMessage 認(rèn)為「色情」的圖片，在被允許查看照片之前會彈出一個通知，告訴兒童他們的父母將收到通知。如果用戶決定接收圖像，則會通知父母并將圖像保存到手機中。13 至 17 歲的用戶同樣會收到警告，但不會將有關(guān)此操作的通知發(fā)送到其父母的設(shè)備。

無論是發(fā)送還是接收此類內(nèi)容，未成年用戶都可以選擇在不通知父母的情況下中斷發(fā)送或接收。盡管如此，蘋果無疑是在監(jiān)視用戶手機內(nèi)容的道路上向前走了一步。

是安全保護還是隱私侵犯?

霍普金斯大學(xué)教授、密碼學(xué)家 Matthew Green 對這種系統(tǒng)表示擔(dān)憂。Green 說：「這種工具能夠可以幫助查找手機中的兒童色情內(nèi)容，但想象一下，如果掌握權(quán)力的公司或機構(gòu)獲得了這種系統(tǒng)，會發(fā)生什么?」

他表示：「即使你認(rèn)為蘋果不會允許這些工具被濫用，仍然有很多值得關(guān)注的地方，這些系統(tǒng)依賴于一些可能存在問題的數(shù)據(jù)庫，而普通消費者卻無法查看這些數(shù)據(jù)?！?/p>

來自約翰霍普金斯大學(xué)教授密碼學(xué)的計算機科學(xué)副教授 Matthew Green 對此事表示了擔(dān)憂。

此外，有研究人員表示，雖然該系統(tǒng)目前經(jīng)過訓(xùn)練可以發(fā)現(xiàn)兒童性虐待，但它也具備掃描任何其他有針對性的圖像和文本的潛力，例如恐怖斬首等暴力場景。蘋果的這種行為可能增加其他科技公司使用類似技術(shù)的壓力。

曾在 Facebook 和 Deliveroo 工作的安全研究員和隱私活動家 Alec Muffett 表示：「蘋果這一舉動是將讓個人隱私領(lǐng)域倒退一大步?！?/p>

與其他基于云的照片存儲系統(tǒng)和社交網(wǎng)站一樣，蘋果此前已經(jīng)根據(jù)已知的虐待兒童圖像檢查了 iCloud 的文件。但當(dāng)試圖訪問存儲在個人設(shè)備上的數(shù)據(jù)時，這個過程就變得更加復(fù)雜了。neuralMatch 的新系統(tǒng)則更加激進，允許機器學(xué)習(xí)系統(tǒng)對本地存儲的數(shù)據(jù)進行訪問。

不過也有專家認(rèn)為，蘋果的監(jiān)控方式已經(jīng)很大程度上保護了隱私。薩里大學(xué)計算機安全教授 Alan Woodward 表示：「蘋果系統(tǒng)的侵入性較小，因為篩選是在手機上完成的，并且只有在可疑信息匹配時才會向搜索者發(fā)送通知。只有采用這種去中心化方法，才是蘋果新系統(tǒng)保護隱私的最佳選擇。」

目前尚未有更多關(guān)于該系統(tǒng)的細節(jié)，不過除了《金融時報》，蘋果開啟 neuralMatch 計劃的消息也已被其他多個消息源證實。知情人士透露：蘋果最快可能在本周宣布更多有關(guān)該系統(tǒng)的信息。

【本文是51CTO專欄機構(gòu)“機器之心”的原創(chuàng)譯文，微信公眾號“機器之心( id: almosthuman2014)”】 

戳這里，看該作者更多好文