AI應(yīng)用的風(fēng)險(xiǎn)與智慧:Microsoft Recall的隱患與應(yīng)對(duì)策略
但有時(shí)一款產(chǎn)品確實(shí)值得貼上AI標(biāo)簽。準(zhǔn)確的描述是一回事,但這與它是否是個(gè)好主意完全不同。
以主題Microsoft Recall為例,它每隔幾秒鐘就會(huì)存儲(chǔ)你電腦屏幕的快照,并將其編入索引,以便你在需要回顧時(shí)可以隨時(shí)調(diào)用(因此得名“Recall”)。
擔(dān)心隱私泄露?微軟說,不必?fù)?dān)心,因?yàn)镽ecall存儲(chǔ)的所有內(nèi)容都保存在本地加密文件中,而不是云端。根據(jù)微軟的說法,“……潛在的黑客需要物理訪問你的設(shè)備,解鎖并登錄后,才能訪問保存的截圖?!?nbsp;
請(qǐng)?jiān)徫业膽岩?,但難道沒有一整類惡意軟件是通過控制受害者的PC來工作的?我的意思是,為什么有人會(huì)認(rèn)為物理訪問是Recall唯一容易受到攻擊的途徑?
可能會(huì)出什么問題呢?
我知道“愚蠢的一致性是小腦袋的妖怪”,但微軟不是至少已經(jīng)向所有愿意聽的人推廣虛擬桌面十二年了嗎?雖然將Recall排除在VDI之外并不算是個(gè)悲劇,但不僅僅是VDI削弱了微軟的保護(hù)。很多漏洞現(xiàn)在正被倒霉的用戶無意中安裝的惡意軟件利用,這些惡意軟件讓入侵者可以遠(yuǎn)程控制他們的PC,這種控制也會(huì)擴(kuò)展到Recall及其查找數(shù)據(jù)的能力。
說到懷疑,Recall需要信任微軟及其開發(fā)人員不在Recall系統(tǒng)中創(chuàng)建任何后門。如果微軟不在任何時(shí)候根據(jù)自己的意愿更改其許可條款而不征得客戶同意,這將是一個(gè)更合理的門檻。
說到數(shù)據(jù),難道大家都忘記了知識(shí)金字塔嗎?按照Scott Lee和我完善的這個(gè)概念體系,數(shù)據(jù)位于底層,接下來是信息、知識(shí)、判斷力,智慧在金字塔的頂端。Recall提高了你記住數(shù)據(jù)的能力——這是這些層次中最不有價(jià)值的。
哦,對(duì)了,還有一個(gè)雖小但不幸的后果:對(duì)于那些依賴Tor瀏覽器及其相關(guān)的超級(jí)安全網(wǎng)絡(luò)來保持在線活動(dòng)隱私的人來說,Recall會(huì)破壞Tor的保護(hù),一次又一次地捕捉Tor顯示的屏幕截圖。
這不是微軟在積極追求的市場,盡管Edge的InPrivate模式例外。
還有一個(gè)問題,很難想象這種疏忽是偶然的:大多數(shù)企業(yè)認(rèn)為存儲(chǔ)在員工設(shè)備上的任何內(nèi)容都是企業(yè)的財(cái)產(chǎn),而不是員工的。如果一位業(yè)務(wù)經(jīng)理想查看員工的Recall數(shù)據(jù)……那會(huì)非常尷尬!
這是怎么發(fā)生的?
在這一切背后,我們可以很容易地想象Redmond團(tuán)隊(duì)的成員在集思廣益,思考他們可以用AI做些什么,然后感染了樂觀偏見,并充滿了日益高漲的熱情,開始行動(dòng)。
更重要的是,這正是微軟及其技術(shù)推廣同伴應(yīng)該用AI做的事情。
IT的工作是通過使用現(xiàn)有的信息技術(shù)來解決業(yè)務(wù)問題并追求業(yè)務(wù)機(jī)會(huì)。IT的供應(yīng)商呢?他們應(yīng)該超越已經(jīng)開發(fā)的技術(shù),探索可能實(shí)現(xiàn)的事情,并將“可能”變成“可行”!
只是這里缺少一個(gè)中間步驟,即知識(shí)金字塔的兩個(gè)最高層次:判斷力和智慧,它們是讓這場潛在災(zāi)難中的每個(gè)人都應(yīng)該意識(shí)到區(qū)別的——能夠做某件事和做這件事是否是一個(gè)好主意之間的區(qū)別。
你應(yīng)該如何回應(yīng)
盡管有這些批評(píng),Recall未必是一個(gè)完全糟糕的主意。以我個(gè)人為例,我有時(shí)是一名業(yè)余的自然攝影師,如果我能讓我的電腦顯示出所有拍攝到紅眼美洲鶯的照片,我會(huì)非常高興,作為一個(gè)愛好者,我可能愿意為了這種能力而承擔(dān)Recall的風(fēng)險(xiǎn)。
我還可以想象WPP的一位經(jīng)理想要列出互聯(lián)網(wǎng)上所有出現(xiàn)可口可樂瓶子的地方,因?yàn)閃PP是可口可樂的廣告代理商,Recall將是一大助力。
這種助力足以超過其風(fēng)險(xiǎn)嗎?那是另一回事。
這讓我們回想起以前的一個(gè)情景:早些時(shí)候,即使在標(biāo)準(zhǔn)化使用Windows PC的公司中,市場部也經(jīng)常被允許讓創(chuàng)意人員使用Macintosh電腦。CIO認(rèn)為說服市場部接受Windows標(biāo)準(zhǔn)桌面所需的時(shí)間和精力不值得。
因此,你最好現(xiàn)在就開始為拒絕那些希望為其團(tuán)隊(duì)使用Recall的經(jīng)理們做準(zhǔn)備。
你最好這么做,因?yàn)槟阒浪麄儠?huì)提出要求。作為CIO,你還知道在你的工作中,你需要在制定消極銷售策略——說服人們不做某事——方面與讓公司經(jīng)理們批準(zhǔn)你知道值得投資的項(xiàng)目方面一樣出色。
還有一點(diǎn),來自Dr. Yeahbut:IT很容易陷入零風(fēng)險(xiǎn)陷阱——將任何風(fēng)險(xiǎn)都作為拒絕潛在機(jī)會(huì)的理由,這是一個(gè)壞習(xí)慣。
當(dāng)面對(duì)像Recall這樣的東西時(shí)——也許有一些不太明顯的風(fēng)險(xiǎn),但也有可能非??帷魬?zhàn)你的分析師和管理團(tuán)隊(duì),找出利用這種新能力的方法——即使是在非常小的范圍內(nèi)——同時(shí)防止或減輕其帶來的風(fēng)險(xiǎn)。