人工智能面臨著多重挑戰(zhàn)，IEEE的專家們對(duì)此提出了相對(duì)應(yīng)的解決方案。

合成現(xiàn)實(shí)

挑戰(zhàn)

人工智能可以生成超現(xiàn)實(shí)的圖像和視頻，顯示人們?cè)谧龌蛘f(shuō)他們從未做過(guò)或說(shuō)過(guò)的事情。這樣的“深偽技術(shù)”會(huì)使虛假信息的傳播更加難以察覺(jué)。

解決方案

IEEE高級(jí)會(huì)員Carmelo José Albanez Bastos Filho表示“人工智能算法經(jīng)過(guò)訓(xùn)練，可以識(shí)別深偽技術(shù)特有的模式和特征。這些算法分析視覺(jué)和音頻特征，尋找不規(guī)則或與正常模式的偏差。”

數(shù)據(jù)泄露

挑戰(zhàn)

你輸入聊天機(jī)器人的信息可以用來(lái)訓(xùn)練它。這可能會(huì)導(dǎo)致模型泄露敏感或私人信息。

解決方案

對(duì)于聊天機(jī)器人數(shù)據(jù)隱私問(wèn)題，IEEE會(huì)員汪齊齊教授指出：“將敏感數(shù)據(jù)存儲(chǔ)在私有環(huán)境中可以有效避免數(shù)據(jù)被添加到公共的全球數(shù)據(jù)庫(kù)中?！?/p>

虛假數(shù)據(jù)

挑戰(zhàn)

有偏見(jiàn)、不準(zhǔn)確或虛假的數(shù)據(jù)可能會(huì)被注入人工智能模型，從而產(chǎn)生錯(cuò)誤的結(jié)果和有缺陷的系統(tǒng)。人工智能威脅檢測(cè)技術(shù)已經(jīng)在現(xiàn)實(shí)世界中被用來(lái)重新培訓(xùn)“垃圾郵件”過(guò)濾器。

解決方案

IEEE終身高級(jí)會(huì)員Raul Colcher表示：“這種形式的攻擊，可以采用更加嚴(yán)格的數(shù)據(jù)過(guò)濾和審查機(jī)制，確保模型的學(xué)習(xí)和訓(xùn)練不受不當(dāng)干擾。先進(jìn)的過(guò)濾、監(jiān)控和人工監(jiān)督系統(tǒng)已經(jīng)對(duì)其進(jìn)行了反擊?！?/p>

高級(jí)網(wǎng)絡(luò)釣魚(yú)

挑戰(zhàn)

網(wǎng)絡(luò)釣魚(yú)詐騙涉及使用欺詐電子郵件誘騙人們或公司匯款或共享敏感數(shù)據(jù)。人工智能使創(chuàng)建更真實(shí)但仍然具有欺騙性的電子郵件和語(yǔ)音郵件變得更容易。

解決方案

IEEE會(huì)員Yale Fox表示：“組織可考慮投入先進(jìn)的威脅檢測(cè)技術(shù)，及時(shí)發(fā)現(xiàn)和攔截惡意嘗試。這些技術(shù)利用機(jī)器學(xué)習(xí)和人工智能來(lái)識(shí)別和標(biāo)記潛在的網(wǎng)絡(luò)釣魚(yú)企圖?！?/p>

躲避系統(tǒng)防護(hù)

挑戰(zhàn)

人工智能開(kāi)發(fā)人員通常會(huì)創(chuàng)建防護(hù)欄，以防止他們的創(chuàng)作產(chǎn)生攻擊性或非法內(nèi)容。

解決方案

IEEE會(huì)員Rebecca Herold表示：“總有人會(huì)努力破解系統(tǒng)。阻止它們的最好方法是進(jìn)行更嚴(yán)格地開(kāi)發(fā)，然后全面測(cè)試大型語(yǔ)言模型算法。”

AI VS AI

挑戰(zhàn)

人工智能正被用來(lái)利用或?qū)蛊渌斯ぶ悄芟到y(tǒng)——通過(guò)對(duì)抗性人工智能等技術(shù)來(lái)欺騙通常具有關(guān)鍵安全要求的系統(tǒng)。

解決方案

IEEE高級(jí)會(huì)員Amol Gulhane表示：“通過(guò)在訓(xùn)練過(guò)程中將模型暴露在各種攻擊場(chǎng)景中，它將變得更加完善，能夠識(shí)別和拒絕惡意輸入?！?/p>