隨著巴以沖突的持續(xù)，相關(guān)新聞事件報(bào)道層出不窮，一些虛假內(nèi)容也開始混入其中，讓人真假難辨。最近，由AI生成、反映巴以沖突現(xiàn)場(chǎng)的圖片出現(xiàn)在知名圖片庫(kù) Adobe Stock 中，并被一些新聞媒體采用。

作為一家積極擁抱生成式人工智能的圖片庫(kù)，Adobe Stock從2022年開始允許供稿人上傳和銷售由AI 生成的圖片，只是在上傳時(shí)要標(biāo)注“是否由 AI 生成”，成功上架后也會(huì)將該圖片明確標(biāo)記為“由 AI 生成”。除此要求外，提交準(zhǔn)則與任何其他圖像相同，包括禁止上傳非法或侵權(quán)內(nèi)容。

但據(jù)澳大利亞網(wǎng)站Crikey報(bào)道，在Adobe Stock搜索與以色列、巴勒斯坦、加沙和哈馬斯相關(guān)的關(guān)鍵詞，會(huì)出現(xiàn)大量由AI生成的圖片，例如搜索巴勒斯坦時(shí)顯示的第一個(gè)結(jié)果標(biāo)題就是“由人工智能生成的以色列和巴勒斯坦沖突”的圖片。其他一些圖片也顯示了抗議、實(shí)地沖突，甚至是兒童逃離爆炸現(xiàn)場(chǎng)的畫面，但所有這些也都是由AI生成。

圖1：在 Adobe Stock 上搜索巴以沖突時(shí)會(huì)搜索到大量 AI 圖像

令人擔(dān)憂的是，這些圖片已經(jīng)出現(xiàn)在一些在線新聞媒體、博客，但沒有將其標(biāo)記為由人工智能生成，也尚不清楚這些媒體是否知道這些是虛假圖片。

圖2：一些媒體機(jī)構(gòu)在報(bào)道巴以沖突新聞時(shí)已經(jīng)使用圖1左上角那張由AI生成的圖片

事后，Adobe表示，所有生成式 AI 內(nèi)容在提交許可時(shí)都必須貼上相應(yīng)標(biāo)簽，但也強(qiáng)調(diào)，客戶在購(gòu)買使用時(shí)知道“這是一張由生成式 AI 工具創(chuàng)建的圖片”同樣重要。

識(shí)別圖片真假是一項(xiàng)復(fù)雜性工作

專家一再警告稱，人工智能將被用來(lái)在網(wǎng)上傳播錯(cuò)誤信息，隨著越來(lái)越多看起來(lái)逼真的內(nèi)容在互聯(lián)網(wǎng)上發(fā)布和共享，解決這個(gè)問題變得越來(lái)越困難。

RMIT 高級(jí)講師 TJ Thomson 博士正在研究人工智能生成圖像的使用，他表示，人們擔(dān)心人工智能圖像使用的透明度以及受眾是否有足夠的文化知識(shí)能夠?qū)ζ溥M(jìn)行識(shí)別。

根據(jù)一項(xiàng)被稱為“內(nèi)容真實(shí)性計(jì)劃”的措施，包括Adobe、微軟、BBC 和《紐約時(shí)報(bào)》在內(nèi)的科技和新聞組織正在嘗試實(shí)施內(nèi)容憑證技術(shù)，該憑證使用文件元數(shù)據(jù)來(lái)突出顯示圖片的來(lái)源，無(wú)論這些圖片是由真人拍攝還是AI生成。

然而，內(nèi)容憑證尚未在實(shí)際環(huán)境中部署，需要社交網(wǎng)絡(luò)、出版商、藝術(shù)家以及應(yīng)用程序、瀏覽器和生成人工智能開發(fā)人員的合作才能按預(yù)期工作。