12 月 23 日消息，近年來，人工智能（AI）技術(shù)的快速發(fā)展為社會帶來了諸多便利，但也伴隨著安全隱患。據(jù)IT之家了解，其中深度偽造技術(shù)就帶來了不小的隱患，其生成高度逼真但并非真實的視頻或圖像的能力，已經(jīng)引發(fā)了一系列社會問題。

據(jù)央視新聞報道，今年以來，利用 AI 深度偽造假冒名人的案例層出不窮。例如，不久前就有不法分子通過 AI 技術(shù)偽造張文宏醫(yī)生的面部和聲音，用于直播帶貨，賣出 1200 多件蛋白棒產(chǎn)品。

此外，名人劉德華和企業(yè)家雷軍也成為 AI 偽造的目標。劉德華的聲音被惡意用于增加短視頻流量，其電影公司也多次發(fā)布聲明以警示公眾。

專家指出，目前的 AI 技術(shù)可以通過深度學習輕松克隆他人面部和聲音，甚至只需一張照片和一段語音樣本即可完成。然而，這種技術(shù)并非毫無破綻。例如，偽造視頻通常無法實時直播，同時在臉部輪廓和背景融合度等細節(jié)上存在缺陷。觀眾通過仔細觀察可發(fā)現(xiàn)破綻，尤其是在口型和語音匹配度方面。

專家表示，未經(jīng)授權(quán)使用他人形象或聲音屬于侵權(quán)行為，根據(jù)《民法典》和《網(wǎng)絡(luò)安全法》，發(fā)布者可能面臨包括損害賠償和刑事責任在內(nèi)的處罰。同時，消費者如因 AI 假冒名人帶貨受騙，可依據(jù)消費者權(quán)益保護法要求“退一賠三”。

專家還呼吁短視頻平臺承擔主體責任，及時下架違規(guī)內(nèi)容，并對發(fā)布者采取信用管理和處罰措施。