譯者 | 李睿
審校 | 重樓
近期，社交媒體幾乎被3D人偶、復古風視頻剪輯以及層出不窮的變裝挑戰(zhàn)刷屏——這一切都源自Google Gemini推出的“Nano Banan”（納米香蕉）。這股吉卜力風格的浪潮，迅速席卷了全球社交媒體平臺。
就在大多數(shù)人沉迷于采用Nano Banana創(chuàng)作Instagram貼文之際，也有一些人開始意識到這一技術背后潛藏的風險，并關注相應的安全使用措施。本文將探討在使用Nano Banana時應該注意的安全問題及防范措施。
Nano Banana是什么？
Nano Banana是Google Gemini推出的一款功能強大的圖像編輯和生成式人工智能工具。它允許用戶：
- 將自拍照轉換為風格多樣的3D虛擬人偶；
- 應用復古寶萊塢風格的編輯效果，如上世紀90年代紗麗風格和電影級光影處理；
- 生成具有人工智能增強魅力的照片與肖像；
- 支持使用如SynthID等隱形水印的濾鏡進行內容標注。
該工具一經(jīng)推出，便在Instagram、YouTube和TikTok等平臺迅速走紅，為Gemini吸引了數(shù)百萬新用戶。盡管Nano Banana極大地激發(fā)了用戶的創(chuàng)造力，但專家也提醒，人工智能照片編輯技術背后仍存在諸多風險。
Nano Banana背后的隱藏風險
使用Nano Banana安全嗎？ 以下將一探究竟。
隱私與數(shù)據(jù)泄露問題
- 每張上傳的照片都可能成為數(shù)據(jù)來源。這些數(shù)據(jù)不僅會被保存，還可能被重復使用，甚至遭到濫用。
- 圖片上傳風險：用戶上傳的自拍照可能被存儲在谷歌服務器中，并用于人工智能模型的后續(xù)訓練。
- 元數(shù)據(jù)泄露風險：照片中常隱藏諸如手機型號、GPS定位、拍攝時間等元數(shù)據(jù)。如果沒有經(jīng)過處理，這些信息可能造成個人隱私泄露。
- 數(shù)據(jù)保留政策：大多數(shù)用戶并未仔細閱讀隱私政策的具體條款。谷歌的數(shù)據(jù)保留策略可能允許圖像被存儲的時間超出用戶預期。
深度偽造與虛假信息威脅
- 人工智能編輯效果高度逼真，存在被濫用的潛在風險。
- 身份特征誤改：Nano Banana有時會為圖像添加原本不存在的特征（例如痣或特殊標記），導致人物外貌失實。
- 深度偽造風險：經(jīng)其處理的圖像可能被用于制造虛假新聞、實施網(wǎng)絡騷擾甚至進行政治操縱，對社會造成實質性危害。
- 信任危機：隨著人工智能生成圖像的普及，公眾可能逐漸對一切圖像內容產(chǎn)生懷疑，這將嚴重沖擊新聞真實性、司法證據(jù)效力及社會信任體系。
安全與網(wǎng)絡犯罪風險
只要有利益存在，網(wǎng)絡犯罪分子就會聞風而至。
- 假冒應用程序：欺詐者發(fā)布所謂的“Nano Banana應用程序”，誘導用戶下載，實際是惡意軟件。
- 網(wǎng)絡釣魚詐騙：一些虛假網(wǎng)站承諾提供“獨家Nano Banana編輯”功能，實際上為了竊取用戶的個人信息。
- 社會工程學攻擊：經(jīng)過人工智能工具編輯過的照片可以用于詐騙或身份盜竊。
倫理與心理風險
人工智能圖像編輯的影響遠不止于技術層面，更深刻地觸及人類社會與個體心理。
- 助長不切實際的審美標準：人工智能圖像編輯常使人像的臉型變瘦、眼睛變大或皮膚更光滑。這會引發(fā)不健康的攀比和自尊問題。
- 情緒困擾：當人工智能隨機添加特征到他們的人像上時，一些用戶感到“毛骨悚然”。
- 文化誤導：例如盡管印度的紗麗文化由于人工智能特效而廣泛傳播，但在被濫用時可能會使文化服飾變得庸俗化或冒犯宗教團體。
法律與合規(guī)問題
有關人工智能內容的法律仍在不斷發(fā)展，用戶可能在無意中面臨違反法律的風險。
- 版權所有權不明確：經(jīng)過人工智能編輯生成的圖片版權究竟屬于用戶、谷歌公司，還是人工智能模型？目前法律尚未對此作出清晰界定。
- 許可與肖像權風險：未經(jīng)允許使用他人的照片，使用者可能陷入法律糾紛。
- 加快人工智能立法進程：例如印度《數(shù)字個人數(shù)據(jù)保護法》（2023）明確規(guī)定企業(yè)需對濫用用戶個人數(shù)據(jù)的行為承擔責任。其他國家也在出臺類似法律。
Nano Banana風險實例
印度一名使用Nano Banana的用戶Jhalakbhawani在Instagram上發(fā)帖稱，在使用Nano Banana將她的自拍照變成復古的寶萊塢風格紗麗圖像之后，發(fā)現(xiàn)人工智能在其左手上添加了一顆原圖中根本不存在的痣。
她表示：“Gemini怎么會知道我身體這個位置有顆痣？這實在太驚悚、太詭異了?！?/span>
這一事例揭示出人工智能可能憑空生成現(xiàn)實中并不存在的身體特征，從而導致用戶產(chǎn)生認知困惑，甚至引發(fā)對自我身份真實性的質疑。
點擊此處查看完整故事。
如何安全使用Nano Banana
人們可以嘗試使用Nano Banana，但需保持警惕并謹慎行事。以下為五項基本安全建議：
1.上傳文件之前移除元數(shù)據(jù)——刪除隱藏的位置和設備信息等元數(shù)據(jù)。
2.避免上傳私密或個人照片——切勿上傳不想泄露的內容
3.只使用官方Google Gemini應用程序——-遠離所謂的“免費Nano Banana”網(wǎng)站。
4.保留原始照片——-以便在需要時驗證圖像的真實性與來源。
5.審慎公開分享的內容——編輯過的圖像可能會迅速傳播并被濫用。
谷歌和監(jiān)管機構應采取的措施
盡管用戶可采取一些防范措施，但谷歌與監(jiān)管機構同樣應在安全保障中承擔關鍵責任：
- 采用透明的數(shù)據(jù)策略：谷歌公司應明確公開圖像存儲的時間以及是否用于訓練。
- 開放公共水印檢查工具：像SynthID這樣的工具應該對所有人都開放。
- 增強安全過濾機制：防止細微但有害的錯誤編輯結果（例如添加痣或標記）。
- 開展安全宣傳活動：幫助用戶了解人工智能的風險并推廣安全實踐。
Nano Banana如何增加能源浪費
最近一項名為“圖像的隱藏成本：量化人工智能圖像生成的能耗”的研究發(fā)現(xiàn)，不同的人工智能圖像生成模型的能耗存在巨大差異。研究人員測試了17種模型，觀察到根據(jù)模型架構、圖像分辨率和量化設置的不同，能耗的差異可達46倍。例如，將圖像分辨率加倍有時會使能源消耗增加1.3倍至4.7倍。
以下是這些發(fā)現(xiàn)如何適用于Nano Banana以及該工具可能如何顯著加劇能源浪費的原因：
- 用戶能源意識薄弱：大多數(shù)用戶在使用濾鏡或生成多張圖像時不會考慮能源消耗。大多數(shù)應用程序沒有顯示編輯圖像的能耗或環(huán)境成本的可見指標。
- 每張圖片生成多個版本：用戶經(jīng)常運行多個提示/濾鏡或重新生成圖像，甚至反復重新生成圖像。每一次生成操作均需獨立計算，導致能源消耗隨生成次數(shù)成倍增加。
- 高分辨率與復雜風格化效果：諸如復古寶萊塢紗麗濾鏡、電影級調色或3D人偶轉換等高級特效，通常需要比基礎編輯操作更龐大的計算資源。研究表明，生成高分辨率圖像所產(chǎn)生的能耗顯著高于生成普通圖像。
- 大型后端基礎設施支持：生成式人工智能工具依賴于配備GPU/TPU的高性能服務器集群，這些設備不僅在執(zhí)行計算時消耗大量電力，還需額外能源用于冷卻、數(shù)據(jù)傳輸與存儲維護，多重能耗將持續(xù)累積。
- 病毒式傳播帶來規(guī)模性能耗：Nano Banana作為熱門工具，日均用戶已達百萬級別。即便一次圖像生成的能耗相對有限，大量用戶頻繁使用所帶來的總體能源需求也將極為可觀。
相關閱讀
- Create your own 3D Figurine Using Nano Banana AI
- 15 Nano Banana Prompts to Try Today!
- Is Nano Banana Better than GPT-5? Let’s Find Out!
- Nano Banana vs Qwen: Which is Better?
- End-to-End Marketing Automation Using Nano Banana + n8n
- How to Create Videos Using Nano Banana + Veo 3?
- Turn Your Family Photo into a Royal Portrait Using this Nano Banana Prompt
結束語
Nano Banana所帶來的創(chuàng)意浪潮固然令人興奮，卻也提醒人們采用審慎的態(tài)度對待人工智能技術。用戶上傳的每一張圖像（每個數(shù)據(jù)片段）都在持續(xù)驅動這個龐大系統(tǒng)的運轉。然而，在暢享創(chuàng)造樂趣的同時，不應忽視其背后隱藏的代價：除了隱私與安全風險之外，每日數(shù)百萬次人工智能生成請求所累積的能源消耗，帶來了不容忽視的巨大成本。
因此，在享受 Nano Banana帶來創(chuàng)意樂趣的同時，也應謹慎管理上傳的內容與生成的頻率。人們加強環(huán)保意識，不僅能夠守護自己的數(shù)字身份，也為地球的可持續(xù)發(fā)展貢獻力量。
原文標題：Is it Safe to Use Nano Banana?，作者：Nitika Sharma
