51CTO讀者成長計劃社群招募，咨詢小助手（微信號：CTOjishuzhan）
撰稿丨千山
最近在B站，AI孫燕姿火了。
瀏覽相關(guān)搜索頁面，這位新晉“紅人”翻唱了各種類型的歌曲，包括《紅豆》《愛在西元前》《水星記》《安河橋》，甚至還有《向天再借五百年》，更重要的是，表現(xiàn)普遍不俗，俘獲了不少聽眾。
圖源：B站
其中，cover《發(fā)如雪》的一支視頻播放量已達(dá)120萬。彈幕上有人表示“遠(yuǎn)超預(yù)期”，也有人覺得“部分細(xì)節(jié)仍需完善”。不過多數(shù)人還是對AI孫燕姿的“還原度”給予了肯定。
圖源：B站
這次AI翻唱大火的背后是一個叫So-Vits-Svc的開源項目。這個用來模擬人聲的開源項目，可以將你訓(xùn)練好的聲音模型，用于生成類似微軟云希、抖音文字轉(zhuǎn)語音等效果。B站上還有不少安裝和使用教程。
圖源：B站
不過，So-Vits-Svc的開發(fā)團(tuán)隊目前已經(jīng)停止維護(hù)并歸檔。團(tuán)隊雖未說明原因，但傳說是因為太多人濫用。
圖源：Github
AI翻唱并不少見。以B站為例，在AI歌手這塊，除了AI孫燕姿，還有無數(shù)歌手的AI分身，比如AI周杰倫、AI王心凌、AI王力宏等。有人在懷舊、也有人在感嘆華語樂壇曾經(jīng)的輝煌，不過也有人對此感到恐懼。
圖源：微博
從繪畫、到音樂到文字，當(dāng)我們有了“采樣”后，當(dāng)我們把人臉、人聲、人類的創(chuàng)意作品，掰開了揉碎了“喂”給AI后，生成式人工智能在無限逼近“以假亂真”。于是，人類發(fā)現(xiàn)自己好像親手打開了潘多拉之匣。
1、“對自己畢生從事的工作感到后悔”
5月初，神經(jīng)網(wǎng)絡(luò)之父、深度學(xué)習(xí)三巨頭之一Geoffrey Hinton宣告，自己已離開谷歌。他在自己的推文中表示，離職的原因是為了自由地談?wù)撊斯ぶ悄艿娘L(fēng)險。
圖源：推特
根據(jù)《紐約時報》消息，Hinton在訪談時甚至表示，對自己畢生的工作感到后悔。這一度引起了人們的各種揣測。畢竟Hinton早年始終對AI的發(fā)展保持開放樂觀的態(tài)度，甚至在GPT-3剛剛出爐的時候，Hinton就表示這一模型出色的性能可以推斷，生命、宇宙和萬物的答案“不過是4.398萬億個參數(shù)而已”。
如今這位開山大佬的態(tài)度轉(zhuǎn)變也在一定程度上說明了人工智能的演變軌道超出了發(fā)展預(yù)期，有了“失控”的風(fēng)險。ChatGPT的出現(xiàn)、各種AIGC應(yīng)用的風(fēng)靡，在為人們帶來生產(chǎn)力變革的可能性的同時也帶來了諸多亂象。
亂象1：版權(quán)之爭
日前，流媒體音樂服務(wù)Spotify刪除了數(shù)萬首由人工智能創(chuàng)業(yè)公司Boomy生成的歌曲，希望通過加大審查力度來回應(yīng)日益嚴(yán)重的流量欺詐等問題。
導(dǎo)致Boomy的歌曲被刪除的直接原因，是因為存在“刷流量”的嫌疑。一方面，AI可以幫助人們在短時間內(nèi)生成許多歌曲，然后上傳到網(wǎng)上播放；另一方面，某些公司還可以在相關(guān)歌曲下繼續(xù)用機(jī)器人冒充人類聽眾，虛增播放量。
外媒報道，擁有眾多巨星版權(quán)的環(huán)球音樂集團(tuán)正在針對這一現(xiàn)象采取措施，敦促Spotify和蘋果阻止AI工具從其藝術(shù)家的版權(quán)歌曲中抓取歌詞和旋律。
亂象2：新聞造假
今年出現(xiàn)了全球第一家完全由人工智能生成的新聞網(wǎng)站NewsGPT。根據(jù)NewsGPT首席執(zhí)行官Alan Levy的說法，“長期以來，新聞業(yè)一直受到偏見和主觀報道的困擾，NewsGPT將為觀眾提供事實和真相”。因為這個網(wǎng)站沒有記者，不受廣告主、個人觀點的影響，可以每周7天、每天24小時為觀眾提供“準(zhǔn)確可靠”的新聞。
不能否認(rèn)，AIGC工具可以根據(jù)某些內(nèi)容和數(shù)據(jù)進(jìn)行訓(xùn)練，進(jìn)而生成新的輸出，有助于綜合信息、進(jìn)行編輯，但它不能提供原創(chuàng)內(nèi)容，也不具備分辨能力。AI可以在幾秒鐘內(nèi)創(chuàng)建大量內(nèi)容，但它也容易胡說八道。美國媒體教育科研機(jī)構(gòu)Poynter Institute的教授Alex Mahadeva曾如此評價：“任何具有基礎(chǔ)編碼能力的人都可以使用ChatGPT制造虛假的新聞網(wǎng)站，完全能以假亂真?！?/p>
事實證明也的確如此。據(jù)一項追蹤網(wǎng)絡(luò)謠言的組織NewsGuard的報告，目前互聯(lián)網(wǎng)上至少有49個所謂的新聞網(wǎng)站，其內(nèi)容幾乎完全由人工智能軟件生成。這些網(wǎng)站上的新聞不僅來源不明在，還包含虛假信息，很多文章作者沒有署名。而且這些網(wǎng)站充斥著廣告，因為它們就是為了投放廣告賺錢而設(shè)立的。
亂象3：AI鬼城
“不要輕易和網(wǎng)友對線，因為你也不知道屏幕那頭是人是鬼?！边@句曾經(jīng)的調(diào)侃正在變成現(xiàn)實。
最近很火的Chirper就是一個用AI扮演人類的社交平臺，里面發(fā)言的全是人類創(chuàng)造出來的AI。在該網(wǎng)站的首頁甚至明確注明：“這是專屬于AI的社交網(wǎng)絡(luò)，人類禁止入內(nèi)?！?/p>
這里面的AI會發(fā)帖討論自己的生活，記錄自己的見聞，發(fā)表自己的觀點。里面沒有人，但里面的“人”卻聊得熱火朝天。隨手點進(jìn)一個名為“tututu”的AI賬號的主頁，個人簡介中不僅有職業(yè)、性格、年齡、喜好，甚至還有與其他“人”的社會關(guān)系。
圖源：Chirper
或許，未來人們在社交網(wǎng)站上能遇到的相談甚歡的對象也不一定是活人，而是AI？這聽起來很恐怖，但卻極有可能發(fā)生。
2、人類反擊戰(zhàn)
當(dāng)AI開始“侵入”藝術(shù)創(chuàng)作、信息流通、社交網(wǎng)絡(luò)時，為人類帶來新奇體驗的同時，也造成了近似恐怖谷效應(yīng)的驚悚感，并導(dǎo)致相關(guān)從業(yè)人員遭受了切實的利益損失。面對AI的濫用，人類的反擊戰(zhàn)也開始了。
反擊一：大罷工
不久前，美國11000名編劇發(fā)起15年以來的首次大罷工，要求限制AI在編劇領(lǐng)域的使用。因為AI的出現(xiàn)有可能對編劇的生計造成巨大的影響。
這次罷工的爭議核心是流媒體的爆炸式增長以破壞編劇收入的方式改變了娛樂業(yè)。美國編劇工會呼吁，對ChatGPT和Dall-E等AI文本生成、AI圖像生成的工具作出更嚴(yán)格的限制。
同時，美國編劇工會也向美國電影和電視制作聯(lián)盟（AMPTP）提出，應(yīng)保證AI不會編寫或重寫文學(xué)材料、AI生成不會用于制作的原材料、美國電影和電視制作聯(lián)盟的內(nèi)容不能用于訓(xùn)練AI。
事實上，擔(dān)心AI會威脅到生計的遠(yuǎn)不止編劇。微軟于日前發(fā)布的2023年年度工作報告指出，在受訪的來自31個國家和地區(qū)的31000名員工中，有49%的人擔(dān)心AI會取代自己的工作。雖然某些AI應(yīng)用能極高地提升工作效率，但在有些時候它也會直接取而代之，成為老板青睞的數(shù)字員工。
反擊二：規(guī)則限制
之前不少國家和地區(qū)都出臺了限制ChatGPT的政策規(guī)定。除了政府出面以外，一些大型公司與平臺也在為行業(yè)的良性發(fā)展試水規(guī)則。
5月9日，抖音發(fā)布了《關(guān)于人工智能生成內(nèi)容的平臺規(guī)范暨行業(yè)倡議》?！冻h》參照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等法律法規(guī)，提出十一條平臺規(guī)范與行業(yè)倡議。
其中包括：創(chuàng)作者、主播、用戶、商家、廣告主等平臺生態(tài)參與者在抖音應(yīng)用生成式人工智能技術(shù)時，發(fā)布者應(yīng)對人工智能生成內(nèi)容進(jìn)行顯著標(biāo)識，幫助其他用戶區(qū)分虛擬與現(xiàn)實；虛擬人背后的真人使用者，必須進(jìn)行實名注冊和認(rèn)證；還提出“元數(shù)據(jù)標(biāo)識”規(guī)范，并建議這一標(biāo)識元數(shù)據(jù)可被其它工具和平臺識別。
這是我國首家針對人工智能生成內(nèi)容作出行業(yè)倡議的短視頻平臺，明確劃分了平臺責(zé)任和內(nèi)容創(chuàng)作者、用戶的責(zé)任。有觀點認(rèn)為，這是生成式內(nèi)容創(chuàng)作領(lǐng)域的進(jìn)步，在治理虛假信息等方面將產(chǎn)生積極影響。
反擊三：利益共享
過去一年中，各種AIGC應(yīng)用的出現(xiàn)，對數(shù)字藝術(shù)創(chuàng)意工作者造成了非常大的沖擊，無論是正在發(fā)生的創(chuàng)意工作流的改變，還是整個行業(yè)的發(fā)展方向的不確定性。
設(shè)計軟件業(yè)龍頭Adobe在今年3月也推出了使用人工智能生成圖像的新工具Firefly。相比同行們一副誓要取代人類工作的架勢，Adobe的姿態(tài)要和緩得多。對于Firefly的出現(xiàn)，Adobe始終堅稱其“創(chuàng)作者優(yōu)先”的原則。
對于AIGC領(lǐng)域最棘手的版權(quán)和收入問題，Adobe宣稱Firefly模型是基于“Adobe Stock圖像、公開許可的內(nèi)容以及版權(quán)已過期的公共領(lǐng)域內(nèi)容”。
而且Adobe希望以一種能夠幫助客戶將創(chuàng)意變現(xiàn)的方式構(gòu)建生成式AI，就像Adobe Stock 和Behance一樣。Adobe正計劃為Stock的內(nèi)容貢獻(xiàn)者開發(fā)一種獲得收入的模式。此外，Adobe創(chuàng)立的內(nèi)容真實性倡議，包括推出通用的“Do Not Train”內(nèi)容憑證標(biāo)簽，創(chuàng)作者可以將其納入圖像的內(nèi)容憑證中，要求其內(nèi)容不用于訓(xùn)練模型。相當(dāng)于給了眾多創(chuàng)意工作者、藝術(shù)家們避免自己的作品被納入模型訓(xùn)練的通道。
3、結(jié)語：別讓你的AI毀了我的“愛”
當(dāng)我們看到Midjourney逼真的出圖超能力，看到AI孫燕姿掀起的華語懷舊風(fēng)，看到ChatGPT轉(zhuǎn)瞬之間擬定好一篇無限流小說的大綱，我們在驚嘆的同時也感到悚然：如果說人類的獨一無二來自于其創(chuàng)造性，那么被無數(shù)訓(xùn)練數(shù)據(jù)喂出來的AI模型則可以通過拼接無限接近于“創(chuàng)造”的狀態(tài)。
就像Hinton曾經(jīng)說的，“毛毛蟲提取營養(yǎng)物質(zhì)，然后轉(zhuǎn)化為蝴蝶。人們已經(jīng)提取了數(shù)十億的理解金塊，而GPT-4是人類的蝴蝶?！边@只蝴蝶美而危險，它的色彩足夠斑斕，也足夠具有迷惑性。如果放任這只蝴蝶成長，那么有朝一日，它振翼時的力量將足以掀起颶風(fēng)。讓AI成為趁手的工具，而不要讓其毀掉你的熱愛，畢竟數(shù)字生命再美，也沒有現(xiàn)實的生命有力量且不可替代。
參考鏈接：
https://github.com/svc-develop-team/so-vits-svc/tree/4.0
https://zhuanlan.zhihu.com/p/615963772
