譯者 | 劉濤

審校 | 重樓

在深度學習領域，數(shù)據(jù)是模型訓練的基石。訓練數(shù)據(jù)的數(shù)量和質量直接決定了機器學習算法的效能。

然而，獲取大量精確分類的數(shù)據(jù)往往是一項既困難又耗費資源的工作。在這一背景下，數(shù)據(jù)增強( Data Augmentation )作為一種頗具吸引力的解決方案應運而生，而生成模型在這一領域的創(chuàng)新潛力正日益凸顯。

本文將深入探討生成模型在深度學習數(shù)據(jù)增強中的重要作用，例如變分自編碼器(VAEs)和生成對抗網(wǎng)絡(GANs)。

什么是生成模型?

生成模型是一種機器學習模型，它能創(chuàng)建與指定數(shù)據(jù)集在特征上高度相似的新數(shù)據(jù)樣本。這類模型能夠發(fā)現(xiàn)數(shù)據(jù)背后隱藏的趨勢和結構，從而能夠生成與實際數(shù)據(jù)在質量上和風格上均極為相似的合成數(shù)據(jù)點。

生成模型在眾多領域都有廣泛的應用，包括但不限于圖像生成、文本生成、數(shù)據(jù)增強等。以圖像生成項目為例，生成模型可以通過學習大量的貓和狗的圖片數(shù)據(jù)，進而掌握生成新的貓和狗圖片的能力。

這類模型從現(xiàn)有數(shù)據(jù)中學習模式和風格，并應用這些信息來創(chuàng)造相似的事物。這就如同計算機被賦予了一個創(chuàng)意引擎，能夠通過研究過往的策略和模式，自主生成新的創(chuàng)意和想法。

什么是數(shù)據(jù)增強?

數(shù)據(jù)增強是機器學習和深度學習領域的一種關鍵技術，它通過多樣化的轉換和調整手段，對現(xiàn)有數(shù)據(jù)進行處理，旨在提升訓練數(shù)據(jù)集的質量與數(shù)量。這一過程涉及從現(xiàn)有樣本中生成新的數(shù)據(jù)樣本，從而擴充數(shù)據(jù)集的規(guī)模及其多樣性。

數(shù)據(jù)增強的核心目標在于提升機器學習模型的性能、泛化能力以及魯棒性(Robustness：指的是機器學習模型在面對各種變化和不確定性時保持性能穩(wěn)定和有效的能力)，這在計算機視覺任務以及其他數(shù)據(jù)驅動型領域中尤為重要。

通過數(shù)據(jù)增強，可以優(yōu)化各類機器學習應用的數(shù)據(jù)集，包括圖像分類、目標檢測以及自然語言處理等。例如，利用數(shù)據(jù)增強技術生成合成人臉圖片，進而用于訓練深度學習模型，以便在現(xiàn)實世界的圖像中有效識別出人臉。

在數(shù)據(jù)科學領域，數(shù)據(jù)增強是一種重要的方法，因為它解決了數(shù)據(jù)數(shù)量和質量的基本難題。在眾多機器學習和深度學習應用中，構建強大且精確的模型，需要獲取大量多樣化且標注精確的數(shù)據(jù)。

數(shù)據(jù)增強是一種有效手段，通過創(chuàng)建新樣本，擴展了原來有限數(shù)據(jù)集的邊界，從而提高模型的泛化能力和性能。此外，它還增強了機器學習算法應對現(xiàn)實世界變化的能力，進而打造出更加可靠和靈活的人工智能系統(tǒng)。

為什么要使用生成模型進行數(shù)據(jù)增強?

在機器學習領域，使用生成模型進行數(shù)據(jù)增強有以下幾個重要原因：

增強數(shù)據(jù)多樣性：生成模型能夠有效提升數(shù)據(jù)集的多樣性，使機器學習模型在面對真實世界中的多樣化情境時具備更強的適應性和魯棒性。例如，通過生成模型可以創(chuàng)造出具有不同表情、年齡和種族特征的人臉合成圖像，從而幫助機器學習模型在各種實際場景中更加可靠地完成人臉檢測任務。

提升模型泛化能力：利用生成模型進行數(shù)據(jù)增強，可以讓機器學習模型在訓練過程中接觸到更加廣泛的數(shù)據(jù)變量。這一過程有助于增強模型對新的、未知數(shù)據(jù)的泛化能力，進而提高其整體性能。這對于依賴大量數(shù)據(jù)以實現(xiàn)充分訓練的深度學習模型尤為重要。

解決數(shù)據(jù)不足問題：在眾多機器學習應用中，獲取大量且多樣化的標記數(shù)據(jù)集往往是一個重大挑戰(zhàn)。生成模型通過開發(fā)合成數(shù)據(jù)，有助于處理數(shù)據(jù)不足問題，減少對有限真實數(shù)據(jù)的依賴。

降低偏見：生成模型可以通過生成新的數(shù)據(jù)樣本，解決訓練數(shù)據(jù)中某些類別代表性不足或存在偏見的情況，從而有效消除偏見，提高人工智能應用的平衡性。

用于數(shù)據(jù)增強的生成模型

兩種可用于數(shù)據(jù)增強的主要生成模型：

• 生成對抗網(wǎng)絡(GANs)
• 變分自編碼器(VAEs)

生成對抗網(wǎng)絡(GANs)

GANs是一種神經(jīng)網(wǎng)絡設計，旨在創(chuàng)建與訓練數(shù)據(jù)相似的新數(shù)據(jù)樣本。GANs屬于一種學習模型，具備構建看似來自特定數(shù)據(jù)集新項目的能力。例如，GANs可以在一組圖像上進行訓練，進而生成看似來自原始數(shù)據(jù)集的新圖像。

以下是GANs工作原理的簡要概述：

• 生成器負責生成新的數(shù)據(jù)樣本，而判別器同時接收新生成的樣本和真實樣本。
• 判別器旨在辨別哪些樣本是真實的，哪些是偽造的。
• 判別器的輸出結果用于更新生成器和判別器自身。

生成器通過將噪聲數(shù)據(jù)作為輸入，從而創(chuàng)建合成圖像。判別器則試圖正確區(qū)分生成器生成的假圖像和訓練集中的真實圖像。

生成器試圖優(yōu)化其參數(shù)，以生成更具欺騙性的假圖像，從而誤導判別器。判別器通過調整其參數(shù)來更精確地區(qū)分真實和虛假圖像，以尋求性能提升。這兩個網(wǎng)絡持續(xù)進行競爭和自我優(yōu)化，直至生成器能夠產(chǎn)生與真實數(shù)據(jù)幾乎無法區(qū)分的樣本。

GANs在數(shù)據(jù)增強技術中具有顯著應用價值，其能夠生成與真實數(shù)據(jù)樣本難以區(qū)分的合成數(shù)據(jù)。這一點至關重要，因為機器學習算法是從數(shù)據(jù)中學習的，訓練數(shù)據(jù)越多，模型性能就越好。另一方面，收集足夠多的真實數(shù)據(jù)來訓練機器學習模型可能既昂貴又耗時。

通過生成近似于真實數(shù)據(jù)的合成數(shù)據(jù)，GANs有助于降低收集數(shù)據(jù)所需的成本和時間。這對于收集真實數(shù)據(jù)難度較大或成本較高的應用領域尤其有益，如醫(yī)學成像或視頻監(jiān)控數(shù)據(jù)。

GANs的應用還體現(xiàn)在其多樣性上。這是因為GANs能夠生成原始數(shù)據(jù)集中不存在的數(shù)據(jù)樣本。這有助于提升機器學習模型對真實世界變化的適應性和魯棒性。

變分自編碼器(VAEs)

VAEs是生成模型的一種，是機器學習和深度學習中應用的一種自編碼器變體。作為一種生成模型，VAEs能夠生成與訓練數(shù)據(jù)相似的新數(shù)據(jù)樣本。

VAEs屬于貝葉斯模型范疇，這意味著它利用概率分布來描述數(shù)據(jù)中的不確定性。正是這種特性使得VAEs生成的數(shù)據(jù)樣本相較于其他生成模型更為真實。

VAEs通過學習數(shù)據(jù)在潛在空間中的表示來發(fā)揮作用。潛在空間是對數(shù)據(jù)的壓縮表示，它捕捉了數(shù)據(jù)最關鍵的特征。通過在潛在空間中采樣并將這些樣本解碼回原始數(shù)據(jù)空間，VAEs就能夠生成新的數(shù)據(jù)樣本。

以下是VAE工作原理的簡要概述：

• 編碼器接收一個數(shù)據(jù)樣本作為輸入，比如一張動物的圖像。
• 編碼器生成數(shù)據(jù)的潛在空間表示，即圖像的壓縮版本。它捕獲了動物的關鍵特征，如形狀、大小和毛色。
• 潛在空間表示隨后被送入解碼器。
• 解碼器生成一個重構的數(shù)據(jù)樣本，即一個新的動物圖像，與原始圖像非常相似。

編碼器和解碼器通過訓練來減少重構圖像和原始圖像之間的差異。這一過程是通過使用比較兩張圖片相似度的損失函數(shù)來實現(xiàn)的。

VAEs作為一種強大的生成建模工具，廣泛應用于圖像生成、文本生成、數(shù)據(jù)壓縮和數(shù)據(jù)去噪等領域。它們?yōu)榻：蜕蓮碗s數(shù)據(jù)分布提供了一個概率框架，并在數(shù)據(jù)生成和插值中保持了一個結構化的潛在空間。

VAEs具有生成與真實數(shù)據(jù)高度相似樣本的能力，使其在數(shù)據(jù)增強方面也具有重要作用。這意味著VAEs生成的增強數(shù)據(jù)不僅高度真實，而且與底層的數(shù)據(jù)分布保持一致，這對于有效的數(shù)據(jù)增強至關重要。

在VAEs的結構化潛在空間中，每一個點都代表了有意義的數(shù)據(jù)變化。這不僅可以進行受控的數(shù)據(jù)創(chuàng)建，也允許用戶通過在潛在空間的不同位置進行采樣，來創(chuàng)建具有特定屬性或變體的新數(shù)據(jù)實例，從而適用于目標導向的數(shù)據(jù)增強。

在真實數(shù)據(jù)有限的情況下，VAEs可以通過生成合成數(shù)據(jù)來解決數(shù)據(jù)不足的問題。這在收集更多真實數(shù)據(jù)不現(xiàn)實或成本高昂時尤為寶貴。

隨著VAEs技術的不斷進步，其在訓練機器學習模型中可能會發(fā)揮越來越重要的作用。

結論

在機器學習領域的數(shù)據(jù)增強實踐中，生成模型扮演了至關重要的角色。

例如，GANs被廣泛應用于合成人臉圖像，這些生成的圖像被進一步用于訓練機器學習模型，以便在真實圖像中檢測人臉。

VAEs也被用于創(chuàng)建汽車的合成圖像，這些圖像隨后被納入機器學習模型的訓練過程中，用以識別真實照片中的汽車。

這些實例均體現(xiàn)了生成模型在數(shù)據(jù)增強領域中的實際應用價值。

譯者介紹

劉濤，51CTO社區(qū)編輯，某大型央企系統(tǒng)上線檢測管控負責人。

原文標題：How Do Generative Models Work in Deep Learning? Generative Models For Data Augmentation Explained，作者：Oyedele Tioluwani Taiwo

鏈接：

https://www.freecodecamp.org/news/generative-models-for-data-augmentation。