近年來，圖神經(jīng)網(wǎng)絡（GNN）取得了快速、令人難以置信的進展。圖神經(jīng)網(wǎng)絡又稱為圖深度學習、圖表征學習（圖表示學習）或幾何深度學習，是機器學習特別是深度學習領域增長最快的研究課題。本次分享的題目為《GNN的基礎、前沿和應用》，主要介紹由吳凌飛、崔鵬、裴健、趙亮幾位學者牽頭編撰的綜合性書籍《圖神經(jīng)網(wǎng)絡基礎、前沿與應用》中的大致內容。

一、圖神經(jīng)網(wǎng)絡的介紹

1、為什么要研究圖？

圖是一種描述和建模復雜系統(tǒng)的通用語言。圖本身并不復雜，它主要由邊和結點構成。我們可以用結點表示任何我們想要建模的物體，可以用邊表示兩個結點之間的關系或者相似度。我們常說的圖神經(jīng)網(wǎng)絡或者圖機器學習，通常是將圖的結構以及邊和結點的信息作為算法的輸入，輸出想要的結果。比如在搜索引擎中，當我們輸入一個 query 時，引擎會根據(jù) query 的信息、用戶的信息以及一些上下文信息返回個性化的搜索結果，這些信息可以天然地以圖的方式進行組織。

2、圖結構數(shù)據(jù)無處不在

圖結構數(shù)據(jù)到處可見，比如 Internet、社交網(wǎng)絡等。除此之外，在如今非?；鸬牡鞍踪|發(fā)現(xiàn)領域，人們會用圖來描述和建模已有的蛋白質并生成新的圖，從而幫助人們去發(fā)現(xiàn)新的藥物。我們也可以用圖去做一些復雜的程序分析，還可以在計算機視覺中去做一些 high-level 的推理。

3、圖機器學習的近期趨勢

圖機器學習并不是一個非常新的話題，近 20 年來一直都有這個研究方向，以前一直比較小眾。2016 年開始，隨著現(xiàn)代圖神經(jīng)網(wǎng)絡相關論文的出現(xiàn)，圖機器學習成為了一個熱門的研究方向。人們發(fā)現(xiàn)這種新一代的圖機器學習方式可以更好地學習數(shù)據(jù)本身和數(shù)據(jù)之間的信息，從而能夠更好地得到數(shù)據(jù)表征，最終能夠更好地完成更重要的任務。

4、圖神經(jīng)網(wǎng)絡的簡單歷史

最早的圖神經(jīng)網(wǎng)絡相關論文出現(xiàn)在 2009 年，在深度學習流行之前?，F(xiàn)代圖神經(jīng)網(wǎng)絡相關論文出現(xiàn)在 2016 年，是對早期的圖神經(jīng)網(wǎng)絡的改進。之后，GCN 的出現(xiàn)推動了圖神經(jīng)網(wǎng)絡的快速發(fā)展，2017 年至今，有大量新的算法涌現(xiàn)出來。隨著圖神經(jīng)網(wǎng)絡的算法越來越成熟，2019 年至今，工業(yè)界嘗試用這些算法解決一些實際問題，同時也有很多開源的工具被開發(fā)出來去提升解決問題的效率。2021 年至今，很多圖神經(jīng)網(wǎng)絡相關的書籍被撰寫出來，當然也包括這本《圖神經(jīng)網(wǎng)絡基礎、前沿與應用》。

《圖神經(jīng)網(wǎng)絡基礎、前沿與應用》一書系統(tǒng)地介紹了圖神經(jīng)網(wǎng)絡領域中最核心的概念和技術，以及前沿的研究和開發(fā)，并介紹了在不同領域的應用。無論是學術界還是工業(yè)界的讀者，都能夠從中受益。

二、圖神經(jīng)網(wǎng)絡的基礎

1、機器學習的生命周期

上圖體現(xiàn)了機器學習的生命周期，其中特征學習是非常重要的環(huán)節(jié)，它的主要任務是將原始數(shù)據(jù)轉化為結構化的數(shù)據(jù)。在深度學習出現(xiàn)之前，大家主要是通過特征工程來完成這個任務。深度學習出現(xiàn)以后，這種端到端的機器學習方式開始成為主流。

2、圖中的特征學習

Feature Learning in Graphs 和深度學習的做法非常類似，目標是設計有效的和任務相關或者和任務無關的特征學習方法將原始圖中的結點映射到高維空間中，從而得到結點的 embedding 表示，進而完成下游任務。

3、圖神經(jīng)網(wǎng)絡的基礎

圖神經(jīng)網(wǎng)絡中有兩類需要學習的表征：

• 圖結點的表征

需要一個 filter operation，將圖的矩陣和結點的向量表示作為輸入，不斷學習，更新結點的向量表示。目前比較普遍的 filter operation 有 Spectral-based、Spatial-based、Attention-based、Recurrent-based。

• 圖的表征

需要一個 pool operation，將圖的矩陣和結點的向量表示作為輸入，不斷學習，得到包含更少的結點的圖的矩陣及其結點的向量表示，最終得到 graph-level 的向量表示來表征整張圖。目前比較常見的 pool operation 有 Flat Graph Pooling（比如 Max、Ave、Min），Hierarchical Graph Pooling（比如 Diffpool）。

4、圖神經(jīng)網(wǎng)絡的基本模型

在機器學習領域有一個 context learning 的概念。在圖神經(jīng)網(wǎng)絡中，一個結點的 context 就是它的鄰居結點，我們可以用一個結點的的鄰居結點來學習這個結點的向量表示。

通過這種方式，每個結點都可以定義一個計算圖。

我們可以將計算圖分層，第一層的就是最原始的信息，通過逐層傳遞和聚合信息來學到所有結點的向量表示。

上圖大致描述了圖神經(jīng)網(wǎng)絡模型學習的主要步驟，主要有以下四個步驟：

• 定義一個聚合函數(shù)；
• 根據(jù)任務定義損失函數(shù)；
• 訓練一批結點，比如可以一次訓練一批計算圖；
• 為每個結點產出需要的向量表示，甚至是一些從來沒有訓練過的結點（學習的是聚合函數(shù)，可以用聚合函數(shù)和已經(jīng)訓練過的向量表示得到新結點的向量表示）。

上圖是一個以平均作為聚合函數(shù)的例子，第 k 層結點 v 的向量表示依賴于上一層其鄰居結點的向量表示的平均和上一層其自己的向量表示。

對以上的內容進行總結，圖神經(jīng)網(wǎng)絡的要點就是通過聚合鄰居結點的信息生成目標結點的向量表示，它考慮到了編碼器中的參數(shù)共享，也考慮到了推理學習。

5、圖神經(jīng)網(wǎng)絡的流行模型

圖神經(jīng)網(wǎng)絡經(jīng)典或者流行的算法本質上是使用不同的 aggregation function 或者 filter function，可以分為有監(jiān)督的圖神經(jīng)網(wǎng)絡和無監(jiān)督的圖神經(jīng)網(wǎng)絡。

GCN 是最經(jīng)典的算法之一，它能夠直接作用于圖并且利用其結構信息。圍繞提升模型速度、實用性以及穩(wěn)定性，如上圖所示，GCN 也經(jīng)歷了幾次迭代。GCN 的論文是具有劃時代意義的，為圖神經(jīng)網(wǎng)絡奠定了基礎。

MPNN 的核心要點是將圖卷積轉化為信息傳遞的過程，它定義兩個 function，分別是 aggregation function 和 update function。這個算法是一個簡單通用的算法，但是它并不高效。

GraphSage 是工業(yè)級別的算法，它使用采樣的方式來得到一定數(shù)量的鄰居結點從而學校結點的向量表示。

GAT 則是引入 attention 的思想，它的核心要點是動態(tài)地學習執(zhí)行信息傳遞過程中邊的權重。

除了以上介紹的算法以外，還有 GGNN，它的特點是輸出可以是多個結點，大家感興趣可以去看相關的論文。

在《圖神經(jīng)網(wǎng)絡基礎、前沿與應用》這本書中的第五、六、七、八章還分別介紹了如何評估圖神經(jīng)網(wǎng)絡、圖神經(jīng)網(wǎng)絡的擴展性、圖神經(jīng)網(wǎng)絡的解釋性、圖神經(jīng)網(wǎng)絡的對抗穩(wěn)定性，大家感興趣可以去閱讀書中對應的章節(jié)。

三、圖神經(jīng)網(wǎng)絡的前沿

1、Graph Structure Learning

圖神經(jīng)網(wǎng)絡是需要圖結構數(shù)據(jù)的，但是給定的圖結構是否是最優(yōu)的是存疑的，有的時候可能會有很多的噪聲，很多應用可能沒有圖結構的數(shù)據(jù)，甚至僅僅只有原始的特征。

所以，我們需要利用圖神經(jīng)網(wǎng)絡學習到最優(yōu)的圖表示以及圖結點表征。

我們將圖的學習轉化為結點間相似的學習，并通過正則化的方式控制平滑度、系屬性和連接性，通過迭代的方式去提煉圖的結構和圖的向量表示。

實驗數(shù)據(jù)可以表現(xiàn)出這種方式的優(yōu)勢。

通過圖可視化的結果可以發(fā)現(xiàn)，學出的圖傾向于將同類的對象聚在一起，有一定的可解釋性。

2、Other Frontiers

在《圖神經(jīng)網(wǎng)絡基礎、前沿與應用》這本書中，還分別介紹了如下前沿研究，這些前沿研究在很多場景下都有很重要的應用：

• 圖分類；
• Link Prediction；
• 圖生成；
• 圖轉換；
• 圖匹配；
• 動態(tài)圖神經(jīng)網(wǎng)絡；
• 異質圖神經(jīng)網(wǎng)絡；
• 圖神經(jīng)網(wǎng)絡的 AutoML；
• 圖神經(jīng)網(wǎng)絡的自監(jiān)督學習。

四、圖神經(jīng)網(wǎng)絡的應用

1、圖神經(jīng)網(wǎng)絡在推薦系統(tǒng)中的應用

我們可以利用會話信息構造異質全局圖，然后通過圖神經(jīng)網(wǎng)絡學習得到用戶或者物品的向量表示，利用這種向量表示去做個性化的推薦。

2、圖神經(jīng)網(wǎng)絡在計算機視覺中的應用

我們可以跟蹤物體動態(tài)的變化過程，通過圖神經(jīng)網(wǎng)絡加深對視頻的理解。

3、圖神經(jīng)網(wǎng)絡在自然語言處理中的應用

我們可以利用圖神經(jīng)網(wǎng)絡來理解自然語言的 high-level 的信息。

4、圖神經(jīng)網(wǎng)絡在程序分析中的應用

5、圖神經(jīng)網(wǎng)絡在智慧城市中的應用

五、問答環(huán)節(jié)

Q1：GNN 是下一代深度學習的重要方法嗎？

A1：圖神經(jīng)網(wǎng)絡是非常重要的分支，和圖神經(jīng)網(wǎng)絡并駕齊驅的是 Transformer。鑒于圖神經(jīng)網(wǎng)絡的靈活性，圖神經(jīng)網(wǎng)絡和 Transformer 相互結合，去發(fā)揮更大的優(yōu)勢。

Q2：GNN 和因果學習是否可以結合？如何結合？

A2：因果學習重要的環(huán)節(jié)是因果圖，因果圖和 GNN 可以天然地結合。因果學習的難點是它的數(shù)據(jù)量級很小，我們可以利用 GNN 的能力更好地去學習因果圖。

Q3：GNN 的可解釋性和傳統(tǒng)機器學習的可解釋性的區(qū)別和聯(lián)系是什么？

A3：在《圖神經(jīng)網(wǎng)絡基礎、前沿與應用》這本書中會有詳細的介紹。

Q4：如何直接基于圖數(shù)據(jù)庫、利用圖計算的能力進行 GNN 的訓練和推理？

A4：目前在統(tǒng)一圖計算平臺上還沒有很好的實踐，有一些創(chuàng)業(yè)公司和科研團隊在做相關方向的探索，這會是一個非常有價值且有挑戰(zhàn)的研究方向，比較可行的做法是分領域。