ACM SIGKDD（國際數(shù)據(jù)挖掘與知識發(fā)現(xiàn)大會，KDD） 會議始于 1989 年，是數(shù)據(jù)挖掘領(lǐng)域歷史最悠久、規(guī)模最大的國際頂級學(xué)術(shù)會議，也是首個引入大數(shù)據(jù)、數(shù)據(jù)科學(xué)、預(yù)測分析、眾包等概念的會議。

今年的 KDD 大會是第 29 屆，于 8 月 6 日 - 10 日在美國加州長灘舉辦。大會包含研究方向（Research ）和應(yīng)用數(shù)據(jù)科學(xué)方向 （Applied Data Science，ADS）兩個 track。

隨著會議的進行，各大獎項也開始逐一揭曉。其中來自香港中文大學(xué)、香港科技大學(xué)（廣州）、東南大學(xué)、同濟大學(xué)的研究者獲得了研究方向最佳論文獎；來自谷歌的研究者獲得了應(yīng)用數(shù)據(jù)科學(xué)方向最佳論文獎；斯坦福大學(xué)（于今年 1 月獲得學(xué)位）博士 Weihua Hu 獲得杰出博士論文獎；創(chuàng)新獎頒給了斯坦福大學(xué)計算機科學(xué)學(xué)院教授 Jure Leskovec；不列顛哥倫比亞大學(xué)的四位研究者獲得了本次大會的時間檢驗獎。

KDD 最佳論文獎 — 研究方向

來自香港中文大學(xué)的孫相國、程鴻教授、香港科技大學(xué)（廣州）的李佳教授、東南大學(xué)的劉波教授以及同濟大學(xué)的關(guān)佶紅教授獲得了最佳論文獎。獲獎?wù)撐臑椤禔ll in One: Multi-task Prompting for Graph Neural Networks》。

李佳教授獲得最佳論文獎（研究方向）。

論文地址：https://arxiv.org/pdf/2307.01504.pdf

論文介紹：最近，預(yù)訓(xùn)練和微調(diào)范式已成為許多圖任務(wù)的標準工作流程，因為這些方法可以利用通用的圖知識來緩解每個應(yīng)用中圖注釋的缺乏。然而，具有節(jié)點級、邊緣級和圖級的圖任務(wù)千差萬別，使得預(yù)訓(xùn)練的前提往往與多個任務(wù)不兼容。這種差距甚至可能導(dǎo)致對特定應(yīng)用程序的「負遷移」，從而使得效果不佳。

受到自然語言處理（NLP）中 prompt 學(xué)習(xí)的啟發(fā)，因而，本文研究了在圖領(lǐng)域中關(guān)于 prompting 的主題，旨在彌合預(yù)訓(xùn)練模型與各種圖任務(wù)之間的差距。本文提出了一種新穎的用于圖模型的多任務(wù) prompting 方法。

具體來說，該研究首先通過 prompt token、token 結(jié)構(gòu)和嵌入模式統(tǒng)一了圖 prompt 和語言 prompt 的格式。通過這種方式，可以將 NLP 中的 prompting 思想無縫地引入到圖領(lǐng)域。然后，為了進一步縮小各種圖任務(wù)與最先進的預(yù)訓(xùn)練策略之間的差距，該研究進一步研究了各種圖應(yīng)用的任務(wù)空間，并將下游問題重新表述為圖級任務(wù)。隨后，他們引入元學(xué)習(xí)，以有效地學(xué)習(xí)更好的圖多任務(wù) prompt 初始化，從而使 prompting 框架在不同任務(wù)之間更可靠且更通用。本文還進行了大量實驗來證明所提方法的優(yōu)越性。

圖 1 為微調(diào)、預(yù)訓(xùn)練以及 prompting 流程；圖 2 為受 NLP 領(lǐng)域中 prompt 啟發(fā)，得到的圖 prompt：

KDD 最佳論文獎 — 應(yīng)用數(shù)據(jù)科學(xué)方向

SIGKDD 2023 應(yīng)用數(shù)據(jù)科學(xué)方向最佳論文獎頒給了谷歌的研究者。其中華人學(xué)者包括高級軟件工程師 Jiaxi Tang 、軟件工程師 Li Wei 、高級軟件工程師 Xinyang Yi、 軟件工程高級總監(jiān) Lichan Hong 以及杰出科學(xué)家 Ed H. Chi 。

圖源：https://twitter.com/madiator/status/1688716588491608064

論文地址：https://arxiv.org/pdf/2302.09178.pdf

論文介紹：推薦系統(tǒng)在許多內(nèi)容平臺中扮演著重要的角色。雖然大多數(shù)關(guān)于推薦系統(tǒng)的研究都致力于設(shè)計更好的模型來改善用戶體驗，但研究發(fā)現(xiàn)讓這些模型訓(xùn)練更加穩(wěn)定的研究嚴重不足。

隨著推薦模型變得越來越龐大和復(fù)雜，因而更容易受到訓(xùn)練不穩(wěn)定性問題的影響，例如損失發(fā)散，這可能使模型無法使用，浪費大量資源，并阻礙模型的發(fā)展。

在本文中，研究者指出了導(dǎo)致模型訓(xùn)練不穩(wěn)定的一些特性，并對其原因進行了推測。更進一步的，基于對訓(xùn)練不穩(wěn)定點附近訓(xùn)練動態(tài)的觀察，研究者假設(shè)了現(xiàn)有解決方案失敗的原因，并提出了一種新的算法來減輕現(xiàn)有解決方案的局限性。

研究者在數(shù)據(jù)集上進行的實驗表明，與幾種常用的基準方法相比，本文所提出的算法可以顯著提高模型的訓(xùn)練穩(wěn)定性，同時不損害收斂性。

KDD 最佳學(xué)生論文獎 — 研究方向

本次獲得最佳學(xué)生論文獎的是來自蒙納士大學(xué)、澳大利亞國立大學(xué)等機構(gòu)的研究者。

論文地址：https://arxiv.org/pdf/2209.13446.pdf

論文介紹：本文提出了一個基于特征的學(xué)習(xí)框架，可有效處理反事實約束，并為有限的私有解釋模型做出了貢獻。本文在生成行動可行性和合理性的多樣性反事實方面，展示了所提方法的靈活性和有效性。

KDD 杰出博士論文獎

KDD 2023 杰出博士論文獎授予了斯坦福大學(xué)（于今年 1 月獲得學(xué)位）博士 Weihua Hu 的論文《On the Predictive Power of Graph Neural Networks》。

推特 @weihua916

我們先簡單介紹一下 Weihua Hu。他先后于 2016 年和 2018 年獲得了東京大學(xué)的數(shù)學(xué)工程學(xué)士學(xué)位和計算機科學(xué)碩士學(xué)位。之后進入斯坦福大學(xué)攻讀計算機科學(xué)博士學(xué)位，其導(dǎo)師為 Jure Leskovec（也是 KDD 2023 創(chuàng)新獎獲得者）。

博士期間，Weihua Hu 創(chuàng)建了圖結(jié)構(gòu)數(shù)據(jù)的機器學(xué)習(xí)理論、方法和基準，旨在改進現(xiàn)實世界的多樣化應(yīng)用，比如推薦系統(tǒng)、藥物或材料發(fā)現(xiàn)、天氣預(yù)測。他還樂于應(yīng)用（圖）機器學(xué)習(xí)來解決現(xiàn)實世界有趣和重要的問題。

目前，Weihua Hu 在初創(chuàng)公司 Kumo.ai 工作，致力于將 GNN 投入生產(chǎn)，尤其重視使用 GNN 來回答現(xiàn)代關(guān)系數(shù)據(jù)庫上各種各樣的未來預(yù)測查詢。

個人主頁：https://weihua916.github.io/

Weihua Hu 的博士論文旨在通過理解、改進 GNN 的預(yù)測能力并進行基準測試，來構(gòu)建強大的預(yù)測性 GNN。這里的預(yù)測能力是 GNN 對圖做出準確預(yù)測的能力。論文分以下三個部分展開。

第一部分開發(fā)了一個用于理解 GNN 預(yù)測能力的理論框架，尤其關(guān)注表達能力，觀察 GNN 是否可以在圖上表達所需的函數(shù)。第二部分是在有了用于設(shè)計表達性 GNN 模型的框架之后， 進一步提升模型在未見過或未標注數(shù)據(jù)上的預(yù)測能力，也即是提升 GNN 的泛化性能。第三部分創(chuàng)建一個新的圖基準數(shù)據(jù)集來解決現(xiàn)有基準的問題，并讓社區(qū)參與進來共同提升 GNN 的預(yù)測能力。

論文詳細內(nèi)容請參閱：https://searchworks.stanford.edu/view/14423818

KDD 杰出博士論文獎（亞軍）

今年還評選出了兩篇杰出博士論文獎（亞軍），第一篇是《Characterization and detection of disinformation spreading in online social networks》，作者為 Francesco Pierri，他現(xiàn)在是米蘭理工大學(xué)的一名助理教授。

推特 @frapi9

論文地址：https://www.politesi.polimi.it/handle/10589/188756

另一篇獲此獎項的論文題目是《Efficient and Secure Message Passing forMachine Learning》，作者是北卡羅來納州立大學(xué)助理教授 Xiaorui Liu。

推特 @liu_xiaorui

論文地址：https://www.proquest.com/openview/38629046ef91d5deea1a63265175abc0/1?pq-origsite=gscholar&cbl=18750&diss=y

KDD 創(chuàng)新獎

KDD 創(chuàng)新獎旨在表彰對數(shù)據(jù)發(fā)現(xiàn)與數(shù)據(jù)挖掘領(lǐng)域做出杰出貢獻，并促進理論和商業(yè)系統(tǒng)發(fā)展的研究者。

KDD 2023 創(chuàng)新獎頒給了圖網(wǎng)絡(luò)領(lǐng)域的大牛、斯坦福大學(xué)計算機科學(xué)學(xué)院教授 Jure Leskovec。他也是圖表示學(xué)習(xí)方法 node2vec 和 GraphSAGE 作者之一。此次獲獎是為表彰他對圖挖掘、網(wǎng)絡(luò)和應(yīng)用機器學(xué)習(xí)的根本性和里程碑式貢獻。

推特 @fredayala

Jure Leskovec 的研究領(lǐng)域為大規(guī)模互連系統(tǒng)的應(yīng)用機器學(xué)習(xí)，并專注于為所有尺度的系統(tǒng)建模復(fù)雜、標簽豐富的關(guān)系結(jié)構(gòu)、圖和網(wǎng)絡(luò)，涉及領(lǐng)域可以從細胞中的蛋白質(zhì)相互作用到社會中的人類交互。研究應(yīng)用則包括了常識推理、推薦系統(tǒng)、計算社會科學(xué)以及以藥物發(fā)現(xiàn)為重點的計算生物學(xué)。

迄今為止，Jure Leskovec 參與的論文在谷歌學(xué)術(shù)上的引用次數(shù)將近 10 萬。

谷歌學(xué)術(shù)主頁：https://cs.stanford.edu/people/jure/

KDD 時間檢驗獎—研究方向

來自不列顛哥倫比亞大學(xué)的四位研究者獲得了本次大會的時間檢驗獎。這篇論文發(fā)表于 2012 年，在 Google Scholar 上的引用量是 1792。

推特 @Frank Hutter

論文地址：https://arxiv.org/pdf/1208.3719.pdf

論文介紹：目前，研究者已經(jīng)開發(fā)出了許多不同的機器學(xué)習(xí)算法，考慮到每個算法的超參數(shù)非常多，因而會出現(xiàn)很多可替代方案。本文的做法是選擇學(xué)習(xí)算法的同時并設(shè)置其超參數(shù)，從而超越了先前只解決單個問題的研究。

本文考慮了一系列廣泛的特征選擇技術(shù)，以及 WEKA 中實現(xiàn)的所有分類方法，涵蓋 2 種集成方法、10 種元方法、27 種基準分類器，以及每個分類器的超參數(shù)設(shè)置。在 UCI 中的 21 個常用數(shù)據(jù)集、KDD Cup 09、MNIST 數(shù)據(jù)集變體和 CIFAR-10 數(shù)據(jù)集的每個數(shù)據(jù)集上，該研究展示了本文方法比使用標準的選擇 / 超參數(shù)優(yōu)化方法要好得多。該研究希望他們所提出的方法能夠幫助非專業(yè)用戶更有效地識別適用于其應(yīng)用的機器學(xué)習(xí)算法和超參數(shù)設(shè)置，從而實現(xiàn)性能改進。

KDD 時間檢驗獎—應(yīng)用數(shù)據(jù)科學(xué)方向

另一篇時間檢驗獎頒給了論文《Ad Click Prediction: a View from the Trenches》，來自谷歌，被引用次數(shù)為 1030。

論文地址：https://static.googleusercontent.com/media/research.google.com/zh-CN//pubs/archive/41159.pdf

論文介紹：預(yù)測廣告點擊率（CTR）是一個與數(shù)十億美元規(guī)模的在線廣告行業(yè)密切相關(guān)的大規(guī)模學(xué)習(xí)問題。本文在一個部署的CTR預(yù)測系統(tǒng)環(huán)境中，展示了一些選定的案例研究和主題，這些案例研究和主題源自最近的實驗。

最后，KDD 還頒布了杰出服務(wù)獎，旨在表彰在知識發(fā)現(xiàn)和數(shù)據(jù)挖掘領(lǐng)域做出杰出專業(yè)服務(wù)貢獻的個人或團體。本屆大會頒給了熊輝（Hui Xiong）教授。