本周一，正如其它每個周一，一億多 Spotify 用戶每人都收到了一個嶄新的歌單。這個叫做每周發(fā)現(xiàn)的歌單內(nèi)混合了用戶從未聽過但是可能會喜歡的 30首歌曲。效果堪稱神奇。

我自己是 Spotify 的超級粉絲，對每周發(fā)現(xiàn)尤其喜愛。為什么呢？因為我覺得它懂我。它比我生***的任何人都更清楚我的音樂品味。我很高興每周它都能滿足我的需求，一如既往地推薦一些我自己永遠都不會找到或知道會喜歡的歌曲。

對于那些兩耳不聞窗外事的人們，請允許我介紹一下我的虛擬好友： 

[圖片說明: 我的 Spotify 每周發(fā)現(xiàn)歌單]

沒想到，在這方面我不是一個人，不光是我對每周發(fā)現(xiàn)如此著迷 – 整個用戶群體都趨之若鶩。這股熱潮使得 Spotify 重新調(diào)整了它的重心，并在基于算法的歌單上投入了更多的資源。

Dave Howitz: @Spotfiy 每周發(fā)現(xiàn)的歌單對我的了解程度簡直毛骨悚然，熟悉到就像一個曾經(jīng)與我有過一起瀕死體驗的前女友一樣。

Amanda Whitbred: 現(xiàn)在 @Spotify 的每周發(fā)現(xiàn)對我已經(jīng)了解到如果它現(xiàn)在求婚，我也會說同意的地步了。

自「每周發(fā)現(xiàn)」在 2015 年***次上線以來，我就迫切想知道它是怎么運作的（而且由于我是 Spotify 公司的迷妹，我喜歡假裝在那里工作并研究他們的產(chǎn)品）。 經(jīng)過三周的瘋狂Google，我終于滿懷感恩地獲取了一些幕后的知識。

所以 Spotify 到底是如何成功做到給每人每周挑選 30 首歌曲的？我們先來仔細看下其它的音樂服務(wù)是如何做音樂推薦，以及 Spotify 是如何更勝一籌的。

在線音樂甄選服務(wù)簡史

[[226464]]

早在千禧年之初，Songza 就開始使用手動甄選為用戶提供歌單。手動甄選的意思就是所謂的音樂專家或者其他編輯會手動挑選一些他們自己認為不錯的音樂做成歌單，然后聽眾可以直接拿來聽。（稍后，Beats 音樂也采取了同樣的策略）。手動甄選效果尚可，但是由于這種方法只是純手工挑選，方式方法也比較簡單，它并不能照顧到每個聽眾音樂品味的微妙差異。

跟 Songza 一樣， Pandora 也是音樂甄選服務(wù)領(lǐng)域的早期玩家之一。它使用了一個略為更高級的方法來代替給歌曲屬性手工打標簽。即大眾在聽音樂的時候，對每首歌曲挑選一些描述性的詞語來作為標簽。進而，Pandora 的程序可以直接過濾特定的標簽來生成包含相似歌曲的歌單。

差不多同一時間，一個隸屬于麻省理工學院媒體實驗室的名叫 The Echo Nest 的音樂信息機構(gòu)，采用了一個完全不同的高級策略來定制音樂。The Echo Nest 使用算法來分析音頻和音樂的文本內(nèi)容，以完成音樂識別，個性化推薦，歌單創(chuàng)建和分析等。

***，是 Last.fm 另辟蹊徑，采取了另一個沿用至今的策略。那就是利用協(xié)同過濾來識別用戶可能喜歡的音樂。稍后本文會展開討論更多這方面的內(nèi)容。

所以說既然其他的音樂甄選服務(wù)都實現(xiàn)了推薦功能，Spotify 究竟是怎么操作自己的神奇引擎，來實現(xiàn)甩出競爭對手幾條街的用戶品味默契度的呢？

Spotify 的三種推薦模型

事實上 Spotify 并沒有使用什么單一的革命性推薦模型，而是混合了一些其他公司使用的***的策略來創(chuàng)建他們自己***的強大發(fā)現(xiàn)引擎。

Spotify 使用三種主要的推薦模型來創(chuàng)建每周發(fā)現(xiàn)：

• 協(xié)同過濾模型（即 Last.fm 最早使用的那些模型）。工作原理為分析你和其他用戶的行為。
• 自然語言處理（NLP）模型 。工作原理為分析文本。
• 音頻模型。工作原理為分析原始音頻聲道本身。

我們來具體看下這些推薦模型是怎么工作的！

推薦模型之一：協(xié)同過濾

[[226465]]

首先介紹下背景：當很多人聽到協(xié)同過濾這幾個詞的時候，他們會立刻聯(lián)想到 Netflix，因為它是***個利用協(xié)同過濾來實現(xiàn)推薦模型的公司之一。其做法主要是使用用戶提交的電影***來計算推薦那些電影給其他類似的用戶。

自 Netflix 將其成功應(yīng)用以來，協(xié)同過濾開始快速流傳開來。現(xiàn)在無論是誰想實現(xiàn)一個推薦模型的話，一般都會拿它作為初次嘗試。

與Netflix不同的是，Spotify 并沒有用戶對他們音樂的***評價數(shù)據(jù)。Spotify 所用的數(shù)據(jù)是隱形反饋的，具體來說就是我們在線聽歌的歌曲次數(shù)，以及其他額外信息，諸如用戶是否保存歌曲到個人歌單，或者聽完歌曲后是否接著訪問藝術(shù)家主頁等。

但什么是協(xié)同過濾，到底它是如何工作的呢？下面用一段簡短對話來做一個大致的介紹。

啥情況? 原來這倆人里面每人都有自己的一些歌曲偏好 – 左邊的人喜歡歌曲 P, Q, R 和 S; 右邊的人喜歡 Q, R, S 和 T。

協(xié)同過濾系統(tǒng)進而利用這些數(shù)據(jù)得出結(jié)論，

“嗯。既然你倆都喜歡相同的歌曲 – Q，R 和 S – 那么你們可能是類似的用戶。所以你們應(yīng)該會喜歡另一個人聽過但是你還沒有聽過的歌曲。”

系統(tǒng)然后建議右邊的人去體驗下歌曲 P，以及左邊的人去體驗下歌曲 T。聽起來夠簡單吧？

但是 Spotify 具體是怎么具體應(yīng)用這個概念，來計算基于***的用戶偏好從而得出數(shù)以百萬計的用戶歌曲推薦呢？

…矩陣運算，用 Python 庫即可實現(xiàn)

現(xiàn)實中，此處提及的矩陣是極其龐大的。每行都代表了 Spotify 的一億四千萬用戶中的一員（如果你也用 Spotify，那么你也是這個矩陣中的一行），而每一列則代表了 Spotify 數(shù)據(jù)庫中三億首歌曲中的一首。

然后，Python 庫就開始跑這個漫長而復雜的矩陣分解公式：

計算完成后，系統(tǒng)會生成兩種類型的向量，在此分別命名為 X 和 Y。X 為用戶向量，代表單個用戶的音樂品味。Y 則為歌曲向量，代表單支歌曲的特征。

現(xiàn)在我們得到了一億四千萬個用戶向量，每人一個，還有三億歌曲向量。這些向量的具體內(nèi)容只是一些單獨拎出來自身并無意義的數(shù)字，但是在后面進行比較時會非常有用。

為了找到那些跟我相似品味的用戶，協(xié)同過濾系統(tǒng)會拿我的向量跟其他用戶的向量作比較，最終會找到那些跟我最相似的用戶。對于 Y 向量，也是同樣的流程 – 你可以拿一首歌的向量與其他的歌曲向量做比較，進而找出哪些歌曲是跟你現(xiàn)在正在看的歌曲最相似。

協(xié)同過濾確實效果不錯，但是 Spotify 深知再添加另外一個引擎的話效果會更出色。這就到了自然語言處理出場的時候了。

推薦模型之二：自然語言處理

Spotify 采用的第二個推薦模型就是自然語言處理。這些模型的源數(shù)據(jù)，正如名字所示，就是一些普通的語言文字 – 例如歌曲的元數(shù)據(jù)，新聞文章，博客，和互聯(lián)網(wǎng)上的其它文本等。

自然語言處理 – 計算機理解人類語言的能力 – 本身就是一個巨大的領(lǐng)域，通常通過情感分析應(yīng)用編程接口（API）來進行操作處理。

自然語言處理背后的具體原理超出了本文的討論范疇，但是在此本文可以提供一些粗略的描述：Spotify 會在網(wǎng)上不斷爬取博客帖子以及其它音樂相關(guān)的文本，并找出人們對特定的藝術(shù)家和歌曲的評論 – 比如說人們對這些歌曲經(jīng)常使用哪些形容詞和語言, 以及哪些其他藝術(shù)家和歌曲也會和它們放在一起討論。

雖然我不知道 Spotify 如何處理他們抓取的數(shù)據(jù)，但是我可以介紹下 The Echo Nest 是如何使用它們的。他們會把數(shù)據(jù)分類成“文化向量”和“***評語集”。每個藝術(shù)家和歌曲都有數(shù)以千計的每日更新的***評語集。每個評語都有一個相關(guān)的權(quán)重，來表示其描述的重要性（簡單說就是某人可能會用該評語描述某個音樂的概率）。

[ “Cultural vectors”, or “top terms”, as used by the Echo Nest. Table from Brian Whitman]

然后，與協(xié)同過濾類似，自然語言處理模型用這些評語和權(quán)重來創(chuàng)建一個歌曲的表達向量，可以用來確定兩首音樂是否相似。很酷吧？

推薦模型之三：原始音頻模型

首先，你可能會問這個問題：

但是，Sophia，我們已經(jīng)從前兩種模型中獲取了這么多數(shù)據(jù)！為什么還要繼續(xù)分析音頻本身呢？

額，首先要說的是，引入第三個模型會進一步提高這個已經(jīng)很優(yōu)秀的推薦服務(wù)的準確性。但實際上，采用這個模型還有另外一個次要目的：原始音頻模型會把新歌考慮進來。

比如說，你的創(chuàng)作歌手朋友在 Spotify 上剛放上了一首新歌。可能它只有 50 次聽歌記錄，所以很少能有其他聽眾來一起協(xié)同過濾它。與此同時，它也在網(wǎng)上也沒有留下多少痕跡，所以自然語言處理模型也不會注意到它。幸運的是，原始音頻模型并不區(qū)分新歌曲和熱門歌曲。所以有了它的幫忙，你朋友的歌曲也可以和流行歌曲一道出現(xiàn)在每周發(fā)現(xiàn)的歌單里面。

好了，到了“如何”的部分了。我們?nèi)绾尾拍芊治鲞@些看起來如此抽象的原始音頻數(shù)據(jù)呢？

…用卷積神經(jīng)網(wǎng)絡(luò)！

卷積神經(jīng)網(wǎng)絡(luò)同樣也是支撐面部識別的技術(shù)。只不過在 Spotify 的案例中，他們被稍作修改以基于音頻數(shù)據(jù)處理而不是像素點。下面是一個神經(jīng)網(wǎng)絡(luò)架構(gòu)的例子：

[Image credit: Sander Dieleman]

這個特定的神經(jīng)網(wǎng)絡(luò)有四個卷積層，具體為圖中左側(cè)的寬柱，和右邊的稍微窄些的三根柱。輸入是音頻幀的時頻表示，進而連接起來形成頻譜圖。

音頻幀會穿過這些卷積層，經(jīng)過***一個卷積層，你可以看到一個“全局臨時池”層。該層在整個時間軸上匯集數(shù)據(jù)，并有效計算和統(tǒng)計歌曲時長內(nèi)的學習特征。

處理完之后，神經(jīng)網(wǎng)絡(luò)會得出其對歌曲的理解，包括估計的時間簽名，音調(diào)，調(diào)式，拍子及音量等特征。下面就是 Draft Punk 的 “Around the World” 30 秒片段的數(shù)據(jù)圖。

[Image Credit: Tristan Jehan & David DesRoches (The Echo Nest)]

最終，對這些對歌曲關(guān)鍵特征的理解可以讓 Spotify 來決定歌曲之間的相似度，以及根據(jù)用戶聽歌歷史來判斷哪些用戶可能會喜歡它們。

這些基本涵蓋了為每周發(fā)現(xiàn)提供支持的推薦作業(yè)流程所依賴的三種主要模型。

[ Cassandra instances]

當然了，這些推薦模型也和 Spotify 其它更大的生態(tài)系統(tǒng)連接在一起，其中包括利用海量的數(shù)據(jù)存儲以及非常多的 Hadoop 集群來做推薦服務(wù)的擴展，使得引擎得以計算巨型矩陣，無窮無盡的互聯(lián)網(wǎng)音樂文章和大量的音頻文件。 

我希望本文可以對你有所啟發(fā)，并且像當時它對我一樣能夠激起你的好奇。懷著對幕后的機器學習技術(shù)的了解和感激之情，現(xiàn)在我將通過我自己的每周發(fā)現(xiàn)來尋找我喜歡的音樂。