一、內(nèi)容冷啟動概念及挑戰(zhàn)

百度 feed 推薦是一個月活數(shù)億的綜合信息流推薦平臺。該平臺涵蓋了圖文、視頻、動態(tài)、小程序、問答等多種內(nèi)容類型。它不僅提供類似于單列或雙列的點(diǎn)選式推薦，還包括視頻沉浸式等多種推薦形式。同時，推薦系統(tǒng)是一個多利益方的系統(tǒng)，不僅僅包含 C 端用戶體驗(yàn)。內(nèi)容生產(chǎn)者在推薦系統(tǒng)中扮演著重要的角色，百度 feed 大量的活躍作者，每天生產(chǎn)海量的內(nèi)容。

內(nèi)容平臺型推薦系統(tǒng)的本質(zhì)是要做到多方共贏，對于用戶側(cè)：平臺需要給用戶持續(xù)推薦優(yōu)質(zhì)、時鮮、多樣性的內(nèi)容，吸引更多的用戶、貢獻(xiàn)更多的時長；對于作者側(cè)：用戶正向的激勵，促進(jìn)作者生產(chǎn)更多優(yōu)質(zhì)的內(nèi)容，相反，如果作者發(fā)布的優(yōu)質(zhì)、時鮮的內(nèi)容得不到快速、足夠的曝光，作者會選擇退出平臺，這不利于平臺可持續(xù)發(fā)展的?；谝陨嫌懻?，可以提煉出幾個關(guān)鍵詞：時鮮、優(yōu)質(zhì)、多樣、作者發(fā)文、留存。這與本文要討論的內(nèi)容冷啟動密切相關(guān)。首先要讓更多的資源能夠獲取足夠的展現(xiàn)，通過收集更多內(nèi)容的反饋，增加可以被系統(tǒng)推薦的內(nèi)容量，進(jìn)而能夠增加用戶消費(fèi)資源的多樣性；其次，新資源快速起量，提升用戶的時鮮感，進(jìn)而拉動大盤的時長、DAU、CTR；作者側(cè)，通過作者積極性的激發(fā)，提升活躍作者數(shù)和內(nèi)容發(fā)布量。

新資源冷啟動和常規(guī)推薦算法之間存在一些不同之處。冷啟動所面臨的挑戰(zhàn)可以歸納為三個主要方面：

首先是精準(zhǔn)推薦的挑戰(zhàn)。隨著過去十多年來推薦算法的發(fā)展，從最初的矩陣分解到后來的深度學(xué)習(xí)的廣泛應(yīng)用，ID 類特征在模型中的作用日益凸顯。然而，由于新資源冷啟動樣本數(shù)量稀少甚至不存在，導(dǎo)致 ID 類特征在冷啟動樣本上的訓(xùn)練不充分，從而影響了推薦精準(zhǔn)度。

第二，推薦系統(tǒng)普遍存在著馬太效應(yīng)，即已經(jīng)得到用戶認(rèn)可的資源更容易被推薦，從而得到更多的曝光和點(diǎn)擊，進(jìn)一步鞏固其地位。反之，新資源很難獲得推薦，甚至可能被完全忽視。

最后，我們需要給新資源進(jìn)行一定的冷啟扶持，那么如何更高效、更公平的對新資源進(jìn)行扶持？這里引出公平性和公正性兩個概念，公平性指的是：每個內(nèi)容產(chǎn)品在冷啟動初期都能獲得一定的曝光機(jī)會，都能有公平競爭的機(jī)會。公正性指的是：我們要體現(xiàn)優(yōu)質(zhì)內(nèi)容的價值，內(nèi)容的質(zhì)量高低，要能夠影響冷啟扶持的權(quán)重。所以在新資源上，如何在公平和公正之間尋找合適的平衡點(diǎn)，讓優(yōu)質(zhì)的資源脫穎而出，從而達(dá)到整體收益的最大化，也是一個很大的挑戰(zhàn)。

二、內(nèi)容冷啟動算法實(shí)踐

1. 基于內(nèi)容的冷啟

下面是新資源常用的召回手段，因?yàn)樾沦Y源與用戶的交互次數(shù)很少，傳統(tǒng)的 i-to-i（item-to-item）和u-to-i（user-to-item）召回方法并不適用。因此，冷啟動主要依賴于內(nèi)容推薦方法。例如，基于最基本的用戶畫像、內(nèi)容標(biāo)簽和分類進(jìn)行直接召回的方法，個性化程度較低，召回的準(zhǔn)確性也相對較差。

其次隨著各大內(nèi)容平臺人格化屬性的作者越來越多，基于關(guān)注關(guān)系的冷啟動成為一種有效的方法。但關(guān)注較為稀疏，并不能滿足很多低粉絲量作者的發(fā)文；所以更進(jìn)一步，通過算法挖掘作者的潛在粉絲，來擴(kuò)充基于關(guān)注冷啟的影響面。例如經(jīng)常消費(fèi)該作者但未關(guān)注的用戶，以及基于用戶-作者關(guān)注關(guān)系構(gòu)圖，計(jì)算潛在關(guān)注關(guān)系。

另外，多模態(tài)召回也是一種有效的方法。隨著跨模態(tài)、多模型、大模型技術(shù)的發(fā)展，在推薦系統(tǒng)中整合內(nèi)容的各種模態(tài)信息，尤其是在冷啟動推薦系統(tǒng)中效果顯著。CLIP 是一種基于對比文本和圖像的預(yù)訓(xùn)練方法，主要包含文本編碼器和圖像編碼器兩個模塊，將文本和圖像信息映射到相同的空間，對下游任務(wù)提供更好的幫助。直接使用該向量進(jìn)行召回會存在一定問題，該向量代表的是內(nèi)容先驗(yàn)信息，先驗(yàn)相似并不一定代表用戶都會喜歡，我們需要將先驗(yàn)表示和推薦系統(tǒng)中基于行為數(shù)據(jù)學(xué)習(xí)到的后驗(yàn)表示關(guān)聯(lián)起來。

具體的映射做法是基于已經(jīng)分發(fā)充足的 embedding 和充分學(xué)習(xí)的資源，可以收集一些樣本并將其作為標(biāo)簽用于訓(xùn)練投影網(wǎng)絡(luò)。該投影網(wǎng)絡(luò)將跨模態(tài)的先驗(yàn)表示映射到推薦系統(tǒng)的后驗(yàn)行為表示。這種方法的一個優(yōu)勢在于，無需增加任何模型，就可以無縫使用推薦系統(tǒng)中已有的召回和排序模型。舉例來說，對于雙塔模型，我們只需要利用現(xiàn)有的用戶側(cè)向量，而不需要做任何改動，然后使用投影網(wǎng)絡(luò)將新資源投影到雙塔模型的后驗(yàn)表示空間，從而可以簡單快速地上線一個雙塔召回。同樣，對于當(dāng)前已有的圖召回和基于樹的召回，也可以以低成本的方式進(jìn)行上線。

當(dāng)然，這種映射方法存在一個小缺點(diǎn)，即回歸的難度較大。在 CB2CF 中，這是一種回歸問題，而回歸一般比較難學(xué)習(xí)。因此，我們也可以采用 pairwise 的方式來學(xué)習(xí)映射關(guān)系。具體來說，可以將正樣本設(shè)定為 item CF 學(xué)習(xí)到的相似 item pair，負(fù)樣本可以通過全局負(fù)采樣等方式獲取，輸入也包括 item 的一些先驗(yàn)和動態(tài)信息，然后通過學(xué)習(xí)來獲得這樣一個映射。

通過利用內(nèi)容的先驗(yàn)信息，基本上可以實(shí)現(xiàn)大盤常用的召回方法在冷啟動上的有效實(shí)現(xiàn)。

2. 基于種子用戶的冷啟

由于早期的冷啟動主要針對一些零點(diǎn)擊的資源進(jìn)行設(shè)計(jì)，一旦有了一些早期的冷啟動，這些內(nèi)容就會收集到一定數(shù)量的正反饋種子。此時，我們可以通過 lookalike 的方法來進(jìn)行召回。

Lookalike 的一個重要優(yōu)點(diǎn)是其實(shí)時性特別高。這個方法主要源自互聯(lián)網(wǎng)廣告領(lǐng)域，以前廣告主會選擇一些可能感興趣的用戶作為種子用戶，然后系統(tǒng)會尋找這些種子用戶的相似用戶進(jìn)行擴(kuò)散。在推薦系統(tǒng)中，我們可以訂閱在線實(shí)時流日志，獲取之前冷啟動時收集到的給予資源的正反饋，比如點(diǎn)擊、播放、互動、關(guān)注等，甚至包括負(fù)反饋，如快速滑動的用戶。然后基于這些種子用戶，系統(tǒng)可以通過用戶的 embedding，并通過各種匯聚方法或添加一些自注意力機(jī)制等，得到 item 的表示。這個表示可以非常快速地進(jìn)行更新，再基于這個表示向外擴(kuò)散，具有非常高的時效性。

三、內(nèi)容冷啟實(shí)驗(yàn)系統(tǒng)

1. ID 特征優(yōu)化

在模型方面，冷啟動的優(yōu)化點(diǎn)可以歸納為三種范式：ID 丟棄式、ID 生成式和模型的動態(tài)參數(shù)。這三種范式實(shí)際上可以相互組合使用。

對于 ID 丟棄式優(yōu)化，由于整體資源樣本較少，模型容易迎合頭部資源，因此頭部資源的 ID 學(xué)習(xí)非常充分，在模型中的特征重要度也特別高。然而，冷啟動資源的出現(xiàn)較少，ID 學(xué)習(xí)不充分。針對這個問題，有兩種思路：一種是盡量避免使用 ID，另一種是如何更好地利用 ID。

第一個范式是丟棄式優(yōu)化，經(jīng)典的方法之一是 DropoutNet。在訓(xùn)練過程中，DropoutNet 會隨機(jī)丟棄 item ID 和 user ID 特征，以盡量提高模型對非 ID 特征的重視程度，增強(qiáng)模型的泛化能力。這樣做實(shí)際上能夠提升新用戶或新資源的冷啟效果。

另外，近年來也出現(xiàn)了一些對比學(xué)習(xí)的方法。對比學(xué)習(xí)是一種自監(jiān)督學(xué)習(xí)方法，不依賴于人工標(biāo)注，可以構(gòu)造大量的樣本，為優(yōu)化多幫冷啟動問題提供了幫助，因?yàn)槲覀兛梢詷?gòu)造額外的樣本來加強(qiáng)冷啟動數(shù)據(jù)的地位。例如，在雙塔模型中，可以在 item 側(cè)增加一個輔助的對比損失。這兩個塔的參數(shù)是共享的，使用對比學(xué)習(xí)損失能夠影響資源塔的網(wǎng)絡(luò)參數(shù)和嵌入特征，通過掩碼方法，對具有 ID 特征和其他冷啟動特征的樣本進(jìn)行不同比例的掩碼，從而兼顧模型的泛化能力和冷啟動資源的特殊性。

接下來是生成式優(yōu)化，前面提到了對于不可靠的 ID 特征，要盡量少使用，但目前更優(yōu)的做法是如何讓它更可靠。常規(guī)的思路是基于 ID 的先驗(yàn)特征來進(jìn)行 ID 的 embedding 初始化。通過合理的初始化，使得新資源的預(yù)測更加精確，同時能夠更快地收斂，以雙塔模型為例，通常情況下，新特征會被隨機(jī)初始化或者全零初始化，這會導(dǎo)致對新資源的預(yù)測不準(zhǔn)確，收斂速度慢。因此，可以利用內(nèi)容的一些先驗(yàn)特征，如標(biāo)簽、內(nèi)容標(biāo)簽、作者標(biāo)簽等，以及一些相似的 ID（如熱門 ID），選擇一些具有充分高后驗(yàn)和高分發(fā)的資源的 ID embedding 作為標(biāo)簽，然后訓(xùn)練一個生成器來生成 ID 的 embedding，以替代初始值。當(dāng)然，也可以直接利用新資源與最相似的前 K 個熱門資源的 ID embedding 進(jìn)行平均，作為新資源的 embedding 初始化，這種方法效果相對穩(wěn)定，而且成本非常低，在工業(yè)界使用較多。

針對熱門 ID 主導(dǎo)模型且模型更依賴 ID 特征的問題，我們可以采用多任務(wù)和多場景的思路進(jìn)行優(yōu)化。依然拿雙塔模型舉例，可以將冷啟動和非冷啟動資源的預(yù)測拆分為兩個獨(dú)立的目標(biāo)。通過常見的多目標(biāo)模型，提升模型對新內(nèi)容的重視程度。一種經(jīng)典的方法是 CGC 網(wǎng)絡(luò)，如上圖左部所示。在這種網(wǎng)絡(luò)中，所有任務(wù)共享 embedding 層，然后通過冷啟動任務(wù)和非冷啟動任務(wù)分別學(xué)習(xí)獨(dú)立的專家網(wǎng)絡(luò)，以提升冷啟動預(yù)測的能力。另一種方法是通過動態(tài)權(quán)重來調(diào)整網(wǎng)絡(luò)中不同資源類型的參數(shù)權(quán)重，如上圖右部所示。在這個網(wǎng)絡(luò)中，最右側(cè)的網(wǎng)絡(luò)是一個冷啟動指示器，它接收冷啟動資源的信息（如當(dāng)前點(diǎn)擊展示次數(shù)和資源類型），然后輸出網(wǎng)絡(luò)各層的權(quán)重，以控制不同資源類型下信息在網(wǎng)絡(luò)中的傳遞通道，從而讓模型在冷啟動情況下預(yù)測更加精準(zhǔn)。

2. 流量調(diào)控機(jī)制設(shè)計(jì)

新資源需要盡快起量以提升作者的發(fā)文體驗(yàn)和推薦的實(shí)現(xiàn)性，但由于馬太效應(yīng)，我們需要對新資源進(jìn)行一定的傾斜。一般的冷啟動傾斜可分為兩種流量：基礎(chǔ)流量和助推流量。基礎(chǔ)流量意味著公平，我們需要給予所有資源一些普惠的流量進(jìn)行試探。而助推流量則基于作者質(zhì)量資源的潛力預(yù)估和初級流量的表現(xiàn)給予差異化的扶持。

冷啟的扶持機(jī)制，在抽象層面上有兩個參數(shù)：時間和分發(fā)量，即通過強(qiáng)插、調(diào)權(quán)等手段，在給定的時間內(nèi)讓資源達(dá)到給定的分發(fā)量目標(biāo)。對于不同的業(yè)務(wù)，我們會設(shè)定不同的分發(fā)量和所需時間。例如，對于普通資源，可能只需要在 24 小時內(nèi)展現(xiàn) 100 次就足夠了；而對于新熱資源，可能需要更快，例如半小時內(nèi)達(dá)到 3000 次展現(xiàn)。同時，對于新作者可能會設(shè)置較大的冷啟動額度。

具體到公式上，公式中的 t 表示當(dāng)前發(fā)布時間除以目標(biāo)所需時間的歸一化，即當(dāng)前的時間進(jìn)度，x 表示當(dāng)前的分發(fā)進(jìn)度。我們希望 t 和 x 相等，這意味著正常進(jìn)度下的分發(fā)。如果 x 小于 t，則說明當(dāng)前的冷啟動速度較慢，需要增加權(quán)重或強(qiáng)插的系數(shù)。公式中的 θ 可以控制資源前期投放的傾斜程度。

然而，這個公式的前提是產(chǎn)品不同時段的流量是均勻的，而實(shí)際情況并不符合這一假設(shè)。一般的互聯(lián)網(wǎng)產(chǎn)品流量分布存在高峰和低谷的差異，因此需要根據(jù)實(shí)際情況進(jìn)行調(diào)整。例如，如果一個內(nèi)容在凌晨 2 點(diǎn)發(fā)布，到早上 8 點(diǎn)可能只需要 25 次分發(fā)，因?yàn)榱璩繒r段的流量較少。因此，公式中的 t 需要基于實(shí)際的流量分布進(jìn)行積分。

3. 投放用戶選擇

另一個關(guān)鍵問題是在資源分發(fā)初期，應(yīng)該將資源投放給哪些用戶？最常規(guī)的做法是盡量將新資源推薦給老用戶，而不是新用戶，因?yàn)槔嫌脩舻娜萑潭韧ǔ８?，可以避免新資源推薦不精準(zhǔn)而對新用戶造成傷害。此外，如果將冷啟動資源的提升視為一種干預(yù)，基于 Uplift 思想可以學(xué)習(xí)干預(yù)對用戶時長和留存的影響，盡量選擇對干預(yù)不產(chǎn)生負(fù)面影響的用戶進(jìn)行冷啟動。

以上兩點(diǎn)都是基于 C 端用戶影響的角度。然而，冷啟動受眾的選擇也會影響資源的后續(xù)傳播發(fā)展。從信息傳播的角度來看，二級傳播理論將信息傳播分為兩個步驟。首先，在每天產(chǎn)生的大量信息中，一些人群具有篩選和助推信息的能力，我們稱之為意見領(lǐng)袖。然后，由這些意見領(lǐng)袖放大助推的資源會大規(guī)模傳播。

在當(dāng)前時代，意見領(lǐng)袖的角色同樣存在于社交平臺、知名媒體、電視臺等地方。對于推薦系統(tǒng)來說，也存在著關(guān)鍵節(jié)點(diǎn)用戶資源的概念，他們通過篩選優(yōu)質(zhì)資源并進(jìn)行推薦，從而影響其他用戶的消費(fèi)行為。

那么，如何挖掘這些關(guān)鍵用戶呢？通過以上討論，關(guān)鍵用戶具有兩個特點(diǎn)：一是對資源質(zhì)量有較高的鑒別能力，二是他們推薦的內(nèi)容被其他用戶接受的概率較高。因此，有兩種挖掘方法：

首先，根據(jù)資源的后驗(yàn)情況將資源劃分為優(yōu)質(zhì)和低質(zhì)資源，并將其作為標(biāo)簽。然后以初期點(diǎn)擊這些資源的用戶 ID 作為特征，預(yù)測資源的后驗(yàn)情況。模型學(xué)習(xí)出的每個用戶 ID 的權(quán)重可以視為該用戶的關(guān)鍵指數(shù)。

其次，通過在線用戶協(xié)同過濾推薦系統(tǒng)，挖掘用戶之間的推薦成功率。推薦成功率較高的用戶可被視為推薦系統(tǒng)中的關(guān)鍵用戶。通過這兩種方法，挖掘出圖中的關(guān)鍵用戶，并在資源冷啟動時優(yōu)先推薦給他們。

4. 實(shí)驗(yàn)系統(tǒng)

冷啟動內(nèi)容的實(shí)驗(yàn)系統(tǒng)在設(shè)計(jì)時需要注意一些特殊性，因?yàn)橥扑]系統(tǒng)的樣本是共享的，導(dǎo)致實(shí)驗(yàn)組收集到的反饋也會在對照組中被學(xué)習(xí)到，從而難以準(zhǔn)確衡量冷啟動策略的效果。因此，我們需要進(jìn)行內(nèi)容隔離實(shí)驗(yàn)，以評估冷啟動策略對整個系統(tǒng)的影響。

一種常見的實(shí)驗(yàn)設(shè)計(jì)是將用戶和資源完全隔離，比如上圖左下部所示。其中，50% 的用戶只能看到 50% 的內(nèi)容，不同的資源分組使用不同的冷啟動策略。這樣可以評估冷啟動策略對整個系統(tǒng)的影響。但是這種方法可能對 C 端用戶的體驗(yàn)造成較大的影響，因?yàn)樗麄冎荒芸吹揭徊糠值膬?nèi)容。

另一種柔和的方式是在冷啟動階段，比如前 3000 次，將用戶和資源完全隔離，然后不同的分組進(jìn)行不同的冷啟動策略。在經(jīng)過冷啟動之后，就可以在全部用戶上分發(fā)資源。這樣的設(shè)計(jì)可以降低對 C 端用戶體驗(yàn)的影響。

通過實(shí)驗(yàn)，我們可以分析以下指標(biāo)：

• 冷啟動期間的冷啟動達(dá)標(biāo)率、速率和效率指標(biāo)，如點(diǎn)擊率（CTR）、完播率等。
• 全面分發(fā)階段，不同資源分組的優(yōu)質(zhì)內(nèi)容比例、出破率、爆款率以及對應(yīng)作者的發(fā)文量等指標(biāo)。

四、Q&A

Q1：冷熱雙塔怎么判斷？一個是熱塔，一個是冷塔的。

A1：冷熱雙塔的判斷通常基于資源的分發(fā)量。一般來說，分發(fā)量較低的資源被認(rèn)為是冷塔，而分發(fā)量較高的資源則被認(rèn)為是熱塔。例如，可以將分發(fā)量小于 100 次的資源視為冷啟資源。當(dāng)然，需要根據(jù)線上模型的預(yù)估精度進(jìn)行分析，并根據(jù)實(shí)際情況來確定具體的判斷標(biāo)準(zhǔn)。

Q2：冷啟流量優(yōu)質(zhì)助推，這里怎么判斷資源的潛力？就是否是領(lǐng)域新熱也是用價值模型做預(yù)估嗎？

A2：冷啟流量的優(yōu)質(zhì)助推通常涉及對資源潛力的評估。判斷資源潛力可以結(jié)合多個信號源。例如，對于是否是領(lǐng)域的新熱，可以綜合考慮全網(wǎng)的信息，包括各個產(chǎn)品的熱榜信息，以及相關(guān)領(lǐng)域的話題討論和關(guān)注度等。對于資源的價值評估，可能會考慮作者的優(yōu)質(zhì)度，包括其在初期階段的表現(xiàn)、互動情況等因素。綜合利用這些信息，可以對資源的潛力進(jìn)行較為全面的預(yù)估。

Q3：理想的 t 跟實(shí)際的 t 怎么求解？曝光曲線上體現(xiàn)呢？如何保證實(shí)際的曝光和大盤趨勢是一致的。

A3：在求解理想的 t 和實(shí)際的 t 時，可以通過觀察曝光曲線來體現(xiàn)。曝光曲線展示了資源在不同時間段內(nèi)的曝光量，而理想的 t 指的是根據(jù)設(shè)定的目標(biāo)所需時間而計(jì)算的理論曝光進(jìn)度，而實(shí)際的 t 則是根據(jù)當(dāng)前實(shí)際的曝光進(jìn)度而確定的。為了保證實(shí)際的曝光與大盤趨勢一致，需要對整體流量的比例進(jìn)行穩(wěn)定的監(jiān)測，以確保冷啟的進(jìn)度與整體流量趨勢保持一致。如果冷啟的進(jìn)度比較慢，可能需要提高曝光量或者調(diào)整其他推薦策略以加速進(jìn)度，而如果進(jìn)度過快，則可能需要減緩曝光速度以避免資源過度曝光。

Q4：實(shí)驗(yàn)時用戶只能看到 50% 的內(nèi)容，全量的時候看到的是 100% 的內(nèi)容。如何證明實(shí)驗(yàn)跟全量效果是一致的？

A4：冷啟的問題其實(shí)很難精確的測出來效果的準(zhǔn)確值?，F(xiàn)在一般就是去對比實(shí)驗(yàn)組和對照組哪個更好。