這個研究探討了大型語言模型（LLMs）在執(zhí)行復(fù)雜推理任務(wù)時面臨的計算資源消耗與響應(yīng)延遲問題。研究特別聚焦于思維鏈（Chain-of-Thought, CoT）提示范式的效率局限性。CoT雖然有效，但在推理過程中需要生成冗長、詳盡的逐步推理，導(dǎo)致計算資源利用率低下且延遲顯著增加。這與人類問題解決機制形成鮮明對比——人類傾向于通過簡潔的草圖或速記筆記捕捉核心見解，避免冗余闡述。本研究旨在通過引入更高效的推理模式，縮小AI與人類認知處理方式間的差距。

方法論

Chain of Draft (CoD) 是一種為大型語言模型（LLM）設(shè)計的創(chuàng)新推理策略，旨在通過生成簡潔、高信息密度的中間輸出來模擬人類認知過程。CoD方法論的核心特征包含多個維度：該方法鼓勵LLM將每個推理步驟限制在五個單詞以內(nèi)，顯著提高了表達的簡潔性和處理效率；同時優(yōu)先保留推進問題解決的關(guān)鍵信息，類似于人類在處理復(fù)雜任務(wù)時的要點記錄行為。

CoD將復(fù)雜的推理過程濃縮為最小化的抽象表示，常將復(fù)雜問題提煉為簡潔方程或核心概念。通過抽象化非關(guān)鍵上下文細節(jié)，CoD顯著減少了token消耗，同時保持解決方案的透明度與準確性。

盡管CoD追求簡潔，但仍然保持了逐步推理的范式，確保在復(fù)雜推理任務(wù)中能夠?qū)崿F(xiàn)邏輯連貫的進展。研究團隊通過手動構(gòu)建Chain of Draft示例用于小樣本學(xué)習，向LLM展示了所需的簡潔推理風格。值得注意的是，"每步五個單詞"的限制作為一般性指導(dǎo)原則而非嚴格規(guī)范，保留了實際應(yīng)用中的靈活性。

實驗結(jié)果與分析

Chain of Draft (CoD)在提升計算效率的同時，在維持或超越思維鏈（CoT）提示準確性方面展現(xiàn)出顯著成效。實驗數(shù)據(jù)表明，與CoT相比，CoD使用的token數(shù)量減少至原來的7.6%，在保留基本推理邏輯的同時大幅降低了表達冗余度。在多種推理任務(wù)評估中，CoD實現(xiàn)了與CoT相當甚至更優(yōu)的準確率。

token使用量的大幅減少直接轉(zhuǎn)化為計算成本降低和響應(yīng)延遲縮短，使LLM在實際應(yīng)用場景中的適用性顯著提升。CoD方法已在算術(shù)計算、常識推理和符號邏輯等多樣化推理任務(wù)中驗證了其有效性。這些實驗結(jié)果表明，CoD提供了一種更為高效的LLM推理方法學(xué)，有潛力從根本上改變LLM在計算效率至關(guān)重要的生產(chǎn)環(huán)境中的應(yīng)用模式。

總結(jié)

Chain of Draft (CoD)作為一種新型方法論，針對性解決了大型語言模型（LLM）一個關(guān)鍵但常被忽視的維度：推理能力與響應(yīng)延遲之間的權(quán)衡問題。該方法通過顯著降低LLM輸出中的冗余表達，有效減少了延遲并降低了計算成本，同時保持甚至提升了相較于思維鏈（CoT）等傳統(tǒng)方法的推理準確性。通過引導(dǎo)LLM生成簡潔而關(guān)鍵的推理步驟，CoD顯著降低了復(fù)雜推理任務(wù)所需的響應(yīng)時間。這一創(chuàng)新對需要低延遲與高質(zhì)量響應(yīng)并存的實時應(yīng)用場景尤為重要。CoD實現(xiàn)了與標準CoT提示策略相當或更高的準確率，成為在速度與精確度同等重要的實際應(yīng)用場景中，提升LLM效率與實用性的有力解決方案。