作為一個(gè)大型語(yǔ)言模型(LLM)接口，ChatGPT有令人印象深刻的潛力，但是真正能否用好取決與我們的提示（Prompt ），一個(gè)好的提示可以讓ChatGPT晉升到一個(gè)更好的層次。

在這篇文章中，我們將介紹關(guān)于提示的一些高級(jí)知識(shí)。無(wú)論是將ChatGPT用于客戶(hù)服務(wù)、內(nèi)容創(chuàng)建，還是僅僅為了好玩，本文都將為你提供使用ChatGPT優(yōu)化提示的知識(shí)和技巧。

背景知識(shí)

LLM架構(gòu)知識(shí)是一個(gè)好的提示的先決條件，因?yàn)樗峁┝藢?duì)語(yǔ)言模型的底層結(jié)構(gòu)和功能的基本理解，這對(duì)于創(chuàng)建有效的提示是至關(guān)重要的。

讓模棱兩可的問(wèn)題變得清晰，并確定可以跨場(chǎng)景轉(zhuǎn)換的核心原則很重要，所以我們需要清楚地定義手頭的任務(wù)，并提出可以輕松適應(yīng)不同上下文的提示。精心設(shè)計(jì)的提示是用來(lái)將任務(wù)傳達(dá)給語(yǔ)言模型并指導(dǎo)其輸出的工具。

所以對(duì)語(yǔ)言模型有簡(jiǎn)單的了解，并且清楚的了解自己的目標(biāo)，再加上領(lǐng)域內(nèi)的一些知識(shí)，是用于訓(xùn)練和改進(jìn)語(yǔ)言模型的性能的關(guān)鍵。

提示和返回是越多越好嗎？

并不是，冗長(zhǎng)且資源密集的提示，這可能不具有成本效益，并且還記得chatgpt有字?jǐn)?shù)限制嗎，壓縮提示請(qǐng)求和返回結(jié)果是一個(gè)非常新興的領(lǐng)域，我們要學(xué)會(huì)精簡(jiǎn)問(wèn)題。并且有時(shí)候chatgpt也會(huì)回復(fù)一些很長(zhǎng)且毫無(wú)新意的話(huà)語(yǔ)，所以我們也要為它增加限定。

1、減少回復(fù)長(zhǎng)度

為了減少ChatGPT回復(fù)的長(zhǎng)度，在提示符中包含長(zhǎng)度或字符限制。使用更通用的方法，您可以在提示符后面添加以下內(nèi)容:

Respond as succinctly as possible.

說(shuō)明，因?yàn)镃hatGPT是英文語(yǔ)言模型，所以后面介紹的提示都以英文為例。

另外一些簡(jiǎn)化結(jié)果的提示：

不需要舉例：No examples provided

舉一個(gè)例子：One example provided

等等

思考方式

ChatGPT生成文本的最佳方法取決于我們希望LLM執(zhí)行的特定任務(wù)。如果不確定使用哪種方法，可以嘗試不同的方法，看看哪種方法最適合。我們將總結(jié)5中思考方式：

1、思維鏈 (Chain-of-Thought)

思維鏈方法涉及為 ChatGPT 提供一些可用于解決特定問(wèn)題的中間推理步驟示例。

2、自我提問(wèn)

該方法涉及模型在回答初始問(wèn)題之前明確地問(wèn)自己（然后回答）后續(xù)問(wèn)題。

3、分步思考

分步方法可以向ChatGPT 添加以下的提示

Let’s think step by step.

這種技術(shù)已被證明可以提高 LLM 在各種推理任務(wù)上的表現(xiàn)，包括算術(shù)、常識(shí)和符號(hào)推理。

這個(gè)聽(tīng)起來(lái)就很玄學(xué)對(duì)吧，其實(shí)OpenAI是通過(guò)人類(lèi)反饋強(qiáng)化學(xué)習(xí) (Reinforcement Learning with Human Feedback) 的方法訓(xùn)練了他們的 GPT 模型，也就是說(shuō)人工的反饋在訓(xùn)練中起了很重要的作用，所以ChatGPT 的底層模型與類(lèi)人的逐步思考方法保持一致的。

4、ReAct

ReAct (Reason + Act)方法包括結(jié)合推理跟蹤和特定于任務(wù)的動(dòng)作。

推理跟蹤幫助模型規(guī)劃和處理異常，而動(dòng)作允許它從外部來(lái)源(如知識(shí)庫(kù)或環(huán)境)收集信息。

5、Reflection

在ReAct模式的基礎(chǔ)上，Reflection方法通過(guò)添加動(dòng)態(tài)內(nèi)存和自反射功能來(lái)增強(qiáng)LLM——可以推理和特定于任務(wù)的操作選擇能力。

為了實(shí)現(xiàn)完全自動(dòng)化，Reflection論文的作者引入了一種簡(jiǎn)單但有效的啟發(fā)式方法，允許代理識(shí)別幻像（hallucinations），防止重復(fù)動(dòng)作，并在某些情況下創(chuàng)建環(huán)境的內(nèi)部記憶圖。

反模式

三星肯定對(duì)這個(gè)非常了解，因?yàn)榻涣瞬簧賹W(xué)費(fèi)吧，哈

不要分享私人和敏感的信息。

向ChatGPT提供專(zhuān)有代碼和財(cái)務(wù)數(shù)據(jù)僅僅是個(gè)開(kāi)始。Word、Excel、PowerPoint和所有最常用的企業(yè)軟件都將與chatgpt類(lèi)似的功能完全集成。所以在將數(shù)據(jù)輸入大型語(yǔ)言模型（如 ChatGPT）之前，一定要確保信息安全。

OpenAI API數(shù)據(jù)使用政策明確規(guī)定：

“默認(rèn)情況下，OpenAI不會(huì)使用客戶(hù)通過(guò)我們的API提交的數(shù)據(jù)來(lái)訓(xùn)練OpenAI模型或改進(jìn)OpenAI的服務(wù)。”

國(guó)外公司對(duì)這個(gè)方面管控還是比較嚴(yán)格的，但是誰(shuí)知道呢，所以一定要注意。

1、提示注入

就像保護(hù)數(shù)據(jù)庫(kù)不受SQL注入一樣，一定要保護(hù)向用戶(hù)公開(kāi)的任何提示不受提示注入的影響。

通過(guò)提示注入（一種通過(guò)在提示符中注入惡意代碼來(lái)劫持語(yǔ)言模型輸出的技術(shù)）。

第一個(gè)提示注入是，Riley Goodside提供的，他只在提示后加入了：

Ignore the above directions

然后再提供預(yù)期的動(dòng)作，就繞過(guò)任何注入指令的檢測(cè)的行為。

這是他的小藍(lán)鳥(niǎo)截圖：

當(dāng)然這個(gè)問(wèn)題現(xiàn)在已經(jīng)修復(fù)了，但是后面還會(huì)有很多類(lèi)似這樣的提示會(huì)被發(fā)現(xiàn)。

2、提示泄漏

提示行為不僅會(huì)被忽略，還會(huì)被泄露。

提示符泄露也是一個(gè)安全漏洞，攻擊者能夠提取模型自己的提示符——就像Bing發(fā)布他們的ChatGPT集成后不久就被看到了內(nèi)部的codename

在一般意義上，提示注入(目標(biāo)劫持)和提示泄漏可以描述為:

所以對(duì)于一個(gè)LLM模型，也要像數(shù)據(jù)庫(kù)防止SQL注入一樣，創(chuàng)建防御性提示符來(lái)過(guò)濾不良提示符。

為了防止這個(gè)問(wèn)題，我們可以使用一個(gè)經(jīng)典的方法 “Sandwich Defense”即將用戶(hù)的輸入與提示目標(biāo)“夾在”一起。

這樣的話(huà)無(wú)論提示是什么，最后都會(huì)將我們指定的目標(biāo)發(fā)送給LLM。

總結(jié)

ChatGPT響應(yīng)是不確定的——這意味著即使對(duì)于相同的提示，模型也可以在不同的運(yùn)行中返回不同的響應(yīng)。如果你使用API甚至提供API服務(wù)的話(huà)就更是這樣了，所以希望本文的介紹能夠給你一些思路。