隨著功能的增加，提示工程的復(fù)雜性將不可避免地增加。在這里，我解釋了如何將復(fù)雜性引入到提示工程的過程中。

靜態(tài)prompt

如今，試驗prompt和提示工程已司空見慣。通過創(chuàng)建和運(yùn)行提示的過程，用戶可以體驗 LLM 的生成能力。

文本生成是大型語言模型的元能力，及時工程是解鎖它的關(guān)鍵。

在試驗 Prompt Engineering 時收集到的首要原則之一是不能明確要求生成模型做某事。

相反，用戶需要了解他們想要實(shí)現(xiàn)的目標(biāo)并模仿該愿景的啟動。模仿的過程被稱為prompt設(shè)計、prompt或鑄造。

Prompt Engineering 是向 LLM 提供指導(dǎo)和參考數(shù)據(jù)的方式。

在提示中引入集合結(jié)構(gòu)可以從 LLM 獲得更準(zhǔn)確的響應(yīng)。例如，如下所示，可以對提示進(jìn)行上下文設(shè)計，為 LLM創(chuàng)建上下文參考。

上下文設(shè)計的提示通常由三個部分組成，instruction，context和question。

這是上下文提示的實(shí)際示例：

prompt = """使用提供的文本盡可能如實(shí)回答問題，如果答案未包含在下面的文本中，則說“我不知道” 背景：2020 年夏季奧運(yùn)會男子跳高

項目
采用2021 年 7 月 30 日至 8 月 1 日在奧林匹克體育場舉行。來自 24 個國家的 33 名運(yùn)動員參加了比賽；可能的總?cè)藬?shù)取決于除了通過分?jǐn)?shù)或排名的 32 個資格賽（沒有普遍名額）之外，還有
多少國家使用普遍名額進(jìn)入運(yùn)動員
于 2021 年使用）。
意大利運(yùn)動員 Gianmarco Tamberi 和卡塔爾運(yùn)動員 Mutaz Essa Barshim 成為比賽的聯(lián)合獲勝者
當(dāng)他們清除 2.37m 時，他們兩人之間的平局。坦貝里和巴爾希姆都同意分享金牌，這
在奧運(yùn)會歷史上是罕見的，不同國家的運(yùn)動員同意分享同一枚獎牌。
特別是 Barshim 被聽到問比賽官員“我們能有兩個金牌嗎？” 作為對
“跳下”的回應(yīng)。白俄羅斯的 Maksim Nedasekau 獲得銅牌。這枚獎牌是意大利和白俄羅斯在男子跳高項目上的首枚獎牌
，意大利和卡塔爾在男子跳高項目上的首枚金牌，以及卡塔爾男子跳高項目連續(xù)第三枚獎牌
（均由巴爾希姆獲得）。
Barshim 成為繼瑞典的Patrik Sj?berg（1984 年至 1992 年）之后第二個在跳高比賽中獲得三枚獎牌的人。

問：誰贏得了 2020 年夏季奧運(yùn)會男子跳高冠軍？
A:""" 

openai.Completion.create( 
    prompt=prompt, 
    temperature=0, 
    max_tokens=300, 
    top_p=1, 
    frequency_penalty=0, 
    presence_penalty=0, 
    model=COMPLETIONS_MODEL 
)["choices"][0]["text "].strip("\n")

在此階段，提示本質(zhì)上是靜態(tài)的**，不構(gòu)成較大應(yīng)用程序的一部分。

prompt模板

靜態(tài)prompt的下一步是prompt模板化。

靜態(tài)prompt被轉(zhuǎn)換為模板，其中鍵值被占位符替換。占位符在運(yùn)行時被替換為應(yīng)用程序值/變量。

有些人將模板化稱為實(shí)體注入或prompt注入。

在下面來自DUST 的模板示例中，您可以看到占位符${EXAMPlES:question}，${EXAMPlES:answer}并且${QUESTIONS:question}這些占位符在運(yùn)行時被替換為值。

prompt模板允許prompt存儲、重新使用、共享和編程。生成prompt可以合并到程序中以進(jìn)行編程、存儲和重復(fù)使用。

模板是帶有占位符的文本文件，可以在運(yùn)行時在其中插入變量和表達(dá)式。

prompt Pipelines

在prompt Pipelines的情況下，預(yù)定義的提示模板填充了來自用戶的問題或請求。指導(dǎo) LLM 的prompt中包含的上下文或參考是從知識庫中檢索的數(shù)據(jù)。

Prompt Pipelines 也可以描述為對提示模板的智能擴(kuò)展。

因此，預(yù)先定義的prompt模板中的變量或占位符被填充（也稱為prompt注入）來自用戶的問題，以及要從知識庫中搜索的知識。

來自知識存儲的數(shù)據(jù)充當(dāng)要回答的問題的上下文參考。擁有這些可用的信息可以防止 LLM出現(xiàn)錯亂。該過程還有助于防止 LLM 使用模型中當(dāng)時不準(zhǔn)確的過時或舊數(shù)據(jù)。

隨后，將組合的提示發(fā)送給 LLM，并將 LLM 響應(yīng)返回給用戶。

下面是在文檔和問題數(shù)據(jù)被注入之前的prompt模板示例。

prompt鏈接

prompt鏈接是將多個prompt鏈接或排序以形成更大應(yīng)用程序的過程。prompt序列可以串聯(lián)或并聯(lián)排列。

當(dāng)prompt按順序排列時，鏈中的提示（也稱為節(jié)點(diǎn)）通常取決于鏈中前一個節(jié)點(diǎn)的輸出。在某些情況下，數(shù)據(jù)處理和決策制定案例是在提示/節(jié)點(diǎn)之間實(shí)現(xiàn)的。

L LM 用途廣泛，具有開放式功能。

在某些情況下，進(jìn)程需要并行運(yùn)行，例如，可以在用戶與聊天機(jī)器人對話時并行啟動用戶請求。

Prompt Chaining 將主要由用于輸入的對話式 UI 組成。輸出也將主要是非結(jié)構(gòu)化的對話輸出。因此創(chuàng)建了一個數(shù)字助理或聊天機(jī)器人。提示鏈接也可用于流程和管道啟動并通知用戶結(jié)果的 RPA 場景。

當(dāng)通過可視化編程 UI鏈接大型語言模型提示時，功能的最大部分將是促進(jìn)創(chuàng)作過程的 GUI。

下面是用于prompt工程和prompt鏈創(chuàng)作的此類 GUI 的圖像。此設(shè)計源自華盛頓大學(xué)和谷歌進(jìn)行的研究。

綜上所述

“最后一英里”一詞經(jīng)常用于生成式 AI 和大型語言模型 (LLM) 的生產(chǎn)實(shí)施環(huán)境中。確保人工智能的實(shí)施確實(shí)解決了企業(yè)問題并實(shí)現(xiàn)了可衡量的商業(yè)價值。

生產(chǎn)實(shí)施需要面對客戶的嚴(yán)格和審查，以及持續(xù)擴(kuò)展、更新和改進(jìn)的需求。

LLM 的生產(chǎn)實(shí)施需求：

1. 用于微調(diào) LLM 的精選和結(jié)構(gòu)化數(shù)據(jù)
2. 生成 AI 的監(jiān)督方法
3. 基于 LLM 的應(yīng)用程序的可擴(kuò)展和可管理的生態(tài)系統(tǒng)