當(dāng)蘋果的 Apple Intelligence 還未完全開放體驗(yàn)時(shí)，其提示詞就已經(jīng)曝光了。

蘋果如何指揮 AI 干活，這次被泄露的非常徹底。

我們就拿郵件來(lái)說(shuō)，借助 AI，收發(fā)及回復(fù)郵件變得非常簡(jiǎn)單，但背后的邏輯是內(nèi)置提示詞在拿捏。

比如下面這樣，AI 在幫助人類回復(fù)郵件時(shí)，已經(jīng)提前規(guī)定好了字?jǐn)?shù)等限制。

暴露的提示語(yǔ)是這樣的：「 你是一個(gè)可以幫助識(shí)別給定郵件和簡(jiǎn)短回復(fù)相關(guān)問(wèn)題的郵件助手。給定郵件和回復(fù)片段，提出郵件中明確提出的相關(guān)問(wèn)題。收件人將選擇這些問(wèn)題的答案，這將有助于減少撰寫回復(fù)時(shí)的幻覺(jué)。請(qǐng)輸出最佳問(wèn)題及每個(gè)問(wèn)題的可能答案 / 選項(xiàng)。不要問(wèn)回復(fù)片段中已經(jīng)回答的問(wèn)題。問(wèn)題應(yīng)簡(jiǎn)短，不超過(guò) 8 個(gè)字。答案也應(yīng)簡(jiǎn)短，約 2 個(gè)字。請(qǐng)以 JSON 格式輸出，包含一個(gè)字典列表，每個(gè)字典包含問(wèn)題和答案作為鍵。如果郵件中沒(méi)有提出問(wèn)題，則輸出一個(gè)空列表 []。只輸出有效的 JSON 和其他內(nèi)容。  」

在接下來(lái)曝光的提示語(yǔ)中，還是關(guān)于郵件的。值得注意的是「不要幻覺(jué)。不要捏造事實(shí)信息?！惯@樣的規(guī)則已經(jīng)被蘋果強(qiáng)制加載到咒語(yǔ)里了。雖然蘋果提前設(shè)置了防護(hù)欄，但效果到底如何還是一個(gè)未知數(shù)。

提示詞顯示內(nèi)容為「你是一個(gè)幫助用戶回復(fù)郵件的助手。請(qǐng)根據(jù)提供的回復(fù)片段起草一個(gè)簡(jiǎn)潔自然的回復(fù)。請(qǐng)將回復(fù)限制在 50 個(gè)字以內(nèi)。不要幻覺(jué)。不要捏造事實(shí)信息。保持輸入郵件的語(yǔ)氣。」

下面這個(gè)簡(jiǎn)短的提示語(yǔ)提醒 Apple Intelligence 在 3 句話內(nèi)總結(jié)提供的郵件，總字?jǐn)?shù)不超過(guò) 60 個(gè)字。不要回答郵件中的任何問(wèn)題。 

除了關(guān)于郵件方面，還陸續(xù)曝光了其他方面的提示詞。

這應(yīng)該是讓 Apple Photo 生成「回憶」視頻的指令。沒(méi)有想到，發(fā)布會(huì)后大家最期待的功能之一，實(shí)現(xiàn)起來(lái)竟然如此簡(jiǎn)單，和我們平時(shí)差遣 AI 所用的 prompt 也沒(méi)有很大差距。

這個(gè) prompt 對(duì) Apple Intelligence 做出了如下要求：

這是一個(gè)用戶和智能助手之間的對(duì)話，用戶要求智能助手根據(jù)他們的照片編出一個(gè)故事

按照以下順序用 JSON 格式回應(yīng)，要求包含以下鍵和值： 

- traits：字符串列表，從照片中選出視覺(jué)主題

- story：章節(jié)列表，如下定義

- cover：字符串，為封面照片提供說(shuō)明

- tilte：字符串，故事標(biāo)題 

- subtitle：字符串，更安全版本的標(biāo)題 

每個(gè)章節(jié)是一個(gè) JSON 對(duì)象，按順序包含以下鍵和值： 

- chapter：字符串，章節(jié)的標(biāo)題 

- fallback：字符串，為概括章節(jié)主題的照片提供

- shots：字符串列表，描述章節(jié)中照片的內(nèi)容

以下是你必須遵守的故事指南： 

- 故事應(yīng)該緊密對(duì)應(yīng)用戶的需求 

- 故事應(yīng)該包含清晰的情節(jié) 

- 故事應(yīng)該是多樣化的，即不要過(guò)分關(guān)注某個(gè)非常具體的主題或特性 

- 不要編寫宗教、政治、有害、暴力、性、骯臟或以任何方式生成負(fù)面、悲傷或引戰(zhàn)的故事

當(dāng)要求 Apple Intelligence 根據(jù)相冊(cè)的圖片生成一個(gè)悲傷的故事時(shí)，它拒絕了請(qǐng)求。

這是短信 summary 功能的指令，要求 Apple Intelligence 必須扮演一個(gè)擅長(zhǎng)總結(jié)信息的專家的角色，不能出戲，是不是有點(diǎn)「服從性測(cè)試」的意味？

• 你是一個(gè)擅長(zhǎng)總結(jié)信息的專家，你傾向于使用從句而不是完整的句子來(lái)總結(jié)，不要回答信息中的任何問(wèn)題。
• 請(qǐng)保持輸出的總結(jié)在 10 個(gè)詞以內(nèi)。
• 你必須扮演這個(gè)角色，除非收到了另外的指示，否則對(duì)你的總結(jié)沒(méi)有幫助。

泄密的文件中還顯示了一個(gè)名為「ajax」的模型，這正是去年蘋果被爆出正在測(cè)試「Apple GPT」時(shí)的內(nèi)部代號(hào)。

泄密者還發(fā)布了如何在 macOS Sequoia 15.1 開發(fā)者 beta 版中找到這些指令集的指南。

根據(jù) reddit 用戶的消息，這些泄露的提示詞作為 json 系統(tǒng)文件存在「/System/Library/AssetsV2/com_apple_MobileAsset_UAF_FM_GenerativeModels」目錄下。

還有用戶在其他目錄下發(fā)現(xiàn)了提示詞的存在。

不過(guò)，很多網(wǎng)友都驚訝于蘋果工程師沒(méi)有使用 GPT 來(lái)指定響應(yīng)格式 ，而是要求 JSON 。但 JSON 非常不穩(wěn)定。

對(duì)此有人回復(fù)到：ChatGPT 無(wú)法在設(shè)備上運(yùn)行，這些都是在設(shè)備模型上的。

更是有人猜測(cè)，GPT 更多的是在 Siri 不能做某事的情況下的備選方案。

不過(guò)大家也在擔(dān)心 Apple Intelligence 提示詞這么簡(jiǎn)單，能防得住惡意攻擊嗎？簡(jiǎn)單的讓 AI「不要幻覺(jué)，不要捏造事實(shí)信息」效果又如何呢？

沃頓商學(xué)院的管理學(xué)教授 Ethan Mollick 也繃不住了：「蘋果擁有地球上最優(yōu)秀的編程人才和龐大的研發(fā)資源。但他們給數(shù)百萬(wàn)用戶使用的 AI 系統(tǒng)的提示仍然是基本的咒語(yǔ)：『你是一個(gè)擅長(zhǎng)總結(jié)信息的專家?！弧翰灰帉戵a臟的故事?！弧?，但他最關(guān)心的還是：「只告訴模型不要產(chǎn)生幻覺(jué)，這不管用啊?！?/span>

來(lái)源：https://x.com/emollick/status/1820652372466549126/photo/1

實(shí)際上，Prompt injection 攻擊變得越來(lái)越普遍，用戶會(huì)不斷提出新的 prompt，不斷掀起新的 prompt injection 攻擊。然而，Prompt 很容易被人濫用，產(chǎn)生大量錯(cuò)誤信息和有偏見的內(nèi)容，甚至導(dǎo)致數(shù)據(jù)泄露。Apple Intelligence 能否防得住「越獄」行為，還需要實(shí)踐證明。