論文《Generative AI for Self-Adaptive Systems: State of the Art and Research Roadmap》的作者包括來自早稻田大學(xué)博士及研究助理 李家隆、西南大學(xué)講師 張明悅、中關(guān)村國家實(shí)驗(yàn)室助理研究員 李念語（通訊作者）、魯汶大學(xué)教授 Danny Weyns、北京大學(xué)教授 金芝以及東京工業(yè)大學(xué)長聘副教授 Kenji Tei。

• 論文地址：https://dl.acm.org/doi/10.1145/3686803
• GenAI4SAS 論文列表：https://github.com/545659928/GenAI4SAS

自適應(yīng)系統(tǒng)在動(dòng)態(tài)和不確定的環(huán)境中具有關(guān)鍵作用，廣泛應(yīng)用于自動(dòng)駕駛、智能制造、網(wǎng)絡(luò)安全和智能醫(yī)療等領(lǐng)域。例如，無人駕駛系統(tǒng)需要實(shí)時(shí)感知環(huán)境變化并調(diào)整策略以確保安全與效率；智能制造生產(chǎn)線根據(jù)需求變化或設(shè)備故障自動(dòng)調(diào)整；網(wǎng)絡(luò)安全系統(tǒng)則通過自動(dòng)檢測和適應(yīng)新威脅來應(yīng)對(duì)不斷變化的攻擊方式。這些系統(tǒng)通過自我調(diào)整機(jī)制，實(shí)現(xiàn)自我管理和優(yōu)化。

圖 具有 MAPE-K 反饋循環(huán)的自適應(yīng)系統(tǒng)

自適應(yīng)系統(tǒng)依賴反饋回路，無需人為干預(yù)即可實(shí)現(xiàn)自動(dòng)調(diào)整，核心功能包括：監(jiān)控環(huán)境和系統(tǒng)狀態(tài)、分析情況、制定調(diào)整計(jì)劃并執(zhí)行。其優(yōu)勢(shì)在于根據(jù)外部環(huán)境和內(nèi)部狀態(tài)的變化，維持系統(tǒng)穩(wěn)定和高效運(yùn)行。

生成式人工智能（GenAI）通過 AI 技術(shù)從數(shù)據(jù)中學(xué)習(xí)模式，生成與原始數(shù)據(jù)相似的新數(shù)據(jù)。Transformer 技術(shù)的突破使得 GenAI 在多個(gè)領(lǐng)域廣泛應(yīng)用，尤其是大型語言模型（LLMs）在語言理解和邏輯推理方面表現(xiàn)突出，為自適應(yīng)系統(tǒng)提供了新的可能性。

GenAI 與自適應(yīng)系統(tǒng)的核心功能相結(jié)合，能夠顯著增強(qiáng)系統(tǒng)的自適應(yīng)能力。例如，GenAI 可以分析并規(guī)劃系統(tǒng)策略，自動(dòng)調(diào)整配置以應(yīng)對(duì)環(huán)境變化。盡管已有一些研究探索了 GenAI 在自適應(yīng)系統(tǒng)中的應(yīng)用，但該領(lǐng)域尚缺乏系統(tǒng)性和深入的研究。因此，本論文旨在為研究人員和從業(yè)者提供生成式人工智能（GenAI）在自適應(yīng)系統(tǒng)中的應(yīng)用潛力及面臨挑戰(zhàn)的全面概覽。

GenAI 在自適應(yīng)系統(tǒng)中的應(yīng)用潛力

我們從 2017 年至 2024 年 6 月的頂級(jí)會(huì)議中篩選出 5874 篇文獻(xiàn)，最終篩選出 219 篇與 GenAI 和自適應(yīng)系統(tǒng)相關(guān)的研究。篩選后的文獻(xiàn)從兩種視角展開分析：第一個(gè)視角聚焦于 GenAI 在增強(qiáng)自適應(yīng)系統(tǒng)功能和自主性方面的潛力，探討其在監(jiān)控、分析、規(guī)劃、執(zhí)行等核心模塊中的應(yīng)用及知識(shí)共享。第二個(gè)視角探討了在 “人類監(jiān)督自適應(yīng)系統(tǒng)”（HOTL）中，GenAI 如何改善人與系統(tǒng)的互動(dòng)。雖然自適應(yīng)系統(tǒng)原本希望減少人為干預(yù)，但引入人類決策可以提高系統(tǒng)的可信度和效率。重點(diǎn)關(guān)注用戶偏好獲取、系統(tǒng)透明度和人機(jī)協(xié)作，以提升用戶滿意度、系統(tǒng)解釋性和效率。

圖：GenAI 在自適應(yīng)系統(tǒng)中的應(yīng)用潛力概覽

監(jiān)控功能：GenAI，特別是 LLMs，在上下文理解和預(yù)測方面顯著增強(qiáng)了自適應(yīng)系統(tǒng)的監(jiān)控能力。LLMs 可將監(jiān)控收集的非結(jié)構(gòu)化數(shù)據(jù)進(jìn)行結(jié)構(gòu)化處理，輔助異常檢測；在上下文預(yù)測方面，基于 LLM 和擴(kuò)散模型的時(shí)間序列和事件序列預(yù)測可識(shí)別潛在的目標(biāo)違規(guī)風(fēng)險(xiǎn)。

分析和規(guī)劃功能：GenAI 在自適應(yīng)系統(tǒng)的分析和規(guī)劃中有巨大潛力。LLMs 支持架構(gòu)和需求驅(qū)動(dòng)的適應(yīng)，擴(kuò)展了系統(tǒng)處理自然語言和非結(jié)構(gòu)化數(shù)據(jù)的能力。LLMs 和 Diffusion 模型還能生成先驗(yàn)知識(shí)，提升模型性能并降低成本。新興的規(guī)劃方法包括：基于 Transformer 的規(guī)劃適合離線學(xué)習(xí)和大規(guī)模系統(tǒng)；集體智能模式促進(jìn)多智能體協(xié)作；經(jīng)驗(yàn)積累模式支持自我反思和進(jìn)化；擴(kuò)散模型支持復(fù)雜約束的高維規(guī)劃。

執(zhí)行功能：雖然自適應(yīng)系統(tǒng)的執(zhí)行通常較簡單，但 LLMs 在復(fù)雜情況下的執(zhí)行轉(zhuǎn)換中仍有潛力，尤其是在機(jī)器人領(lǐng)域中，LLMs 展現(xiàn)了在不確定環(huán)境下成功執(zhí)行規(guī)劃的能力。

知識(shí)管理：LLMs 有兩個(gè)主要優(yōu)勢(shì)：一是利用其廣泛的知識(shí)構(gòu)建模型，盡管這些模型可能需要通過反饋調(diào)整以貼近現(xiàn)實(shí)；二是通過 LLMs 的翻譯能力將自然語言轉(zhuǎn)化為專用領(lǐng)域建模語言（DSML），大幅減少手動(dòng)建模成本。

偏好獲取：LLMs 通過其常識(shí)和語言理解能力，能夠從用戶反饋或行為歷史中推斷出硬性約束、效用函數(shù)或個(gè)性化需求。然而，如何處理多目標(biāo)環(huán)境下的偏好沖突（如成本與效率的平衡）仍需進(jìn)一步探索。

透明性：LLMs 具有解釋代碼、決策模型和系統(tǒng)日志的潛力，并能生成更直觀的可視化展示。目前代碼動(dòng)態(tài)行為的解釋較為有限，改進(jìn)方向包括為不同類型的決策模型提供適當(dāng)上下文信息，并利用運(yùn)行結(jié)果提高解釋的準(zhǔn)確性。LLMs 還可用于模型解釋性研究，如使用決策樹作為代理模型解釋復(fù)雜的深度學(xué)習(xí)模型，輔助特征選擇和重要性分析。

協(xié)作：LLMs 初步應(yīng)用于任務(wù)分配、協(xié)作行為和用戶糾正，推斷用戶意圖并規(guī)劃協(xié)作模式。未來的研究可以深入探索高級(jí)意圖推斷、多模態(tài)輸入輸出，以及分析用戶參與的影響，以優(yōu)化人機(jī)協(xié)作的自適應(yīng)能力。

圖：路線圖展示了自適應(yīng)系統(tǒng)中的軟件工程關(guān)鍵點(diǎn)（左側(cè)）與 LLMs 在自適應(yīng)系統(tǒng)中的應(yīng)用挑戰(zhàn)（中間）之間的對(duì)應(yīng)關(guān)系，以及這些挑戰(zhàn)與自適應(yīng)系統(tǒng)關(guān)鍵功能（右側(cè)）的映射關(guān)系。

當(dāng)前研究的不足和未來的發(fā)展方向：

設(shè)計(jì)時(shí)方法應(yīng)用于運(yùn)行時(shí)：設(shè)計(jì)時(shí)方法側(cè)重初始設(shè)計(jì)，依賴歷史數(shù)據(jù)和專家知識(shí)；運(yùn)行時(shí)則需實(shí)時(shí)調(diào)整在線數(shù)據(jù)，并要求 GenAI 做出自主決策。改進(jìn)提示工程、明確任務(wù)與上下文、驗(yàn)證模型穩(wěn)健性是解決方案。

LLM 即服務(wù)（LLMaaS）：LLMaaS 將 LLMs 作為按需提供針對(duì)特定領(lǐng)域的云服務(wù)。自適應(yīng)系統(tǒng)需要將 LLMs 作為系統(tǒng)組件進(jìn)行集成和管理，類似于 API 和微服務(wù)。其次，由于 LLMs 的輸出具有概率性，可能對(duì)相同輸入產(chǎn)生不同結(jié)果，如何在適應(yīng)過程中管理這些不確定性成為關(guān)鍵問題。

觀察和表示：自適應(yīng)系統(tǒng)通過監(jiān)控收集數(shù)據(jù)，并進(jìn)行概念化、存儲(chǔ)和利用。多模態(tài) LLMs 處理多種數(shù)據(jù)，但其復(fù)雜性增加了設(shè)計(jì)難度。不同格式（如 HTML、XML、JSON）的表示效果差異，需要在語境質(zhì)量與推理成本之間找到平衡。

LLM 增強(qiáng)的分散控制：LLMs 在多代理系統(tǒng)（LLM-MAS）中可提升集體智能，但代理間的經(jīng)驗(yàn)共享不足影響效率，且隨代理數(shù)量增加，通信成本升高。未來需開發(fā)高效的通信協(xié)議和多代理協(xié)作技術(shù)。

自適應(yīng)與個(gè)性化交互：LLMs 可幫助定制化交互界面，深入理解用戶偏好，增強(qiáng)人類在回路（HOTL）的應(yīng)用，但仍需解決用戶知識(shí)差異和互動(dòng)能力不足的問題。

倫理與責(zé)任：隨著 GenAI 自主性增強(qiáng)，責(zé)任歸屬變得模糊，特別是在自適應(yīng)系統(tǒng)和自動(dòng)決策中，如何界定 GenAI 與人類責(zé)任是未來的研究重點(diǎn)。

評(píng)估工件：評(píng)估工件（如數(shù)據(jù)集、基準(zhǔn)和示例）對(duì)自適應(yīng)系統(tǒng)研究至關(guān)重要，但現(xiàn)有示例（如 DeltaIoT、DARTSim）在評(píng)估 LLM 時(shí)面臨兩大挑戰(zhàn)：觀察空間與 LLM 需求不匹配，且缺乏知識(shí)模塊。未來示例應(yīng)保留 LLM 所需的觀察空間并模塊化知識(shí)組件。雖然 LLM 可作為端到端模型使用，但通常作為模塊集成，評(píng)估面臨提示魯棒性和輸出質(zhì)量等問題，需專門的評(píng)估工具。

自我測試：自我測試在自適應(yīng)系統(tǒng)中面臨兩個(gè)挑戰(zhàn)：復(fù)雜的配置和無法預(yù)見的運(yùn)行時(shí)變化。雖然傳統(tǒng)離線測試部分緩解問題，但在線、運(yùn)行時(shí)和現(xiàn)場測試正逐步探索。LLMs 已用于故障定位、漏洞檢測、生成測試用例和模糊測試，但應(yīng)用于自適應(yīng)系統(tǒng)仍有限。Ceprot 是唯一相關(guān)研究，自動(dòng)更新過時(shí)測試用例。自我測試可視為 MAPE-K 循環(huán)的一部分，LLMs 的能力有望推動(dòng)其進(jìn)一步發(fā)展。

自我進(jìn)化：軟件進(jìn)化指持續(xù)更新軟件以修復(fù)問題或提升性能?，F(xiàn)有研究多利用 LLMs 進(jìn)行漏洞修復(fù)和自動(dòng)化程序修復(fù)，但自適應(yīng)系統(tǒng)中的自動(dòng)化進(jìn)化研究有限。LLMs 可以通過集體智能（如 metaGPT 自動(dòng)化開發(fā)流程）以及自主學(xué)習(xí)（學(xué)習(xí)新技能以應(yīng)對(duì)運(yùn)行時(shí)的變化）實(shí)現(xiàn)自我進(jìn)化。同時(shí)，系統(tǒng)的自我進(jìn)化可能會(huì)伴隨專用領(lǐng)域建模語言（DSML）的演進(jìn)，以便更有效地描述系統(tǒng)的新特性。未來的研究應(yīng)重點(diǎn)關(guān)注這種系統(tǒng)進(jìn)化與 DSML 進(jìn)化的協(xié)同關(guān)系。