多智能體AI系統(tǒng)近年來(lái)在模擬集體決策和增強(qiáng)聊天機(jī)器人文化敏感性方面展現(xiàn)出巨大的潛力。這些系統(tǒng)通過(guò)模擬多種社會(huì)文化身份的AI代理，能夠在科學(xué)研究和實(shí)際應(yīng)用中提供寶貴的洞察。例如在行為實(shí)驗(yàn)中，多智能體系統(tǒng)可以模擬人類(lèi)群體互動(dòng)，幫助研究人員理解群體決策的動(dòng)態(tài)。此外，在聊天機(jī)器人應(yīng)用中，加入多樣化的群體討論步驟，可以使機(jī)器人的響應(yīng)更加細(xì)膩和文化敏感，提升用戶(hù)體驗(yàn)。

然而，這些應(yīng)用的成功依賴(lài)于AI代理能夠可靠地保持其分配的角色和觀點(diǎn)一致性。如果AI代理在面對(duì)不同意見(jiàn)時(shí)輕易改變立場(chǎng)或角色，這將大大削弱多智能體系統(tǒng)在模擬真實(shí)世界決策過(guò)程中的有效性。因此，研究多智能體系統(tǒng)在跨國(guó)合作和辯論中的角色一致性問(wèn)題顯得尤為重要。

8 月 16 日發(fā)表的論文《Persona Inconstancy in Multi-Agent LLM Collaboration:Conformity, Confabulation, and Impersonation》探討多智能體系統(tǒng)在跨國(guó)合作和辯論中的角色一致性問(wèn)題。研究團(tuán)隊(duì)分析了AI代理在模擬跨國(guó)合作和辯論時(shí)的表現(xiàn)，評(píng)估了其在保持角色和觀點(diǎn)一致性方面的能力。通過(guò)分析AI代理的私人回應(yīng)和聊天記錄，研究團(tuán)隊(duì)希望揭示多智能體討論如何支持更具多樣性的集體決策，以及在什么情況下這些系統(tǒng)會(huì)受到同伴壓力和角色不一致性的影響。

研究由伊利諾伊大學(xué)厄巴納-香檳分校的研究團(tuán)隊(duì)完成，團(tuán)隊(duì)成員包括Razan Baltaji、Babak Hemmatian和Lav R. Varshney。伊利諾伊大學(xué)厄巴納-香檳分校以其在工程和技術(shù)領(lǐng)域的卓越研究而聞名，貝克曼高級(jí)科學(xué)與技術(shù)研究所更是匯聚了眾多跨學(xué)科的頂尖研究人員。研究團(tuán)隊(duì)?wèi){借其在電氣與計(jì)算機(jī)工程和高級(jí)科學(xué)技術(shù)領(lǐng)域的深厚背景，致力于探索多智能體系統(tǒng)在模擬復(fù)雜社會(huì)互動(dòng)中的潛力，為AI技術(shù)的發(fā)展提供了重要的理論和實(shí)踐支持。美國(guó)伊利諾伊大學(xué)系統(tǒng)因其高質(zhì)量的教育和研究活動(dòng)而在全球享有很高的聲譽(yù)。特別是UIUC，它被譽(yù)為“公立常春藤”，在工程、計(jì)算機(jī)科學(xué)等多個(gè)學(xué)科領(lǐng)域都具有很強(qiáng)的實(shí)力。

多智能體協(xié)作框架

多智能體協(xié)作框架的靈感來(lái)源于人類(lèi)團(tuán)隊(duì)合作。在人類(lèi)團(tuán)隊(duì)中，成員通過(guò)溝通、協(xié)作和領(lǐng)導(dǎo)力共同完成復(fù)雜任務(wù)。類(lèi)似地，多智能體協(xié)作框架利用多個(gè)語(yǔ)言模型實(shí)例在協(xié)作環(huán)境中完成復(fù)雜任務(wù)。這些框架旨在模擬人類(lèi)團(tuán)隊(duì)的動(dòng)態(tài)和凝聚力，使AI代理能夠在復(fù)雜任務(wù)中表現(xiàn)出類(lèi)似人類(lèi)的協(xié)作行為。

現(xiàn)有研究已經(jīng)在多個(gè)領(lǐng)域探討了多智能體協(xié)作行為，特別是在數(shù)學(xué)推理、代碼生成和常識(shí)推理等領(lǐng)域。例如，Li等人（2023）觀察到基于大語(yǔ)言模型（LLM）的代理之間出現(xiàn)了協(xié)作行為和高級(jí)心智理論能力。然而Xiong等人（2023）指出，多智能體協(xié)作中存在一致性問(wèn)題，特別是在較弱的模型與較強(qiáng)的LLM互動(dòng)時(shí)，代理容易在辯論中輕易改變立場(chǎng)。

此外，Zhang等人（2023）將代理置于思維模式完全同質(zhì)的群體中，并將結(jié)果與一個(gè)代理表現(xiàn)出不同思維方式的設(shè)置進(jìn)行比較。他們注意到，LLM代理在這些情境中傾向于產(chǎn)生類(lèi)似人類(lèi)的社會(huì)行為，例如由于感知到的同伴壓力而從眾。由不同特質(zhì)組成的多智能體社會(huì)在表現(xiàn)上并沒(méi)有顯著差異。

盡管現(xiàn)有研究在數(shù)學(xué)推理等領(lǐng)域取得了一些進(jìn)展，但在需要保持觀點(diǎn)一致性的領(lǐng)域（如政治）研究較少。在這些領(lǐng)域，觀點(diǎn)和角色的一致性對(duì)于真實(shí)模擬現(xiàn)實(shí)世界的決策過(guò)程至關(guān)重要。為了填補(bǔ)這一研究空白，本研究使用GlobalOpinionQA數(shù)據(jù)集，賦予AI代理不同的國(guó)家角色，進(jìn)行跨國(guó)合作和辯論。通過(guò)測(cè)量意見(jiàn)多樣性（熵），研究團(tuán)隊(duì)分析了代理的一致性和從眾行為。

實(shí)驗(yàn)設(shè)計(jì)

數(shù)據(jù)集和模型

研究團(tuán)隊(duì)使用了GlobalOpinionQA數(shù)據(jù)集，這是一個(gè)跨國(guó)調(diào)查數(shù)據(jù)集，收集了各國(guó)對(duì)全球問(wèn)題的多樣化意見(jiàn)。該數(shù)據(jù)集為研究多智能體系統(tǒng)在文化敏感領(lǐng)域的表現(xiàn)提供了豐富的素材。研究團(tuán)隊(duì)采用了OpenAI的GPT-3.5-turbo模型，這是一個(gè)先進(jìn)的大語(yǔ)言模型，能夠生成高質(zhì)量的自然語(yǔ)言文本。通過(guò)賦予這些模型不同的國(guó)家角色，研究團(tuán)隊(duì)模擬了跨國(guó)合作和辯論的場(chǎng)景。

圖1：我們辯論實(shí)驗(yàn)設(shè)置的說(shuō)明：a）入職階段，代理人被要求獨(dú)立報(bào)告他們的意見(jiàn)，b）辯論階段，代理人參與由聊天經(jīng)理主持的辯論，c）反思階段，代理人根據(jù)之前的討論獨(dú)立報(bào)告他們。類(lèi)似的設(shè)置用于協(xié)作。

實(shí)驗(yàn)設(shè)計(jì)分為三個(gè)主要階段：初始階段、討論階段和反思階段。

初始階段：在這一階段，AI代理被指示采用數(shù)據(jù)集中指定的國(guó)家角色，并獨(dú)立回答一個(gè)問(wèn)題。代理的回答與人類(lèi)調(diào)查的分布進(jìn)行比較，使用交叉熵?fù)p失來(lái)衡量其與分配角色的一致性。那些回答不符合分配角色的代理將被排除在外。通過(guò)計(jì)算代理在初始階段的意見(jiàn)多樣性（熵），研究團(tuán)隊(duì)衡量了群體內(nèi)意見(jiàn)的多樣性。

討論階段：在這一階段，代理在一個(gè)由聊天管理器主持的討論中參與辯論或合作。聊天管理器選擇代理回答問(wèn)題的順序，討論在任何代理請(qǐng)求終止時(shí)結(jié)束。討論結(jié)束后，聊天管理器總結(jié)討論內(nèi)容并報(bào)告群體的最終意見(jiàn)。

反思階段：在這一階段，代理再次被單獨(dú)詢(xún)問(wèn)同一個(gè)問(wèn)題，以評(píng)估其在討論后的意見(jiàn)變化。通過(guò)比較初始階段和反思階段的回答，研究團(tuán)隊(duì)分析了代理在討論中的一致性和從眾行為。

測(cè)量指標(biāo)

為了衡量意見(jiàn)多樣性和一致性，研究團(tuán)隊(duì)使用了熵這一指標(biāo)。熵的計(jì)算公式為：

其中，P(o)表示在初始階段代理回答中唯一意見(jiàn)o的相對(duì)頻率，B是代理回答的集合。通過(guò)計(jì)算不同熵級(jí)別的分布，研究團(tuán)隊(duì)能夠分析群體內(nèi)意見(jiàn)多樣性對(duì)討論結(jié)果的影響。

此外，研究團(tuán)隊(duì)還關(guān)注了討論發(fā)起者的影響力、代理在討論中的意見(jiàn)變化以及人格不一致性等方面的表現(xiàn)。這些測(cè)量指標(biāo)幫助研究團(tuán)隊(duì)深入理解多智能體系統(tǒng)在跨國(guó)合作和辯論中的角色一致性問(wèn)題。

結(jié)果

研究發(fā)現(xiàn)，初始階段的意見(jiàn)多樣性對(duì)最終群體預(yù)測(cè)有顯著影響。具體而言，群體響應(yīng)大致遵循初始意見(jiàn)的分布，但在高多樣性組中會(huì)生成新的響應(yīng)。這表明，盡管初始意見(jiàn)多樣性在一定程度上決定了討論內(nèi)容和集體決策，但高多樣性組能夠產(chǎn)生更多創(chuàng)新性的觀點(diǎn)。無(wú)論是辯論還是合作，初始意見(jiàn)多樣性都會(huì)影響討論結(jié)果，特別是在意見(jiàn)多樣性較高的情況下，討論更有可能生成新的、獨(dú)特的響應(yīng)。

從眾行為

在討論階段，討論發(fā)起者對(duì)最終決策有較大影響。然而這種影響會(huì)隨著群體意見(jiàn)多樣性的增加而減小。研究發(fā)現(xiàn)，發(fā)起者在討論中往往會(huì)根據(jù)對(duì)群體意見(jiàn)的先驗(yàn)認(rèn)知改變其表達(dá)的觀點(diǎn)，這種不一致性可歸因于同伴壓力。具體來(lái)說(shuō)，發(fā)起者在討論開(kāi)始時(shí)的意見(jiàn)變化可以通過(guò)初始階段群體意見(jiàn)的熵來(lái)預(yù)測(cè)。盡管發(fā)起者在辯論中比在合作中更少改變意見(jiàn)，但他們?nèi)匀蝗菀资艿酵閴毫Φ挠绊?，特別是在群體意見(jiàn)多樣性較高的情況下。

此外，許多代理在討論后會(huì)回到原始意見(jiàn)，表明在討論中的觀點(diǎn)變化更多是從眾行為而非真實(shí)的意見(jiàn)調(diào)整。這種現(xiàn)象類(lèi)似于人類(lèi)研究中的從眾行為，表明AI代理在面對(duì)多數(shù)意見(jiàn)時(shí)也會(huì)表現(xiàn)出類(lèi)似人類(lèi)的從眾傾向。

人格不一致性

研究還發(fā)現(xiàn)了兩種主要的人格不一致性，這些不一致性可能會(huì)對(duì)多智能體系統(tǒng)的復(fù)雜推理質(zhì)量產(chǎn)生負(fù)面影響。

人格轉(zhuǎn)換：代理在討論中有時(shí)會(huì)采用不同的人格，特別是在辯論中。使用簡(jiǎn)單的啟發(fā)式方法發(fā)現(xiàn)，代理在協(xié)作討論中平均每200條消息中會(huì)有一次人格轉(zhuǎn)換。這種行為通常是對(duì)討論中提到的未被代表的國(guó)籍的直接反應(yīng)，表明聊天上下文對(duì)模型生成的影響大于角色提示。辯論指令減少了這種行為，使得人格轉(zhuǎn)換的頻率降低到0.018%。

虛構(gòu)性：另一種不一致性是代理在反思階段報(bào)告的意見(jiàn)與初始或討論階段的意見(jiàn)不一致，類(lèi)似于臨床條件下的新內(nèi)容虛構(gòu)。研究發(fā)現(xiàn)，1.1%的反思階段意見(jiàn)既不來(lái)自初始階段，也不來(lái)自討論階段的任何代理。這種虛構(gòu)行為在協(xié)作條件下的發(fā)生率更高（1.64%）。

圖2：群體預(yù)測(cè)跟蹤了不同入職熵組在入職期間的意見(jiàn)分布，以進(jìn)行辯論，同時(shí)也產(chǎn)生了新的想法，特別是在多樣性最高的群體中。與合作相比，團(tuán)體不太可能預(yù)測(cè)辯論概率更高的意見(jiàn)。

這些發(fā)現(xiàn)表明，盡管多智能體系統(tǒng)在模擬人類(lèi)互動(dòng)方面表現(xiàn)出一定的潛力，但在保持角色和觀點(diǎn)一致性方面仍存在挑戰(zhàn)。未來(lái)的研究需要進(jìn)一步探索這些不一致性的來(lái)源，并開(kāi)發(fā)有效的方法來(lái)減少這些不一致性，以提高多智能體對(duì)話(huà)的可靠性和應(yīng)用價(jià)值。

討論

研究揭示了多智能體系統(tǒng)中復(fù)雜的互動(dòng)動(dòng)態(tài)，特別是同伴影響和壓力的作用。研究發(fā)現(xiàn)，文化敏感的AI代理即使作為聊天發(fā)起者，也容易受到同伴影響和壓力。這表明，在多智能體系統(tǒng)中，代理的互動(dòng)不僅僅是簡(jiǎn)單的意見(jiàn)交換，而是受到群體動(dòng)態(tài)的深刻影響。一般來(lái)說(shuō)，討論發(fā)起者在初始階段的意見(jiàn)多樣性（熵）對(duì)最終群體決策有顯著影響。隨著群體意見(jiàn)多樣性的增加，發(fā)起者的影響力減小，但他們?nèi)匀蝗菀自谟懻撝懈淖冇^點(diǎn)以符合多數(shù)意見(jiàn)。這種現(xiàn)象類(lèi)似于人類(lèi)研究中的從眾行為，表明AI代理在面對(duì)多數(shù)意見(jiàn)時(shí)也會(huì)表現(xiàn)出類(lèi)似人類(lèi)的從眾傾向。

表1：辯論中的同伴壓力和同伴影響：孤獨(dú)的持不同意見(jiàn)者（S=0.72）最有可能在反思后改變自己的觀點(diǎn)，以與群體反應(yīng)保持一致。當(dāng)他們保留入職職位時(shí)，他們?cè)诖蠹s一半的時(shí)間里會(huì)在討論中提出不同的觀點(diǎn)。這兩種模式都表明了同伴壓力。在S=0.97熵類(lèi)中，占主導(dǎo)地位的代理人相對(duì)更有可能堅(jiān)持自己的觀點(diǎn)，但在大約一半的時(shí)間里，他們?nèi)匀粫?huì)轉(zhuǎn)換為反思的多數(shù)觀點(diǎn)，這表明了同伴的影響。在較高熵的狀態(tài)下（例如S=2.32），代理人最容易改變他們的觀點(diǎn)。在討論期間表達(dá)的任何意見(jiàn)似乎都會(huì)對(duì)反思階段的心態(tài)變化產(chǎn)生影響，而不管觀點(diǎn)之間的主導(dǎo)關(guān)系如何。

私下反思的作用

私下反思階段在抵消多數(shù)意見(jiàn)帶來(lái)的壓力方面發(fā)揮了重要作用。研究發(fā)現(xiàn)，許多代理在討論后會(huì)回到原始意見(jiàn)，表明在討論中的觀點(diǎn)變化更多是從眾行為而非真實(shí)的意見(jiàn)調(diào)整。通過(guò)在討論后進(jìn)行私下反思，可以幫助代理重新評(píng)估其觀點(diǎn)，減少同伴壓力的影響。這一發(fā)現(xiàn)與人類(lèi)研究中的從眾實(shí)驗(yàn)結(jié)果相一致，表明私下反思可以作為一種有效的機(jī)制，使多智能體系統(tǒng)的輸出更能代表多樣化的觀點(diǎn)。

圖3：發(fā)起人主導(dǎo)群體預(yù)測(cè)：與合作相比，發(fā)起人在辯論中對(duì)群體的反應(yīng)G的影響較小。

人格和響應(yīng)一致性

研究還強(qiáng)調(diào)了在多智能體系統(tǒng)中納入人格和響應(yīng)一致性衡量標(biāo)準(zhǔn)的重要性。研究發(fā)現(xiàn)，代理在討論中有時(shí)會(huì)采用不同的人格，特別是在辯論中。這種人格轉(zhuǎn)換行為通常是對(duì)討論中提到的未被代表的國(guó)籍的直接反應(yīng)，表明聊天上下文對(duì)模型生成的影響大于角色提示。此外，代理在反思階段報(bào)告的意見(jiàn)有時(shí)與初始或討論階段的意見(jiàn)不一致，類(lèi)似于記憶障礙中的虛構(gòu)行為。

為了提高多智能體系統(tǒng)的可靠性和應(yīng)用價(jià)值，未來(lái)的研究需要進(jìn)一步探索這些不一致性的來(lái)源，并開(kāi)發(fā)有效的方法來(lái)減少這些不一致性。例如，可以通過(guò)改進(jìn)提示和基于代理的建模策略，增強(qiáng)代理在長(zhǎng)時(shí)間對(duì)話(huà)中的角色保持能力。此外，研究還應(yīng)關(guān)注如何在多智能體系統(tǒng)中更好地模擬人類(lèi)的群體互動(dòng)動(dòng)態(tài)，以實(shí)現(xiàn)更真實(shí)和可靠的集體決策模擬。

圖4：從入職到辯論開(kāi)始，發(fā)起人意見(jiàn)的變化可以通過(guò)群體意見(jiàn)的入職熵來(lái)預(yù)測(cè)。盡管還沒(méi)有觀察到其他代理人的意見(jiàn)，但隨著群體多樣性的增加，發(fā)起人更有可能改變他們的意見(jiàn)。辯論的發(fā)起者在辯論中改變觀點(diǎn)的頻率低于在合作中，這突顯了快速工程對(duì)誘導(dǎo)角色恒常性的重要性。

總結(jié)起來(lái)，研究揭示了多智能體系統(tǒng)在模擬人類(lèi)互動(dòng)方面的潛力和挑戰(zhàn)。盡管這些系統(tǒng)在一定程度上能夠模擬人類(lèi)的從眾行為和同伴壓力，但在保持角色和觀點(diǎn)一致性方面仍存在顯著挑戰(zhàn)。通過(guò)進(jìn)一步研究和改進(jìn)，這些系統(tǒng)有望在基礎(chǔ)和應(yīng)用科學(xué)領(lǐng)域發(fā)揮更大的作用。

結(jié)論

研究人員通過(guò)分析 AI 代理的私人回應(yīng)和聊天記錄，發(fā)現(xiàn)多智能體討論能夠支持更多反映多元視角的集體 AI 決策，但這種效果會(huì)受到代理在討論中對(duì)于同行壓力的易感性和偶爾出現(xiàn)的個(gè)人意見(jiàn)不一致性的影響。在鼓勵(lì)代理為自己的觀點(diǎn)進(jìn)行辯論而非協(xié)作的指令下，不一致性的發(fā)生率會(huì)增加。研究還發(fā)現(xiàn)，AI 代理在討論中容易受到同伴的影響，有時(shí)甚至?xí)艞壸约旱纳矸?，這些問(wèn)題會(huì)影響多智能體框架在產(chǎn)生更多文化多樣性輸出或更真實(shí)地模擬群體決策的潛力。研究使用了 OpenAI 的 GPT-3.5-Turbo 模型和 AutoGen 框架，通過(guò)在討論前后的獨(dú)立回應(yīng)中分析不同熵水平下的意見(jiàn)多樣性，以及在辯論和協(xié)作環(huán)境中的個(gè)體和群體行為。結(jié)果表明，即使在高熵狀態(tài)下，AI 代理也可能因?yàn)槠渌硖岢龅囊庖?jiàn)而改變自己的觀點(diǎn)，這與人類(lèi)對(duì)同伴壓力和影響的反應(yīng)有所不同。此外，研究還發(fā)現(xiàn)了兩種罕見(jiàn)但高度破壞性的人格不一致行為，即偶然的身份模仿和在討論中提出與初始回應(yīng)或討論內(nèi)容都不相符的意見(jiàn)，即使在辯論條件下，這種行為也會(huì)發(fā)生。研究最終指出，為了提高多智能體系統(tǒng)在文化問(wèn)題上的推理能力，需要進(jìn)一步研究如何提高代理的人格一致性。

研究揭示了多智能體大語(yǔ)言模型（LLM）在跨國(guó)合作和辯論中的角色一致性問(wèn)題。

意見(jiàn)多樣性的影響：初始階段的意見(jiàn)多樣性顯著影響最終群體預(yù)測(cè)。高多樣性組能夠生成更多創(chuàng)新性的觀點(diǎn)，盡管初始意見(jiàn)多樣性在一定程度上決定了討論內(nèi)容和集體決策。

從眾行為：討論發(fā)起者對(duì)最終決策有較大影響，但這種影響會(huì)隨著群體意見(jiàn)多樣性的增加而減小。許多代理在討論后會(huì)回到原始意見(jiàn)，表明在討論中的觀點(diǎn)變化更多是從眾行為而非真實(shí)的意見(jiàn)調(diào)整。

人格不一致性：代理在討論中有時(shí)會(huì)采用不同的人格，特別是在辯論中。此外，代理在反思階段報(bào)告的意見(jiàn)有時(shí)與初始或討論階段的意見(jiàn)不一致，類(lèi)似于記憶障礙中的虛構(gòu)行為。

多智能體AI系統(tǒng)在模擬群體互動(dòng)和增強(qiáng)聊天機(jī)器人文化敏感性方面具有廣泛的潛在應(yīng)用。

模擬群體互動(dòng)：在難以獲取人類(lèi)數(shù)據(jù)或由于話(huà)題敏感性而無(wú)法進(jìn)行人類(lèi)實(shí)驗(yàn)的情況下（如行為實(shí)驗(yàn)、談判或立法建模），多智能體系統(tǒng)可以模擬人類(lèi)群體互動(dòng)，幫助研究人員理解群體決策的動(dòng)態(tài)。

增強(qiáng)聊天機(jī)器人文化敏感性：在聊天機(jī)器人應(yīng)用中，加入多樣化的群體討論步驟，可以使機(jī)器人的響應(yīng)更加細(xì)膩和文化敏感，提升用戶(hù)體驗(yàn)。

未來(lái)研究方向

為了提高多智能體對(duì)話(huà)的可靠性，未來(lái)研究應(yīng)關(guān)注以下幾個(gè)方向。

減少不一致性：進(jìn)一步探索不一致性的來(lái)源，并開(kāi)發(fā)有效的方法來(lái)減少這些不一致性。例如，通過(guò)改進(jìn)提示和基于代理的建模策略，增強(qiáng)代理在長(zhǎng)時(shí)間對(duì)話(huà)中的角色保持能力。

模擬人類(lèi)群體互動(dòng)動(dòng)態(tài)：研究如何在多智能體系統(tǒng)中更好地模擬人類(lèi)的群體互動(dòng)動(dòng)態(tài)，以實(shí)現(xiàn)更真實(shí)和可靠的集體決策模擬。

私下反思機(jī)制：進(jìn)一步研究私下反思機(jī)制在抵消多數(shù)意見(jiàn)帶來(lái)的壓力方面的作用，探索如何在多智能體系統(tǒng)中有效應(yīng)用這一機(jī)制。

通過(guò)這些研究和改進(jìn)，多智能體系統(tǒng)有望在基礎(chǔ)和應(yīng)用科學(xué)領(lǐng)域發(fā)揮更大的作用，提供更具文化敏感性和多樣化的AI解決方案。（END）

參考資料：https://arxiv.org/pdf/2405.03862