大型語言模型，那些能對(duì)我們的提示給出人類回答的智能聊天機(jī)器人，會(huì)影響我們的觀點(diǎn)嗎？

《IEEE智能系統(tǒng)》雜志中描述的一項(xiàng)實(shí)驗(yàn)表明，答案是肯定的。這項(xiàng)研究的影響對(duì)教師批改論文、員工評(píng)估以及許多其他可能影響我們生活的情況都有深遠(yuǎn)意義。

該研究的設(shè)計(jì)重點(diǎn)關(guān)注兩個(gè)著名的大型語言模型(LLM)提出的不同觀點(diǎn)。每個(gè)大型語言模型都被要求對(duì)兩篇不同的專利摘要按照1到10分的標(biāo)準(zhǔn)進(jìn)行評(píng)估，重點(diǎn)關(guān)注可行性和顛覆性等特性。

研究作者將專利摘要以及大型語言模型給出的分?jǐn)?shù)提供給不同組的研究生。每組學(xué)生只看到一個(gè)評(píng)分——要么是較高的評(píng)分，要么是較低的評(píng)分。在不知道其他組所看到內(nèi)容的情況下，這些學(xué)生隨后被要求自己對(duì)專利摘要進(jìn)行評(píng)分。

看到大型語言模型給出較高評(píng)分(如“9”分)的組給出的評(píng)估分?jǐn)?shù)比看到較低評(píng)分(如“4”分)的組要高。然而，他們并非只是照搬分?jǐn)?shù)。相反，看到“9”分的組給出的平均評(píng)分約為7.5分，而看到“4”分的組給出的平均評(píng)分略高于5分。這表明，盡管大型語言模型的評(píng)分對(duì)他們產(chǎn)生了影響，但參與者仍然做出了自己的判斷。

IEEE高級(jí)會(huì)員Ayesha?Iqbal表示：“實(shí)驗(yàn)結(jié)果表明，人工智能工具能夠影響決策任務(wù)，比如教師給學(xué)生的研究論文評(píng)分，或者企業(yè)評(píng)估員工、產(chǎn)品、軟件以及其他知識(shí)成果時(shí)。如果不同的人工智能工具給出不同的評(píng)級(jí)，而人們又依賴這些評(píng)級(jí)，那么人們對(duì)同一個(gè)事物就可能給出不同的評(píng)價(jià)。這就引出了一個(gè)重要問題：我們是否想要偏向于人工智能的推薦呢？

專業(yè)人士使用大型語言模型(LLM)來協(xié)助完成諸如給論文評(píng)分或評(píng)估項(xiàng)目等任務(wù)的初稿是相當(dāng)常見的做法。專業(yè)人士可能不會(huì)將大型語言模型的輸出作為最終成果，但它們提供了一個(gè)有用且省時(shí)的起點(diǎn)。鑒于該研究中所描述的錨定效應(yīng)，這是個(gè)好主意嗎？

研究表明，與人類一樣，大型語言模型會(huì)給出支持或反對(duì)某些觀點(diǎn)的理由。依賴大型語言模型可能類似于與同伴合作。同時(shí)，大型語言模型往往具有一些特性，這些特性可能會(huì)使它們或多或少地有用。一些大型語言模型往往更樂觀，給出的答案更長(zhǎng);其他的可能更悲觀，給出的答案更短。

該研究的作者指出，教育工作者在做諸如批改論文之類的事情時(shí)可能僅使用一個(gè)大型語言模型以保持一致性，但在處理更復(fù)雜的任務(wù)(如評(píng)估商業(yè)項(xiàng)目)時(shí)可能會(huì)使用多個(gè)大型語言模型。

“在我們的個(gè)人和職業(yè)生活中，為人工智能的使用設(shè)定界限和限制是很重要的，”Iqbal說，“我們需要確定人工智能技術(shù)在何時(shí)何地是合適且有益的，并識(shí)別出需要人類判斷和干預(yù)的情況。通過對(duì)技術(shù)使用和決策過程保持控制，可以避免對(duì)人工智能的過度依賴。”