編者按：現(xiàn)代大語(yǔ)言模型已經(jīng)能夠一次性處理相當(dāng)于整本書(shū)的文本量，但我們是否曾想過(guò)，當(dāng)模型的“記憶”容量再擴(kuò)展成千上萬(wàn)倍，足以容納長(zhǎng)達(dá)數(shù)月乃至數(shù)年的交互信息時(shí)，人工智能的能力邊界將會(huì)發(fā)生怎樣顛覆性的變化？我們今天為大家?guī)?lái)的文章，作者的核心觀點(diǎn)是：超長(zhǎng)上下文推理的真正潛力，并不僅僅是處理海量文檔，更在于它為實(shí)現(xiàn)人工智能的“持續(xù)學(xué)習(xí)”和規(guī)?；?ldquo;強(qiáng)化學(xué)習(xí)”這兩大關(guān)鍵瓶頸提供了革命性的突破路徑。文章指出...

出品51CTO技術(shù)棧（微信號(hào)：blog51cto）一個(gè)略顯科幻的場(chǎng)景正在軟件研發(fā)領(lǐng)域悄然上演：開(kāi)發(fā)工程師將代碼合并入CICD流水線后，一個(gè)AI驅(qū)動(dòng)的“質(zhì)量保障智能體”便被瞬間喚醒。它能夠輔助解析需求文檔PRD，自主規(guī)劃測(cè)試策略，并高效生成覆蓋邊界條件的測(cè)試用例與測(cè)試腳本。面對(duì)大模型對(duì)復(fù)雜領(lǐng)域的理解產(chǎn)生的“幻覺(jué)”，通過(guò)人機(jī)協(xié)同和工程化的調(diào)優(yōu)，Agent在發(fā)現(xiàn)UI渲染異?；駻PI錯(cuò)誤時(shí)，能快速自動(dòng)化地收集日志、分析關(guān)鍵鏈路，并提交...

編輯云昭?出品51CTO技術(shù)棧（微信號(hào)：blog51cto）拿下諾獎(jiǎng)一年之后，AI奠基人、“AI教父”辛頓·杰弗里，卻成了那個(gè)最擔(dān)憂人工智能的人。這位讓神經(jīng)網(wǎng)絡(luò)走入現(xiàn)實(shí)的科學(xué)家，在剛剛放出的采訪視頻中再次以一種幾乎絕望的語(yǔ)氣告訴全人類(lèi)：“我們正在親手制造外星人。”這些外星人不會(huì)從星空降臨，而是從代碼中誕生。十年后，它們或許比人類(lèi)更聰明、更強(qiáng)大，而我們卻還在忙著搶市場(chǎng)、卷融資、拼模型。他表示，人工智能有朝一日可能...

如何輸入一張草圖，生成美觀的版面圖？下面來(lái)看一個(gè)多模態(tài)布局生成思路。草圖生成版面圖效果方法整體框架如上圖框架，文檔布局生成的目標(biāo)是：以“用戶草圖+圖像+文本”為輸入，生成“符合草圖結(jié)構(gòu)、視覺(jué)美觀、語(yǔ)義連貫（如閱讀順序正確）”的多模態(tài)布局。多模態(tài)模型微調(diào)PaLIGemma3B，目的是“理解草圖結(jié)構(gòu)+關(guān)聯(lián)素材內(nèi)容+生成結(jié)構(gòu)化布局代碼”。模型需同時(shí)處理視覺(jué)（草圖+圖像）和文本（文本+prompt）輸入，實(shí)現(xiàn)“結(jié)構(gòu)與內(nèi)容的對(duì)...

文章鏈接：https:arxiv.orgpdf2510.18692項(xiàng)目鏈接：https:jiawncreator.github.iomixtureofgroupsattentionMoGA生成的一分鐘視頻亮點(diǎn)直擊MoGA，一種有效的稀疏注意力機(jī)制，它通過(guò)輕量級(jí)tokenrouter用精確的組分配取代了塊級(jí)評(píng)分，從而能夠?qū)﹂L(zhǎng)上下文進(jìn)行有效建模?；贛oGA，引入了一種視頻生成模型，能夠生成分鐘級(jí)別、多鏡頭、480p分辨率、24fps的視頻，其上下文長(zhǎng)度約為58萬(wàn)個(gè)tokens。廣泛的評(píng)估顯示，相較于最先進(jìn)的稀疏注...

在2025年國(guó)慶假期期間，OpenAI正式推出了名為AgentKit的全新解決方案。該平臺(tái)提供了一整套用于設(shè)計(jì)、開(kāi)發(fā)與集成智能助手的模塊化組件，具體涵蓋三大核心功能：可視化智能體編排界面AgentBuilder、即插即用對(duì)話交互系統(tǒng)ChatKit，以及集中式外部服務(wù)接入管理中心Connectorregistry。本篇文章聚焦于AgentBuilder,也就是對(duì)標(biāo)dify，n8n工作流的部分。節(jié)點(diǎn)介紹OpenAIAgentBuilder構(gòu)建了一套包含11個(gè)功能模塊的節(jié)點(diǎn)系統(tǒng)，這些模塊按照...

論文鏈接：https:arxiv.orgpdf2506.00512代碼鏈接：https:github.comshuoyueli4519Pro3DEditorCode項(xiàng)目網(wǎng)頁(yè)：https:shuoyueli4519.github.ioPro3DEditor亮點(diǎn)直擊提出了漸進(jìn)式視圖編輯范式，將編輯信息從編輯顯著視圖投影到編輯稀疏視圖上，解決了多視圖編輯時(shí)特征不一致的問(wèn)題。基于提出的范式設(shè)計(jì)了3D物體編輯框架Pro3DEditor，實(shí)現(xiàn)了一致且精確的3D物體編輯。在3D物體編輯任務(wù)上表現(xiàn)突出，編輯質(zhì)量及編輯準(zhǔn)確性優(yōu)于現(xiàn)有方法。...

“相似度檢索有其天生的缺陷，而這是其自身所解決不了的。”在日常工作中，你是否遇到過(guò)這樣的困擾：向智能助手詢問(wèn)「杭州市社保信息的數(shù)據(jù)」，得到的卻是大量與社保相關(guān)的政策解讀、歷史沿革，唯獨(dú)缺少你真正需要的杭州市具體社保數(shù)據(jù)？這背后暴露的，正是當(dāng)前大熱的RAG（檢索增強(qiáng)生成）技術(shù)在復(fù)雜場(chǎng)景下的核心缺陷。一、RAG的理想與現(xiàn)實(shí)落差RAG的工作原理看似完美：將用戶問(wèn)題轉(zhuǎn)換為向量在知識(shí)庫(kù)中尋找相似內(nèi)容基于檢索結(jié)果生...

“RAG的架構(gòu)雖然有所不同，但其原理都是相同的，都是通過(guò)檢索來(lái)增強(qiáng)模型的生成能力，只不過(guò)在不同的環(huán)節(jié)做了不同的優(yōu)化。”從事RAG技術(shù)的工作也有一兩年時(shí)間了，但在此之間都是這學(xué)一點(diǎn)那學(xué)一點(diǎn)，感覺(jué)自己好像什么都會(huì)，但從來(lái)沒(méi)有對(duì)整個(gè)RAG系統(tǒng)進(jìn)行過(guò)梳理。所以，今天就從RAG的迭代過(guò)程開(kāi)始梳理一下RAG的架構(gòu)升級(jí)過(guò)程，了解不同種類(lèi)RAG的區(qū)別和聯(lián)系，以及適用場(chǎng)景。RAG的幾種類(lèi)型從技術(shù)的本質(zhì)來(lái)說(shuō)，RAG就是檢索增強(qiáng)生成，重要...

情感計(jì)算（AffectiveComputing）這個(gè)名字聽(tīng)起來(lái)有點(diǎn)浪漫，但它的野心卻很務(wù)實(shí)，讓機(jī)器不僅能“看懂”人類(lèi)的表情，還能理解背后的情緒邏輯。過(guò)去二十年，研究者們?cè)趯?shí)驗(yàn)室里訓(xùn)練模型識(shí)別“笑臉”“皺眉”，準(zhǔn)確率節(jié)節(jié)攀升?？墒菍?shí)驗(yàn)室的笑容往往是“擺拍”的，憤怒也多半是“演技派”的?，F(xiàn)實(shí)世界的情緒可沒(méi)那么配合，它們更像是股市行情，瞬息萬(wàn)變，受環(huán)境、關(guān)系、甚至天氣影響。于是情感計(jì)算正經(jīng)歷一場(chǎng)轉(zhuǎn)向，從實(shí)驗(yàn)室走向真實(shí)...

當(dāng)大模型遇上“看不懂”的文檔在ChatGPT引領(lǐng)的AI革命中，大語(yǔ)言模型（LLM）展現(xiàn)了驚人的推理能力。然而，當(dāng)面對(duì)專業(yè)領(lǐng)域的復(fù)雜文檔時(shí)，它們卻常常“束手無(wú)策”：模態(tài)缺失：現(xiàn)有DeepResearch系統(tǒng)僅支持純文本網(wǎng)頁(yè)，無(wú)法處理PDF、論文、財(cái)報(bào)中的圖表、表格、公式結(jié)構(gòu)破壞：簡(jiǎn)單OCR將文檔轉(zhuǎn)為純文本，丟失布局信息（如表格結(jié)構(gòu)、圖表標(biāo)題）檢索粗暴：?jiǎn)屋啓z索+固定粒度，無(wú)法適應(yīng)“先概覽后精讀”的人類(lèi)研究習(xí)慣如圖1所示，一個(gè)真...

我們?cè)谧鲩L(zhǎng)周期科研型Agent時(shí)，曾連續(xù)卡殼兩個(gè)核心問(wèn)題：一是標(biāo)注多步推理軌跡的成本高到離譜——為了訓(xùn)練模型“分解問(wèn)題→搜文獻(xiàn)→驗(yàn)證結(jié)論”的流程，標(biāo)注千條高質(zhì)量科研級(jí)軌跡花了近萬(wàn)元，還達(dá)不到訓(xùn)練所需的規(guī)模；二是RL訓(xùn)練后期總出現(xiàn)“策略崩潰”——明明前期模型能正常調(diào)用工具，越訓(xùn)反而越容易陷入“重復(fù)搜同一關(guān)鍵詞”的死循環(huán)。直到看到阿里TongyiLab發(fā)布的TongyiDeepResearch技術(shù)報(bào)告，才發(fā)現(xiàn)他們不僅用全自動(dòng)化方案...

隨著智能手機(jī)攝影能力的不斷提升和存儲(chǔ)成本的持續(xù)下降，用戶積累的照片和視頻數(shù)量呈現(xiàn)爆發(fā)式增長(zhǎng)。如何在海量影像數(shù)據(jù)中高效組織、智能檢索并創(chuàng)造有意義的回憶體驗(yàn)，成為各大科技公司競(jìng)相布局的技術(shù)高地。相冊(cè)智能回憶功能作為這一技術(shù)浪潮的核心產(chǎn)物，正在重新定義人們與數(shù)字記憶互動(dòng)的方式。主流手機(jī)廠商和平臺(tái)在相冊(cè)回憶功能上的技術(shù)競(jìng)爭(zhēng)日趨激烈。GooglePhotos推出了全新的AI驅(qū)動(dòng)編輯器和更智能的分享功能；蘋(píng)果在iOS18中為...

你有沒(méi)有過(guò)這種經(jīng)歷：手機(jī)更新個(gè)系統(tǒng)，之前會(huì)用的功能突然找不到北？連我們?nèi)祟?lèi)學(xué)個(gè)新APP都要摸索半天，更別說(shuō)讓AI在陌生環(huán)境里“即插即用”了。最近我在ICLR2025的論文里發(fā)現(xiàn)一個(gè)叫REGENT的AI智能體，不用練幾百萬(wàn)次，也不用裝個(gè)“超級(jí)大腦”，就靠“翻筆記”的本事，在機(jī)器人操控、游戲通關(guān)這些任務(wù)里，比那些參數(shù)多3倍、數(shù)據(jù)多10倍的大模型還厲害。今天我們聊聊這個(gè)“會(huì)抄作業(yè)還會(huì)舉一反三”的AI到底怎么回事。先吐槽下：現(xiàn)...

搜索“總結(jié)2023年NeurIPS、ICML、ICLR三大ML頂會(huì)的最佳論文，還要分析熱門(mén)領(lǐng)域趨勢(shì)”，搜了十幾頁(yè)結(jié)果：有的只說(shuō)某個(gè)會(huì)議論文分析，有的提了最佳論文但是沒(méi)有趨勢(shì)，零散得像沒(méi)串起來(lái)的珠子；讓AI回答，它倒是說(shuō)得頭頭是道，結(jié)果一半細(xì)節(jié)查不到來(lái)源，疑似“瞎編”；更糟的是，好不容易攢了一堆資料，AI又彈出“內(nèi)容太多，超出我的記憶容量”——這是不是你查復(fù)雜信息時(shí)的日常崩潰？最近我在讀ICLR2025的一篇論文時(shí)，突然眼前一亮...

我們普遍認(rèn)為，那些“會(huì)思考”的AI——大型推理模型（LRMs）——理應(yīng)比普通的大語(yǔ)言模型（LLMs）更聰明、更可靠。畢竟，它們被設(shè)計(jì)用來(lái)生成明確的“思維鏈”，能優(yōu)化多步驟的邏輯推理，并且在復(fù)雜任務(wù)上常常表現(xiàn)更佳。DeepSeekR1的思考過(guò)程甚至成為其出圈的最大因素。但這個(gè)信念可能大錯(cuò)特錯(cuò)。別再迷信AI的“思考過(guò)程”了。最新研究揭示，即便是這些最先進(jìn)的推理模型（LRMs），也存在“假裝思考偏誤”（FRB）。它們更容易被表面...

隨著大型語(yǔ)言模型（LLM）的興起，“提示詞工程”（PromptEngineering）已成為一個(gè)廣為人知的術(shù)語(yǔ)。然而，一篇近期的學(xué)術(shù)論文指出，提示詞工程只是一個(gè)更廣泛、更根本學(xué)科的最新體現(xiàn)，即“上下文工程”(ContextEngineering)。這篇題為《上下文工程2.0：上下文工程的上下文》的論文提出，上下文工程并非智能體（Agent）時(shí)代的“近期創(chuàng)新”，而是與機(jī)器智能水平緊密相關(guān)、已演進(jìn)超過(guò)20年的一門(mén)學(xué)科。本文旨在基于該論文的框架，系...

Sora、Midjourney、StableDiffusion——無(wú)論你被哪一個(gè)刷屏，它們背后都站著同一個(gè)技術(shù)王者：擴(kuò)散模型(DiffusionModels)。你可能以為這是個(gè)橫空出世的天才技術(shù)，但事實(shí)是，它是一場(chǎng)持續(xù)了十年的“三體歸一”。生成式AI的三大流派——VAE、EBM和NF——曾經(jīng)各自為戰(zhàn)，最終卻在擴(kuò)散模型這里實(shí)現(xiàn)了驚人的統(tǒng)一。如果你只驚嘆于AI繪畫(huà)的魔法，卻看不懂背后的技術(shù)地圖，你將錯(cuò)過(guò)理解這場(chǎng)革命的真正鑰匙。本文將剝開(kāi)復(fù)雜公式，用最直白...

編輯｜云昭出品51CTO技術(shù)棧（微信號(hào)：blog51cto）AI的“聰明”有時(shí)令人驚嘆，有時(shí)又讓人困惑。它能寫(xiě)論文、算數(shù)、作詩(shī)，卻也會(huì)在最簡(jiǎn)單的邏輯題上犯錯(cuò)。更可怕的是——它自己并不知道哪一步錯(cuò)了。不過(guò)現(xiàn)在，要有解了！最近，MetaFAIR（FundamentalAIResearch）團(tuán)隊(duì)和愛(ài)丁堡大學(xué)的研究者提出了一種新方法，讓大模型學(xué)會(huì)“自查”并“糾錯(cuò)”自己的推理過(guò)程。圖片他們稱之為CircuitbasedReasoningVerification（CRV）——基于電路的...

一、先破焦慮：AI不是來(lái)砸飯碗的，是來(lái)篩人的前陣子刷到個(gè)好笑的實(shí)驗(yàn)：研究員把GPT5、Claude這些頂級(jí)LLM塞進(jìn)吸塵機(jī)器人，讓它給主人遞塊黃油。結(jié)果機(jī)器人要么迷路撞墻，要么電池快沒(méi)電時(shí)突然飆起羅賓·威廉姆斯式脫口秀，編著《貓》音樂(lè)劇的押韻詞自黑“有二進(jìn)制身份危機(jī)”，最終任務(wù)成功率才37%。這事兒特能說(shuō)明問(wèn)題：現(xiàn)在的AI再牛，也還是個(gè)“高智商路癡”——能處理標(biāo)準(zhǔn)化任務(wù)，卻搞不定需要靈活判斷、情感聯(lián)結(jié)的場(chǎng)景。麥肯...