4B Qwen3逆襲671B DeepSeek!字節(jié)DAPO微調(diào)方法這么猛的嗎
4B小模型極限在哪里?
最新模型Jan-nano引起熱議,它在智能體任務(wù)上超過671B的最新版DeepSeek-V3 0528,在SimpleQA基準(zhǔn)上獲得80.7分。

先來看一下它的實際表現(xiàn),包括兩個任務(wù):
- 對研究某公司目前的擴(kuò)張情況,該公司的擴(kuò)張正威脅著另一家公司的市場份額,并撰寫一份可能影響金融公司盡職調(diào)查流程的MBA水平報告。
- 匯總今日財經(jīng)突發(fā)新聞,聚焦令人震驚的消息。

總結(jié)一下,Jan-nano的能力包括:
- 在正確的提示詞下,可以進(jìn)行深度研究
- 從搜索結(jié)果中有效地獲取相關(guān)信息
- 針對MCP協(xié)議優(yōu)化,可無縫集成各種MCP服務(wù)器調(diào)用工具
再來看一下官方評估結(jié)果,與它同臺競技的不是閉源方案就是DeepSeek-v3這樣的671B大型MoE模型。

目前Jan-nano取得最高分80.7%,并且作者透露下一個版本的目標(biāo)是85%。

不過研究團(tuán)隊Menlo Research特別提醒大家,Jan-Nano只是在這一個指標(biāo)上優(yōu)于Deepseek-671B,并且在測試中使用了基于MCP的方法。
我們完全理解4B模型有其局限性,但看看它能走到多遠(yuǎn)總是很有趣的。
具體來說,Jano在Qwen3-4B上使用字節(jié)&清華開源的DAPO強化學(xué)習(xí)微調(diào)方法。

團(tuán)隊稱將很快發(fā)布詳細(xì)的技術(shù)報告,敬請期待。
誰是Menlo Research?
Menlo Research是一個專注于AI和機(jī)器人技術(shù)的開放研發(fā)實驗室,其主要目標(biāo)為構(gòu)建機(jī)器人的”大腦”。
創(chuàng)始人為一對夫妻D(zhuǎn)aniel Ong與Nicole Zhu,Nicole Zhu在斯坦福讀人機(jī)交互碩士期間休學(xué)創(chuàng)業(yè),此前在谷歌做過高級工程師。

Menlo Research堅持用戶擁有原則,產(chǎn)品都是開源的,設(shè)計為離線運行或自托管。

此前Menlo Research的核心產(chǎn)品是Jan,一個可以100%離線運行的開源AI助手應(yīng)用。
Jan被定位為ChatGPT的替代品,曾在推出數(shù)月后,在沒有風(fēng)險投資支持的情況下超過百萬次下載,

Jan的長遠(yuǎn)愿景是成為“自驅(qū)動計算機(jī)”,實現(xiàn)從用戶操作計算機(jī)到計算機(jī)自主操作的轉(zhuǎn)變,具體來說,規(guī)劃中的能力包括。
- 將用戶指令轉(zhuǎn)化為直接行動
- 跨應(yīng)用程序工作,無需手動切換
- 學(xué)習(xí)用戶的特定工作模式
- 自主完成重復(fù)性任務(wù)
此外,Menlo Research還在新加坡Echelon展會上展出了一款人形機(jī)器人。

Jan-nano模型下載:
https://huggingface.co/Menlo/Jan-nano
Menlo Research:https://menlo.ai





































