GPT Store都開不下去,這家國產(chǎn)平臺怎么敢走這條路的?
注意看,這個男人把超1000種大模型接入,讓你可插拔無縫切換使用。
最近還上線了可視化的AI工作流:
給你一個直觀的拖放界面,拖拖、拉拉、拽拽,就能在無限畫布上編排自己個兒的Workflow。
正所謂兵貴神速,量子位聽說,這個AI Workflow上線不到48小時,就已經(jīng)有用戶配出了100多個節(jié)點的個人工作流。
不賣關(guān)子,今天要聊的就是LLMOps公司Dify,及其CEO張路宇。
張路宇也是Dify的創(chuàng)始人。
投身創(chuàng)業(yè)前,有11年的互聯(lián)網(wǎng)從業(yè)經(jīng)驗。搞產(chǎn)品設(shè)計,懂項目管理,也對SaaS有點自己的獨(dú)到見解。
后來他還在騰訊云CODING DevOps團(tuán)隊負(fù)責(zé)產(chǎn)品和運(yùn)營管理工作,服務(wù)超百萬開發(fā)者用戶的平臺產(chǎn)品。
投身創(chuàng)業(yè)后,Dify迅速在他和團(tuán)隊的合力下成為“開源LLM應(yīng)用程序開發(fā)平臺”領(lǐng)域絕對的佼佼者,迄今在GitHub坐擁超22k星標(biāo)。
這一次,借著上新AI Workflow功能,我們專門找到張路宇,和這個幫20萬個AI應(yīng)用接上大模型的男人聊了聊。
他說:
未來的編程,可能就是編flow。
拖放拽完成workflow設(shè)置
不久前,AI大牛吳恩達(dá)發(fā)表了一個引發(fā)廣泛討論的觀點。他斷言,AI agent workflow將在今年推動人工智能取得巨大進(jìn)步,甚至可能超過下一代基礎(chǔ)模型。
吳恩達(dá)視workflow為一個重要趨勢,并呼吁所有從事AI工作的人都關(guān)注它。
于是Dify就趁熱打鐵地上線了AI workflow。(但其實Dify看到這個機(jī)會是在半年之前,這個我們待會說。)
正式上線后,它是醬嬸兒的:
核心是一個直觀的拖放界面。
用戶可以通過連接不同的節(jié)點,在一個無限的畫布上構(gòu)建自己的Workflow。
沒錯,是“無限畫布”——目前版本允許不斷擴(kuò)大可用節(jié)點的類型,且每個節(jié)點均可配置,用戶可以為每個節(jié)點定義輸入和輸出,確保workflow的工作邏輯和數(shù)據(jù)流動符合預(yù)期。
也就是說,你既可以端到端地測試你的Workflows,也可以單獨(dú)測試每個節(jié)點,快速定位問題所在。
值得注意的是,一些核心節(jié)點被優(yōu)先支持,包括:
- LLM:選擇任意一個主流的大型語言模型,并定義它的輸入和輸出
- 工具:使用內(nèi)置的和自定義的工具來擴(kuò)展你的 workflow 能夠?qū)崿F(xiàn)的功能。
- 意圖分類器:讓LLM對用戶的輸入自動分類,根據(jù)不同的類別進(jìn)行工作流轉(zhuǎn)。
- 知識檢索:為你的LLMs掛載來自現(xiàn)有知識庫的上下文數(shù)據(jù)。
- 代碼:執(zhí)行自定義的Python或Node.js代碼。
- If/Else塊:定義條件邏輯以創(chuàng)建分支的Workflows。
此外,AI workflow支持DSL的導(dǎo)入導(dǎo)出,張路宇稱其為“最酷的功能之一”。
簡單來說,用戶可以導(dǎo)出自己的workflows,然后導(dǎo)入到其它工作區(qū),讓W(xué)orkflows來去自如,同時還能根據(jù)需要再次自定義它們。
這個特性為社區(qū)內(nèi)的合作、分享,以及在他人工作基礎(chǔ)上再構(gòu)建,打開了一扇窗戶。
并且workflow中可以利用Dify平臺的全部能力,用戶已經(jīng)設(shè)置好檢索方案的知識庫、平臺提供的第一方豐富工具、自定義的工具等,都能作為其中一個節(jié)點能力編排。
可以說是和Dify生態(tài)無縫適配了。
不會把門檻降到無限低
AI Workflow上線后,Dify就有了兩種應(yīng)用模式。
一種是Workflow,一種則是傳統(tǒng)的Chatflow。
“絕大多數(shù)用戶會使用傳統(tǒng)的Chatbot類型,它背后沒有復(fù)雜的邏輯,基本上依靠接入的大模型的自我運(yùn)作。”張路宇解釋道,相比之下,Workflow會強(qiáng)大很多,但這不代表不能用Workflow做出聊天機(jī)器人。
這下就明了了,“workflow”雖然翻譯為工作流,但其實代表的是Dify背后的運(yùn)作機(jī)制。
而Dify之所以朝這樣一個方向進(jìn)化,原因是團(tuán)隊有自己的“信仰”。
我們認(rèn)為,未來的編程,可能編的就是(work)flow。
據(jù)了解,Dify的下一步規(guī)劃,是上線RAG的Pipeline,以及prompt的協(xié)同范式。
那么,不斷給自己打補(bǔ)丁的Dify,到底把哪些群體視為自己的用戶和潛在用戶?
“假設(shè)全中國有1000萬名開發(fā)者,其中有50萬人現(xiàn)在有能力去創(chuàng)作、去影響別人,大模型對他們有天然的吸引力;剩下的人需要時間去理解和接納新事物。”
有價值的、有留存的、能充分產(chǎn)品化的,在自己行業(yè)或技能有豐富技能的人——張路宇這么來“界定”Dify服務(wù)的主要用戶群體,并稱其為“真正的我們認(rèn)為的專業(yè)的開發(fā)者,或者說這個有極具創(chuàng)造力的創(chuàng)新者”。
這部分群體,在所有人群中占比不超過10%。
所以,張路宇也坦白,DIfy一直做的事是降低工具的使用門檻,但門檻不會低到?jīng)]有。
Dify更不會把使用門檻降為零。
我們還聊到了功能上線時間的選擇。
Dify上線AI Workflow的時間并不早,去年下半年起,借著Agent概念大熱的東風(fēng),不少創(chuàng)業(yè)公司就已經(jīng)上線了類似功能。
但Dify稱這個時間是主動選擇的時機(jī),在GPTs上線前,團(tuán)隊就對Workflow的機(jī)會有所洞察。
既想觀察模型側(cè)和產(chǎn)品側(cè)的動態(tài),又要交付完整能力,不打沒有準(zhǔn)備好的仗,“我們其實節(jié)奏故意放慢了一些?!?/p>
出身大廠,“但我離經(jīng)叛道”
Dify有自己的節(jié)奏,大約和團(tuán)隊對自我技術(shù)的評估有關(guān)系。
當(dāng)被問及是否擔(dān)心大廠下場擠壓市場空間時,得到的答案是正面的三個字:不害怕。
他們的理由是這樣的:
一來,市場競爭似乎并沒有那么緊迫與激烈。
去年5月Dify成立時,核心創(chuàng)始團(tuán)隊一直擔(dān)心入場時間過晚,怕有團(tuán)隊先聲奪人,“但事實是,沒有別的團(tuán)隊做起來”。
二來,大廠往往是因為看到市場上有這么一個機(jī)會,供給推動,而選擇押注;Dify則是因為看到切實需求才驅(qū)動研發(fā)。
不僅不怕大廠,Dify也不懼同類創(chuàng)業(yè)公司的力量。
張路宇表示,雖然有許許多多的現(xiàn)在這一波創(chuàng)業(yè)者,大多還是十年前的那一波創(chuàng)業(yè)者。這群人身上的標(biāo)簽,是在大廠進(jìn)行過修煉。
“在打上大廠經(jīng)歷標(biāo)簽的同時,大廠部門之間寫作流程復(fù)雜等,也成為了這些人固有的思維模版?!?/p>
同樣在大廠呆過的張路宇,稱自己是“大廠叛逆者”,標(biāo)榜著自己的離經(jīng)叛道——
我不歸于(被思維掣肘)的那一類。我第一份工作在一個很大的游戲公司,21歲,當(dāng)工程師。那時候只要我判斷我做的事有價值,產(chǎn)品很好,我會忽略一切流程,把產(chǎn)品弄上線,叫偷渡上線。
這在很多公司屬于違規(guī),但我一定要做。為什么呢?如果按流程走,可能走不通;但我把它上線,用戶體驗后帶來的價值是顯著的。
這和創(chuàng)業(yè)一樣,需要接受風(fēng)險。
創(chuàng)業(yè)有風(fēng)險,下場需謹(jǐn)慎,好在有一些令張路宇高興的事情。
他說,過去一年最興奮的事情,就是有特別多的年輕人在涌入這個行業(yè),有無數(shù)頂尖學(xué)校的應(yīng)屆生愿意投身到里面來。
這群人不缺好的機(jī)會,畢業(yè)后輕松能拿下500強(qiáng)或大廠的高職級,但現(xiàn)在愿意拿非常少的錢來做大模型相關(guān)的事情。
“在以前,我們?nèi)绻胝衅高@樣的人是很難的,甚至不知道從哪里去找到這樣的簡歷,更別提說服他們來加入?!?/p>
“這樣的人在我們公司內(nèi)部有很多嗎?”
“已經(jīng)至少有1/3?但這個比例我認(rèn)為還不夠高,這些人應(yīng)該成為我們的主力?!?/p>