學(xué)而思研發(fā)面向全球數(shù)學(xué)愛好者大模型MathGPT
近日,在各家大廠打得如火如荼的「ChatGPT大戰(zhàn)」中,學(xué)而思也加入其中。
不過,學(xué)而思另辟蹊徑選擇的是自研數(shù)學(xué)大模型「MathGPT」,以數(shù)學(xué)領(lǐng)域的解題和講題算法為核心,并且已經(jīng)取得了階段性成果。
對此學(xué)而思表示,基于該自研大模型的產(chǎn)品級應(yīng)用預(yù)計(jì)會在年內(nèi)推出,將面向全球數(shù)學(xué)愛好者和科研機(jī)構(gòu)。
作為公司的核心項(xiàng)目,學(xué)而思早在今年春節(jié)之前就啟動了相應(yīng)的團(tuán)隊(duì)建設(shè)、數(shù)據(jù)、算力準(zhǔn)備和技術(shù)研發(fā),并直接交由CTO田密負(fù)責(zé)。
此外,位于美國硅谷的團(tuán)隊(duì)建設(shè)目前也已經(jīng)啟動,計(jì)劃成立一支海外算法和工程團(tuán)隊(duì),在全球范圍內(nèi)招募優(yōu)秀的人工智能專家加入。
MathGPT與大語言模型(LLM)的差異
今年三月,OpenAI正式發(fā)布大語言模型GPT-4。隨后,國內(nèi)百度、阿里也推出了各自的大模型產(chǎn)品。
然而,通用語言模型更像一個(gè)「文科生」,在語言翻譯、摘要、理解和生成等任務(wù)上有出色表現(xiàn),但在數(shù)學(xué)問題的解決、講解、問答和推薦方面則存在明顯不足——
「解答數(shù)學(xué)問題經(jīng)常出錯(cuò),有些數(shù)學(xué)問題雖然能夠解決,但方法更偏成年人,無法針對適齡孩子的知識結(jié)構(gòu)和認(rèn)知水平做適配?!?/span>
對此,學(xué)而思AI團(tuán)隊(duì)負(fù)責(zé)人表示,這種不足是由LLM模型的自身特點(diǎn)決定的。LLM大模型來自對海量語言文本的訓(xùn)練,因此最擅長語言處理。
行業(yè)內(nèi)偏向基于LLM大模型做閱讀、寫作類應(yīng)用,但如果想要在數(shù)學(xué)能力上有突破,就需要研發(fā)新的大模型。
因此,學(xué)而思決心組建團(tuán)隊(duì)專研MathGPT——數(shù)學(xué)領(lǐng)域大模型,用自己在數(shù)學(xué)和AI上的多年積累,面向全球范圍內(nèi)的數(shù)學(xué)愛好者和科研機(jī)構(gòu),做好AI大模型時(shí)代的數(shù)學(xué)基礎(chǔ)工作。
學(xué)而思希望通過MathGPT彌補(bǔ)和攻克大語言模型的三個(gè)問題:
第一,題目要解對,現(xiàn)在GPT結(jié)果經(jīng)常出現(xiàn)錯(cuò)誤;
第二,解題步驟要穩(wěn)定、清晰,現(xiàn)在GPT的解題步驟每次都不一樣,而且生成內(nèi)容經(jīng)常很冗余;
第三,解題要講的有趣、個(gè)性化,現(xiàn)在GPT的解釋過于「學(xué)術(shù)」和機(jī)械,對孩子的學(xué)習(xí)體驗(yàn)很不友好。
做MathGPT,學(xué)而思憑什么
學(xué)而思作為獲國家科技部批準(zhǔn)的「智慧教育國家新一代人工智能開放創(chuàng)新平臺」建設(shè)單位,也是教育行業(yè)唯一一家人工智能「國家隊(duì)」成員,在人工智能領(lǐng)域有著多年的深入研究,早在2017年,學(xué)而思便成立了AI lab人工智能實(shí)驗(yàn)室。
據(jù)公開信息顯示,基于智慧教育人工智能開放創(chuàng)新平臺助力,學(xué)而思AI lab獲得各類頂級學(xué)術(shù)會議比賽冠軍16項(xiàng),亞軍6項(xiàng);發(fā)表國際期刊和會議高水平學(xué)術(shù)論文31篇,包含光學(xué)字符識別、圖像、自然語言處理、語音以及多模態(tài)等多領(lǐng)域的學(xué)術(shù)研究,在計(jì)算機(jī)視覺頂會以及自然語言頂會中均有多篇論文發(fā)表;申請專利220余項(xiàng),授權(quán)專利150余項(xiàng),軟件著作權(quán)60余項(xiàng)。
學(xué)而思AI lab在各類頂級學(xué)術(shù)會議比賽獲獎情況
「以數(shù)學(xué)起家」的學(xué)而思至今已有20年的數(shù)學(xué)教學(xué)經(jīng)驗(yàn),積累了龐大的數(shù)學(xué)相關(guān)數(shù)據(jù),這些數(shù)據(jù)是進(jìn)行MathGPT訓(xùn)練的必備物料。
另外,學(xué)而思的海外業(yè)務(wù)Think Academy在全球若干國家和地區(qū)深受數(shù)學(xué)愛好者喜歡,學(xué)而思的學(xué)生在每年的IMO和AMC等國際數(shù)學(xué)競賽中表現(xiàn)優(yōu)異,每年都有多位學(xué)生在國際奧林匹克數(shù)學(xué)競賽中拿到金牌。
所以,學(xué)而思選擇在MathGPT方向發(fā)力也順理成章。
另據(jù)了解,學(xué)而思學(xué)習(xí)機(jī)近期將會上線一款「AI助手」,涵蓋作文助手、口語助手、閱讀助手、數(shù)學(xué)助手等相關(guān)功能,該AI產(chǎn)品將于5月11日開啟內(nèi)測。
MathGPT的挑戰(zhàn)和技術(shù)難題
如何利用大語言模型服務(wù)各行各業(yè)是當(dāng)下社會的焦點(diǎn)問題。
比如在教育領(lǐng)域,Duolingo、Quizlet、可汗學(xué)院等產(chǎn)品主要和OpenAI合作,在GPT大模型上做微調(diào)和接口調(diào)用,增強(qiáng)原有的產(chǎn)品體驗(yàn)。
但也有一些領(lǐng)域如數(shù)學(xué)、醫(yī)學(xué)等,對AI的需求是準(zhǔn)確、清晰、具備強(qiáng)大的邏輯推理能力,且容錯(cuò)率低,通用LLM目前的性能表現(xiàn)還無法在上述領(lǐng)域取得突破,未來是否可能取得突破尚不清晰。
以數(shù)學(xué)領(lǐng)域?yàn)槔?,目前市場上有幾個(gè)主要流派。
比如Google收購的Photomath、微軟數(shù)學(xué)、Mathway、專注數(shù)學(xué)計(jì)算的WolframAlpha等產(chǎn)品,主要利用非LLM的傳統(tǒng)AI技術(shù)加上數(shù)據(jù)庫的方式解決數(shù)學(xué)問題。
走AGI路線的公司則嘗試讓通用LLM「更懂?dāng)?shù)學(xué)」,比如GPT-4在數(shù)學(xué)任務(wù)上比之前的3.5版本性能更好,谷歌旗下的Minerva模型也專門針對數(shù)學(xué)問題進(jìn)行調(diào)優(yōu)。
學(xué)而思選擇了另一條少有人走的路,不基于現(xiàn)有LLM做微調(diào)和接口調(diào)用、不做通用LLM,而是自研基于專業(yè)領(lǐng)域的「數(shù)學(xué)大模型」MathGPT,致力于打造自主、穩(wěn)定、可持續(xù)、高質(zhì)量的學(xué)習(xí)解決方案。
在大語言模型不斷進(jìn)化的浪潮下,不同的技術(shù)路線選擇孰優(yōu)孰劣,仍有待討論和驗(yàn)證。
學(xué)而思自研獨(dú)立的MathGPT大模型是否成立,是否能夠超越通用模型在數(shù)學(xué)任務(wù)上的表現(xiàn),是否更匹配不同人群的數(shù)學(xué)學(xué)習(xí)場景,這個(gè)問題還需要在創(chuàng)新實(shí)踐中尋找答案。
隨著整個(gè)行業(yè)的深化發(fā)展和越來越多人才參與到這個(gè)領(lǐng)域,相信不久的將來就能看到更為成熟的解決方案。