清華團隊推出新平臺：用去中心化AI打破算力荒
最近，一則數(shù)據(jù)點出了AI領域算力需求的驚人增長——
根據(jù)業(yè)內專家的預估，OpenAI推出的Sora在訓練環(huán)節(jié)大約需要在4200-10500張NVIDIA H100上訓練1個月，并且當模型生成到推理環(huán)節(jié)以后，計算成本還將迅速超過訓練環(huán)節(jié)。
照這個趨勢發(fā)展下去，GPU的供給或許很難滿足大模型持續(xù)的需求。
不過，最近海外有一個新動向，可能會給即將到來的“算力荒”提供新的解決思路——去中心化AI。
三周前，3月23日，Stability AI突然發(fā)布一項公告，宣布公司CEO Emad Mostaque辭職。Emad Mostaque自己透露了接下來動向，要去追求“去中心化AI的夢想”。
但由于去中心化網(wǎng)絡的不確定性、不穩(wěn)定性等技術上的痛難點沒法解決，上一波去中心化AI很難在大模型時代真正落地。
直到最近，量子位發(fā)現(xiàn)，一個在海外創(chuàng)業(yè)的清華團隊聚焦去中心化AI，創(chuàng)立了NetMind.AI。2023年，NetMind發(fā)布了一份白皮書，詳細介紹了去中心化算力共享平臺NetMind Power。這個平臺要解決的，正是去中心化AI在大模型時代落地的痛點。
一、讓每一位開發(fā)者都用得起GPU
2021年9月，NetMind.AI啟動了一項名為NetMind Power的去中心化計算平臺項目。
全球有大量的閑置算力：傳統(tǒng)數(shù)據(jù)中心的閑置算力，中小型企業(yè)擁有的沒有充分使用的算力以及個人擁有的零散GPU。這些算力要么被閑置，要么被用來做游戲、視頻渲染。同時，AI算力又越發(fā)緊缺，AI研究人員、中小型企業(yè)尤其是AI創(chuàng)業(yè)公司、參與AI項目的傳統(tǒng)公司都受困于AI算力的高成本和高門檻。
于是，NetMind Power創(chuàng)建了一個去中心化的計算網(wǎng)絡，利用NetMInd研發(fā)的核心技術，撬動全球算力資源，為AI產(chǎn)業(yè)提供好用又用得起的AI算力服務。
△NetMind Power是獲取算力的經(jīng)濟之選，為用戶提供高效且實惠的計算資源解決方案。
目前，NetMind Power已經(jīng)收集了數(shù)千張顯卡，包括H100，A100，4090，3090。
該平臺的四大亮點：
1. 去中心化動態(tài)集群——在極度不確定的算力上打造可靠高效的AI應用
Power平臺利用基于P2P的動態(tài)分布式集群技術，結合其獨特的路由、聚類算法及神經(jīng)網(wǎng)絡，將成千上萬個計算節(jié)點編織成強大的網(wǎng)絡集群架構，專門服務于AI應用等高層需求。
當用戶在Power平臺上進行AI相關操作，如模型訓練、微調或推理時，Power的去中心化網(wǎng)絡能夠在極短時間內，在全球各地的計算節(jié)點中，通過最優(yōu)化算法快速調配最合適的計算資源，為用戶提供服務。
同時，Power為B端用戶提供動態(tài)集群策略，可以在幾秒內智能進行節(jié)點重組和配置，提供可定制，高擴展和高冗余的專屬集群。
2.完整的AI生態(tài)：降低算力使用門檻，擴大去中心化網(wǎng)絡應用場景
借助NetMind多年在AI領域的積累，Power網(wǎng)絡在基礎算力服務之外，還將囊括開源模型庫、AI數(shù)據(jù)集、數(shù)據(jù)與模型加密等AI生態(tài)基座，以及模型訓練、推理、部署等全方位服務，打造MaaS (Model as a Service) 平臺，為算力供給方與AI應用端的雙方賦能。
針對科研人員、AI領域的中小企業(yè)和傳統(tǒng)企業(yè)的AI+項目，Power的MaaS平臺將大幅度降低算力的使用門檻，特別是對于沒有專業(yè)AI開發(fā)能力的中小企業(yè)和傳統(tǒng)企業(yè)來說，這一點尤為重要。
對于傳統(tǒng)算力供給者，借助Power網(wǎng)絡可以觸達更多用戶。更進一步，他們借助Power的MaaS平臺，可以擴大應用場景，獲得更高收益。這樣一來，Power網(wǎng)絡可以將傳統(tǒng)的中小型中心化算力也納入去中心化算力網(wǎng)絡，進而大幅度擴大網(wǎng)絡規(guī)模。
3.異步訓練算法——解決網(wǎng)絡瓶頸，挖掘閑置算力潛力
在當下的機器學習領域，特別是在大型語言模型訓練中，通常需要通過GPU專用連接線或高帶寬的內部網(wǎng)絡來實現(xiàn)GPU間的同步分布式訓練，這不可避免地增加了訓練的門檻和成本。
NetMind Power通過自研的模型切分和數(shù)據(jù)異步的技術，打破了分布式訓練中網(wǎng)速和帶寬的壁壘，即使是分布在地球不同角落的訓練節(jié)點，也能夠同步參與到龐大的模型訓練工作中。
4. 模型加密與數(shù)據(jù)隔離——解決去中心化網(wǎng)絡中的安全困擾
Power提供獨特的模型加密技術，保障了在去中心化的志愿計算場景中，用戶的AI模型和數(shù)據(jù)安全。所有網(wǎng)絡通信都經(jīng)過加密處理，保障了數(shù)據(jù)傳輸?shù)陌踩煌ㄟ^數(shù)據(jù)隔離與模型拆分確保去中心化網(wǎng)絡中任何單一節(jié)點無法獲得完整數(shù)據(jù)和模型，大幅度提高安全性。
二、又一個清華背景團隊，已在海外創(chuàng)業(yè)多年
NetMind.AI的核心團隊來自清華，已在AI領域打磨超過10年的時間。
公司創(chuàng)始人兼CEO, Kai Zou 于2010年畢業(yè)于清華大學數(shù)學物理基礎科學班，并于2013年獲得喬治城大學數(shù)學和統(tǒng)計學碩士學位。
他是一名連續(xù)創(chuàng)業(yè)者，曾同時領導ProtagoLabs和非營利組織AGI Odyssey。同時，他還是一位天使投資人，曾投資包括Haiper.ai、Auto Edge、Qdot和Orbit在內的多家AI初創(chuàng)企業(yè)。
值得關注的是，目前，Kai Zou 和OpenAI研究員Jason Wei發(fā)表的論文《EDA: Easy Data Augmentation Techniques for Boosting Performance on Text Classification Tasks》累計引用次數(shù)已經(jīng)超過2000次。CEO和他的團隊堅信他們搭建的平臺應該為真正做學術研究的學者以及推動AI發(fā)展的企業(yè)工程師們提供資源。
公司CTO則于2016年在喬治華盛頓大學獲得計算機科學碩士學位；在加入NetMind.AI之前，曾在微軟擔任高級團隊負責人；其在Web3、區(qū)塊鏈技術、分布式系統(tǒng)、Kubernetes、云計算以及Azure和AWS等方面積累頗深；并具備邊緣計算、全棧開發(fā)和機器學習等專業(yè)技能。
三、終極理想：把AI送進千家萬戶
NetMind去中心化AI的愿景背后，實則深埋著技術普惠的理想。
回看IT技術發(fā)展史，去中心化的思潮往往在計算資源集中化陡增的時刻涌現(xiàn)，作為一股自下而上的力量，對抗試圖將一切資源壟斷的巨頭，從而拉開新一輪的技術普惠浪潮，讓新技術真正普及到世界各個角落。
如今的大模型市場，或許正處在這樣的時刻。
放眼大模型市場，轟轟烈烈發(fā)展了一整年后，真正能站穩(wěn)腳跟的創(chuàng)業(yè)公司并不多。除了極少數(shù)幾家明星獨角獸外，大模型的未來似乎正在收斂到微軟、谷歌、英偉達等科技巨頭手中。長此以往，少數(shù)企業(yè)可能會對計算資源的定價、可用性和訪問權限形成壟斷控制。
這時候，正需要類似NetMind Power這樣的民主化敘事，為AGI的故事撰寫新的藍圖。
目前，NetMind已經(jīng)在學術和商業(yè)領域展開合作——
學術方面，NetMind Power目前已經(jīng)與諸多國內外頂級名校開展合作，包括計算機科學領域頂尖的劍橋大學、牛津大學、卡耐基梅隆大學，美國西北大學、清華大學、華中科技大學、萊斯大學、復旦大學、上海交通大學等。
?商業(yè)方面，NetMind Power作為企業(yè)提供基于去中心化網(wǎng)絡的AI算力解決方案，讓企業(yè)可以專注于模型研發(fā)與產(chǎn)品創(chuàng)新。越來越多的企業(yè)在Netmind Power的幫助下，加速推出AI創(chuàng)新產(chǎn)品。例如最近在北美勢頭正盛的文生視頻團隊Haiper.ai已經(jīng)將其模型的訓練和推理與NetMind Power平臺深度結合。
未來，NetMind Power將逐漸生長為一個去中心化的AI社區(qū)，加速全球AI創(chuàng)新。
機器學習從業(yè)者，學術研究人員及AI應用側的企業(yè)都可以在NetMind Power平臺找到自己所需的算力和模型，也可以把自己訓練的模型托管在平臺上，甚至提供給平臺上的其他用戶，并從中收取一定費用。
用戶不僅能夠在平臺上調用相應算力解決自己的訓練需求，還能將自己訓練的模型通過平臺提供給更多有需要的人或企業(yè)，層層傳遞。
將時間軸拉長，要真正實現(xiàn)AGI，AI的普惠化和民主化是必然前提。如今，率先出發(fā)的NetMind.AI，正在做出自己的貢獻，尋找更多的伙伴，通向民主的AGI時代，邁出堅實的一小步。
本文轉自 量子位 ，作者：量子位
