混合現(xiàn)實(shí)技術(shù)下的醫(yī)療場景,維卓致遠(yuǎn)用3D場景精準(zhǔn)定位病灶
原創(chuàng)【51CTO.com原創(chuàng)稿件】現(xiàn)如今的醫(yī)療行業(yè)正在逐步變得更加科技化、精準(zhǔn)化,醫(yī)療體系的變革至少有一半的推動(dòng)力來自于科技的創(chuàng)新,而最直觀的改變就是更加智能化,對于醫(yī)生來說最必不可少的輔助技術(shù)是醫(yī)學(xué)影像,如何讓醫(yī)學(xué)影像變得更加智能,是醫(yī)學(xué)科技亟待解決的問題。
人工智能與醫(yī)學(xué)影像的碰撞
人工智能技術(shù)具體應(yīng)用在醫(yī)學(xué)影像的診斷上,主要分為兩部分:一是圖像識(shí)別,應(yīng)用于感知環(huán)節(jié),其主要目的是將影像這類非機(jī)構(gòu)化數(shù)據(jù)進(jìn)行分析,獲取一些有意義的信息;二是深度學(xué)習(xí),應(yīng)用于學(xué)習(xí)和分析環(huán)節(jié),是AI應(yīng)用的最核心環(huán)節(jié),通過大量的影像數(shù)據(jù)和診斷數(shù)據(jù),不斷對神經(jīng)元網(wǎng)絡(luò)進(jìn)行深度學(xué)習(xí)訓(xùn)練,促使其掌握“診斷”的能力。
醫(yī)學(xué)影像數(shù)據(jù)實(shí)際上是報(bào)告+影像。單單分析影像本身還不夠,更重要的是對影像本身所對應(yīng)的診斷報(bào)告也要加以分析。而中國的影像診斷報(bào)告呈現(xiàn)出因醫(yī)生而異的顯著特點(diǎn),由于影像診斷受醫(yī)生的個(gè)人習(xí)慣、執(zhí)業(yè)醫(yī)院、教育背景等因素影響,導(dǎo)致了不同地區(qū)不同醫(yī)院的影像報(bào)告標(biāo)準(zhǔn)不一致的情況。
AI+影像存在的問題
1、數(shù)據(jù)獲取
數(shù)據(jù)是深度學(xué)習(xí)算法所需的核心資源,僅掌握算法而缺乏數(shù)據(jù)無法獲得較好的訓(xùn)練效果。現(xiàn)階段,我國的醫(yī)療影像仍處于從傳統(tǒng)膠片向電子數(shù)據(jù)過渡的階段,大量影像資料尚未數(shù)字化,且醫(yī)院之間的數(shù)據(jù)共享和互通程度較低,獲取大規(guī)模的數(shù)據(jù)對業(yè)內(nèi)公司是一個(gè)考驗(yàn)。
2、數(shù)據(jù)標(biāo)注
在獲取數(shù)據(jù)的基礎(chǔ)上,深度學(xué)習(xí)結(jié)合先驗(yàn)知識(shí)對模型進(jìn)行訓(xùn)練,訓(xùn)練集需要事先標(biāo)注。由于大多數(shù)標(biāo)注依賴人工識(shí)別,因此數(shù)據(jù)標(biāo)注將耗費(fèi)大量人力和時(shí)間,在醫(yī)療影像領(lǐng)域獲取具有高可靠性的標(biāo)注數(shù)據(jù)也成為挑戰(zhàn)之一。
3、“AI+醫(yī)療”跨學(xué)科人才積累
在較為專業(yè)的診療領(lǐng)域,應(yīng)用及平臺(tái)開發(fā)者不僅要研究人工智能算法,更要對醫(yī)療影像識(shí)別建立深入了解,人工智能+醫(yī)療的復(fù)合背景人才具備最核心的競爭力。
MR在醫(yī)學(xué)影像中的應(yīng)用
隨著科技的發(fā)展,AR與VR已經(jīng)融入到大眾的生活當(dāng)中,從2009年高通、可口可樂等知名企業(yè)對AR(Augmented Reality,增強(qiáng)現(xiàn)實(shí)技術(shù))和VR(Virtual Reality,虛擬現(xiàn)實(shí)技術(shù))深入研究開始,新穎的表達(dá)方式以及身臨其境的體驗(yàn)方式,使AR和VR吸引了一眾粉絲,而后興起的MR(Mixed Reality,混合現(xiàn)實(shí)技術(shù))等新型數(shù)字技術(shù)也展現(xiàn)出了極大的潛在價(jià)值。與AR和VR不同的是,MR是將虛擬世界與現(xiàn)實(shí)世界融合的同時(shí)進(jìn)行實(shí)時(shí)交互和信息的及時(shí)獲取,增強(qiáng)了用戶體驗(yàn)的真實(shí)感,具有真實(shí)性、實(shí)時(shí)互動(dòng)性以及構(gòu)想性等特點(diǎn)。混合現(xiàn)實(shí)不僅有潛力創(chuàng)造出新的市場,還將顛覆當(dāng)前的一些市場,醫(yī)療保健正是其中的一個(gè)領(lǐng)域。
維卓致遠(yuǎn)借助微軟的HoloLens混合現(xiàn)實(shí)眼鏡,利用全息影像的方式解決了傳統(tǒng)醫(yī)療膠片平面化、不能共享的問題,也解決了產(chǎn)品耗費(fèi)大量時(shí)間進(jìn)行深度學(xué)習(xí)的問題,最重要的是維卓致遠(yuǎn)匯集了兼具醫(yī)學(xué)與算法的研發(fā)人員,保證了產(chǎn)品的專業(yè)性和精確度。
混合現(xiàn)實(shí)醫(yī)學(xué)現(xiàn)狀
·混合現(xiàn)實(shí)醫(yī)學(xué)產(chǎn)品(***階段):智能處理醫(yī)學(xué)影像數(shù)據(jù)并通過混合現(xiàn)實(shí)技術(shù)全息呈現(xiàn),可視化臨床、教學(xué)過程。
·MR數(shù)字醫(yī)學(xué)平臺(tái)(第二階段):云端智能存儲(chǔ)、處理、分享全息數(shù)據(jù),混合現(xiàn)實(shí)連接異地醫(yī)療場景。
·可視化智能醫(yī)學(xué)生態(tài)(第三階段):高度可視智能化醫(yī)學(xué)數(shù)據(jù)分析與臨床手術(shù)操作過程,通過“人+機(jī)器”的智能賦能醫(yī)生。
現(xiàn)階段混合現(xiàn)實(shí)醫(yī)學(xué)產(chǎn)品和MR數(shù)字醫(yī)學(xué)平臺(tái)已經(jīng)實(shí)現(xiàn),可視化智能醫(yī)學(xué)生態(tài)還處在研發(fā)階段,高度可視化的醫(yī)學(xué)數(shù)據(jù)分析需要大量的醫(yī)學(xué)影像學(xué)數(shù)據(jù),但是鑒于醫(yī)院的影像數(shù)據(jù)屬于非公開資源,所以目前還沒有更好辦法實(shí)現(xiàn)補(bǔ)償算法的訓(xùn)練。
混合數(shù)字醫(yī)學(xué)平臺(tái)的應(yīng)用
星影混合現(xiàn)實(shí)顯示系統(tǒng)
星影混合現(xiàn)實(shí)顯示系統(tǒng)是一款基于混合現(xiàn)實(shí)技術(shù)的影像數(shù)據(jù)全息體素渲染閱片工具,在醫(yī)生需要快速識(shí)別影像做診斷的時(shí)候,應(yīng)用星影進(jìn)行輔助。星影不需要人工操作和學(xué)習(xí),醫(yī)生只需要把CT、核磁影像數(shù)據(jù)導(dǎo)入影像數(shù)據(jù),通過系統(tǒng)智能分析并體繪制渲染至混合現(xiàn)實(shí)眼鏡,無需人工重建3D模型,就可以在眼鏡里出現(xiàn)實(shí)時(shí)的全息模型,包括模型重建也可以在系統(tǒng)里面完成。醫(yī)生需要搭配混合現(xiàn)實(shí)眼鏡,通過二維結(jié)合三維的體素渲染方式來觀看影像數(shù)據(jù),或者可以體驗(yàn)在立體影像數(shù)據(jù)上模擬手術(shù)路徑、置入植入體等臨床環(huán)節(jié),有利于手術(shù)方案策劃與制定,以便于做出更科學(xué)更高效的診斷。
圖1 星影混合現(xiàn)實(shí)顯示系統(tǒng)操作步驟
星圖混合現(xiàn)實(shí)顯示系統(tǒng)
星圖混合現(xiàn)實(shí)顯示系統(tǒng)是一款混合現(xiàn)實(shí)醫(yī)學(xué)影像閱片工具,在導(dǎo)入醫(yī)學(xué)影像數(shù)據(jù)后,經(jīng)系統(tǒng)智能處理,醫(yī)生可以通過混合現(xiàn)實(shí)眼鏡從任意角度全息瀏覽病例立體模型,提高醫(yī)生對病灶中各組織空間位置關(guān)系的認(rèn)知能力。星圖的特點(diǎn)是支持多人觀看,目前最多支持七臺(tái)眼鏡同時(shí)觀看。但它不同于星影的平面繪制,在星圖中,病例的各個(gè)單獨(dú)模型都能獨(dú)立拆分,換成任意想要的顏色,每個(gè)單獨(dú)的模型都能進(jìn)行顯示隱藏的操作或是調(diào)節(jié)透明度。比如隱藏掉皮膚,只看血管和腫瘤的位置關(guān)系,也可以做一些標(biāo)注,支持從任何角度去觀看模型,適合深度的觀察和討論病例。星圖為醫(yī)生提供了更具參考價(jià)值的影像信息,把手術(shù)部位立體模型置于手術(shù)視野中,通過調(diào)整位置、透明度、大小等參數(shù),獲取更多與病灶相關(guān)的信息。
圖2 星圖混合現(xiàn)實(shí)顯示系統(tǒng)
星航混合現(xiàn)實(shí)導(dǎo)航系統(tǒng)
星航是一款用于術(shù)中實(shí)時(shí)導(dǎo)航和教學(xué)培訓(xùn)方面的系統(tǒng),可以跟蹤手術(shù)器械的實(shí)時(shí)位置信息,比如探針的深度和角度的位置信息,將空間信息在混合現(xiàn)實(shí)中進(jìn)行呈現(xiàn)。是一套非常精準(zhǔn)的導(dǎo)航工具,能夠幫助醫(yī)生高效精準(zhǔn)的完成手術(shù)。它用在醫(yī)學(xué)教學(xué)上,可以幫助學(xué)生做臨床醫(yī)學(xué)操作上的培訓(xùn)。
圖3 星航混合現(xiàn)實(shí)導(dǎo)航系統(tǒng)
星云混合現(xiàn)實(shí)數(shù)字醫(yī)學(xué)平臺(tái)
星云是一套在線混合現(xiàn)實(shí)協(xié)同系統(tǒng),在線注冊賬號(hào)并在HoloLens和網(wǎng)頁上登陸后,可以上傳立體模型,并且還可以對立體模型進(jìn)行編輯、處理、存儲(chǔ)、分享,在戴上HoloLens之后,也可以瀏覽自己的或者被分享的立體病例,同時(shí)也可用于遠(yuǎn)程醫(yī)療。
圖4 基于星云的進(jìn)行的“突破時(shí)空約束”的遠(yuǎn)程協(xié)作手術(shù)
采訪的***維卓致遠(yuǎn)***運(yùn)營官Andy表示,維卓致遠(yuǎn)與微軟加速器·北京第11期頗有淵源,一直以來都是混合現(xiàn)實(shí)醫(yī)學(xué)方面的合作伙伴,而且微軟加速器·北京第11期在理念、技術(shù)和市場三方面都給予了維卓致遠(yuǎn)很大的幫助,提供廣闊交流平臺(tái)的同時(shí)也給予大量對外宣傳的機(jī)會(huì)。