如果將人們的想象力用在廣泛的臨床應(yīng)用，那么醫(yī)療人工智能還有很長(zhǎng)的路要走。

[[276120]]

加拿大多倫多大學(xué)的研究人員在7月10日發(fā)表在“醫(yī)學(xué)互聯(lián)網(wǎng)研究雜志”上的一篇論文中，指出了人工智能在醫(yī)療保健行業(yè)應(yīng)用面臨的主要障礙。

多倫多大學(xué)的JamesShaw博士及其同事根據(jù)NASSS框架比較了人工智能與其他技術(shù)的市場(chǎng)滲透率，NASSS框架將機(jī)器學(xué)習(xí)用例分為自動(dòng)化和決策支持兩大類(lèi)。而NASSS是Nonadoption、Abandonment、Challenges to Scale-up、Spread、Sustainability的首字母縮略詞。

建議決策支持應(yīng)用程序?qū)⒁龑?dǎo)自動(dòng)化，至少在短期內(nèi)如此。遵循NASSS框架，他們概述了阻礙主要決策支持人工智能實(shí)施的各種問(wèn)題。為此強(qiáng)調(diào)的是：

1.有意義的決策支持

Shaw解釋說(shuō)，“臨床決策是一個(gè)復(fù)雜的過(guò)程，涉及各種數(shù)據(jù)源的整合，其中包括隱性和明確的智能模式。”

他補(bǔ)充說(shuō)，“為了更直觀地通知這個(gè)決策過(guò)程，人工智能開(kāi)發(fā)人員正在添加數(shù)據(jù)可視化等通信工具。這些通信工具的性質(zhì)和價(jià)值是實(shí)現(xiàn)過(guò)程的核心，有助于確定算法輸出是否和如何被納入日常慣例。”

2.可解釋性

醫(yī)療保健的人工智能模型如何實(shí)現(xiàn)其結(jié)果?Shaw及其同事指出，即使對(duì)創(chuàng)建它們的計(jì)算機(jī)科學(xué)家來(lái)說(shuō)，答案仍然是未知的。

Shaw說(shuō)，“缺乏對(duì)這些機(jī)制和環(huán)境的理解，這對(duì)機(jī)器學(xué)習(xí)對(duì)醫(yī)療保健利益相關(guān)者的可接受性提出了挑戰(zhàn)。盡管可解釋性問(wèn)題與決策支持明確相關(guān)，但如此處所解釋的那樣使用機(jī)器學(xué)習(xí)案例。”

他補(bǔ)充說(shuō)，“這一問(wèn)題可能更加深刻地應(yīng)用于以自動(dòng)化為重點(diǎn)的用例，因?yàn)樗鼈冊(cè)卺t(yī)療保健領(lǐng)域占據(jù)重要地位。”

3.隱私和同意

Shaw指出，目前缺乏有關(guān)正確使用可穿戴設(shè)備數(shù)據(jù)的立法和指導(dǎo)。同時(shí)，許多與健康相關(guān)的應(yīng)用程序在使用過(guò)程中產(chǎn)生的數(shù)據(jù)流中存在著不明確的一致性過(guò)程。

除了這兩個(gè)明顯的問(wèn)題之外，當(dāng)與其他數(shù)據(jù)集鏈接時(shí)，可以重新識(shí)別其他的數(shù)據(jù)。他表示：“這些因素為那些尋求將健康數(shù)據(jù)用于機(jī)器學(xué)習(xí)應(yīng)用開(kāi)發(fā)的計(jì)劃帶來(lái)了重大風(fēng)險(xiǎn)，可能遭遇來(lái)自醫(yī)療保健提供商的巨大阻力。”

4.算法偏差

Shaw表示，“算法只能和訓(xùn)練它們的數(shù)據(jù)一樣好。”

他說(shuō)，“如果訓(xùn)練數(shù)據(jù)部分或不完整的，或只反映給定人口的子集，則生成的模型將僅與數(shù)據(jù)集中表示的人群相關(guān)。這提出了關(guān)于數(shù)據(jù)來(lái)源的問(wèn)題，并代表了一系列與偏差相關(guān)的問(wèn)題，這些偏差內(nèi)置于用于決策的算法中。”

5.可擴(kuò)展性和面臨障礙

隨著人工智能應(yīng)用在醫(yī)療保健領(lǐng)域的迅速發(fā)展，一些算法輸出不可避免地會(huì)混淆、矛盾或以其他方式與他人對(duì)抗。

Shaw表示，“這種相互作用的影響無(wú)法提前預(yù)測(cè)，部分原因是相互作用的特定技術(shù)尚不清楚，可能在常規(guī)護(hù)理過(guò)程中尚未實(shí)施。我們建議實(shí)施科學(xué)家需要考慮機(jī)器學(xué)習(xí)在醫(yī)療保健中的實(shí)施和規(guī)模的意外后果，為患者、醫(yī)療保健提供者、公眾的安全帶來(lái)更大的復(fù)雜性和更大的風(fēng)險(xiǎn)。”

Shaw和其團(tuán)隊(duì)還圍繞企業(yè)角色和醫(yī)療保健工作不斷變化的性質(zhì)指出了一些障礙。

在總結(jié)他們的觀察和預(yù)測(cè)時(shí)，Shaw表示機(jī)器學(xué)習(xí)在醫(yī)療保健領(lǐng)域的未來(lái)是積極但不確定的。他們認(rèn)為，在很大程度上，接受和采用這項(xiàng)技術(shù)取決于所有醫(yī)療保健利益相關(guān)者、患者、提供者，這與人工智能開(kāi)發(fā)者一樣。

Shaw指出，“機(jī)器學(xué)習(xí)的應(yīng)用變得更加復(fù)雜，對(duì)數(shù)據(jù)可視化等通信策略的投入也在增長(zhǎng)，機(jī)器學(xué)習(xí)可能變得更加用戶(hù)友好和更有效。如果實(shí)施，科學(xué)界要以有利于所有人的方式促進(jìn)機(jī)器學(xué)習(xí)的采用，那么提出的問(wèn)題將在未來(lái)幾年內(nèi)得到充分關(guān)注。”