如果將人們的想象力用在廣泛的臨床應(yīng)用，那么醫(yī)療人工智能還有很長的路要走。
加拿大多倫多大學(xué)的研究人員在7月10日發(fā)表在“醫(yī)學(xué)互聯(lián)網(wǎng)研究雜志”上的一篇論文中，指出了人工智能在醫(yī)療保健行業(yè)應(yīng)用面臨的主要障礙。
多倫多大學(xué)的JamesShaw博士及其同事根據(jù)NASSS框架比較了人工智能與其他技術(shù)的市場滲透率，NASSS框架將機器學(xué)習(xí)用例分為自動化和決策支持兩大類。而NASSS是Nonadoption、Abandonment、Challenges to Scale-up、Spread、Sustainability的首字母縮略詞。
建議決策支持應(yīng)用程序?qū)⒁龑?dǎo)自動化，至少在短期內(nèi)如此。遵循NASSS框架，他們概述了阻礙主要決策支持人工智能實施的各種問題。為此強調(diào)的是：
1.有意義的決策支持
Shaw解釋說，“臨床決策是一個復(fù)雜的過程，涉及各種數(shù)據(jù)源的整合，其中包括隱性和明確的智能模式。”
他補充說，“為了更直觀地通知這個決策過程，人工智能開發(fā)人員正在添加數(shù)據(jù)可視化等通信工具。這些通信工具的性質(zhì)和價值是實現(xiàn)過程的核心，有助于確定算法輸出是否和如何被納入日常慣例。”
2.可解釋性
醫(yī)療保健的人工智能模型如何實現(xiàn)其結(jié)果?Shaw及其同事指出，即使對創(chuàng)建它們的計算機科學(xué)家來說，答案仍然是未知的。
Shaw說，“缺乏對這些機制和環(huán)境的理解，這對機器學(xué)習(xí)對醫(yī)療保健利益相關(guān)者的可接受性提出了挑戰(zhàn)。盡管可解釋性問題與決策支持明確相關(guān)，但如此處所解釋的那樣使用機器學(xué)習(xí)案例。”
他補充說，“這一問題可能更加深刻地應(yīng)用于以自動化為重點的用例，因為它們在醫(yī)療保健領(lǐng)域占據(jù)重要地位。”
3.隱私和同意
Shaw指出，目前缺乏有關(guān)正確使用可穿戴設(shè)備數(shù)據(jù)的立法和指導(dǎo)。同時，許多與健康相關(guān)的應(yīng)用程序在使用過程中產(chǎn)生的數(shù)據(jù)流中存在著不明確的一致性過程。
除了這兩個明顯的問題之外，當與其他數(shù)據(jù)集鏈接時，可以重新識別其他的數(shù)據(jù)。他表示：“這些因素為那些尋求將健康數(shù)據(jù)用于機器學(xué)習(xí)應(yīng)用開發(fā)的計劃帶來了重大風(fēng)險，可能遭遇來自醫(yī)療保健提供商的巨大阻力。”
4.算法偏差
Shaw表示，“算法只能和訓(xùn)練它們的數(shù)據(jù)一樣好。”
他說，“如果訓(xùn)練數(shù)據(jù)部分或不完整的，或只反映給定人口的子集，則生成的模型將僅與數(shù)據(jù)集中表示的人群相關(guān)。這提出了關(guān)于數(shù)據(jù)來源的問題，并代表了一系列與偏差相關(guān)的問題，這些偏差內(nèi)置于用于決策的算法中。”
5.可擴展性和面臨障礙
隨著人工智能應(yīng)用在醫(yī)療保健領(lǐng)域的迅速發(fā)展，一些算法輸出不可避免地會混淆、矛盾或以其他方式與他人對抗。
Shaw表示，“這種相互作用的影響無法提前預(yù)測，部分原因是相互作用的特定技術(shù)尚不清楚，可能在常規(guī)護理過程中尚未實施。我們建議實施科學(xué)家需要考慮機器學(xué)習(xí)在醫(yī)療保健中的實施和規(guī)模的意外后果，為患者、醫(yī)療保健提供者、公眾的安全帶來更大的復(fù)雜性和更大的風(fēng)險。”
Shaw和其團隊還圍繞企業(yè)角色和醫(yī)療保健工作不斷變化的性質(zhì)指出了一些障礙。
在總結(jié)他們的觀察和預(yù)測時，Shaw表示機器學(xué)習(xí)在醫(yī)療保健領(lǐng)域的未來是積極但不確定的。他們認為，在很大程度上，接受和采用這項技術(shù)取決于所有醫(yī)療保健利益相關(guān)者、患者、提供者，這與人工智能開發(fā)者一樣。
Shaw指出，“機器學(xué)習(xí)的應(yīng)用變得更加復(fù)雜，對數(shù)據(jù)可視化等通信策略的投入也在增長，機器學(xué)習(xí)可能變得更加用戶友好和更有效。如果實施，科學(xué)界要以有利于所有人的方式促進機器學(xué)習(xí)的采用，那么提出的問題將在未來幾年內(nèi)得到充分關(guān)注。”
【責(zé)任編輯：華軒 TEL：（010）68476606】