?

　　近年來，隨著技術(shù)的不斷進(jìn)步，診斷專家系統(tǒng)，醫(yī)療機(jī)器人等人工智能產(chǎn)品正不斷應(yīng)用于醫(yī)療領(lǐng)域，大幅提升了效率和效益，減輕了醫(yī)護(hù)人員的工作量，但同時(shí)也不可避免地帶來了關(guān)于醫(yī)療人工智能技術(shù)的倫理問題。這些問題，既有人工智能的共性問題，也有與醫(yī)療相關(guān)的特殊性倫理問題。倫理委員會(huì)審查人工智能醫(yī)療器械的核心問題包括風(fēng)險(xiǎn)評(píng)估、數(shù)據(jù)庫、數(shù)據(jù)安全及軟件更新。

　　1.難以準(zhǔn)確評(píng)估風(fēng)險(xiǎn)

　　人工智能醫(yī)療器械的使用與健康息息相關(guān)，風(fēng)險(xiǎn)評(píng)估尤為重要。臨床使用風(fēng)險(xiǎn)應(yīng)考慮數(shù)據(jù)質(zhì)量控制、算法泛化能力的直接影響和算力所用計(jì)算資源（即運(yùn)行環(huán)境）失效的間接影響。為使風(fēng)險(xiǎn)最小化，確保人工智能醫(yī)療器械的可靠性，需在使用過程中評(píng)估其風(fēng)險(xiǎn)。倫理審查中應(yīng)注意其考量因素是否包括了臨床使用中的假陽性、假陰性和進(jìn)口軟件的中外差異，以及風(fēng)險(xiǎn)管理活動(dòng)相關(guān)的預(yù)期用途、使用場(chǎng)景、核心功能及措施、要求。

　　2.構(gòu)建恰當(dāng)類型數(shù)據(jù)集

　　數(shù)據(jù)是人工智能醫(yī)療器械的核心要素，將成為制約人工智能醫(yī)療器械發(fā)展的瓶頸。因此，數(shù)據(jù)集的構(gòu)建是人工智能醫(yī)療器械審批的先行之舉，2019年7月17日之前我國(guó)僅存在肺結(jié)節(jié)和眼底兩類影像標(biāo)準(zhǔn)數(shù)據(jù)集，未來將建立肺CT、腦磁共振、冠狀動(dòng)脈CT血管造影等更多測(cè)試樣本標(biāo)準(zhǔn)數(shù)據(jù)集，且明確測(cè)試數(shù)據(jù)集的類型包含檢驗(yàn)數(shù)據(jù)庫、真實(shí)世界數(shù)據(jù)?；谧銐驍?shù)量的數(shù)據(jù)庫樣本用于訓(xùn)練人工智能醫(yī)療器械，將大幅降低其誤診率和漏診率。

　　3.確保數(shù)據(jù)安全

　　數(shù)據(jù)安全已成為人工智能的關(guān)注重點(diǎn)。企業(yè)作為運(yùn)營(yíng)者應(yīng)承擔(dān)主體防護(hù)責(zé)任，主管部門應(yīng)履行監(jiān)管責(zé)任。數(shù)據(jù)安全性的提高需得到醫(yī)療機(jī)構(gòu)的配合，醫(yī)療機(jī)構(gòu)在對(duì)健康數(shù)據(jù)進(jìn)行歸檔、備份等數(shù)據(jù)傳輸操作時(shí)，尤其是通過公共互聯(lián)網(wǎng)傳輸敏感數(shù)據(jù)時(shí)，若未對(duì)敏感數(shù)據(jù)進(jìn)行加密處理，容易造成患者治療信息、基因等重要醫(yī)療健康數(shù)據(jù)信息泄露。

　　4.算法更新導(dǎo)致軟件迭代

　　軟件更新是導(dǎo)致人工智能軟件召回的主要原因之一，應(yīng)考慮對(duì)軟件安全性和有效性的正面和負(fù)面影響。軟件更新包括數(shù)據(jù)驅(qū)動(dòng)型和算法驅(qū)動(dòng)型軟件更新，由此產(chǎn)生重大軟件更新、輕微軟件更新及其版本命名規(guī)則。人工智能的算法雖說只是一種數(shù)學(xué)表達(dá)，看似與價(jià)值無關(guān)，實(shí)際上卻不可避免地存在主觀偏見。這種偏見的來源是多方面的，既有可能來自于訓(xùn)練系統(tǒng)的數(shù)據(jù)輸入，又有可能來自于編程人員的價(jià)值觀嵌入。為加快人工智能醫(yī)療器械的審批，基于現(xiàn)有歷史數(shù)據(jù)的回顧性研究可用于臨床評(píng)價(jià)，甚至算法性能評(píng)估可采用屬于回顧性研究的第三方數(shù)據(jù)庫。

　　參考文獻(xiàn)：

　　1）李鴻浩,段偉文,陳蕾,等.醫(yī)療人工智能技術(shù)研發(fā)與應(yīng)用的倫理挑戰(zhàn)和對(duì)策——以我國(guó)大型公立醫(yī)院為例的思考[J].人工智能,2019,000（004）:P.70-78.
　　2）周吉銀,李紅英,楊陽.人工智能醫(yī)療器械的倫理審查要點(diǎn)[J].醫(yī)學(xué)與哲學(xué),2020:35-39.
　　來源：CIRS