隨著人工智能（AI）技術(shù)的不斷發(fā)展和迭代，人類社會(huì)已進(jìn)入大算力、大模型、大數(shù)據(jù)、大應(yīng)用時(shí)代。AI早已被引入醫(yī)療領(lǐng)域，在流行病監(jiān)測(cè)、藥物研發(fā)、醫(yī)療影像識(shí)別、心理健康等方面發(fā)揮重要作用。而與之相伴的數(shù)據(jù)安全隱患也日益凸顯。

當(dāng)前，醫(yī)療領(lǐng)域網(wǎng)絡(luò)化、數(shù)字化、智能化進(jìn)程面臨的安全風(fēng)險(xiǎn)主要包括數(shù)據(jù)泄露與隱私泄露、網(wǎng)絡(luò)攻擊與黑客入侵、數(shù)據(jù)篡改與偽造、不當(dāng)訪問與授權(quán)管理、醫(yī)療數(shù)據(jù)共享風(fēng)險(xiǎn)、數(shù)據(jù)存儲(chǔ)的第三方服務(wù)風(fēng)險(xiǎn)、內(nèi)部人員的泄密、數(shù)據(jù)冗余與保存不當(dāng)、法律合規(guī)風(fēng)險(xiǎn)等。概括來(lái)說(shuō)，要關(guān)注以下3個(gè)方面的問題。

第一是網(wǎng)絡(luò)安全問題。隨著AI技術(shù)的應(yīng)用，網(wǎng)絡(luò)安全風(fēng)險(xiǎn)出現(xiàn)了新變化，傳統(tǒng)的網(wǎng)絡(luò)安全問題受AI影響變得更加復(fù)雜，數(shù)據(jù)劫持、網(wǎng)絡(luò)釣魚、勒索攻擊更加猖獗。

當(dāng)前，醫(yī)療領(lǐng)域的網(wǎng)絡(luò)犯罪現(xiàn)象十分突出，醫(yī)療數(shù)據(jù)遭受攻擊和破壞的案例時(shí)有發(fā)生。例如，2023年，位于印度新德里的全印度醫(yī)學(xué)科學(xué)研究所的醫(yī)療設(shè)備遭遇勒索病毒攻擊；今年9月，美國(guó)AI醫(yī)療公司Confidant Health的服務(wù)器配置錯(cuò)誤，泄露了5.3TB的敏感心理健康記錄。

IBM發(fā)布的《2024年數(shù)據(jù)泄露成本報(bào)告》顯示，醫(yī)療行業(yè)數(shù)據(jù)泄露平均成本達(dá)977萬(wàn)美元，連續(xù)14年成為數(shù)據(jù)泄露成本最高的行業(yè)。國(guó)內(nèi)某網(wǎng)絡(luò)安全企業(yè)也披露，2023年醫(yī)療行業(yè)泄露數(shù)據(jù)達(dá)9億條，影響觸目驚心。

第二是模型安全問題。AI模型的安全性直接影響應(yīng)用效果，尤其是在醫(yī)療領(lǐng)域，近年來(lái)已經(jīng)暴露出一些問題，包括個(gè)人隱私泄露、算法或模型攻擊、模型偏差以及系統(tǒng)脆弱性和網(wǎng)絡(luò)安全。這些問題的主要原因是模型本身在可靠性和可解釋性方面存在不足。例如，AI模型受到簡(jiǎn)單擾動(dòng)可能就會(huì)產(chǎn)生錯(cuò)誤輸出，或者數(shù)據(jù)本身存在問題導(dǎo)致AI模型結(jié)果不準(zhǔn)確。

第三是AI在醫(yī)療領(lǐng)域應(yīng)用中不可忽視的倫理問題。全球多國(guó)發(fā)布了關(guān)于AI倫理的文件，提出合作、透明度、公平、非惡意責(zé)任、隱私等基本要求。醫(yī)療領(lǐng)域也提出如何保護(hù)個(gè)人自主權(quán)、個(gè)人健康和安全以及公眾利益等具體要求。然而，隨著實(shí)際應(yīng)用的推廣，與AI相關(guān)的偏見、歧視、技術(shù)濫用、事故責(zé)任認(rèn)定等倫理問題越來(lái)越突出。

針對(duì)AI在醫(yī)療領(lǐng)域應(yīng)用的風(fēng)險(xiǎn)問題，需要從數(shù)據(jù)、安全和管理等角度進(jìn)行應(yīng)對(duì)。

在數(shù)據(jù)方面，要提高安全防護(hù)水平，確保數(shù)據(jù)安全和隱私保護(hù)，促進(jìn)AI技術(shù)在現(xiàn)代醫(yī)療領(lǐng)域的轉(zhuǎn)型和升級(jí)。數(shù)據(jù)是現(xiàn)代醫(yī)療的重要生產(chǎn)要素，具有很高的價(jià)值。雖然當(dāng)前醫(yī)療數(shù)據(jù)數(shù)量越來(lái)越多，但數(shù)據(jù)質(zhì)量并沒有隨之提高，“數(shù)據(jù)孤島”問題依然存在，數(shù)據(jù)協(xié)同合作動(dòng)能和效能不足，跨境數(shù)據(jù)流動(dòng)面臨較多待破解難題等，急需全方位突破。

在安全工作方面，要統(tǒng)籌安全與發(fā)展，強(qiáng)化安全保障體系。具體而言，要把軟件作為網(wǎng)絡(luò)安全服務(wù)的重點(diǎn)，確保醫(yī)療智能化系統(tǒng)的穩(wěn)定性和可靠性。同時(shí)，需要加強(qiáng)醫(yī)療數(shù)據(jù)的保護(hù)，防范患者隱私數(shù)據(jù)丟失，但要確保促進(jìn)正常的科研合作和數(shù)據(jù)流動(dòng)。此外，還需要增強(qiáng)安全意識(shí)，通過定期培訓(xùn)與教育、營(yíng)造安全文化氛圍、模擬演練與應(yīng)急響應(yīng)、建立安全意識(shí)提示機(jī)制等舉措，增強(qiáng)醫(yī)療行業(yè)從業(yè)人員整體的網(wǎng)絡(luò)安全意識(shí)。

最后，要堅(jiān)持依法依規(guī)管理，做好“技管并重”�？梢猿浞掷�用數(shù)字醫(yī)療技術(shù)、安全保障技術(shù)等手段確保AI技術(shù)在醫(yī)療領(lǐng)域的發(fā)展和安全。同時(shí)，還要高度重視對(duì)新技術(shù)安全風(fēng)險(xiǎn)方案的研究，嚴(yán)格遵守法規(guī)政策，遵循技術(shù)標(biāo)準(zhǔn)和行業(yè)規(guī)范，以確保AI應(yīng)用的安全性。

（作者吳世忠系中國(guó)工程院院士，中國(guó)科學(xué)報(bào)記者刁雯蕙根據(jù)其在2024新質(zhì)生產(chǎn)力、醫(yī)工融合創(chuàng)新大會(huì)上的報(bào)告整理）