人工智能在護(hù)理領(lǐng)域的倫理風(fēng)險研究進(jìn)展

基金項目 2022年山西省科技戰(zhàn)略研究專項項目，編號：202204031401177

作者簡介 王旭旭，主管護(hù)師，本科

通訊作者 劉雅麗，E?mail：583312705@qq.com

引用信息 王旭旭，劉雅麗.人工智能在護(hù)理領(lǐng)域的倫理風(fēng)險研究進(jìn)展[J].護(hù)理研究，2024，38（14）：2567?2569.

Research progress on ethical risks of artificial intelligence in the nursing field

WANG Xuxu， LIU Yali

Shanxi Provincial Hospital of Traditional Chinese Medicine， Shanxi 030001 China

Corresponding Author" LIU Yali， E?mail： 583312705@qq.com

Keywords""" artificial intelligence； ethical risk； responsibility definition； nursing safety

摘要" 對人工智能在護(hù)理領(lǐng)域的應(yīng)用及倫理風(fēng)險進(jìn)行綜述，提出相關(guān)對策，以期推動人工智能在護(hù)理領(lǐng)域的科學(xué)發(fā)展。

關(guān)鍵詞" 人工智能；倫理風(fēng)險；責(zé)任界定；護(hù)理安全

doi：10.12102/j.issn.1009-6493.2024.14.021

近年來，人工智能技術(shù)取得了極大發(fā)展，在護(hù)理領(lǐng)域具有廣闊的應(yīng)用前景，可以提供更智能、高效和個性化的護(hù)理服務(wù)，如健康監(jiān)測和預(yù)警、康復(fù)輔助、日常健康助手、情緒照護(hù)等。我國于2017年發(fā)布的《新一代人工智能發(fā)展規(guī)劃》[1]指出，要不斷推行和運(yùn)用人工智能模式下的治療護(hù)理新手段、新模式。隨著未來人口老齡化加劇以及人們對個性化護(hù)理要求的提高，護(hù)理需求缺口勢必加大，人工智能技術(shù)與護(hù)理學(xué)科將進(jìn)一步深度融合。然而，護(hù)理作為一種高度個性化的實踐[2]，其在某些領(lǐng)域具有特殊性，可能導(dǎo)致人工智能的應(yīng)用面臨一定的倫理風(fēng)險，故護(hù)理人員在護(hù)理環(huán)境中使用人工智能時需對其潛在影響、倫理進(jìn)行批判性反思和分析[3]。現(xiàn)綜述人工智能在護(hù)理領(lǐng)域的應(yīng)用現(xiàn)狀、倫理風(fēng)險及應(yīng)對策略，以期推動人工智能在護(hù)理領(lǐng)域的科學(xué)發(fā)展。

1" 人工智能概述

人工智能是一個廣義術(shù)語，是模仿或增強(qiáng)人類智能的計算機(jī)應(yīng)用程序，通常被認(rèn)為是由人制造出來的、具備智能表現(xiàn)的一類機(jī)器[4?5]。人工智能技術(shù)包括機(jī)器學(xué)習(xí)、自然語言處理、計算機(jī)視覺、智能機(jī)器人、自動程序設(shè)計等[6]，其誕生于20世紀(jì)50年代，歷經(jīng)70多年的發(fā)展，已越來越多地滲透到教育、醫(yī)學(xué)、金融、計算機(jī)等領(lǐng)域[7?8]。

2" 人工智能在護(hù)理領(lǐng)域的應(yīng)用

當(dāng)前，人工智能技術(shù)已不同程度地滲透到護(hù)理服務(wù)的各個領(lǐng)域，尤其是在重復(fù)性工作和重體力護(hù)理工作中具有良好的應(yīng)用效果。

2.1 人工智能在老年人護(hù)理中的應(yīng)用

隨著老齡化時代的到來，失能老年人和患有殘疾的老年人數(shù)量逐漸增多，對護(hù)理依賴不斷加大，護(hù)理服務(wù)供給與需求之間形成了巨大缺口。老年人照料護(hù)理主要分為生活起居服務(wù)和日常精神陪伴，發(fā)達(dá)國家研制出的飲食機(jī)器人能了解老年人的飲食喜好并與老年人進(jìn)行溝通，如英國研制出的飲食護(hù)理智能機(jī)器人能夠為老年人帶來飲食照顧服務(wù)；日本[9]開發(fā)的照料機(jī)器人可以和老年人聊天。且人工智能技術(shù)的進(jìn)一步發(fā)展也使其陪伴服務(wù)功能得以完善，能更好地了解老年人的心理需求，為老年人提供更舒適的照護(hù)服務(wù)。此外，人工智能在老年人的壓力性損傷、跌倒監(jiān)測及預(yù)防中也得到了廣泛應(yīng)用[10]。

2.2 人工智能在慢性病病人護(hù)理中的應(yīng)用

慢性病具有病程長、治愈率低的特點，病人需要接受長期、持續(xù)性的治療及護(hù)理，人工智能技術(shù)在慢性病臨床照護(hù)方面具有巨大的應(yīng)用前景。目前，利用人工智能對糖尿病、高血壓等病人進(jìn)行用藥提醒、病情監(jiān)測已被廣泛應(yīng)用于臨床。同時，智能技術(shù)的發(fā)展使得遠(yuǎn)距離護(hù)理成為現(xiàn)實，慢性病病人可以通過人工智能系統(tǒng)實現(xiàn)遠(yuǎn)程護(hù)理[11]。

2.3 人工智能在病房管理中的應(yīng)用

將人工智能應(yīng)用于病房管理可以減輕護(hù)理工作者工作負(fù)擔(dān)[9]，提高病人康復(fù)質(zhì)量。美國托馬斯·杰斐遜大學(xué)醫(yī)院最早將人工智能應(yīng)用于病房管理取得了良好效果。隨著人工智能技術(shù)的日益精進(jìn)，智能病房更趨向于人性化，能更好地考慮病人的需求并主動服務(wù)于病人，為病人提供全方位管理。此外，已有研究顯示，人工智能輔以“結(jié)構(gòu)?過程?結(jié)果”護(hù)理質(zhì)量管理體系，有利于形成病人安全閉環(huán)管理，切實保障護(hù)理安全[12]。

2.4 人工智能在護(hù)理教育中的應(yīng)用

人工智能技術(shù)在護(hù)理教育中的應(yīng)用也較廣泛，其可作為護(hù)理教師教學(xué)的虛擬助理，為護(hù)理教育者提供實時、準(zhǔn)確、豐富的教學(xué)方案；也可以輔助護(hù)理專業(yè)學(xué)生完成各項學(xué)習(xí)任務(wù)，提供個性化的學(xué)習(xí)服務(wù)，為學(xué)生量身定制學(xué)習(xí)計劃和學(xué)習(xí)任務(wù)，使其學(xué)有所需，并對學(xué)習(xí)現(xiàn)狀進(jìn)行評估，幫助學(xué)生及時調(diào)整學(xué)習(xí)計劃，使其更高效、合理地安排學(xué)習(xí)內(nèi)容，給護(hù)理人才培養(yǎng)開辟了新路徑[13?14]。

3" 人工智能在護(hù)理領(lǐng)域的倫理風(fēng)險

人工智能具有不知疲倦、準(zhǔn)確、高效的本源特點，能彌補(bǔ)護(hù)理工作者的缺陷與不足，但由于醫(yī)療本身具有不確定性，加之護(hù)理服務(wù)對象為病人，不可避免地面臨潛在的倫理風(fēng)險。

3.1 責(zé)任歸屬問題

在人工智能介入前，護(hù)理工作責(zé)任明晰，醫(yī)療機(jī)構(gòu)承擔(dān)著病人所有的醫(yī)護(hù)責(zé)任，對病人負(fù)責(zé)，醫(yī)療機(jī)構(gòu)中的醫(yī)生和護(hù)士對醫(yī)療機(jī)構(gòu)負(fù)責(zé)。但人工智能介入后，醫(yī)療機(jī)構(gòu)與護(hù)理工作者間責(zé)任劃分變得模糊，如由于人工智能收集了錯誤護(hù)理信息，導(dǎo)致護(hù)理工作者做出錯誤的護(hù)理決策，引起用藥安全等問題，將導(dǎo)致護(hù)理責(zé)任事故界定隱患[15?16]。同時，人工智能的完善需要收集大量的病人信息，可能導(dǎo)致信息泄漏風(fēng)險，損害病人權(quán)益，帶來一系列法律問題[17]。

3.2 公平收益難題

人工智能可以減輕護(hù)理工作壓力，提高病人護(hù)理舒適度，給病人帶來便利和福利。但其無法實現(xiàn)普惠性服務(wù)，普通病人或低收入病人享受人工智能服務(wù)的機(jī)會較少。同時，由于人工智能由開發(fā)者所主導(dǎo)，在利益驅(qū)動和開發(fā)者自我思維界定下，人工智能提供的護(hù)理服務(wù)也可能受主觀性影響，可能對部分群體進(jìn)行特殊界定，導(dǎo)致護(hù)理事故乃至醫(yī)療安全問題[18]。

3.3 人文關(guān)懷缺失

在醫(yī)療護(hù)理中，護(hù)患交流會給予病人感情慰藉。人文護(hù)理是一種偉大的治愈力量，但當(dāng)人工智能代替醫(yī)護(hù)人員對病患實施照顧后，護(hù)理者與被護(hù)理者間的護(hù)理場景改變，病人面對冰冷的機(jī)器人情感溝通受損，導(dǎo)致人文關(guān)懷缺失，心理健康問題可能會隨之產(chǎn)生[19]。Buchanan等[17]指出，人工智能可能會對病人和照護(hù)者的護(hù)理體驗產(chǎn)生負(fù)面影響。

3.4 護(hù)理職業(yè)挑戰(zhàn)

人工智能不知疲倦，目前已在眾多護(hù)理領(lǐng)域取代了護(hù)理人員，如智能導(dǎo)診已成為醫(yī)院常態(tài)、機(jī)器人發(fā)藥也逐漸被引入藥房管理中、掛號繳費(fèi)已基本實現(xiàn)網(wǎng)絡(luò)服務(wù)，導(dǎo)致護(hù)理工作者的主體地位受到威脅。醫(yī)務(wù)人員特別是輔助護(hù)理服務(wù)人員是否會被人工智能所替代[20]成為廣泛關(guān)注的問題。

4" 人工智能護(hù)理倫理相關(guān)對策

作為一項新興技術(shù)，人工智能在護(hù)理工作中的倫理問題受到關(guān)注，相關(guān)人員需正確看待并及時采取相應(yīng)措施，以促進(jìn)人工智能在護(hù)理領(lǐng)域的科學(xué)應(yīng)用。

4.1 樹立倫理治理理念，貫徹國家倫理治理政策

我國高度重視科技領(lǐng)域的倫理治理，組建了國家科技倫理治理委員會，出臺了治理實施意見，成立了人工智能倫理與治理工作委員會。護(hù)理領(lǐng)域在應(yīng)用人工智能的過程中要重視國家科技倫理治理的指導(dǎo)意見，確保在護(hù)理領(lǐng)域運(yùn)用人工智能做到遵循增進(jìn)人類福祉、尊重生命權(quán)利、堅持公平公正、合理控制風(fēng)險、保持公開透明的原則。《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》中提到“和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔(dān)責(zé)任、開放協(xié)作、敏捷治理”8條原則[21]，這些原則將人置于人工智能發(fā)展的首位，確保圍繞人、為了人、服務(wù)人始終成為人工智能護(hù)理的主責(zé)主業(yè)。

4.2 加強(qiáng)倫理責(zé)任研判，完善相關(guān)法律法規(guī)

我國相關(guān)管理部門應(yīng)積極引導(dǎo)智庫和科研機(jī)構(gòu)研判人工智能應(yīng)用到護(hù)理工作中的風(fēng)險和責(zé)任，預(yù)判人工智能應(yīng)用產(chǎn)生的衍生問題與社會影響，將萌芽問題杜絕于根源之中。應(yīng)明確人工智能在護(hù)理領(lǐng)域應(yīng)用時的主體間責(zé)任，明確研發(fā)者、生產(chǎn)者和使用者的責(zé)任。要健全國家對人工智能護(hù)理的相關(guān)指導(dǎo)規(guī)范，進(jìn)一步明確人工智能在護(hù)理領(lǐng)域的應(yīng)用范圍、標(biāo)準(zhǔn)。雖然目前我國為推動人工智能的規(guī)范使用已出臺多個文件，如《人工智能輔助診斷技術(shù)管理規(guī)范》《人工智能輔助治療技術(shù)管理規(guī)范》《國家健康醫(yī)療大數(shù)據(jù)標(biāo)準(zhǔn)、安全和服務(wù)管理辦法（試行）》等，其對各級各類醫(yī)療衛(wèi)生機(jī)構(gòu)及相關(guān)應(yīng)用單位的責(zé)任權(quán)利有所涉及，但總體來看，對于人工智能在護(hù)理領(lǐng)域的應(yīng)用法律問題仍不明確，侵權(quán)責(zé)任劃分標(biāo)準(zhǔn)尚未細(xì)化，隱私和產(chǎn)權(quán)保護(hù)標(biāo)準(zhǔn)尚未制定。

4.3 完善技術(shù)標(biāo)準(zhǔn)，提高人工智能在護(hù)理領(lǐng)域的應(yīng)用安全

醫(yī)療護(hù)理關(guān)乎病人的安全與福祉。將人工智能應(yīng)用于護(hù)理工作時要重視其安全問題，應(yīng)進(jìn)一步引導(dǎo)人工智能制造商、生產(chǎn)商完善技術(shù)標(biāo)準(zhǔn)與安全標(biāo)準(zhǔn)，規(guī)范醫(yī)療機(jī)構(gòu)對于人工智能的使用范圍，建立健全的突發(fā)應(yīng)急事件程序，減少人工智能護(hù)理安全問題及對病人的傷害[22]。

4.4 明確人工智能護(hù)理輔助地位，加強(qiáng)人文關(guān)懷服務(wù)

目前，人工智能護(hù)理還處于輔助地位，但隨著其技術(shù)的不斷進(jìn)步，對醫(yī)護(hù)人員的主體地位可能造成威脅，將不利于護(hù)理人文工作的開展，故需積極提升護(hù)理工作者的工作能力，發(fā)揮人的獨(dú)特情感優(yōu)勢，加強(qiáng)護(hù)理職業(yè)人文素養(yǎng)培養(yǎng)，促進(jìn)護(hù)理領(lǐng)域的健康發(fā)展。

5" 小結(jié)

將人工智能應(yīng)用于護(hù)理領(lǐng)域會存在諸多倫理風(fēng)險，如護(hù)理責(zé)任邊界不清晰、公平倫理難題、感情服務(wù)不足等，為了防范倫理風(fēng)險，建議進(jìn)一步加強(qiáng)倫理責(zé)任研判，預(yù)判人工智能應(yīng)用風(fēng)險，制定相關(guān)法律法規(guī)；完善技術(shù)標(biāo)準(zhǔn)，提高人工智能護(hù)理安全系數(shù)，確保照護(hù)安全；提升護(hù)理人員主體地位，明確人工智能護(hù)理的輔助地位，加強(qiáng)人文關(guān)懷服務(wù)。

參考文獻(xiàn)：

[1]" 國務(wù)院.國務(wù)院關(guān)于印發(fā)新一代人工智能發(fā)展規(guī)劃的通知[EB/OL].[2023-09-28].https：//www.gov.cn/gongbao/content/2017/content_5216427.htm.

[2]" IBUKI T，IBUKI A，NAKAZAWA E.Possibilities and ethical issues of entrusting nursing tasks to robots and artificial intelligence[J].Nursing Ethics，2023：9697330221149094.DOI：10.1177/09697330221149094.

[3]" VON GERICH H，MOEN H，BLOCK L J，et al.Artificial Intelligence-based technologies in nursing：a scoping literature review of the evidence[J].International Journal of Nursing Studies，2022，127：104153.

[4]" ZHOU X Y，GUO Y，SHEN M L，et al.Application of artificial intelligence in surgery[J].Frontiers of Medicine，2020，14（4）：417-430.

[5]" COLLINS G S，MOONS K G M.Reporting of artificial intelligence prediction models[J].Lancet，2019，393（10181）：1577-1579.

[6]" 任宏飛，劉常清，張銘光，等.人工智能技術(shù)在護(hù)理安全管理中的應(yīng)用研究進(jìn)展[J].護(hù)理研究，2022，36（16）：2932-2935.

[7]" XU F R，SEPúLVEDA M J，JIANG Z F，et al.Artificial intelligence treatment decision support for complex breast cancer among oncologists with varying expertise[J].JCO Clinical Cancer Informatics，2019，3：1-15.

[8]" FITZPATRICK F，DOHERTY A，LACEY G.Using artificial intelligence in infection prevention[J].Current Treatment Options in Infectious Diseases，2020，12（2）：135-144.

[9]" 程攀.人工智能技術(shù)在護(hù)理領(lǐng)域的應(yīng)用現(xiàn)狀與發(fā)展分析[J].全科口腔醫(yī)學(xué)電子雜志，2019，6（27）：13;15.

[10]" NOORBAKHSH-SABET N，ZAND R，ZHANG Y F，et al.Artificial intelligence transforms the future of health care[J].The American Journal of Medicine，2019，132（7）：795-801.

[11]" ABNOOSIAN K，F(xiàn)ARNOOSH R，BEHZADI M H.Prediction of diabetes disease using an ensemble of machine learning multi-classifier models[J].BMC Bioinformatics，2023，24（1）：337.

[12]" VASQUEZ B，MORENO-LACALLE R，SORIANO G P，et al.Technological machines and artificial intelligence in nursing practice[J].Nursing amp; Health Sciences，2023，25（3）：474-481.

[13]" CASTONGUAY A，F(xiàn)ARTHING P，DAVIES S，et al.Revolutionizing nursing education through AI integration：a reflection on the disruptive impact of ChatGPT[J].Nurse Education Today，2023，129：105916.

[14]" KIRTON C A.A perspective on artificial intelligence[J].The American Journal of Nursing，2023，123（10）：5.

[15]" BUCH V H，AHMED I，MARUTHAPPU M.Artificial intelligence in medicine：current trends and future possibilities[J].The British Journal of General Practice，2018，68（668）：143-144.

[16]" JOHNSON E A，DUDDING K M，CARRINGTON J M.When to err is inhuman：an examination of the influence of artificial intelligence-driven nursing care on patient safety[J].Nursing Inquiry，2024，31（1）：e12583.

[17]" BUCHANAN C，HOWITT M L，WILSON R，et al.Predicted influences of artificial intelligence on the domains of nursing：scoping review[J].JMIR Nursing，2020，3（1）：e23939.

[18]" 張文剛.人工智能醫(yī)療的醫(yī)德原則[J].中華內(nèi)科雜志，2019，58（6）：412-414.

[19]" STOKES F，PALMER A.Artificial intelligence and robotics in nursing：ethics of caring as a guide to dividing tasks between AI and humans[J].Nursing Philosophy，2020，21（4）：e12306.

[20]" 劉伶俐，王端，王力鋼.醫(yī)療人工智能應(yīng)用中的倫理問題及應(yīng)對[J].醫(yī)學(xué)與哲學(xué)，2020，41（14）：28-32.

[21]" 科技部.發(fā)展負(fù)責(zé)任的人工智能：新一代人工智能治理原則[EB/OL].[2023-09-28].https：//www.most.gov.cn/kjbgz/201906/t20190617_147107.html.

[22]" HE J，BAXTER S L，XU J，et al.The practical implementation of artificial intelligence technologies in medicine[J].Nature Medicine，2019，25（1）：30-36.

（收稿日期：2023-10-07；修回日期：2024-06-27）

（本文編輯 陳瓊）