世界卫生组织发布AI医疗伦理指南：纽约大学研究揭示潜在风险

世界卫生组织发布AI医疗伦理指南：纽约大学研究揭示潜在风险

引用

澎湃

等

9

来源

1.

https://www.thepaper.cn/newsDetail_forward_30080712

2.

https://www.healthcarechn.com/h-nd-2422.html

3.

https://www.showapi.com/news/article/67a2e3044ddd79f11aa83eb6

4.

https://www.forwardpathway.com/130285

5.

https://www.jiqizhixin.com/articles/2024-12-16-8

6.

https://yizhe.dmu.edu.cn/article/doi/10.12014/j.issn.1002-0772.2024.07.08?viewType=HTML

7.

https://www.letsclouds.com/news/study-reveals-001-percent-fake-data-disables-ai

8.

https://editverse.com/zh-CN/%E5%8C%BB%E5%AD%A6%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD-%E8%A7%84%E8%8C%83-2025/

9.

https://www.forwardpathway.com/129391

纽约大学最新研究揭示，仅需在训练数据中掺入0.001%的虚假信息，就能诱导AI学习并传播错误医学知识，且数据攻击成本低至5美元。这一发现引发了对AI医疗应用安全性的深刻担忧。

面对AI医疗应用带来的伦理挑战，世界卫生组织（WHO）近期发布了《医疗卫生中人工智能的伦理治理》指南，旨在规范医学人工智能技术的应用。与此同时，纽约大学的一项最新研究揭示了AI医疗应用的潜在风险，引发了全球对AI医疗安全性的关注。

世卫组织在最新发布的指南中强调，AI医疗应用必须遵循以下核心伦理原则：

1. 数据安全与隐私保护：医疗数据涉及大量敏感信息，如病历和个人健康记录。如何确保这些数据在收集、存储和使用过程中的安全性，防止泄露或滥用，是亟待解决的问题。

2. 算法透明度与可解释性：复杂的AI模型往往被视为“黑箱”，其决策过程难以理解。提高算法的透明度和可解释性，有助于医生和患者更好地接受并信赖AI技术。

3. 责任归属明确：当AI系统参与医疗决策时，一旦出现错误或不良后果，很难界定责任方。明确的责任划分对于建立信任和规范行业发展至关重要。

除了上述伦理问题，AI医疗应用还面临其他重大挑战：

1. 算法偏见与公平性：AI系统可能因训练数据的局限性而产生偏见，导致对某些群体的诊断或治疗建议不公平。这需要通过优化数据集和算法来提升决策的公正性。

2. 资源分配不均：高端AI医疗设备通常成本高昂，可能导致优质医疗服务集中在少数机构，加剧医疗资源分布不均的问题。

3. 医患关系影响：AI的应用可能改变传统医患互动模式，引发关于医生角色和患者自主性的讨论。如何平衡AI辅助与人文关怀，是未来需重点关注的方向。

4. 法律监管滞后：现有法律法规尚未完全覆盖AI医疗领域，缺乏明确的指导框架。完善相关法规，为AI技术的健康发展提供保障迫在眉睫。

纽约大学的研究者在《Nature Medicine》上发表的研究指出，大型人工智能模型在医疗领域的应用存在显著风险。研究显示，仅需在训练数据中掺入0.001%的虚假信息，就能诱导AI学习并传播错误的医学知识，而这种数据攻击的成本仅为5美元。

这一发现不仅揭示了AI模型在面对恶意攻击时的脆弱性，更引发了对当前AI医疗应用安全性的深刻思考。在实际应用中，AI系统依赖于大量高质量的数据进行训练，以确保其输出结果的准确性和可靠性。然而，一旦这些数据受到污染或篡改，AI系统的判断力将大打折扣，甚至可能产生误导性的结论。

例如，在疾病诊断过程中，如果AI模型基于错误的医学知识做出判断，可能会导致误诊或延误治疗，进而危及患者的生命健康。因此，如何确保AI模型训练数据的安全性和真实性，成为了亟待解决的关键问题。

AI在医疗领域的应用前景广阔，但也面临着诸多挑战。如何在利用AI改善医疗服务的同时，确保其公平性和透明性，将是未来研究和实践中需要重点关注的问题。政策制定者和医疗机构需共同努力，建立健全的监管框架和伦理标准，以实现技术与社会福祉的和谐发展。