生成式AI医疗应用的法律挑战与应对

生成式AI医疗应用的法律挑战与应对

引用

证券时报网

等

10

来源

1.

https://www.stcn.com/article/detail/1313543.html

2.

https://blog.csdn.net/AIGCer/article/details/136182432

3.

https://www.53ai.com/news/hangyeyingyong/1032.html

4.

http://www.news.cn/legal/20240805/b73e7195f17e4fe99c5ff4c888a3a103/c.html

5.

https://www.glo.com.cn/Content/2024/10-08/1415111231.html

6.

https://www.ibm.com/cn-zh/think/topics/ai-transparency

7.

http://www.joyyears.com/post/yan-jiu-bao-gao-tong-guo-sheng-cheng-shi-ren-gong-/

8.

http://chima.org.cn/Html/News/Articles/17035.html

9.

https://yjj.beijing.gov.cn/yjj/ztzl48/ylqxjgfwzn/jdjczn61/436409716/index.html

10.

http://gdstc.gd.gov.cn/kjzx_n/mtjj/content/post_4477358.html

近年来，生成式人工智能（AI）在医疗领域的应用越来越广泛，特别是在影像分析、医学诊断和智能问诊等方面取得了显著成效。然而，随之而来的是诸多法律挑战，比如患者隐私保护、医疗决策自主权和算法透明度等问题。2023年7月，国家网信办联合相关部门发布了《生成式人工智能服务管理暂行办法》，旨在促进该行业的健康发展和规范应用。这些规定对于平衡技术创新与患者权益保护至关重要。

生成式AI正在深刻改变医疗领域。在患者就医旅程中，从症状感知与认知阶段到疾病诊疗、复诊与复购，以及愈后阶段的管理，发挥着关键的角色。通过智能交互和个性化的疾病教育内容，帮助患者更好地理解其症状和潜在疾病。此外，通过智能语音助手或虚拟助手，患者可以随时随地获得疾病相关的信息和对疑问的解答，以提高自身对疾病的认知。

在诊疗阶段，AI技术能通过深度学习分析医学图像，提高诊断的准确性，并根据分析结果帮助医生制定精准的治疗方案。对于复诊与药物复购，生成式AI的智能提醒功能确保患者按时接受治疗和药物，避免错过重要的治疗时机。同时，智能药房管理技术可以根据患者的处方信息自动分配药物，从而使患者快速准确地获取所需药品。在愈后阶段，AI不仅通过定期随访和生命体征监测提高患者的健康管理水平，还提供个性化的健康管理计划和教育内容，帮助患者改善生活质量和自我管理能力。

隐私保护

生成式AI在医疗领域的应用面临患者隐私保护的挑战。由于生成式AI需要处理大量的患者数据，包括病历、影像资料等敏感信息，因此数据安全和隐私保护成为首要问题。医疗机构和科技公司需要严格遵守GDPR和HIPAA等法规，同时采取加密等安全措施，确保患者数据的安全。

算法透明度

医疗AI的算法透明度不足，可能导致医生过度依赖AI决策，忽视患者个体需求。目前，欧盟AI法案等国际法规正在推动AI透明度的提升。AI透明度可帮助人们访问信息，以更好地了解人工智能(AI) 系统的创建方式以及它如何做出决策。研究人员有时将人工智能描述为一个“黑匣”，因为随着该技术日益复杂，解释、管理和监管 AI 结果仍然很困难。AI 透明度有助于打开这个黑匣 ，让我们更好地了解 AI 结果以及模型如何做出决策。

越来越多的高风险行业（包括金融、医疗保健、人力资源(HR) 和执法）依赖AI 模型进行决策。提高人们对这些模型的训练方式以及确定结果方式的理解，可以建立对 AI 决策和使用这些模型的组织的信任。AI 创造者可以通过披露实现透明、值得信赖的 AI。他们可以记录和分享底层AI 算法的逻辑和推理、用于训练模型的数据输入、用于模型评估和验证的方法等等。这使利益相关者对模型预测准确性的评估能考虑到公平、漂移和偏见。

责任归属

当AI系统出现失误时，确定责任主体（开发者、医疗机构或使用者）困难，追责机制尚不完善。这种责任归属的模糊性，为医疗纠纷的解决带来了新的挑战。

伦理挑战

过度依赖AI可能导致医生自主决策空间被压缩，影响医患关系；同时，AI的法律地位模糊进一步加剧了这一问题。医生在作出医疗决策时，需综合考虑患者的既往病史和当前症状，并依照相关法律法规与伦理规范，制定适宜的治疗方案。然而，医疗人工智能存在“自动化偏见”风险，即医生在诊断过程中可能会过度依赖人工智能技术，从而忽略自身专业判断和对患者个体需求的考虑。这种过度依赖可能导致医生将困难的医疗决策不恰当地交给人工智能处理。当医生过度依赖人工智能时，患者的治疗决策可能被剥夺，转而交由机器进行处理，导致患者失去对自身健康管理的自主权。

2023年7月，国家网信办联合相关部门发布了《生成式人工智能服务管理暂行办法》，这是我国首个针对生成式AI的专门法规，为医疗领域的应用提供了基本的法律框架。然而，具体实施细则尚待完善，特别是在医疗领域的应用细节方面，仍需进一步明确。

欧盟AI法案采取基于风险的监管方式，根据 AI 带来的风险应用不同的规则。它完全禁止某些 AI 的使用，并对其他 AI 实施严格的治理、风险管理和透明度要求。对于特定类型的 AI，还有额外的透明度义务。例如：

• 旨在直接与个人交互的 AI 系统应该被设计为告知用户他们正在与 AI 系统交互，除非个人从环境中可以明显看出这一点。例如，聊天机器人的设计应能够通知用户自己是聊天机器人。
• 生成文本、图像或其他某些内容的 AI 系统必须使用机器可读的格式，将输出标记为由 AI 生成或操作。例如，这包括生成深度伪造的 AI - 即图像或视频经过修改，以显示某人在做其没做过的事，或说其没有说过的话。

生成式AI在医疗领域的应用前景广阔，但要实现可持续发展，必须平衡技术创新与法律合规。这需要多方共同努力：

• 立法层面：完善相关法律法规，明确AI医疗应用的具体规范和责任归属
• 技术层面：提升算法透明度，开发可解释性强的AI系统
• 伦理层面：建立AI医疗应用的伦理准则，确保技术服务于人
• 监管层面：建立跨部门协作机制，加强行业自律和监管

生成式AI医疗应用的法律挑战是一个全球性议题，需要国际社会共同应对。通过借鉴国际经验，结合中国实际，我们有望在保障患者权益的同时，推动医疗AI的健康发展，最终实现技术与法律的和谐统一。