世卫组织：人工智能在医疗领域应用前景广阔，但需防范“自动化偏见”

世卫组织：人工智能在医疗领域应用前景广阔，但需防范“自动化偏见”

世界卫生组织18日发布的多模态大模型治理相关新指南指出，人工智能在医疗卫生领域应用前景广阔，但同时也要防范其中可能出现的诸如“自动化偏见”导致的过度依赖等风险。

2023年5月21日在瑞士日内瓦拍摄的世界卫生组织标志和世卫组织总部大楼。新华社记者连漪摄

作为一项快速发展的生成式人工智能技术，多模态大模型是指能够处理图像、文本、声音等多种类型数据的深度学习模型，广泛应用于医疗卫生领域。

世卫组织这份新指南概述了多模态大模型在医疗卫生领域的五大应用场景：诊断和临床护理、患者自主使用、文书和行政工作、医疗和护理教育、科学研究和药物研发。

新指南还指出了医疗系统面临的相关风险：表现最佳的多模态大模型的可及性和可负担性；多模态大模型可能助长“自动化偏见”，使医疗专业人员和患者过于依赖人工智能，忽略原本可以由人发现的差错，或把困难的选择不恰当地交给多模态大模型；多模态大模型与其他形式的人工智能一样，也容易受到网络安全风险的影响，从而危及患者信息安全、有损算法的可信度等。

世卫组织首席科学家杰里米·法勒表示，生成式人工智能技术具有改善医疗保健水平的潜力，但前提是研发、监管和使用这些技术的人必须识别并充分考虑相关风险。人们需要透明的信息和政策来管理多模态大模型的设计、开发和使用，以取得更好的卫生成果，克服持续存在的卫生不平等。

世卫组织强调，为了创造安全有效的多模态大模型，政府、科技公司、医疗服务提供者、患者等利益攸关方需要参与相关技术研发和部署的各个阶段，对多模态大模型进行监管并制定相关规范。

本文原文来自新华社