面对医疗AI，那些先行的非营利组织怎么做
面对医疗AI，那些先行的非营利组织怎么做
在医疗保健领域，AI正逐渐成为推动变化的关键力量。本文深入探讨了AI如何助力非营利组织在提供医疗服务时，优化医疗服务的可及性、质量和成本之间的平衡。通过分析三家非营利组织的具体案例，文章展示了AI技术在提高医疗服务效率、促进健康公平性以及增强患者护理质量方面的潜力。同时，作者强调在AI应用过程中，非营利组织应确保伦理、隐私保护和算法公平性，以负责任的态度利用AI，为人类健康事业带来积极影响。
在第三个孩子早产后，25 岁的肯尼亚母亲露丝不知道该向哪里求助。她说：“当医生允许我们可以回家时，我感到很害怕，因为这次分娩与前两次不同。”
幸运的是，露丝在几个月前注册了PROMPTS，这是一个AI驱动的数字健康导医平台，用户可以通过短信提出问题、寻求帮助并减轻担忧。
“PROMPTS就像我的指路明灯。每当我遇到困难时，我就会迅速依靠这些信息来帮助我渡过难关”，她说。当露丝的孩子眼部感染时，PROMPTS通过一系列问题询问情况，并建议她带儿子就医，最终她的儿子得到了所需的治疗。
AI使PROMPTS大幅扩大了服务范围——露丝是依赖它的 240 万非洲女性之一——并且能够使PROMPTS对每天收到的 7,000 条信息进行分类处理。作为非营利组织Jacaranda Health的所属平台，PROMPTS（更多信息见下文）是一个例子，展示了AI驱动的非营利组织（AI-powered nonprofits，APNs）如何在利用AI改善医疗服务的可及性和质量方面走在前列。
在研究医疗保健领域AI驱动的非营利组织如何利用AI促进健康公平时，我们发现了一系列广泛的用例（use cases）：增加获得高质量医疗保健的机会、降低死亡率、发现新的治疗方法以及开创新的护理形式。
非营利医疗保健组织如何利用AI
Fast Forward（致力于通过最佳技术与可持续的非营利商业模式相结合，以帮助非营利初创企业的组织）的研究和帕特里克·麦戈文基金会（Patrick J. McGovern Foundation，PJMF）的分析揭示了医疗保健领域AI驱动的非营利组织如何利用AI促进健康公平的四个主题：
AI解锁了数据的力量。医疗保健行业产生的数据量占全球总量的 30%。这些数据错综复杂，并受到众多法规监管，伦理问题使隐私成为重中之重。但非营利组织正在利用AI来处理这些数据，并将其用于如何促进健康公平的决策。
AI让医护人员更加高效。AI已成为医疗工作者和医疗服务提供者不可或缺的合作伙伴。AI驱动的非营利组织正在应用AI来提升医护人员的能力，以接触更多患者并提供高质量的护理。AI的加持让原本由人类提供的优秀医疗服务不仅更加出色，还更容易实现规模化。
AI让患者拥有更多自主权。在我们研究的组织中，它们正在赋予患者更多权力来控制自己的医疗保健服务。AI助手能够为患者，尤其是居住在偏远地区的患者，提供个性化的健康建议、监测和护理服务。
利用AI的非营利组织正在解决营利性公司忽视的问题。非营利组织正以新颖的方式利用AI：从加速被忽视疾病的医学研究，到构建免费开源软件，将医疗信息交到最需要的人手中。
这四个主题的背后都有一个共同点：医疗保健领域的AI工具需要经过精心训练和持续评估，以确保AI符合伦理标准，不会加剧现有的不公平。算法偏见可能加剧现有的不公平，并导致有害的结果（例如，有色人种在用于皮肤癌检测的AI训练数据中代表性不足，导致皮肤癌可能被漏检的风险增加）。因此，我们研究的非营利组织在部署AI时，都将公平和伦理放在了中心位置。
对于资助者来说，这项研究的见解为未来的资助提供了路线图。在今年早些时候举行的微软全球非营利组织领导者峰会上，帕特里克·麦戈文基金会总裁维拉斯·达尔（Vilas Dhar）对与会者说：“当今世界，任何一位资助者都应该努力探索AI如何为其合作的非营利组织提供装备和支持，以及尝试了解这将如何影响他们所支持的社区的基本尊严和公平。”
Intelehealth
Intelehealth 是一个开源的远程医疗平台，它将印度各地农村社区的患者和一线医疗提供者与远程医生连接起来，以提供可负担的医疗保健服务。
据世界卫生组织估计，到 2030 年，全球将出现 1,000 万名医护人员的短缺。在印度农村社区，每 1 万人中只有不到两名医生和四名护士。
由于获得医疗服务的途径非常有限，农村社区在寻求医疗帮助时承受着令人望而却步的负担：数小时的路途、昂贵的交通费用以及因旷工而损失的收入。即使患者获得了医疗服务，质量也往往不达标。那些服务于偏远社区的医生和护士每天通常要为数百人诊疗。但结果是什么？人们得不到恰当的治疗，原本可预防的疾病却夺走了生命。
其中，女性受到的影响最大。在印度的农村社区中，90% 的女性不被允许独立做出关于自己医疗保健的决定，只有 52% 的女性被允许独自前往医疗机构。
Intelehealth 的开源、免费远程医疗平台提高了医疗服务的可及性和质量。该平台由一个名为“Ayu”的新型数字助手提供支持，既提供“提供者对提供者”（provider-to-provider，将一线医疗工作者与医生连接起来）的服务，也提供“直接对患者”（direct-to-patient，将医生与患者连接起来，进行居家会诊）的服务。整个平台与第三方诊断设备交互操作，这些设备可以采集生命体征并进行血糖监测。
Intelehealth正在试验AI如何帮助医疗工作者高效地管理更大规模的人口。他们目前正在测试AI驱动的图像分析工具如何通过分析照片、X光片和核磁共振成像等医学图像来推动疾病的早期检测。试点内容包括自然语言处理（NLP）应用如何帮助医疗专业人员从医疗文件中提取相关信息，从而改善决策并提高医疗质量。
Intelehealth 正在试用一系列商业上可用的AI工具（谷歌的Gemini、OpenAI的ChatGPT和Meta的Llama）。为了减少错误（errors）和幻觉（hallucinations，生成的内容与提供的源内容不符或没有意义，如逻辑谬误、虚构事实），Intelehealth 定期优化其提示（prompts），对相关案例重新训练其模型，并提供数据集，以丰富算法对区域和人口统计变化的理解。
Ayu 正在增加医疗保健的可及性、提高服务质量并促进性别公平。迄今为止，它已经与印度各邦政府合作，为全印度超过10万名医疗工作者提供了服务。
在我们对AI驱动的非营利组织的全景分析中，它是AI用于指引（navigator）的最佳范例：AI帮助用户完成复杂的流程，引导他们沿着个性化的路径前进。
Jacaranda Health
Jacaranda Health利用AI提高撒哈拉以南非洲地区新手妈妈和新生儿的医疗护理质量。该公司的数字健康平台每天回答成千上万的入站问题，并利用AI以短信形式向母亲发送信息和提供支持。
撒哈拉以南非洲地区是世界上孕产妇死亡率最高的地区。造成孕产妇死亡的其中一个因素是，母亲们没有能力或不了解在适当的时候寻求医疗照护。在肯尼亚，延误就医导致了三分之一的孕产妇死亡。好消息是，及时的信息可以帮助改善这一状况。Jacaranda发现，如果被告知自己处于危险之中，91% 的女性会寻求医疗帮助。
Jacaranda的PROMPTS平台是一个基于短信的对话式健康平台，在整个孕期和产后为母亲提供个性化信息，并使用基于AI的临床服务台来阅读、回复和分类处理母亲们提出的问题。该平台运行在一个本地定制的大语言模型（LLM）上，名为 UlizaLlama，这是首个能够以英语和斯瓦希里语运行的大语言模型。
该模型根据用户向平台提出的 130 万个问题进行训练，每天阅读、回复和分流7,000多条来自母亲的信息——所有信息都是用三种不同的语言发送的。Jacaranda遵循已成为最佳实践的做法：由人工代理审查所有AI生成的信息以确保准确性，并对细微差别进行编辑。
面对如此多的信息，大语言模型可以识别潜在的危险信号，并根据紧急程度进行分流。例如，像怀孕期间出血这样的高风险信息会在几分钟内被分流到一个专业团队，然后他们会给母亲打电话，评估最佳转诊方案（是转诊到医疗机构还是当地咨询服务机构）。
在引入UlizaLlama之前，Jacaranda的PROMPTS平台是Jacaranda员工与母亲之间的人工短信聊天机器人。但需求很快变得难以控制。有了AI，Jacaranda可以用较低的价格向更多的母亲提供挽救生命的信息。如今，PROMPTS的运营成本仅为每位母亲 0.74 美元。
目前，已有超过 290 万名女性在该平台上注册。其中， 81% 的使用 PROMPTS 的孕妇参加了四次以上的产前检查，85% 被标记为需要转诊到医疗机构的母亲最终前往医院就诊。
在我们对AI驱动的非营利组织的全景分析中，它是AI用于指导（coach）的最佳范例：动态AI可模仿人类交互，并提供该领域的专业知识。
Reboot Rx
Reboot Rx可快速发现用于治疗特定类型癌症的可负担的仿制药（generic drugs）。它利用AI扫描成千上万份已发表的医学研究报告，以识别出最有应用前景的低成本仿制药，并将它们重新用于癌症治疗。
全球每年新增 2000 万癌症诊断病例，导致 1000 万人死亡，癌症相关费用高达 1 万亿美元。这些数据令人沮丧，但希望仍然存在。在治疗特定类型的癌症方面，针对其他健康问题开发出的低成本仿制药具有巨大的潜力，但它们需要被识别和重新利用。
Reboot Rx发现，25% 的非抗癌仿制药具有抗癌潜力，而重新利用现有药物的成本仅是开发一种新药成本的一小部分（重新利用现有仿制药的成本不到 1500 万美元，相比之下，开发一种新药的成本超过 5 亿美元）。
Reboot Rx使用一套AI工具——经过微调的BERT模型（Bidirectional Encoder Representations from Transformers，一种预训练的自然语言处理模型）、生物医学信息提取模型以及ChatGPT等大语言模型——对全球医学论文目录进行审查，并准确定位最相关的研究。然后，AI会突出显示文章中的相关信息，并根据全部证据对药物进行排名。
最终结果是：AI驱动的方法通过自动化任务大大加快了药物开发的时间。过去需要数年的工作现在只需几天即可完成。寻找下一个突破性抗癌药物可能仍像大海捞针，但有了AI，这不再是一个耗时或令人生畏的挑战。
在Fast Forward对AI驱动的非营利组织的全景分析中，这是一个AI作为研究助手（research assistant）的例子：AI对海量数据进行分类和分析，以提高研究的能力和速度。
我们的研究为希望在医疗保健与公平领域应用AI的非营利组织提供了一系列建议。
加强，而非取代：非营利组织应将重点放在AI辅助技术上，以增强人类的工作，而不是完全取代人类。虽然AI技术发展迅速，但将AI用于增强经过验证的影响力模型和变革理论（theories of change），能为非营利组织提供最佳机会，使其持续产生影响力并保持工作的高质量标准。
伦理和隐私方面的考虑至关重要：鉴于医疗数据的敏感性，利用AI的非营利组织应优先考虑保护患者数据的伦理和隐私措施，并采取措施抑制算法偏见。达尔主张建立一种“以伦理、开放沟通和持续学习优先”的内部文化。建立这种文化需要对数据收集和存储进行详细的、强制性的培训，需要制定数据使用和所有权方面的规范，以及用于审计偏见、隐私和安全性的方法。
从问题出发，而非解决方案：AI工具在非营利组织的各项工作领域似乎都有广泛的应用潜力，而且宣称正在使用AI目前也是一种趋势。然而，在我们研究的AI驱动的非营利组织中，它们不仅识别出了AI可以显著提升其工作的具体用例，还指出了应当避免的领域，在这些领域中， 运用AI似乎是抱着解决方案在找问题。
小规模起步，负责任地规模化：我们研究的许多医疗保健领域的AI驱动的非营利组织都敢于推出其早期版本的AI工具，并随着时间的推移对其优化。但是，他们在早期演示和试点的同时，还进行了大量的人工监督，以确保AI能够产生准确的结果。简单就是智慧。复杂的系统需要更长的时间才能启动，并需要大量的持续维护。简单的AI工具使小型本地团队能够边操作边学习，同时将维护工作保持在最低限度。
AI的好坏取决于训练数据：非营利组织应确保他们的训练数据规模可观、具有多样性和代表性，并且是“干净的”（clean）。Jacaranda高度重视确保其训练数据不仅规模足够大，能够生成贴切的回复，而且还能针对模型部署的具体环境（撒哈拉以南非洲的资源匮乏环境）进行调整。对于在三种不同语言中运行的Jacaranda来说，训练数据必须对语言敏感，以确保用户能够读懂返回的信息并据此采取行动。
那些在医疗保健前沿工作的人们，无论是癌症药物研究人员，还是印度的一线医疗工作者，现在都有了一个不可或缺的伙伴：AI。但在每种具体情境下，用户都需要一个由专家指导、以患者为导向且注重公平的计划来负责任地使用AI。
AI有能力改变我们对医疗服务获取、医疗质量和医疗成本之间固有权衡（inherent tradeoffs）的理解。随着越来越多的非营利组织使用AI，我们对医疗保健如何以满足各地社区需求为中心的理解将会被重新定义。
凯文·巴伦布拉特是Fast Forward的联合创始人兼总裁。Fast Forward的社区将科技行业和慈善投资者联合起来，支持以使命为驱动的企业家，为AI驱动的非营利组织提供成功所需的资源、资金和指导。
尼克·凯恩是帕特里克·麦戈文基金会（Patrick J. McGovern Foundation）的策略与创新副总裁。
来源：《斯坦福社会创新评论》英文网站2024年8月12日