临床AI出错谁负责？这套“事故复盘”框架让医院从失败中学习，20项分类全一致！
AI Morbidity and Mortality: A Framework for Clinical AI Failure Review
📖 AI 总结
该论文提出了一种名为“AI发病率和死亡率”（AI M&M）的结构化框架，用于临床AI失败的病例审查。研究指出，现有的模型监测和患者安全报告机制虽能识别性能变化或不良事件，但无法解释AI系统、临床医生、工作流程和机构控制之间交互产生的风险。该框架包含标准化病例收集、证据保存、工具辅助归因和纠正措施追踪，并将每个事件按四个维度分类：触发因素、机制、临床路径和纠正措施。研究人员通过五个门诊用药和临床决策支持案例验证了该框架，两名临床审查员独立应用所有分类轴，在20项轴级分类中达成完全一致。AI M&M旨在补充而非替代现有监测和监管机制，将个体AI工作流程失败转化为可操作的机构学习，但需跨机构、跨AI系统和临床环境的前瞻性评估。
🔑 关键词速览
| AI Morbidity and Mortality (AI M&M) | 一种结构化的、无指责的框架，用于对临床AI失败进行基于案例的审查，类似于医学中的发病率和死亡率会议。 |
| blameless framework | 一种不追究个人责任的安全审查方法，旨在鼓励报告和从错误中学习。 |
| tool-in-loop attribution | 一种归因方法，涉及在AI系统辅助决策过程中识别工具（AI）在错误中的具体作用。 |
| Trigger - Mechanism - Clinical Pathway - Corrective Action | AI M&M框架中用于分类AI失败事件的四个维度，分别指触发条件、风险产生机制、临床后果和补救措施。 |
| near-misses | 险肇事件，指未造成实际伤害但具有潜在风险的事件，在安全审查中用于预防未来错误。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅