ICU临床AI新突破:四状态架构让既往病史不再遗漏!
SMARtCARE: Privacy-Preserving Agentic AI Systems for Bounded-Autonomy Clinical Decision Support
arXiv AI (cs.AI) 重要 Agent安全对齐论文方法 🕐 今天 12:00

📖 AI 总结

该论文提出SMARtCARE,一种面向临床决策支持的隐私保护智能体系统,旨在解决长上下文临床AI因既往病历超出推理窗口而遗漏关键信息的问题。系统采用稳定、元认知、辅助和受控四态架构,通过患者既往轨迹的有损六通道指纹识别当前病情漂移,仅在指纹匹配且原始记录缺失时触发元认知升级供医生审查,完整数据调取须经医生在辅助状态下授权,并设有患者身份守卫确保数据归属正确。评估结合合成蒙特卡洛实验与MIMIC-III、MIMIC-IV真实数据运行:MIMIC-III中14名两次入院患者里识别出1例既往模式复发,MIMIC-IV中9名患者未产生指纹匹配,暴露出固定模式库的局限。所有决策日志均可追溯且归属正确。研究支持该系统作为可追溯、隐私感知的中段风险提示机制,但明确不构成临床有效性主张。

🔑 关键词速览

SMARtCARE一种用于临床决策支持的隐私保护代理AI系统,采用四状态架构实现有限自主性。
Bounded-Autonomy有限自主性,指AI系统在临床决策中仅在特定范围内自主行动,关键步骤需人工介入。
Meta-cognitive Escalation元认知升级,当系统检测到潜在风险但缺乏完整上下文时,主动提请临床医生审查的机制。
Six-channel Fingerprint六通道指纹,一种有损压缩表示患者既往轨迹的方法,用于在不检索完整记录的情况下匹配模式。
MIMIC-III/IV重症监护医学信息集市(Medical Information Mart for Intensive Care)的公开临床数据库,常用于医学AI研究。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅