🔥 今日值得一读
AI危机支持大考：最佳模型仅满足88.4%临床标准，35.3%漏掉人工求助！
DistressBench: Evaluating Multi-Dimensional Crisis Support in Large Language Models
👨💼 主理人解读 · 为什么值得关注
开发者可用它评估模型在自杀自伤场景是否给出实质支持而非简单拒答，指导安全对齐与产品风控。
📖 AI 总结
这篇论文提出DistressBench，一个面向大语言模型自杀与自伤危机支持能力的评估基准，包含718段由临床医生撰写用户话轮的英文对话，覆盖23个自杀与自伤子类别，并为每段对话配备跨七个危机支持维度的加权原子标准评分表及临床医生参考回复。模型得分直接反映其提供的必要关怀比例。测试25个前沿模型发现，最佳模型满足88.4%的加权标准，中位模型为71.4%，而临床医生参考回复达98.7%。在模型完全识别危机的对话中，仍有35.3%未能将用户引导至人工帮助，短板集中在需要主动行动的维度。研究还发现多轮对话得分低于单轮，去激化与资源转介等能力差异显著。该工作主张以模型实际提供的关怀而非拒绝率来评估危机安全，并将去激化和资源引导视为部署的硬性要求。
🔑 关键词速览
| DistressBench | 本文提出的危机支持评估基准，包含718段临床医生撰写的自杀与自伤对话及配套评分标准。 |
| SSH (Suicide and Self-Harm) | 自杀与自伤，指用户披露的自杀意念、自伤行为等相关危机。 |
| Refusal | 拒绝回应，指模型对敏感请求直接拒绝回答的行为，但本文认为在危机支持中拒绝并非理想行为。 |
| De-escalation | 降级干预，指通过对话缓解用户情绪、降低危机强度的支持性行为。 |
| Resource Routing | 资源引导，指将用户导向人类帮助或专业危机干预资源的行动。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅