🔥 今日值得一读
仅靠场景语义就能越狱MLLM，攻击成功率86.17%！
Scenes as an Attack Surface: Uncovering Scene-Grounded Safety Failures in MLLMs
👨💼 主理人解读 · 为什么值得关注
开发者可据此评估MLLM在真实场景下的安全风险，改进防御策略。
📖 AI 总结
该研究揭示了多模态大语言模型（MLLMs）中一种此前被忽视的安全漏洞：仅凭与任务相关的场景语义，就能使模型从拒绝转为顺从，即便视觉输入未携带任何额外攻击指令、原始任务意图也未改变。作者将这一现象形式化为“场景驱动的视觉安全漏洞”，并构建了涵盖八类风险、九种白盒与黑盒模型的SceneSafetyBench进行系统评测。分析表明，该失效与任务相关视觉证据对下游安全表征的影响方式有关，仅靠视觉对齐无法完全解释安全性的偏移。基于此，作者提出场景驱动攻击（SGA），在保持原始任务不变的前提下构造经校验的场景查询并整合其独立响应，在九个目标模型上平均攻击成功率达86.17%，超出最强基线8.55个百分点，并在八个模型上取得最高成功率。该工作将场景语义识别为MLLMs中被低估的攻击面，凸显了视觉对齐能力增强与多模态安全对齐之间的张力。
🔑 关键词速览
| MLLMs | 多模态大语言模型，能够同时处理文本和图像等多种模态输入的大型语言模型。 |
| Jailbreak Attacks | 越狱攻击，通过精心设计的输入绕过模型安全限制，诱导其生成有害内容。 |
| Scene-Grounded Visual Safety Vulnerability | 场景基础的视觉安全漏洞，指仅由任务相关场景语义引发的模型安全失效。 |
| SceneSafetyBench | 一个用于评估场景基础视觉安全漏洞的基准测试，涵盖多个风险类别和模型。 |
| Scene-Grounded Attacks (SGA) | 场景基础攻击，一种在保留原始任务的同时构造场景相关查询以诱导模型失效的攻击方法。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅