🔥 今日值得一读
LLM护栏新框架VEPA：策略持续进化，决策依然确定可验证！
VEPA: Verified Evolving Formal Policy for Lifelong LLM Agent Guardrails
📖 AI 总结
本文提出VEPA框架，旨在为LLM智能体构建可终身演化的形式化安全护栏。针对现有方案的两难困境——基于LLM推理的自适应护栏决策不一致、策略解释模糊，而形式化护栏虽确定性执行却依赖部署前的固定策略、无法应对新风险——VEPA将护栏表示为作用于类型化智能体事件的可执行符号规则，部署期间由LLM根据反馈提出策略补丁，修复新出现的失败并保留原有正确行为，再由确定性验证器仅接受结构有效且无冲突的策略，最后通过证据感知的授权层，仅在证据充分时激活已验证规则，避免不确定更新直接影响决策。在ASSEBench-Safety、ASSEBench-Security和ATBench上，VEPA持续优于基线，并扩大了确定性形式化策略的执行范围；在混合数据流、反馈损坏和更长周期等更严苛条件下，其优势依然成立。该工作为LLM智能体护栏兼顾确定性、可审计性与持续适应性提供了可行路径。
🔑 关键词速览
| VEPA | 本文提出的框架，用于形式化智能体护栏的验证演化，通过 LLM 提出策略补丁并经确定性验证器验证。 |
| LLM Agent Guardrails | 针对大语言模型智能体的运行时护栏，在智能体执行敏感动作前做出允许或拒绝的决策。 |
| Formal Policy | 由可执行符号规则构成的形式化策略，对类型化智能体事件进行确定性执行。 |
| Policy Patch | 由 LLM 根据部署反馈提出的策略补丁，用于修复新观察到的失败并保留原有正确行为。 |
| Evidence-aware Authority Layer | 证据感知的授权层，仅在已验证规则有足够支持证据时才激活它，防止不确定更新影响决策。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅