🔥 今日值得一读 智能体执行框架Praxa:令牌减37%、成本降33.84%,180/180试验零违规
From Proposal to Verified Effect: Praxa, an Evidence-Bound Harness for Governed AI Agent Execution
arXiv AI (cs.AI) 🔥 重点 #Agent#安全对齐#执行框架 🕐 今天 12:00
👨‍💼 主理人解读 · 为什么值得关注
为智能体提供可审计的执行护栏,确保动作授权与外部效果验证分离。

📖 AI 总结

本文提出 Praxa,一种面向大语言模型智能体的执行框架,旨在将“提议、授权、派发、已验证的外部效果与服务上线”区分为不同且可验证的状态,通过确定性准入、代理执行、外部回读、对账与审核式上线加以显式表示。作者报告了四条证据线:仓库本地审计在固定版本上通过 1027/1027 单元测试与 89/89 Workerd 测试,覆盖全部 363 个预期源文件,但缺少原始逐测记录与独立复现;Terminal-Bench 试点中基线与可靠性层各通过 17/36 严格试验,后者多耗 37.49% 输入与 50.73% 输出 token,未显示优越性;协调代理开发对比中两者均完成 180/180 试验且准确率相同,候选方案 token 减少 37.11%、估算成本降低 33.84%、步骤减少 11.63%,但不足以证明质量或生产表现提升;部署证据显示有界反思、召回核算、记忆编译与工具健康路径,但无生产收益。其贡献在于使授权到效果的转换显式且可测试,当前证据尚不支持对抗安全、生产安全或用户收益等结论。

🔑 关键词速览

Praxa一种智能体执行框架,通过确定性准入、代理执行、外部回读、对账和审查推广来显式表示从提议到已验证效果的状态转换。
Terminal-Bench Core 0.1.1一个用于评估智能体在终端环境中执行任务能力的基准测试套件,此处指其0.1.1版本的核心部分。
确定性准入一种机制,在智能体执行动作前,根据预定义规则确定性地决定是否允许该动作进入执行流程。
代理执行通过一个中间代理(broker)来调度和执行智能体提出的动作,以增加控制和安全性的执行方式。
外部回读在动作执行后,从外部系统读取实际效果,以验证执行结果是否与预期一致的过程。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅