🔥 今日值得一读 LLM智能体工具调用零违规!角色技能发现让治理从概率变硬约束
Progressive Skill Discovery as Access Control for Tool-Using LLM Agents: Structural Governance through Role-Scoped Capability Delivery
arXiv AI (cs.AI) 🔥 重点 #Agent#工具调用#访问控制#安全治理 🕐 今天 12:00
👨‍💼 主理人解读 · 为什么值得关注
企业工具集太大导致智能体选错工具?skilder用角色范围技能包做硬性权限约束,替代不可靠的提示词策略。

📖 AI 总结

本文针对工具调用型大语言模型智能体在企业级工具集下面临的安全扩展难题提出解决方案。作者指出,让智能体访问全部内部工具会导致上下文窗口膨胀、工具选择能力下降,以及治理漏洞——仅靠提示词定义的系统策略只是概率性建议,而非硬性约束;现有多智能体领域委派方案又会分散审计日志,无法跨会话保证策略合规。为此,作者提出skilder框架,将能力打包为"角色",即技能、工具、指令及其边界的集合。智能体从最小角色目录起步,学习任务所需角色,并通过单一MCP服务器获取对应技能与工具,从而在结构上确定性地执行权限范围。研究在13项任务、6个模型(各10次运行)上对比了扁平上下文工具选择与多智能体编排,结果显示,当模型完成发现流程并发出受治理调用时,授权层未发生任何未授权工具调用或参数违规(如超支)。总体任务通过率还反映模型是否遵循发现协议并满足响应质量检查,这些失败并非授权失败。该框架允许智能体在任务中动态获取跨角色能力,在保持问题解决灵活性的同时实现系统级硬性执行。

🔑 关键词速览

skilder本文提出的框架,将技能、工具和指令打包为角色,并通过单一 MCP 服务器实现确定性的访问控制。
MCP server模型上下文协议服务器,作为智能体获取工具和技能的统一入口,并强制执行角色范围限制。
Role-Scoped Capability Delivery以角色为边界交付能力的方式,确保智能体只能访问其已学习角色所包含的技能、指令和工具。
Access Control访问控制,在本文中通过角色打包和 MCP 服务器实现,将系统策略从概率性建议转变为硬性约束。
Multi-agent orchestration多智能体编排,一种现有方法,通过将任务委派给多个领域智能体来缓解工具集过大问题,但会导致审计日志去中心化。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅