📖 AI 总结

随着 AI 从能力组件演进为具备自主规划与执行能力的软件系统，如何保障其稳定、可信、可控运行成为工程核心挑战。蚂蚁集团架构师刘杨在 QCon 上海的分享中，介绍了面向生产流量的企业级 Agent 可观测与评估体系。该体系在采集层遵循 OpenTelemetry GenAI 语义约定，统一模型调用、工具调用与 Agent 执行过程的埋点；在评估层以 Trace 为核心，通过声明式表达式实现异构 Agent 的低成本接入，并采用小模型粗筛、大模型精筛的两阶段机制，将 token 成本降低约 90%，使安全合规等底线指标得以覆盖全量生产流量。此外，该实践还探索了从 Agent 执行链路深入推理引擎内部、在 Token 粒度定位性能问题的方法，为 Agent 质量评估与持续改进提供了可落地的工程路径。