智能体在生产环境中常陷入无效工具调用循环,传统监控只能判断服务是否响应,却无法解释自主工作流为何失控。StackGen 基于 Langfuse 实现嵌套会话追踪,将每次 LLM 调用、工具执行和子智能体委派记录为独立 span,保留完整委派链,并采用异步批量导出,确保遥测后端故障不阻塞智能体运行。成本控制方面,通过执行前迭代上限、单工具调用限频和重复请求去重检查防止工具滥用,同时结合会话成本与滚动均值对比,识别模型路由错误、工具幻觉和上下文膨胀等隐蔽异常。文章还建议将工具调用与治理决策写入可搜索日志并脱敏,仅将有限指标导出至 Prometheus,强调追踪用于调试、指标用于告警的分工原则。
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅