Token账单暴涨别只怪成本!它可能是模型死循环的报警器
Token账单异常,可能不只是成本失控
InfoQ 中文 重要 大模型Agent算力 🕐 09-15 05:58

📖 AI 总结

随着生成式AI从试验走向规模化部署,Token消耗异常正成为企业需要警惕的双重信号。Akamai大中华区副总裁张珂指出,Token成本不仅是财务指标,更可能是识别AI安全事件的关键线索。根据Akamai《2026年AI推理现状报告》,77%的受访企业缺乏统一的推理成本计量方法,难以判断Token增长究竟来自正常业务、低效设计还是API被盗用。文章重点分析了“拒绝钱包攻击”(DoW),即攻击者通过大量请求或复杂提示词持续推高企业Token消耗和云账单,其目标并非让服务宕机,而是耗尽预算。此外,具备智能体能力的AI爬虫也可能触发多轮推理,使单次访问成本远高于传统抓取。对此,企业需建立Token级可观测性,通过AI网关统一管理调用入口、设置额度并识别Bot身份,同时根据任务需求灵活选择CPU、GPU或边缘部署。能否解释每个Token的来源与用途,正在成为AI成本治理与安全治理的共同基础。

🔍 深度解读 换个视角,同一件事有不同答案

正在读取芙娘的解读…
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅