本文介绍如何使用 TypeSafe AI 的首个 System One 模型 Jev,该模型不生成文本,而是接收程序状态与一组带类型的问题,直接返回选项、分数和是/否概率,供代码分支使用。教程通过官方 Python SDK 演示了三种问题原语的调用方式,说明状态结构如何影响模型可推断的信息,并基于返回概率重新计算置信度统计量。文章还对比了将十个问题合并为一次调用与分十次调用的效率差异,并给出该 API 的典型用法:置信度门控路由、权重保留在代码中的复合评分、类型化函数调用,以及符合模型能力的计数方式。最后展示生产级形态,包括 Pydantic 响应模型、基于 asyncio 的异步扇出、重试策略、类型化错误处理,以及记录整个笔记本调用成本的账本机制。
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅