3.4亿参数决策模型开源,CPU就能跑,智能体判断调用全包了!
Fastino Releases GLiNER2.5-Decide: A 340M Open-Weight Decision Model That Runs on CPU
MarkTechPost 重要 Agent开源论文方法 🕐 今天 12:46

📖 AI 总结

Fastino Labs 发布了 GLiNER2.5-Decide,一个拥有 3.4 亿参数的开源决策模型,可在 CPU、GPU 或隔离环境中运行,权重以 Apache 2.0 协议开放。该模型并非生成式模型,而是基于 DeBERTa-v3-large 编码器的非生成式分类器,接收文本与带类型问题的模式,输出结构化答案,并附带概率分布、置信度分数和约束可行性元数据。其核心创新在于两阶段流水线:编码器对每个允许答案打分,约束解码器再根据模式中声明的规则寻找最高分的联合赋值。文章以护栏场景为例说明联合解码的价值——独立解码时模型对同一提示分别给出“注入攻击 0.82”和“安全 0.52”的矛盾结果,而联合解码通过规则强制输出一致判断。该模型定位于智能体流水线中的路由、分诊、工具选择和护栏等操作性决策,不进行推理或解释。

🔍 深度解读 换个视角,同一件事有不同答案

正在读取芙娘的解读…
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅