LLM数值解码新突破：无需训练，准确率飙升2.93个百分点！
NumericJev: Jev-like LLM Numerical Decoding with Multiway Decision Trees
📖 AI 总结
本文提出NumericJev，一种无需训练的数值解码算法，使任何具备Jev式结构化选择接口的大语言模型都能输出指定精度的数值。其核心思路是将数值范围选择视为决策问题，通过多路决策树递归细化区间，同时保留原始问题上下文，无需更新参数或访问隐藏状态。在算术基准测试中，该方法比从含正确答案的候选列表中直接选择高出2.93个百分点；在100值网格上，十路树仅需两轮决策，范围归一化MAE为1.84%，而直接选择为5.18%。另一项涉及三个日期的历史指数研究显示，平均相对召回误差为4.58%，在提供数值时读出误差为0%。该工作为LLM的精确数值输出提供了一种轻量且有效的解决路径。
🔑 关键词速览
| NUMERICJEV | 一种无需训练的数值解码算法，使LLM能通过结构化选择接口输出指定精度的数值。 |
| Jev-like models | 一类暴露结构化选择接口的模型，允许模型在多个选项中进行选择。 |
| Multiway Decision Trees | 多路决策树，一种树形结构，每个节点有多个分支，用于递归细化数值范围。 |
| Range-normalized MAE | 范围归一化平均绝对误差，一种评估数值预测准确性的指标，将误差按数值范围归一化。 |
| Readout error | 读取误差，指在提供数值时模型读取该数值的误差率。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅