🔥 今日值得一读 搜索AI作弊?Keenable开源NEEDLE基准,每小时换题防作弊!
Keenable AI Open-Sources NEEDLE: A Live Search Benchmark That Rebuilds Its Query Set Every Hour
MarkTechPost 🔥 重点 Agent基准测试开源 🕐 09-01 07:43

📖 AI 总结

Keenable AI 开源了 NEEDLE,一个实时搜索基准测试工具,旨在解决传统静态基准因数据泄露或模型记忆导致评估失效的问题。NEEDLE 的核心特点是动态重建查询集:新闻类查询每小时从 RSS 和 Google Trends 更新,金融、学术、法律等专业查询每日从 SEC、arXiv 等权威源生成,覆盖新闻、日常、专家、深尾和法律五大场景。该工具以 Python CLI 形式提供,支持在本地或 CI 环境运行,通过统一的协议对 15 种搜索 API 进行评测,并使用“终极”聚合引擎作为评分基准,确保结果反映整个领域的实际检索能力。其开源性质保证了可复现性,为搜索智能体的性能评估提供了更真实、防作弊的解决方案。

🔍 深度解读 换个视角,同一件事有不同答案

正在读取芙娘的解读…
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅