🔥 今日值得一读
企业分析老出幻觉？GROUND框架用治理语义层，让LLM查询零幻觉还防数据泄露！
GROUND: Reducing Hallucinations in LLM-Based Enterprise Analytics Through Governed Semantic Definitions
👨💼 主理人解读 · 为什么值得关注
开发者可用GROUND构建企业级自然语言查询系统，通过治理语义定义确保指标和查询准确，减少幻觉。
📖 AI 总结
该论文提出GROUND框架，旨在解决大语言模型在企业数据仓库自然语言分析中的幻觉问题，包括虚构指标、无效连接、错误粒度、不安全数据访问等。框架通过受治理的语义层约束LLM生成的分析内容，提供经批准的指标定义、绑定用户意图到受治理指标，并在执行前对SQL进行模式、指标、连接、粒度、过滤、安全和成本等多维度校验，违规时重试或放弃。在100道问题的合成基准测试中，GROUND是唯一在六类评估中均无幻觉的系统，而未受治理的系统在多道问题上违反行级安全；仅提供精确指标定义而无访问策略的语义条件仍会泄露数据，表明治理不可被指标保真度替代。在真实NHTSA车辆安全数据及跨四模型对抗测试中，GROUND的强制保障（尤其过滤和行级安全）在所有模型上零违规，但依赖判断的行为（如拒绝未定义指标）仍可能出错。
🔑 关键词速览
| GROUND | 统一规范化定义上的受治理检索，一个框架，通过受治理的语义层约束LLM生成的分析。 |
| text-to-SQL | 将自然语言查询转换为SQL查询的技术。 |
| semantic layer | 语义层，提供业务指标、维度等定义的抽象层，确保数据访问的一致性和治理。 |
| row-level security | 行级安全性，一种数据访问控制机制，限制用户只能看到特定行。 |
| hallucination | 幻觉，指模型生成不准确或虚构的信息。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅