该论文提出了一种名为“Conformal Relevance”的统一框架,用于解决自然语言处理中常见的覆盖性与简洁性权衡问题,适用于摘要生成和抽取式问答等任务。传统方法依赖人工设计的提示词来构建评分函数,既耗时又缺乏通用性。该框架通过上下文学习示例筛选与集成策略自动生成评分函数,在保证覆盖率的同时显著提升输出简洁性,且几乎无需人工干预。研究在七项NLP任务上验证了框架的有效性,并从理论上分析了集成多样性的影响,提出了互补性条件以解释集成如何改善最差句子的评分,同时给出了集成增益的饱和界限。该工作为统一各类符合性语言任务提供了新思路,降低了任务适配成本。
| Conformal prediction | 一种统计推断方法,通过构造预测集来保证覆盖率,即真实值以一定概率落入预测集中。 |
| In-context learning | 一种利用大型语言模型的方法,通过在提示中提供示例来引导模型执行任务,无需微调。 |
| Ensembling | 将多个模型的预测或评分组合起来,以提高整体性能或鲁棒性的技术。 |
| Coverage | 在信息检索或摘要中,指保留足够相关信息以满足目标的程度。 |
| Conciseness | 指去除不相关信息、使输出简洁的程度。 |
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅