本文介绍了一个名为 Metag 的数据集,旨在推动元审稿(meta-reviewing)智能体的开发,以应对学术会议投稿量激增带来的审稿压力。该数据集聚焦于识别科学论文在评审-反驳过程中发生的具体修改,每个实例包含评审人提出的关切、作者的解决方案以及实现该修改的稿件差异(diffs)。数据构建流程为:获取论文在评审截止前和录用后的版本,计算两版差异,并由人工标注员将这些差异与 OpenReview 讨论中的行动项进行对齐。最终,数据集包含 349 个高质量的行动项及其对应的论文修改,为构建辅助元审稿人的方法提供了基础,使其能快速判断作者是否回应了评审意见,并定位修改位置,从而提升同行评审的透明度和可追溯性。该数据集已公开提供。
| Metag | 一个用于构建元评审智能体的数据集,包含评审关注点、作者解决方案和手稿差异。 |
| meta-reviewing | 元评审,指对评审过程进行综合和评估,通常由领域主席或高级评审者执行。 |
| action items | 行动项,指评审讨论中提出的具体修改要求或任务。 |
| manuscript diffs | 手稿差异,指论文不同版本之间的文本变化。 |
| OpenReview | 一个开放的学术评审平台,用于论文提交、评审和讨论。 |
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅