无需损失工程！Soft-PNet用Metropolis游走实现概念接地，训练更快还更准
Soft Symbol Grounding for Prototypical Concepts
📖 AI 总结
该研究针对神经符号模型中因中间概念未被监督而出现的“推理捷径”问题——即模型虽能正确预测标签，却可能学到错误的概念。现有原型网络方法虽能缓解该问题，但依赖为每个任务手工设计、任务特定的可微损失函数。作者提出Soft-PNet，将概念接地重新表述为在预计算的可行符号解缓存上进行Metropolis游走，由每个概念仅需一个标注锚点构建的原型分布引导，并用统一的KL目标函数训练，无需针对任务重新设计损失。在MNIST-EvenOdd、Visual Sudoku和Kand-Logic等稀缺监督任务上，Soft-PNet在概念与标签层面均达到与损失工程化原型网络相当的性能，能恢复软接地基线遗漏的概念，且无需损失工程、训练时间更短。其意义在于提供了一种跨任务通用、可扩展的概念接地训练框架。
🔑 关键词速览
| Soft-PNet | 本文提出的软符号接地方法，通过Metropolis游走和KL目标训练，无需手工设计损失函数。 |
| 推理捷径 | 模型正确预测标签但恢复错误中间概念的现象，因概念分配与标签一致但非真实。 |
| 原型网络 | 通过将每个概念锚定到少量标记示例来减少推理捷径的神经网络模型。 |
| Metropolis游走 | 一种马尔可夫链蒙特卡洛方法，用于在预计算缓存中采样可行符号解。 |
| KL目标 | Kullback-Leibler散度目标函数，用于衡量原型加权缓存与网络概念预测之间的差异。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅