该研究针对大语言模型生成RTL电路代码时,现有方法将功耗、性能、面积等多个目标聚合为单一标量奖励、难以同时产出多样化帕累托最优解的问题,提出一种面向整个电路集合质量与多样性的多目标强化学习方法。方法包含两部分:将帕累托解集覆盖率提升重构为序列化电路生成问题的训练流程,以及基于超体积贡献的奖励函数。在RTLLM v2基准上,该方法相对未做PPA优化的基线超体积提升13.3个百分点,相对单目标强化学习方法提升14.4个百分点,并在电路多样性上表现更优。其意义在于让设计者能够根据产品需求事后选择偏好折中方案,为实际芯片设计提供多样化高质量候选集。
| RTL | 寄存器传输级,是数字电路设计中的抽象层次,描述数据在寄存器间的传输和逻辑操作。 |
| PPA | 功耗、性能、面积,是集成电路设计中三个关键优化指标。 |
| 帕累托最优 | 在多目标优化中,指无法在不牺牲其他目标的情况下改进任一目标的解状态。 |
| RLVR | 基于可验证奖励的强化学习,利用可自动验证的奖励信号训练语言模型。 |
| 超体积贡献(HVC) | 衡量一个解对帕累托前沿超体积的贡献程度,用于评价多目标优化中解集的质量。 |
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅