智能体框架让模型压缩率降59.54%还提准确率,评估次数仅7.33次
FairCompressAgent: An Agentic Framework for Fairness-Aware Model Compression for FPGA Deployment
arXiv AI (cs.AI) 重要 Agent算力论文方法 🕐 09-17 12:00

📖 AI 总结

本文提出 FairCompressAgent(FCA),一个面向 FPGA 部署的公平性感知模型压缩智能体框架。该框架通过统一算子接口整合公平性感知剪枝、增量量化和稀疏低秩分解,由语言模型规划器依据模型画像与实测结果选择压缩配置,执行层负责压缩、微调、评估与基于约束的筛选,并支持需求动态更新及无法满足时报告剩余违规量。在 Fitzpatrick-17k 数据集与 VGG-11 模型上,作者对 40 种实测配置比较了四种搜索方法。在精度约束请求下,FCA 所选压缩模型将推理张量存储降低 59.54%,验证集平均精度由 0.5141 升至 0.5233,机会均等差距(EOpp)由 0.2251 降至 0.2168;在各自停止策略下,其平均仅需 7.33 次候选评估即达到与一次性规划(12 次)相同的最终选择。重复微调、留出测试与在线需求更新实验进一步验证了该工作流的稳定性与交互能力,表明实测反馈与显式约束可有效支持公平性感知压缩配置的选择与迭代优化。

🔑 关键词速览

FairCompressAgent (FCA)本文提出的智能体框架,用于在 FPGA 部署中实现公平性感知的模型压缩。
公平性感知剪枝在剪枝过程中考虑模型公平性约束,以减少对特定群体的偏见。
增量量化逐步降低模型权重精度的量化方法,以平衡压缩率和准确率。
稀疏低秩分解通过低秩近似和稀疏化来减少模型参数和计算量的压缩技术。
均等机会 (EOpp)公平性度量指标,衡量不同群体间真正例率的差异,值越小表示越公平。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅