研究者提出将大语言模型剪枝中的块移除问题转化为Ising优化问题,借助物理学中处理自旋系统的成熟方法求解最优剪枝结构。该工作的核心发现是,块移除这一组合优化难题可以被映射为Ising模型,从而利用物理学工具高效搜索最优的块删除方案。这一跨学科思路为LLM压缩提供了新的理论视角,有望在保持模型性能的同时降低推理成本,为大规模模型部署中的效率优化开辟了新路径。
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅