0.4%参数吊打LoRA!新框架让智能合约漏洞检测连续学习不遗忘
Frequency-Aware Continual Learning for Smart Contract Vulnerability Detection with Large Language Models
arXiv AI (cs.AI) 重要 #持续学习#安全#智能合约 🕐 08-21 12:00
👨‍💼 主理人解读 · 为什么值得关注
用频率感知持续学习检测智能合约漏洞,适配新漏洞类别并缓解灾难性遗忘。

📖 AI 总结

该研究提出了一种面向智能合约漏洞检测的持续学习框架,以应对大语言模型在检测任务中面临的三个关联挑战:新漏洞类别需要参数高效适配、顺序任务训练导致灾难性遗忘、以及推理时任务身份未知需整合多适配器。框架采用三阶段流水线:频率感知低秩适配(FA-LoRA)在傅里叶域进行参数高效微调,仅需0.4%可训练参数即优于标准LoRA;遗忘感知重放(FAR)利用频率门控估计样本遗忘风险并优先回放易遗忘知识,在顺序任务上取得0.8022的平均Micro-F1;锚点保护渐进合并(APPM)通过识别泛化能力最强的适配器作为锚点,将多适配器合并为单一模型,达到0.8085的Micro-F1,接近独立任务上限,合并耗时仅156毫秒且不增加运行时内存。实验验证了该框架能有效应对区块链生态演化中的漏洞检测需求。

🔑 关键词速览

FA-LoRA频率感知低秩适配,一种在傅里叶域进行参数高效微调的方法,使用逐频率重要性门控。
FAR遗忘感知重放,一种持续学习策略,通过损失动态估计遗忘风险并优先重放易遗忘样本。
APPM锚点保护渐进合并,一种将多个适配器合并为单一模型的方法,利用锚点适配器进行加权合并。
灾难性遗忘神经网络在学习新任务时丢失先前任务知识的现象。
Micro-F1一种综合精确率和召回率的评估指标,适用于多类别不平衡分类任务。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅