🔥 今日值得一读 边缘多任务学习新突破!DART-FL动态调配资源,高需求任务训练提速,实测性能大幅领先!
DART-FL: Burst-Aware Multitask Federated Learning under Dynamic Inference Demand at the Edge
arXiv LG (cs.LG) 🔥 重点 #联邦学习#边缘计算#多任务学习 🕐 08-31 12:00
👨‍💼 主理人解读 · 为什么值得关注
解决边缘设备上训练与推理资源竞争问题,动态分配训练容量,满足服务级别目标。

📖 AI 总结

边缘智能系统面临模型训练与在线推理在资源受限设备上并存的挑战,且不同任务的推理需求随时间动态变化。针对这一矛盾,本文提出DART-FL框架,一种SLO感知、需求驱动的多任务联邦学习方法。该框架在每个调度周期内,依据推理积压量和服务能力画像,确定满足服务水平目标所需的最小推理资源,并将剩余训练容量通过队列感知的DPP调度器按任务需求分配,进而映射为动态损失权重,使高推理需求任务在早期通信轮次获得更多训练侧重。客户端共享主干网络并配备任务专属头部,整体模型通过FedAvg聚合。在Stanford Cars和Oxford Flowers 102数据集上,结合合成负载及真实阿里集群追踪负载的评估表明,DART-FL能动态调整推理与训练的资源分配,将高需求任务的训练进度向其突发期集中,在突发期间显著提升模型准确率,同时保持长期多任务性能基本不降。

🔑 关键词速览

DART-FL一种SLO感知、需求驱动的多任务联邦学习框架,用于边缘环境下的动态推理需求。
SLO (Service-Level Objective)服务级别目标,指系统需满足的性能或可用性指标,如推理延迟或吞吐量。
DPP (Determinantal Point Process)行列式点过程,一种概率模型,用于选择多样化的子集,此处启发式调度器用于任务分配。
FedAvg联邦平均算法,一种联邦学习聚合方法,通过平均客户端模型参数来更新全局模型。
Multitask Federated Learning多任务联邦学习,在联邦学习框架下同时训练多个相关任务,共享部分模型结构。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅