蚂蚁集团技术负责人王鑫将在QCon上海站分享新一代大模型训练数据处理系统Altum的设计与实践。面对大模型训练数据规模持续扩大、模型迭代加速的背景,业界普遍面临GPU效能不足、任务稳定性差、数据交付时效低等挑战。Altum从算力、引擎、平台、数据等层次构建体系化方案,关键技术包括异构算力融合调度、基于数据湖存储Paimon的端到端升级、算子性能优化与增量计算等,同时通过样本级重试、端到端可观测与熔断保护提升稳定性,并探索场景化Pipeline与Agentic数据处理等研发新范式。该系统已在蚂蚁内部多个场景落地,为AI Data Infra的建设提供了系统性解法与真实业务参考。
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅