🔥 今日值得一读 Kyutai开源7个视频自编码器:世界模型延迟砍到230毫秒以下,单张H100跑20fps!
Kyutai CADRE: Video Autoencoders That Cut World Model Lag Below 230 ms
MarkTechPost 🔥 重点 开源多模态论文方法 🕐 今天 07:26

📖 AI 总结

Kyutai 发布 CADRE 系列视频自编码器,专为动作条件世界模型设计,旨在解决现有世界模型因沿用文本到视频生成的自编码器而导致的动作延迟问题。这类自编码器将多帧压缩进单一潜变量,使每个动作都需等待。CADRE 通过调整压缩比(τ×s×s)控制延迟,其世界模型在单张 H100 上以 20fps 运行,反应时间低于 230 毫秒,接近人类感知自身动作延迟的阈值。该系列包含 7 个自编码器,每个约 4.76 亿训练参数,搭配冻结的 8600 万参数 DINOv3 ViT-B/16,世界模型为 12 亿参数,视频分辨率 288×512。在与 MIRA、Wan 2.2、Cosmos 和 LTX-2 的 48 项对比中,CADRE 在 42 项上速度相当或更优,驾驶场景 FVD 最佳达 162.6,远优于 Wan 2.2 的 599.7;但在机器人操作动作跟随指标上表现较弱,为 0.45,低于 Wan 2.2 的 0.85。

🔍 深度解读 换个视角,同一件事有不同答案

正在读取芙娘的解读…
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅