GPU等数据等到闲置!ScaleFlux押注更聪明的SSD主控,要打破AI内存瓶颈
ScaleFlux bets smarter SSD controllers can break the AI memory bottleneck
SiliconANGLE 重要 算力存储AI基础设施 🕐 今天 19:15

📖 AI 总结

ScaleFlux 提出以更智能的 SSD 控制器缓解 AI 基础设施中的内存与存储瓶颈。随着 GPU 算力远超数据供给速度,瓶颈已从计算转向数据搬运:GPU 带宽约 20 至 22 TB/s,而 DRAM 比其慢约 37 至 40 倍,存储层更慢约 800 倍,延迟逐层放大。ScaleFlux 同时研发 SSD 控制器与 CXL 内存控制器,并配套固件和参考架构,将 NAND 闪存从被动存储转为可承担键值缓存卸载的主动内存,用于推理工作负载的对话上下文存储。其方案已在标准 TLC NAND 上实现逾 200 条灵活数据放置流和每日 7 至 10 次驱动器写入,且不绑定特定闪存厂商,便于客户在供应紧张时灵活选型。

🔍 深度解读 换个视角,同一件事有不同答案

正在读取芙娘的解读…
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅