🔥 今日值得一读 英伟达新路由器把全家设备变成AI数据中心,任务等待时间大幅缩短!
Nvidia wants your home network to work like a mini data center for local AI
The Decoder 🔥 重点 算力Agent边缘计算 🕐 09-04 16:06

📖 AI 总结

Nvidia推出了一款名为PAIR(Personal AI Router)的开源工具,旨在将家庭网络转变为类似迷你数据中心的环境,以支持本地AI任务的高效处理。PAIR作为虚拟路由器,自动将本地AI请求分发到网络中所有可用设备上,避免单一GPU过载,从而显著缩短并行代理任务的等待时间。在演示中,一个由三台设备组成的集群完成包含五个子代理的任务仅需不到9分钟,而单台笔记本电脑则需要18分钟。该工具兼容GeForce RTX 20系列及以上显卡、RTX Pro工作站、DGX Spark以及M4及以上的Apple Silicon设备,并采用MTLS加密确保设备间通信安全。PAIR的发布契合Nvidia将开放AI与其硬件生态更紧密绑定的战略,这一策略也体现在其以129亿美元收购Hugging Face的交易中。目前,PAIR的测试版已支持Windows、macOS和Linux系统。

🔍 深度解读 换个视角,同一件事有不同答案

正在读取芙娘的解读…
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅