英伟达开源发布PAIR软件:调度Mac与RTX PC跨设备协同处理本地AI推理
9月4日,英伟达以开源测试版形式推出Personal AI Router(PAIR)软件。该软件可在局域网内为本地AI请求自动选择可用计算设备,实现跨设备的任务调度与负载分担。
PAIR支持在M4及更高版本的Mac设备、英伟达RTX PC及DGX Spark设备上运行,可为Ollama、LM Studio等本地AI工具提供统一请求入口。软件能够自动发现局域网内已加入的计算机,将每项AI请求分配给空闲设备处理,模型仍由目标设备上的Ollama或LM Studio运行,用户无需为每款AI应用分别配置每一台机器。
当某台设备繁忙或不可用时,PAIR可将新请求转向其他已配对设备。例如,AI智能体同时审阅多份文档时,可将彼此独立的任务分别交给不同计算机处理。该机制面向并发负载分担,并非通过增加设备来加速单一AI回复。
英伟达演示显示,在Hermes中使用Ollama与Qwen 3.6 35B A3B模型,将任务拆分给5个AI子智能体后,RTX Spark笔记本单机平均完成时间为18分钟;加入DGX Spark和RTX 5090后,平均时间缩短至8分48秒。