英伟达开源发布PAIR软件:调度Mac与RTX PC跨设备协同处理本地AI推理

2026-09-04 16:48:01   |   弘乐   |   5755

9月4日,英伟达以开源测试版形式推出Personal AI Router(PAIR)软件。该软件可在局域网内为本地AI请求自动选择可用计算设备,实现跨设备的任务调度与负载分担。

PAIR支持在M4及更高版本的Mac设备、英伟达RTX PC及DGX Spark设备上运行,可为Ollama、LM Studio等本地AI工具提供统一请求入口。软件能够自动发现局域网内已加入的计算机,将每项AI请求分配给空闲设备处理,模型仍由目标设备上的Ollama或LM Studio运行,用户无需为每款AI应用分别配置每一台机器。

当某台设备繁忙或不可用时,PAIR可将新请求转向其他已配对设备。例如,AI智能体同时审阅多份文档时,可将彼此独立的任务分别交给不同计算机处理。该机制面向并发负载分担,并非通过增加设备来加速单一AI回复。

英伟达演示显示,在Hermes中使用Ollama与Qwen 3.6 35B A3B模型,将任务拆分给5个AI子智能体后,RTX Spark笔记本单机平均完成时间为18分钟;加入DGX Spark和RTX 5090后,平均时间缩短至8分48秒。

特别提醒:本网信息来自于互联网,目的在于传递更多信息,并不代表本网赞同其观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字、图片等内容的真实性、完整性、及时性本站不作任何保证或承诺,请自行核实相关内容。本站不承担此类作品侵权行为的直接责任及连带责任。如若本网有任何内容侵犯您的权益,请及时发送相关信息至bireading@163.com,本站将会在48小时内处理完毕。

英伟达开源发布PAIR软件:调度Mac与RTX PC跨设备协同处理本地AI推理

2026-09-04 16:48:01 浏览量: 5755 作者: 弘乐

9月4日,英伟达以开源测试版形式推出Personal AI Router(PAIR)软件。该软件可在局域网内为本地AI请求自动选择可用计算设备,实现跨设备的任务调度与负载分担。

PAIR支持在M4及更高版本的Mac设备、英伟达RTX PC及DGX Spark设备上运行,可为Ollama、LM Studio等本地AI工具提供统一请求入口。软件能够自动发现局域网内已加入的计算机,将每项AI请求分配给空闲设备处理,模型仍由目标设备上的Ollama或LM Studio运行,用户无需为每款AI应用分别配置每一台机器。

当某台设备繁忙或不可用时,PAIR可将新请求转向其他已配对设备。例如,AI智能体同时审阅多份文档时,可将彼此独立的任务分别交给不同计算机处理。该机制面向并发负载分担,并非通过增加设备来加速单一AI回复。

英伟达演示显示,在Hermes中使用Ollama与Qwen 3.6 35B A3B模型,将任务拆分给5个AI子智能体后,RTX Spark笔记本单机平均完成时间为18分钟;加入DGX Spark和RTX 5090后,平均时间缩短至8分48秒。

,

Copyright ©2018 铋读网 All Rights Reserved.

京ICP备18051707号

京公网安备 11011302001633号