英特尔展示异构AI系统:Gaudi3与英伟达B200 GPU协同作战
今日,在2025 OCP全球峰会上,英特尔向业界展示了一套创新的异构AI计算系统。该系统的独特之处在于,它首次将英特尔自家的Gaudi3 AI加速器与竞争对手英伟达的B200 Tensor Core GPU整合在同一计算平台中,开创了异构AI计算的新范式。
据技术细节披露,在这套混合系统中,两款不同的AI芯片实现了精准的任务分工:英伟达B200 GPU负责AI模型的预填充处理,而英特尔Gaudi3则专注于解码任务。这种专业化的分工带来了显著的性能提升——在运行Llama开源模型的测试中,该异构方案相比仅使用B200 GPU的同构解决方案,实现了高达70%的总拥有成本性能增益。
这一技术突破的背后,是一套精心设计的系统架构。根据专业媒体SemiAnalysis的进一步解读,该混合机架系统还整合了英伟达的ConnectX-7 400GbE网卡和BlueField-3 DPU,以及博通的Tomahawk 5 51.2Tb/s高速交换芯片。这些先进组件的协同工作,为系统提供了更大的扩展空间和更高的数据吞吐能力。