AMD收购AI推理芯片初创公司Taalas:将AI模型“刻入硅片”,推理速度提升数千倍
8月7日,据报道,AMD宣布已达成协议收购总部位于加拿大多伦多的AI推理芯片初创公司Taalas,以强化其在AI推理领域的战略布局。此次收购正值生成式AI浪潮迈入第四年之际,行业正逐渐认识到单一GPU无法满足所有AI应用场景。
Taalas的技术路线与主流GPU存在本质区别——其加速器并非通用型设计,而是针对单一AI模型进行定制化“硬连线”。该公司的芯片无需依赖传统高带宽内存存储模型权重,而是将权重直接蚀刻进硅片,形成模型专用集成电路。
在性能层面,Taalas表示其芯片在特定模型上的推理输出速度可比传统GPU快数千倍,同时成本更低。今年2月发布的测试芯片HC1采用台积电6纳米工艺,运行Llama 3.1 8B模型时速度达每秒16,960个token,约为当时英伟达GPU的48倍。
Taalas首席执行官Ljubisa Bajic在公司网站表示,公司已开发出“把任何AI模型转化为定制硅片的平台”,从收到一个此前未适配的模型到实现硬件化落地,仅需两个月时间。Taalas自2023年成立以来已累计获得2.19亿美元风险投资,AMD未披露此次交易的具体金额。
AMD将把Taalas的芯片与技术纳入自身产品路线图,计划与Instinct GPU系列的Helios机架级系统配对使用,构建计算密集型任务由GPU负责、token生成任务卸载至Taalas加速器的分离式架构。这笔交易发生在英伟达斥资200亿美元收购高性能AI芯片设计商Groq的七个多月之后,反映出AI芯片竞争正从训练市场向推理市场全面延伸。