DRAM供应持续吃紧，谷歌被迫拆解旧服务器回收DDR4内存以缓解AI“内存受限”困境

9月3日，据Wccftech报道，DRAM市场供应持续紧张，正迫使AI服务商采取非常规手段争夺内存资源。

谷歌供应链基础设施高级总监Nikhil Cherian近日在峰会论坛上表示，人工智能产业已迅速从“算力受限”转向“内存受限”。在一台典型AI服务器中，高性能内存占物料清单成本的比例已高达约75%。

为突破这一瓶颈，Cherian称谷歌正从软硬件两端同时发力。硬件方面，谷歌甚至拆解退役服务器以回收仍可使用的元器件，构建内部循环供应链。在某些场景下，谷歌被迫以旧款DDR4内存模组替代新型AI服务器原定搭载的DDR5模组——公司设计了专用硬件转接卡，使DDR4等上一代内存方案能够接入新一代AI服务器。Cherian坦言，谷歌特意将退役服务器调回机房，目的正是拆解回收其中的DDR4模组。

谷歌为模型推理优化的TPU v8i芯片采用专用分层存储架构，整机层面依托高速DDR5内存体系处理数据预处理等任务，每颗芯片还配备288 GB HBM3e高带宽内存。与此同时，谷歌也在持续优化底层函数库、模型架构及KV缓存压缩算法，力求降低单位算力下的内存开销。