Acrab发布边缘AI芯片GΞLIX 1：本地运行100B大模型，预填充速率达M4 Pro 7.5倍
7月23日，初创企业Acrab正式发布其首款芯片GΞLIX 1，专为边缘AI终端设备设计，旨在将百亿参数规模的大模型从云端数据中心迁至桌面级本地设备中运行。这款基于5nm制程工艺的SoC，同时配套推出了第一方终端设备Agent Box，标志着智能体AI在本地化部署方向上迈出了重要一步。
GΞLIX 1采用了面向智能体AI工作负载的异构设计，集成了20核Arm CPU、3 TFLOPS GPU、专用NPU以及一系列音视频处理引擎，整体AI算力达到650 TOPS。为解决本地运行大模型的带宽瓶颈，芯片配备了8MB大型L1缓存与带宽高达768GB/s的共享L2缓存，并支持256-bit LPDDR5X共享内存。
Acrab的CEO Ken Phua博士指出，随着推理任务向设备端迁移，CPU的角色正重新变得关键：“性能将不仅取决于NPU的吞吐量，更取决于CPU与NPU在异构系统中能否无缝协同。”
Acrab表示，通过在GΞLIX 1上利用矢量硬件加速注意力机制，并针对预填充阶段进行专门优化，显著降低了模型处理的首Token延迟。在配备40K KV缓存和10K Token输入的Gemma 26B A4B配置下，GΞLIX 1的预填充速率达到1416.8 Token/s，据称是苹果M4 Pro Mac Mini的7.5倍（188.9 Token/s）。
GΞLIX 1不仅是一颗芯片，Acrab同步提供了丰富的软件堆栈和智能体参考设计。基于该平台打造的Agent Box被定义为高性能个人边缘AI中心，整合了本地语言与视觉推理、多模态交互、持久化记忆存储以及智能体编排层。
Acrab将Agent Box定位为一个“私有的、永远在线的AI中枢”，用户数据与记忆完全保存在本地设备中。其编排层能够理解用户目标，将任务拆解为步骤，并协调不同智能体、系统与联网设备协同执行。其商业模式也直面云端按Token计费的成本问题，试图通过一次性硬件投入替代持续增长的API调用费用。
Acrab计划与设备制造商和开发者合作，将GΞLIX平台扩展至AI NAS、AI PC、智能车辆以及工业与服务机器人等更多产品形态中。作为一家成立于2024年的新加坡公司，Acrab已累计融资超过3.5亿美元，由Vertex Holdings等机构支持。Acrab的GΞLIX 1与Agent Box的组合，为AI部署模式从“依赖云端API的问答工具”向“在本地理解意图并执行任务的智能体助手”的过渡提供了另一种技术路径上的可能性。
