据《The Information》报道，谷歌正在秘密研发一款代号为 “Frozen v2” 的专用服务器芯片。该项目的核心创新在于将 Gemini 大模型的部分架构直接“蚀刻”到硅片中，而非像传统 TPU 或 GPU 那样通过软件加载模型。工程师预计，与最新一代谷歌 TPU 相比，Frozen v2 的每瓦特令牌生成效率将高出 6 到 10 倍，目标部署时间为 2028 年。
这一举措旨在应对日益严峻的 AI 算力短缺危机，并大幅降低推理延迟，为实时性要求极高的新应用场景铺平道路。
核心技术突破：从“通用计算”到“架构固化”
1. 冻结架构，而非权重
早期的 “Frozen” 概念曾计划将模型的**权重（Weights）**直接烘焙进芯片，但这会导致芯片生命周期极短，一旦模型更新即失效。
- Frozen v2 的策略：转而冻结模型的底层架构（Architecture），同时保持权重可更新。这意味着只要 Gemini 后续版本基于相同的架构构建，该芯片就能持续发挥作用，兼顾了专用性的高效能与模型迭代的灵活性。
- 减少运行时开销：传统硬件在处理每个查询时需进行耗时的运行时决策和数据传输。Frozen v2 通过硬件层面的固定逻辑，显著减少了计算步骤和数据移动量，从而极大降低了延迟。
2. 极致的能效比
- 能效提升：预计每单位功率产生的令牌数是现有 TPU 的 6-10 倍。
- 解决算力瓶颈：目前谷歌云因算力不足已拒绝部分外部客户交易。Frozen v2 的高效特性使其成为缓解数据中心电力和散热压力的关键方案。
战略定位：与 TPU 并存，而非取代
- 试运行性质：谷歌不打算以 TPU 的大规模产量生产 Frozen v2，而是将其视为模型设计稳定后迈向更专业化硅片的“试运行”。
- 产品线互补：Frozen v2 将与通用的 TPU 产品线长期并存。TPU 负责处理多样化、多模型的训练与推理任务，而 Frozen v2 则专注于 Gemini 家族的高频、低延迟推理场景。
- 供应链布局：2028 年的目标部署时间与谷歌据报道向英特尔预订超过 300 万颗 TPU 封装的时间点重合，显示谷歌正在构建多元化的算力基础设施。
行业趋势：专用推理芯片（ASIC）的崛起
谷歌的行动并非孤例，反映了 AI 硬件领域向**模型硬连线（Model-Hardwired）**方向发展的趋势：
- Taalas (HC1 芯片)：多伦多初创公司 Taalas 已推出将 Llama 3.1 8B 永久连线的芯片，声称在无 HBM 的情况下每秒可处理 17,000 个令牌。
- 英伟达收购 Groq 技术：英伟达近期达成 200 亿美元交易，获得推理芯片设计公司 Groq 的技术许可，进一步强化其在确定性延迟推理方面的优势。
© 版权声明
文章版权归作者所有，未经允许请勿转载。
