ZML

在英伟达主导的 AI 芯片市场中，法国初创公司 ZML 正试图通过软件层面的优化来打破硬件供应商锁定的局面。由图灵奖得主 Yann LeCun 支持的 ZML 近日发布了其首款公开产品——LLMD（ZML LLM Inference Server）。这是一款免费的推理性能软件，旨在让各种开源大语言模型（LLM）能够在多种不同的 AI 芯片上以峰值速度运行。

核心目标：消除碎片化，实现混合芯片部署

随着 AI 应用从训练阶段转向大规模的推理阶段，计算成本和能效成为企业关注的重点。ZML 创始人 Steeve Morin 指出，当前的推理生态存在严重的软件和架构障碍，导致用户被锁定在特定的硬件供应商体系中。

LLMD 的核心价值在于：

• 跨芯片兼容：支持在多种异构芯片上运行 LLM，包括成本更低或能耗更优的新兴硬件。
• 峰值性能优化：通过底层软件优化，挖掘不同硬件的最大潜力，有时甚至能超越传统方案的效率。
• 混合部署能力：允许企业构建混合芯片系统，根据任务需求灵活分配算力，从而显著降低运营成本。

Morin 表示：“我们的想法是让人们重新获得创建自己系统的能力，并实现真正的效率提升，从而使 AI 得以传播。”

市场定位与竞争格局

尽管面临 vLLM 和 SGLang 等成熟开源项目的竞争，ZML 采取了差异化的战略路径：

1. 非开源但免费：与常见的开源策略不同，LLMD 目前作为免费专有软件发布。Morin 解释称，这一策略旨在快速收集使用数据，识别最高价值的商业化场景，避免因过早收费而阻碍生态增长。
2. 软硬协同设计：ZML 不仅仅提供软件层，还深入到与芯片制造商的共同设计环节，以确保软件能最大程度地发挥硬件特性。
3. 不与英伟达为敌：Morin 强调，ZML 并不看跌英伟达，反而与其保持良好合作关系。LLMD 的目标是补充而非替代，特别是在处理多样化工作负载时提供灵活性。

强大的背书与欧洲 AI 的崛起

ZML 虽然团队仅有 20 人，但其背后的支持者阵容豪华，包括：

• Yann LeCun（Meta 首席 AI 科学家、图灵奖得主）
• Solomon Hykes（Docker 创始人）
• Clément Delangue & Julien Chaumond（Hugging Face 联合创始人）

凭借在 Zenly 担任工程副总裁的经验，Morin 成功筹集了 2000 万美元资金。他坚信巴黎的创新环境足以孕育出世界级的 AI 基础设施公司，并表示：“我只能在巴黎做 ZML。”