Nace AI 正式开源了 Drex Max v1，这是一款参数量为 27B 的稠密决策模型。该模型专为智能体路由、工单分类和策略检查（护栏检查）设计，能够在单次前向传播中直接输出选项概率，而非生成自由文本。其开放权重的发布，使得开发者能够在本地硬件（包括 Apple Silicon Mac）上安全、高效地运行高性能决策模型。
- GitHub：https://github.com/nace-ai/drex-decision-models
- 模型：https://huggingface.co/nace-ai/drex-max-v1
核心架构与工作机制
Drex Max v1 采用了一种混合注意力机制的稠密架构，旨在平衡长上下文处理能力与推理效率：
- 混合层设计：模型共 64 层。其中 48 层为从左到右运行的 Gated DeltaNet 线性注意力层；其余 16 层为非因果的全注意力层，均匀分布在每第四层，允许每个 token 关注整个序列。
- 多模态输入支持：模型内置原生视觉塔，图像在请求中对每个问题均可见。输入状态可以是文本、JSON 或图像。
- 概率化输出：通过一个 255 路的读出头（readout head），模型将最后的隐藏状态直接转化为每个命名选项的概率。支持三种问题类型：多选一、是/否（二元）以及有序分数。
基准测试表现
根据 Nace AI 的自报数据，Drex Max v1 在多项决策基准测试中展现了显著的性能提升：
- Decision Index 0.4（公开文本）：得分 67.52，较前代 Drex v2.0（61.25）提升 6.27 分，并优于 Jev 1.13.0（57.96）。
- 领域技能细分：在工具领域得分 81.9，语言 72.2，检索 68.8，知识与推理 57.1，艺术 53.4。
- 视觉与综合决策：在包含 11 个基准和 12,210 行数据的公开视觉指数上得分为 73.92；在 Artificial Analysis Decision Index 中得分为 64（在 18 个模型中排名第 4）；JevBench 准确率达 92.2%（213/231）。
本地部署与硬件要求
Nace AI 提供了 5 种运行时选项，均提供统一的 POST /v1/systemone API，以满足不同硬件环境的需求：
| 运行时 | 适用硬件 | 检查点格式 | 图像支持 |
|---|---|---|---|
| Python | NVIDIA GPU (如 H100 bf16 或 L40S 48GB) | bf16 (约 49 GB) 或 8 位 (约 26 GB) | 是 |
| Kapitsa v0.2.25+ | Apple Silicon | Q8_0 GGUF 或 仿射 Q4 | 否 |
| MLX | Apple Silicon | 仿射 Q4 (14.45 GB) | 否 |
| llama.cpp 分叉 | Apple Metal / CPU | Q8_0 GGUF (27.25 GB) | 否 |
| Ollama 分叉 | Apple Metal / CPU | Q8_0 GGUF | 否 |
量化与性能表现：
- Apple Silicon 部署：24 GB 及以上内存的 Mac 可运行仿射 Q4 检查点；48 GB Mac 可运行 Q8_0 GGUF。在 48 GB 的 Apple M5 Pro 上测试表明，Q8_0 GGUF 的输出概率与 H100 bf16 的误差在 0.02 以内，仿射 Q4 的误差在 0.0329 以内，且未发生选项翻转。
- 配置建议：对于 48 GB Mac 使用 Kapitsa，建议使用
--context 2048。Ollama 用户可通过设置num_gpu 40将 40 层卸载至 Metal，或在 Modelfile 中添加CAPABILITY decision以启用分叉功能。 - 注意：目前的本地 Mac 和 CPU 运行路径仅支持文本输入，不支持图像。
横向对比与生态定位
与 Nace AI 的前代产品及竞品相比，Drex Max v1 在保持开放许可（Nace.AI Open RAIL-M）的同时，显著提升了决策精度与上下文窗口（最大支持 262,144 token，默认 16,384）。
- 对比 Drex v2.0 (35B MoE, ~3B 激活)：Drex Max v1 (27B 稠密) 在 Decision Index 0.4 上得分更高（67.52 vs 61.25），且恢复了视觉塔支持，而 v2.0 移除了视觉能力。
- 对比 Jev 1.13.0：Drex Max v1 在 Decision Index 0.4 (67.52 vs 57.96) 和 JevBench (92.2% vs 86.6%) 上均占据优势，且提供了完整的本地开源权重，而 Jev 为封闭的托管模型。
关键要点总结
- Drex Max v1 是一款 27B 稠密参数的决策模型，直接输出选项概率，适用于路由、分类和策略检查。
- 模型在 Decision Index 0.4 上取得 67.52 的自报高分，显著优于前代及同类开源模型。
- 提供多种量化格式，支持在 24 GB 及以上内存的 Apple Silicon Mac 上通过 Kapitsa 或 MLX 本地运行（目前仅文本）。
- 在 48 GB M5 Pro 上的 Q8_0 量化版本，其概率输出精度与 H100 bf16 高度一致（误差 < 0.02）。
- 权重基于 Nace.AI Open RAIL-M 协议开源，保障了本地数据处理的隐私与安全性。
© 版权声明
文章版权归作者所有，未经允许请勿转载。
