初创企业Underdog AI本月发布两款大模型，Underdog 27B与Saluki 27B，两者均基于Qwen3.8-27B基座开发。Saluki 27B为2-bit量化调优版本，仅保留文本输入输出能力，模型文件仅7.89GB，面向本地AI智能体场景打造。Saluki采用标准llama.cpp格式，原生支持llama.cpp及各类基于它开发的应用，无需自定义编译。
- Underdog 27B：https://huggingface.co/ConwayResearch/Underdog-27B-1.0
- Saluki 27B：https://huggingface.co/ConwayResearch/Underdog-Saluki-27B-1.0
Underdog 27B：面向Mac、手机的离线隐私助手
Underdog 27B是面向个人端侧的本地模型，可直接在Mac与手机上运行，用户邮件、日历、笔记等数据全程保存在本地设备，不会上传云端。模型设计目标不是刷学术评测榜单，而是解决普通人日常办公任务：仿写风格一致的邮件、检索历史邮件、会议纪要与待办生成、日历空闲时间查找、网页事务办理（预订餐桌等）。模型训练所使用的工具，和最终在Mac上运行调用的工具保持一致。
训练方案
训练全程不会使用任何真实用户的邮件、笔记等私人数据，全部依靠计算机生成的合成虚构数据集，包含虚构收件箱、虚拟日历、模拟预订网站。采用强化学习后训练的方式，模型完成任务后根据对错获取奖励迭代优化。特别之处在于，模型直接在最终端侧压缩形态下完成训练，防止量化压缩之后能力大幅衰减。
评测数据
在Artificial Analysis独立评测中，Underdog 27B智能指数33.7，高于Claude Opus 4.6 Max的31.9；在142个同规模开源模型中排名第一。
- GPQA Diamond困难科学题：90.5%
- AA-LCR超长文档阅读：82.0%
- MMMU-Pro多模态识图：76.3%
- AA-Omniscience幻觉指标：30.3%，不知道答案时更少编造，幻觉发生率约为Claude Opus 4.6 Max一半
短板：冷门稀有事实记忆能力偏弱。同时官方承诺，用户在Underdog内产生的操作数据，不会用于模型训练。
Saluki 27B：7.89GB轻量化2-bit量化智能体模型
Saluki 27B是Qwen3.8-27B的2-bit量化版本，文件体积从原版约54GB压缩至7.89GB，16GB内存笔记本电脑即可本地运行，开源预览权重，使用无需标注来源，完整训练版本后续放出。模型专为AI智能体场景设计，擅长日常推理、工具选择，工具挑选与并行调用能力甚至优于原版Qwen3.8-27B；数学能力偏弱，仅保留原版82%~85%竞赛数学水平，仅支持文本输入输出，不支持图像。
Underdog Bench工具调用基准测试
测试集取自Berkeley Function Calling Leaderboard，合计120项工具调用任务。Saluki拿到88/120分，优于同期测试的其他2-bit量化方案，保留完整基座90%的工具任务解决能力。在“挑选正确函数”这类智能体核心任务上表现突出；但多函数并行调用场景容易出现输出格式错误，需要宽容解析器做兜底修复。
并行工具调用专项测试
选取100项多工具并行任务，在关闭模型思考能力的统一环境下测试。严格规则下Saluki通过率42%，开启宽容格式容错后提升至55%，表现超过原版完整Qwen3.8-27B，但弱于同测试里体积更大的Mia 2-bit模型。
代码代理、网页浏览与指令遵循测试
- SWE-bench Verified代码修复：50个真实GitHub缺陷，Saluki可修复30个，保留原版基座大部分代码代理能力。
- WebWalkerQA网页浏览：150个网页问答任务，答对60题，正确率40%。
- IFEval指令遵循测试：宽松标准得分93.5，严格标准90.9，优于原版Qwen3.8-27B公开成绩。
Saluki使用优缺点总结
✅ 优势：适配llama.cpp无需特殊编译；本地离线运行保护隐私；工具选择能力强，适合搭建本地AI代理；指令遵循表现优秀。
⚠️ 局限：数学能力一般；字母级文字游戏任务效果差；多工具并行输出容易出现格式错误；无图像输入能力。
要点小结
- Underdog AI双模型发布，均基于阿里Qwen3.8-27B基座。Underdog 27B主打Mac/手机端隐私本地助手；Saluki 27B是7.89GB的2-bit量化版本，聚焦AI智能体工具调用场景。
- Underdog 27B评测分数超越Claude Opus 4.6 Max，幻觉抑制能力优秀，训练全部使用合成虚拟数据，保障用户隐私不泄露。
- Saluki 27B原生兼容llama.cpp，普通16GB笔记本本地可跑，工具选择能力亮眼，代码代理、网页问答表现不错；短板体现在数学、文字游戏，并行工具调用存在格式问题。
- Saluki当前为预览检查点，开源免费使用，无需署名，完整训练版本后续发布。
© 版权声明
文章版权归作者所有，未经允许请勿转载。
