UkisAI 推出Swift 1.5:基于Qwen3.8-27B,编程/智能体任务更强,思考Token最高减少58.5%

UkisAI 推出 Swift 1.5Qwen3.8-27B,是在原版Qwen3.8-27B基础上做推理效率优化的衍生模型,作为下载量超35万的Swift1.0的升级版本。核心亮点:大幅削减冗余思考token,编码、智能体任务性能显著提升,部分场景最高实现1.95倍推理加速。

  • 官方页面:https://ukisai.com/products/swift
  • 模型:https://huggingface.co/collections/ukisai/swift-15-27b

优化思路

团队定位很多长推理模型存在病态过度思考问题,训练策略是识别这类无效token并做惩罚,同时依靠RL+OPD后训练方式挽回精度。不是粗暴缩短推理长度,而是压缩无效思考内容,在保留推理能力的前提下精简输出。

本次Swift1.5在1.0的基础上扩大后训练规模,重点面向长上下文视野、AI智能体、代码任务优化,在LiveCodeBench、Terminal Bench 2.1有明显收益。

基准测试对比(BF16)

  • 通用推理:GPQA-Diamond,基础Qwen3.8得分88.28%,Swift1.5达88.59%,中位思考token下降58.5%
  • 编码:LiveCodeBench v6,基线76.76%,Swift1.5提升至81.71%,编码能力提升明显
  • 智能体:Terminal-Bench 2.1,基线69.21%,Swift1.5为72.13%

    备注:Terminal-Bench表面token节省幅度看起来偏低,原因是基础模型容易陷入无效思考循环直接任务失败;只统计两者全部成功完成的任务,Swift1.5的token降幅可达38.7%。

跨reasoning_effort不同档位测试,从xhigh、medium到low模式,思考token缩减效果稳定。low档位下Swift1.5分数超过原生Qwen3.8,思考token减少约28.7%。

丰富量化版本,适配本地部署

官方一次性放出BF16原版 + 全套量化权重,覆盖主流本地推理生态:

  • GGUF(含GSQ-RCO 2~3bit紧凑量化):适配llama.cpp
  • AWQ / AutoRound / AWQ+GPTQ INT4:vLLM部署
  • NVFP4:适配NVIDIA Blackwell架构
  • AMD Quark FP8:AMD显卡生态
  • MLX 3/4/5bit:Apple硅芯片本地运行

量化版本同样保留精简思考token的特性,部分量化模型在GPQA、AIME基准上甚至超越基础Qwen3.8精度。

要点小结

  1. 模型定位:Swift1.5 Qwen3.8-27B,Qwen3.8-27B衍生模型,Swift1.0迭代升级版;
  2. 核心优化:惩罚病态冗余思考token,RL+OPD后训练保精度,编码与智能体任务为优化重心;
  3. 性能表现:LiveCodeBench提升明显,GPQA基准精度小幅上涨,中位思考token最高减少58.5%;
  4. 部署友好:GGUF、AWQ、MLX、AMD Quark、NVFP4等多量化格式齐全,适配llama.cpp、vLLM、Apple MLX;
  5. 特性:在高/中/低三档推理努力设置下,token压缩收益都能稳定生效。
© 版权声明

相关文章