SemIf

SemIf（原名 OpenJev）是一个独立研究项目，旨在用开放模型复现 TypeSafe Jev 的“语义 if”接口模式——即在运行时动态定义决策标准与选项，直接从模型 logits 读取带类型的概率分布，而非生成文本再解析。该项目不隶属于 TypeSafe，也未复刻其未公开的模型或训练数据，仅对齐其 API 行为范式。

核心优势在于零生成开销：一次前向传播即可获取所有声明选项的 logits，无采样、无 JSON 修复、无解码循环。在 RTX 3090 上使用 Qwen3.5-4B 处理 21 个二元决策时，直接 logits 读取中位耗时 1.023 秒（0 输出 token），而紧凑 JSON 数组生成需 5.332 秒（111 token），速度提升达 5.21 倍，且两者在 18/21 项上 argmax 结果一致。

技术机制：运行时定义、共享状态与可审计性

SemIf 的设计围绕三个原则展开：

• 运行时定义：决策标准和选项描述随请求动态传入，无需预训练特定任务头。
• 决策原生：模型输出层直接映射到声明的选项空间，跳过自然语言中介。
• 共享状态感知：当多个决策共享相同上下文（如浏览器页面状态），可预填充一次 KV Cache，再并行分支评估各标准。在 37 状态 × 21 标准测试中，并行后缀复用达 20.03 决策/秒，较全新评分（2.33/秒）提升 8.6 倍。

所有运行均记录确切模型修订版、提示哈希、计时及行级预测结果，fixture 与运行器代码完全开源，确保结果可复现、可审计。注意：快速复用路径为实验性功能，BF16 下相对于全新评分有 5–6/777 项 argmax 差异。

性能与质量基准

速度对比（RTX 3090, Qwen3.5-4B, 21 二元标准）

跨模型质量阶梯（浏览器场景，BF16 原始分数）

通用决策基线（4B 模型）

数据显示：直接 logits 在通用决策上显著优于 reranker；Qwen3.5-4B 在 TypeSafe 对齐子集上达 0.845 一致性，接近 Jev 的 0.883（注：Jev 数据来自其公开报告，非实时端点测试，且仅覆盖 102 行而非其宣称的 711 行）。

部署与使用

环境要求：Python 3.10+、CUDA GPU（≥4B BF16 显存）或 Apple Silicon（MLX 后端）。

安装与运行：

python -m venv .venv && source .venv/bin/activate
export HF_HOME=/path/to/large-drive/huggingface
pip install -e '.[test]'          # CUDA
# 或 pip install -e '.[test,mlx]' # Apple Silicon

semif-score \
  --mode direct \
  --model Qwen/Qwen3.5-4B \
  --revision 851bf6e806efd8d0a36b00ddf55e13ccb7b8cd0a \
  --input examples/decisions.jsonl \
  --output results.jsonl

若输入行状态相同，添加 --mode shared 启用前缀复用与并行评估。Apple Silicon 用户加 --backend mlx 启用原生加速。

最新变更（2026-09-18）已集成 MiniCPM5-2B 和 Qwen3.5-4B 至浏览器演示，并新增 Unsloppify 站点及常规界面切换开关。

重要声明与局限

• 独立性：SemIf 是纯学术研究项目，与 TypeSafe/Jev 无任何关联，商标归属原所有者。
• 非等价声明：与 Jev 的比较仅限于公开可对齐的 102 行子集，不代表整体能力对齐。
• 复用精度权衡：共享状态模式为实验性，存在少量 argmax 漂移，生产环境建议验证。
• 硬件门槛：4B 模型需 ≥8GB 显存（BF16）；量化 GGUF 可降低要求但可能影响质量。
• 适用范围：专为小粒度、高频率语义决策设计（路由、重试、证据判断），不适用于开放式生成或复杂推理。

SemIf 证明了在消费级硬件上，开放模型可通过架构创新逼近闭源语义决策服务的效率。它不是 Jev 的克隆，而是一种可审计、可扩展、可本地化的替代路径——尤其适合对延迟敏感、隐私要求高或需深度定制的智能体系统。