ModelTrace

4周前发布 148 00

ModelTrace 是一款本地运行的主动模型归因开源工具,依靠三条独立长整数生成挑战提取模型输出指纹,在候选库内自动判定模型家族以及精确版本,用来检测第三方中转API是否存在模型替换、套壳问题。

所在地:
xqy2006
收录时间:
2026-09-30
ModelTraceModelTrace

ModelTrace 是一款本地运行的主动模型归因开源工具,依靠三条独立长整数生成挑战提取模型输出指纹,在候选库内自动判定模型家族以及精确版本,用来检测第三方中转API是否存在模型替换、套壳问题。

运行方式

本地部署(后端Gradio网页)

python -m pip install -r requirements.txt
python start.py

启动后访问:[http://127.0.0.1:7860/](http://127.0.0.1:7860/)

还有纯前端无后端版本:static/index.html,指纹计算、指纹库读取全部在浏览器本地完成,可通过GitHub Pages直接部署。

使用模式

  1. 手动测试:复制三条挑战指令发给待测模型,再把模型输出粘贴回页面完成归因,适合仅拥有聊天界面、无API密钥场景。
  2. API自动测试:填入Base URL、API Key、模型名称。自动兼容OpenAI Chat Completions、Anthropic Messages接口格式,采集三份有效输出自动完成归因。

    API Key仅当前页面调用接口,不会写入磁盘。原始prompt会保存至jsonl,而指纹库仅存放统计特征、校准参数,不会留存完整对话原文。

  3. 指纹库管理:可新建自定义指纹库,也能通过API向现有库录入新模型指纹。

Codex任务内监测插件

配套 modeltrace-guard 插件,可以嵌入Codex任务后台静默检测:
在任务运行过程中fork任务快照并行执行检测与复测,主任务不用等待检测结果。

  • 默认复测3次,可调整探针间隔、有效期,支持十种语言,探针数量无硬性上限;
  • 网页仪表盘查看历史记录、实时提醒;
  • 检测结果不一致时,通知智能体并暂停任务;多次复测均异常,拦截后续工具调用;
  • 探针由Codex自身生成,探针推理消耗模型额度,页面刷新不会额外扣费。
    安装:把插件放入Codex CLI /hooks,信任钩子后在任务开启监测。

核心算法

特征由两部分加权融合:

0.75 × 去除环境偏移后的Hellinger模型中心相似度 + 0.25 × 有序块数字序列特征

建库阶段,估算系统提示词等带来的环境干扰偏移;归因时先剔除该干扰,再比对全部模型特征中心。

三份样本独立打分后取均值,经校准温度转为概率。通过全局softmax算出单模型概率;家族概率为旗下所有模型概率之和。

输出结果属于闭集概率,仅针对指纹库内候选模型;待测模型不在库内,依然会匹配相似度最高条目。

内置指纹库

内置包含GPT、Claude两大家族,合计16个模型:
gpt-5.4、gpt-5.5、gpt-5.6-luna、gpt-5.6-terra、gpt-5.6-sol、gpt-6-astra、gpt-6-sol、gpt-6-luna
claude-haiku-4-5-20251001、claude-sonnet-4-6、claude-sonnet-5、claude-opus-4-6、claude-opus-4-7、claude-opus-4-8、claude-opus-5、claude-opus-5-5

⚠️重要声明

  1. 归因结果只作为参考,不能作为判定模型的决定性证据。
  2. 仅能识别指纹库收录模型,不在库内的模型,会被匹配到最接近条目,结论不可靠。
  3. 系统提示词会显著改变模型数字输出偏好,不要在Claude Code环境下测试,偏差会很大。

相关导航