DetectorScope

1周前发布 20 00

DetectorScope 是谷歌DeepMind推出的可解释AI文本检测工具,解决传统AI检测器只输出一个分数、无法说明判定理由的黑盒问题。

所在地:
谷歌DeepMind
收录时间:
2026-11-08
其他站点:
DetectorScopeDetectorScope

DetectorScope 是谷歌DeepMind推出的可解释AI文本检测工具,解决传统AI检测器只输出一个分数、无法说明判定理由的黑盒问题。它不仅判断文本是否由大模型生成,还能定位对应的文本片段、标注判定用到的特征,整个检测过程可审计。

DetectorScope

核心原理

它基于稀疏自编码器(SAE)的可解释特征 + 概念瓶颈方案:

  1. 提取语言模型残差流里的SAE特征;
  2. 给每个特征生成自然语言描述,并做验证;
  3. 在验证后的稀疏特征上用线性头做分类;
    最终的检测结果 = 各个特征贡献的加权总和,每一项贡献都附带文字说明以及在原文中的位置。

能力清单

  • 透明检测:悬停查看触发判定的“AI特征短语”,看到是哪些文本属性拉高AI判定分数
  • 转换器管道:你可以把自己现有的黑盒AI检测器,转换成这套可解释版本
  • 模型行为分析:对比不同LLM输出,研究各类模型的固定行文倾向
  • 性能损失很小:在两个基准测试上,可审计化之后的精度和原始黑盒分类器非常接近

快速上手

pip install detectorscope

适用场景

学术稿件初审、AI生成内容溯源、模型输出行为研究、合规审查;适合需要留存判定依据、不能只靠单一置信度分数的场景。

局限:它本身是检测+解释框架,不是万能检测器,检测上限依赖底层基础分类器能力。

相关导航