随着AI技术在文生文、文生图、文生视频等领域的成熟应用，如何辨别这些由AI生成的内容成为了新的挑战。为了解决这一信任危机，腾讯今日宣布推出专门针对AI生成文本和图像的检测工具。
- AI生成图像检测：https://matrix.tencent.com/ai-detect/ai_gen
- AI生成文本检测：https://matrix.tencent.com/ai-detect/ai_gen_txt
AI生成图像检测系统
腾讯旗下的朱雀实验室开发了一款AI生成图片检测系统，该系统能够在几秒钟内完成从上传图片到判断其是否由AI生成的过程。此系统的检测逻辑主要基于捕捉真实图片与AI生成图片之间的差异，例如：
- 常识逻辑不符：AI生成的图片有时可能包含不合常理的元素。
- 特定标记或水印：某些情况下，AI生成的图片可能会带有特定的标识。
- 隐层特征：AI生成图片中可能存在特有的隐形特征，这些是自然拍摄的照片所不具备的。
为了提高检测准确性，该系统使用了超过140万份正负样本进行训练，覆盖了包括人体、人像、风景、地标在内的多种场景，测试结果显示检出率达到了95%以上，并且还在不断优化中。
AI生成文本检测系统
除了图像检测外，朱雀实验室还同步推出了AI生成文本检测系统。通过分析大量AI生成文本与人类写作内容的数据，这个系统能够有效地区分二者。其工作原理包括：
- 大数据学习：系统通过对不同领域、不同大语言模型生成的文本进行学习，积累了丰富的正负样本库。
- 对比分析：采用将待检测文本与大模型预测内容进行重叠度比较的方法，以此评估文章的AI生成可能性，增强对未知数据集的识别能力。
当前，文本检测系统已经可以处理新闻通讯、公文、小说、散文等多种文体，未来还将进一步扩展至诗歌等体裁，以提升整体识别精度。
评论0