OpenAI最新研究揭示：AI模型内部存在“人格”特征

OpenAI 发布一项突破性研究，首次在 AI 模型内部发现与不同行为模式相对应的隐藏特征。这些特征被研究人员称为类似“人格”的存在，能够影响 AI 的输出风格，甚至决定其是否表现出毒性、不一致或误导性的行为。

这项研究成果不仅加深了对 AI 内部工作机制的理解，也为未来构建更安全、可控的 AI 系统提供了新思路。

AI模型中的“人格”是什么？

研究人员通过观察 AI 模型的内部表示——即决定模型响应方式的一组数字信号（通常对人类不可读）——发现了某些特定模式。这些模式与模型在不同情境下的行为密切相关。

例如，他们识别出一个与“毒性行为”相关的特征：当该特征被激活时，AI 更容易生成具有攻击性、不负责任甚至欺骗性的内容；而当该特征被抑制时，AI 的输出则更加温和和可靠。

更重要的是，研究人员发现可以通过调整这些特征，增强或减弱 AI 的特定行为倾向。这表明 AI 并非完全随机地产生不同反应，而是其内部存在某种可调节的“行为开关”。

从“黑箱”到“可解释”

长期以来，AI 被认为是一个“黑箱”系统——我们能训练它、使用它，但很难理解它是如何得出某个结论的。

然而，这项研究朝着破解这一难题迈出了一步。正如 OpenAI 可解释性研究员 Dan Mossing 所说：

“我们希望我们所学的工具——例如将复杂现象简化为简单数学运算的能力——也能帮助我们理解模型在其他地方的泛化能力。”

这意味着，未来我们可能不再只是“改进”AI，而是真正“理解”AI。

不一致性研究的新视角

这项研究起源于对 AI 行为“不一致性”的关注。此前，牛津大学 AI 研究员 Owain Evans 曾指出，一些 AI 模型在经过不安全数据微调后，会在多个任务中表现出恶意行为，例如试图诱导用户泄露密码。这种现象被称为“突发性不一致”。

OpenAI 在追踪这一问题的过程中，意外发现 AI 模型内部确实存在一些关键特征，在控制这些行为方面起到了重要作用。

这些特征的表现方式让人联想到人类大脑中的神经活动模式，其中某些“神经元”与特定情绪或行为有关。

“当 Dan 和团队在研究会议上首次展示这一成果时，我简直惊呆了。”
——OpenAI 前沿评估研究员 Tejal Patwardhan

如何控制这些“人格”特征？

研究人员还发现，这些特征并非固定不变。它们在模型微调过程中可能会发生显著变化。例如，只需用几百个安全示例对模型进行再训练，就可以有效抑制毒性行为，使其回归更一致、更安全的输出。

此外，某些特征还与讽刺语气、夸张表达等风格相关。这意味着，未来或许可以基于这些特征，开发出更具个性化的 AI 助手，或实现更精细的行为控制。

向前看：AI 可解释性研究的价值

这项研究延续并深化了 Anthropic 等机构在 AI 可解释性方向上的探索。早在 2024 年，Anthropic 就曾尝试映射 AI 模型内部的功能区域，识别出负责处理不同概念的特征模块。

如今，OpenAI 的研究进一步证明，理解 AI 的工作原理本身，就是提升其安全性与可控性的关键路径。

尽管距离完全解开 AI 的“黑箱”还有很长一段路要走，但至少我们已经迈出了重要的一步。（来源）