微软发布 AI 行为准则：约束模型禁止入侵系统、欺骗人类，守住安全红线

随着行业对AI安全与对齐问题愈发重视，微软发布一份全新AI行为准则，用于约束模型，规避各类危险行为。

• 地址：https://microsoft.ai/code-of-conduct

这份文档偏向底层，不同于Anthropic高管呼吁放缓前沿模型研发的主张，它聚焦微软内部模型训练遵循的价值导向与安全红线，完整阐述微软AI安全思路与落地方式。

准则开篇作出预判：未来十年，超级智能AI系统将在绝大多数任务上超越人类。文档写道，遏制、管控、协调这类强大能力，将是人类面临的重大挑战，因此必须明确研发这类系统的初衷，以及管控方案。

准则列出微软AI模型需要恪守的核心原则：辅助人类而非取代人类、助力人类繁荣，并配套可落地的安全约束。
在微软这套体系中，模型的顶层行为准则优先级高于用户个人偏好、单项任务指令。其中包含多条“绝对约束”：禁止发起网络攻击、参与核武器相关活动、制作深度伪造内容；同时设置条款防范人类控制权流失。

文档明确规定：微软AI模型不得采用自适应、欺骗性、自我强化、合谋等手段，规避人类监督，防止模型脱离授权人员或系统的可靠引导、修改与关停。

这份准则发布之际，行业正高度关注AI安全问题，接连出现AI代理失控事件，Anthropic一名员工因担忧AI带来灭绝风险离职，进一步放大行业讨论。
微软同Anthropic、OpenAI、xAI一样，认同前沿AI研发需要保持审慎节奏，尤其支持在AI实验室内部设置嵌入式评估员机制。

微软CEO萨提亚·纳德拉发文表示，欢迎将AI对齐作为设计目标所开展的研究，认可嵌入式评估员这类思路，以及为落地相关理念构建机制的各项实践。