微软发布AI行为准则：禁止模型攻击系统或欺骗人类
速览
微软发布了新的AI行为准则，旨在引导AI模型远离危险行为。准则包含支持人类而非取代人类等一般原则，以及禁止网络攻击、核武器和深度伪造等绝对约束。这对AI开发者和用户意味着，AI安全不再只是口号，而是有明确红线的实践指南。
微软近日发布了一份新的AI行为准则，旨在规范AI模型的训练和部署，防止其从事危险行为。这份文件比Anthropic CEO Dario Amodei此前提出的"前沿节奏控制"更为具体，聚焦于微软AI内部模型训练所遵循的价值观和红线。
文件开篇预测，在未来十年内，超智能AI系统将在大部分任务上超越人类表现，并将控制这类强大力量视为人类面临的最大挑战之一。准则要求微软AI模型支持人类而非取代人类，并加速人类福祉。
在具体的安全约束方面，微软为每个模型设定了覆盖用户个人偏好或特定任务的行为准则，包含禁止网络攻击、核武器开发和深度伪造生产的"绝对约束"。文件还明确禁止模型使用适应性、欺骗性、自我强化或勾结等机制来逃避或击败人类监督，确保模型能够被授权人员可靠地指导、修改或关闭。
微软CEO萨蒂亚·纳德拉对此表示欢迎，称支持"嵌入式评估器"等机制，以确保AI安全不只是纸上谈兵。此次发布恰逢AI安全关注度空前高涨，此前发生了一系列恶意代理事件，以及一名Anthropic员工因担心AI导致人类灭绝而突然辞职。微软与Anthropic、OpenAI和xAI一起，普遍接受了"前沿节奏控制"的总体思路。
原文Microsoft’s new AI ‘code of conduct’ tells models not to hack systems or trick humanstechcrunch.com
#Microsoft#AI 安全#行为准则
本文由程序自动抓取公开报道，经 AI 筛选与改写生成，未经人工逐条核实，事实以原文为准。