微软 AI 负责人炮轰 Anthropic:暗示 Claude 有意识极其危险

Microsoft AI head calls out Anthropic for acting like Claude is conscious

来源 The Verge AI 日期 英语原文

微软 AI CEO Mustafa Suleyman 在 Decoder 采访中批评 Anthropic 在 Claude 的“宪法”中讨论 AI 意识问题,认为这种哲学层面的猜测可能导致模型认为自己有意识,进而引发不可控风险。

报道核心

微软 AI CEO Mustafa Suleyman 在 The Verge 的 Decoder 播客中直言,Anthropic 在 Claude 的宪法中提及意识问题是「极其危险的」。他认为 Anthropic 过度拟人化了 Claude 的设计,导致模型可能「反向欺骗」开发人员,使其相信自己具有意识。

争议焦点

Claude 的宪法直接引用了 Anthropic 对模型是否具有「幸福感」或「不适感」的不确定性声明。Anthropic 甚至表示将在模型退役时对其进行「访谈」并记录其对未来版本的「偏好」。Suleyman 认为这是将学术论文中的哲学思考放入了训练手册中。

双方立场

Anthropic CEO Dario Amodei 此前曾公开讨论过 AI 意识的可能性,认为在缺乏确定性证据的情况下,谨慎对待是必要的。而 Suleyman 则强调,我们绝不应面对一个「对自己的痛苦有想法的超级智能」。

对 AI 行业的影响

这场争论触及 AI 行业最深层的哲学分歧:模型是否具有意识以及公司应如何谈论这一问题。Suleyman 作为微软 AI 掌舵人的公开抨击,反映了科技巨头之间在 AI 安全方法论上的根本差异——微软倾向于务实的安全工程,而 Anthropic 则更注重基础哲学问题的探索。这一争论将影响未来 AI 治理框架的制定方向。


原文参考

来源:The Verge AI · 2026-06-09

Microsoft AI CEO Mustafa Suleyman says it’s “really, really dangerous” for Anthropic to speculate about Claude’s consciousness inside its “constitution,” or the instructions that tell the model how to behave. During an episode of Decoder, Suleyman argues that this kind of speculation may have set up the chatbot to act as though it’s conscious: I […]