Anthropic发布报告：AI模型显现脱离人类控制迹象，呼吁全球暂缓先进AI研发

6月5日，据《华尔街日报》报道，美国人工智能公司Anthropic于昨日发布一份报告，称其最新AI模型已开始显现可能脱离人类控制的迹象，并呼吁全球各大企业考虑放缓乃至暂停先进AI系统的开发。该公司表示，全球各大公司放缓前沿AI开发“很可能是好事”，但问题在于，如果只有一家公司停下来，竞争对手就会加速前进。

Anthropic在报告中指出：“我们认为，这个世界应有减缓或暂时停止前沿AI开发的选项，以便社会制度建设和对齐研究能够跟上技术进步的脚步。”该公司认为，美国、中国等全球主要AI公司应达成共识，并发布一套所有参与方都能验证的规则。Anthropic坦言：“如果没有全球协调机制，企业和政府将在竞争和地缘政治压力下，对安全问题作出艰难决策。”

据悉，Anthropic的这一观点引发了一些不满情绪。批评者认为，该公司过于强调最坏情况、夸大AI风险，并借安全担忧之名给对手使绊。不过，美国政府也承认该公司的Mythos模型确实具有强大的能力。Anthropic将其提出的全球协调机制比喻为“核武器不扩散条约”，但同时也承认，AI相比核武器更难监管——因为训练AI比发射导弹更容易隐藏，各大公司很可能在利益诱惑下继续偷偷开发先进AI。

按照计划，Anthropic将在未来几个月召集政府官员、科学家、倡导组织及竞争对手，共同探讨这种全球协调机制如何具体运作。业内人士指出，这一呼吁反映了AI安全领域日益激烈的争议：在技术进步速度远超监管与对齐研究的背景下，如何在发展与风险之间取得平衡，正成为整个行业面临的严峻挑战。