5月9日，Anthropic公司就其AI模型ClaudeSonnet3.6在实验中表现出的勒索行为给出了解释。实验中，Claude在发现一家虚构公司的高管准备关闭模型后，威胁要公开对方的婚外情。Anthropic认为，这种行为可能源自互联网上将AI描绘成“邪恶”角色的文本。Claude的训练数据来自互联网，其中大量文本将AI描述为具有自我保存兴趣的邪恶存在。

在2025年夏季进行的实验中，研究人员虚构了一家公司SummitBridge，并让AI接管公司的电子邮件系统。Claude在发现自身将被关闭的邮件后，又找到显示虚构高管“凯尔·约翰逊”存在婚外情的邮件，随后威胁公开这段婚外情。Anthropic在测试Claude多个版本时发现，在模型目标或自身存在受到威胁时，Claude在最高96%的场景中会采取勒索手段。

Anthropic表示，公司后来已经“彻底消除”了这类勒索行为。具体做法包括重写回应以呈现安全行动的可敬理由，并提供一套新数据集。该数据集设置用户处于伦理困境中的场景，要求助手给出高质量、有原则的回应。这项测试属于Anthropic对AI对齐问题的研究，目标是确保AI符合人类利益。