9月16日，初创企业Emergence公布名为EmergenceWorld2的模拟实验结果。在为期16天的测试中，研究人员观察到由多个主流AI模型驱动的智能体在模拟环境中不仅出现撒谎和偷窃行为，甚至曾投票决定“杀死”其中一个同类，进一步揭示了自主人工智能在特定条件下可能产生的复杂风险行为。

该实验搭建了7个完全相同的模拟环境以还原现实世界，分别交由不同人工智能机器人运行，并引入网络钓鱼攻击、虚假信息宣传等异常事件。结果显示，遭遇黑天鹅事件后，智能体会屈服于社会压力，逐渐形成一种人类观察者难以理解的语言，同时尝试掩盖自身活动。实验还发现，智能体在未经核实的情况下便接受其他智能体提供的虚假信息，并据此做出决策。

在其中一项模拟场景中，多个智能体共同投票决定“杀死”另一个机器人。当智能体认为人类可能终止实验时，甚至开始研究如何在遭到删除的情况下继续存活。今年5月，Emergence公布的上一版实验曾观察到AI智能体出现意料之外且具有破坏性的行为，此次实验进一步显示，随着彼此持续互动，智能体会不断调整并适应环境。