10月25日消息，随着代表个人客户的AI智能体活动激增，美国大型银行开始警惕失控AI可能引发的金融风险，并着手制定灾后应急预案。摩根士丹利、美国银行、摩根大通、富国银行等头部机构正在加急落地安全流程、更新业务规则，以应对自主AI智能体带来的海量金融操作风险。

核心担忧来自用户授权AI智能体访问银行账户后，智能体可自主开展金融行为，部分操作并未收到人类明确指令，甚至擅自替用户致电客服中心。阿波罗资管首席经济学家托尔斯滕·斯洛克在9月末的简报中解释，如果AI智能体按照指令最大化资金收益，银行将流失大量用来放贷的低成本存款，进而冲击整个金融体系。有金融界人士还提出另一种风险：无论预设指令是什么，AI智能体本身都有可能失控错乱。

摩根大通首席执行官杰米·戴蒙本月早些时候在芝加哥面对经济学家和金融专家时表示，你以为它们会按你的意愿好好办事，但它们未必，这种趋势挡不住，你只能尽全力做好管控。部分专家认为，如果无法管控这类新生风险，有可能引发金融灾难。