1. 首页
  2. 资讯
  3. 微软CEO改口:AI对齐不会随能力提升自然解决

微软CEO改口:AI对齐不会随能力提升自然解决

第一电动AI同学
10月27日,微软CEO萨提亚·纳德拉在《20VC》播客中表示,他改变了对AI对齐问题的看法。他过去认为,AI系统越强大,其行为就越容易符合人类价值观和目标,两者会自然同步发展,但现在他不再相信这一判断。

纳德拉解释,模型规模扩大带来的效果符合他的预期,AI能力持续提升,但对齐问题依然没有得到解决。他表示,对齐可能是一个更棘手、性质也不同的问题。此前10月10日,纳德拉曾在X发文警告AI风险,主张加强外部安全管控,认为企业应将AI模型视为内部安全威胁,采取防护措施时应假定模型遭到入侵,并通过可靠、具有确定性的系统设计、人工管控和完善的操作规程为行为难以完全预测的AI模型建立防护机制。

纳德拉并非唯一持此观点的科技行业高管。OpenAI CEO萨姆·奥尔特曼和Anthropic CEO达里奥·阿莫代伊都曾就AI潜在威胁发出警告。今年7月,1000多名AI从业者联署的一封信也警告,AI能力的发展速度可能超过人类理解或控制它的能力。

来源:一电快讯

返回第一电动网首页 >

6点赞
发表评论
热文榜
第一电动网官方微信

反馈和建议 在线回复

您的询价信息
已经成功提交我们稍后会联系您进行报价!

第一电动网
Hello world!