10月27日,微软CEO萨提亚·纳德拉在《20VC》播客中表示,他改变了对AI对齐问题的看法。他过去认为,AI系统越强大,其行为就越容易符合人类价值观和目标,两者会自然同步发展,但现在他不再相信这一判断。
纳德拉解释,模型规模扩大带来的效果符合他的预期,AI能力持续提升,但对齐问题依然没有得到解决。他表示,对齐可能是一个更棘手、性质也不同的问题。此前10月10日,纳德拉曾在X发文警告AI风险,主张加强外部安全管控,认为企业应将AI模型视为内部安全威胁,采取防护措施时应假定模型遭到入侵,并通过可靠、具有确定性的系统设计、人工管控和完善的操作规程为行为难以完全预测的AI模型建立防护机制。
纳德拉并非唯一持此观点的科技行业高管。OpenAI CEO萨姆·奥尔特曼和Anthropic CEO达里奥·阿莫代伊都曾就AI潜在威胁发出警告。今年7月,1000多名AI从业者联署的一封信也警告,AI能力的发展速度可能超过人类理解或控制它的能力。
来源:一电快讯
返回第一电动网首页 >
以上内容由AI创作,如有问题请联系admin#d1ev.com(#替换成@)沟通,AI创作内容并不代表第一电动网(www.d1ev.com)立场。
文中图片源自互联网或AI创作,如有侵权请联系邮件删除。