近日,OpenAI安全系统团队负责人约翰内斯·海德克宣布即将离职,这是近年来OpenAI安全与对齐团队多名员工离开的最新案例。OpenAI首席研究官陈信翰表示,公司感谢海德克的贡献,并期待在新任研究与安全副总裁米娅·格莱泽的领导下,安全工作能更深入地融入各研究团队。此次人事变动显示OpenAI正在重新思考研究与安全工作的关系,强调了解模型的基础能力和潜在安全影响对于作出正确决策的重要性。
尽管OpenAI强调其使命是确保人工通用智能(AGI)造福全人类,并视安全为核心,但公司一直未能稳定留住高级安全负责人。一些离职员工公开质疑OpenAI是否真正重视安全工作,指出公司更看重推出产品而非确保产品安全。例如,前超级对齐团队负责人扬·莱克在离职时直言,安全文化和流程已被产品挤到次要位置。知名AI分析师安德鲁·柯伦将OpenAI安全负责人频繁更替的现象形容为一种诅咒。
来源:一电快讯
返回第一电动网首页 >
以上内容由AI创作,如有问题请联系admin#d1ev.com(#替换成@)沟通,AI创作内容并不代表第一电动网(www.d1ev.com)立场。
文中图片源自互联网或AI创作,如有侵权请联系邮件删除。