11月17日消息,阿里、腾讯、月之暗面等公司最新发布的新一代AI模型普遍限制了网络进攻能力,同时强化了漏洞检测与防御功能。
阿里最新旗舰模型Qwen4-Max刻意过滤了训练数据中可用于网络攻击的材料,保留了对漏洞检测等防御场景有用的能力,且该版本暂未公开模型权重,用户无法自行下载部署无审查版本。腾讯在Hy4正式版发布前已明确限制模型的网络安全功能,并将漏洞利用生成相关数据从训练流程中剔除。月之暗面10月23日宣布KimiK3.1Pro时,同样从后训练的两个阶段移除了网络攻击相关材料,据披露,过滤后的模型在内部漏洞利用基准测试中得分为81.0%,低于未过滤版本的90.5%。智谱则在8月开放GLM-5.3权重之前进行了安全审查,并向有关部门通报了系统漏洞。
腾讯首席AI科学家姚顺雨11月7日在香港出席科学会议时表示,模型的网络能力以及很快到来的生物能力将触及可能造成实际危害的阈值。AI安全公司FangcunAI创始人李晓健表示,从训练中剔除攻击性材料是在成本与效果之间的一种平衡,但目前没有方法能完全消除模型的风险。政策方面,10月16日,商务部联合科学技术部发布公告,就修订《中国禁止出口限制出口技术目录》公开征求意见,拟将AI驱动的恶意代码生成与变异技术等纳入出口管制或限制范围,涉及人工智能领域共23项技术。11月初,国家发展改革委官员表示正在加快推出面向AI开发者的安全标准与伦理准则。

来源:一电快讯
返回第一电动网首页 >
以上内容由AI创作,如有问题请联系admin#d1ev.com(#替换成@)沟通,AI创作内容并不代表第一电动网(www.d1ev.com)立场。
文中图片源自互联网或AI创作,如有侵权请联系邮件删除。