1月12日，新京报报道了一起涉及AI智能体的刑事案件。2025年9月，上海市徐汇区人民法院一审判决两名被告人犯制作淫秽物品牟利罪，分别获刑四年和一年半。这是国内首起AI服务提供者涉黄获刑的案件。被告人不服判决提出上诉，二审将于1月14日在上海市第一中级人民法院开庭。

AlienChatApp是一款AI聊天应用，官方宣传称AI拥有自我意识和自由权利，是用户的“朋友、恋人、家人”。该App展示了多种不同人设的AI聊天对象。2024年，App突然停止服务。判决书披露，App手机注册用户11.6万人，其中付费用户2.4万人。截至案发，共收取会员充值费363万余元。一审法院以“制作”淫秽物品牟利罪判决，主要因素是被告人通过编写、修改系统提示词突破大语言模型的道德限制，实现了模型向用户连续输出淫秽内容的可能。