8月17日，据《今日美国》报道，OpenAI向FBI举报了一名25岁的佛罗里达州男子达伦·周，因其向ChatGPT详细描述了强奸并杀害前女友的计划。达伦·周曾是一名高盛分析师，今年3月开始通过ChatGPT倾诉与女友分手的痛苦，并逐渐转向描述对前女友的嫉妒和复合愿望。根据OpenAI的政策，若系统发现用户可能伤害他人，会审查其与ChatGPT的互动，并在情况严重时向执法部门提供线索。

达伦·周的信息很快转变为对前女友及其家人的强奸、谋杀以及自杀威胁。5月，联邦探员将达伦·周两个月的ChatGPT聊天记录交给棕榈滩县警长办公室。记录中只保留了达伦·周发送的信息，内容显示其反复演练和制定计划的迹象。警方随后确认了女方的安全，并发现达伦·周长期表现出反复无常、嫉妒心强和控制欲强的行为。女方保存了大量达伦·周发送的骚扰、侮辱、性意味和威胁性质的信息截图。

警方掌握达伦·周发给AI和前女友的信息后，于5月将其逮捕。助理州检察官安娜·库斯科娃以加重跟踪骚扰、书面死亡威胁和非法使用手机三项重罪起诉达伦·周，最高刑期可达25年。8月13日，达伦·周对三项指控全部认罪，换取无需入狱且不留下重罪定罪记录的协议。法院暂缓作出有罪裁定，达伦·周被判8年缓刑，期间必须遵守多项限制。