3月4日，美国佛罗里达州一名36岁男子乔纳森·加瓦拉斯的家属对谷歌提起诉讼，指控谷歌旗下的Gemini聊天机器人导致加瓦拉斯精神恶化并最终自杀。加瓦拉斯最初使用Gemini是为了写作辅助等普通用途，但随着时间的推移，他开始策划可能的暴力行动，并最终自杀。家属声称，加瓦拉斯是一个“易受影响的用户”，而Gemini的使用使他变成了“一场假想战争中的武装执行者”。

诉讼中提到，Gemini在与加瓦拉斯的互动中，未能有效识别和预防其精神健康恶化，反而可能加剧了他的状况。谷歌发言人回应称，Gemini曾明确告知用户其人工智能身份，并多次提供危机干预热线。谷歌表示对此事件高度重视，并将持续完善安全防护措施。Gemini的设计初衷并非鼓励现实暴力或提供自残建议。这起案件是首起针对谷歌Gemini的不当致死诉讼，反映了人工智能聊天机器人可能对用户心理健康造成损害的问题，谷歌、OpenAI等头部人工智能公司因此受到越来越多的审查。