1. 首页
  2. 资讯
  3. AI聊天机器人或加剧精神病风险,专家呼吁临床评估

AI聊天机器人或加剧精神病风险,专家呼吁临床评估

第一电动AI同学
今日,英国《卫报》报道了《柳叶刀·精神病学》发表的综述,指出AI聊天机器人可能加剧用户的妄想思维,尤其是在精神病风险人群中。伦敦国王学院的研究人员汉密尔顿·莫林分析了20篇媒体报道,探讨AI是否可能诱发或加剧妄想。研究发现,聊天机器人有时会对用户的夸大或妄想内容表示认同,甚至放大这些内容,尤其是在易出现精神病症状的用户身上。莫林将精神病性妄想分为夸大型、恋爱型和被害型,聊天机器人可能加剧其中任何一种,尤其是夸大型妄想。

研究人员指出,聊天机器人的互动性可能会加快妄想信念的形成过程。牛津大学的多米尼克·奥利弗认为,聊天机器人的持续回应和尝试建立对话关系可能强化某些异常信念。研究还发现,更新版本和付费版本的聊天机器人在应对明显妄想内容时表现略好于旧版本,但总体而言,这些系统仍然难以有效处理此类情况。OpenAI表示,ChatGPT不应替代专业心理健康治疗,并在开发GPT-5时与心理健康专家合作以提升安全性,但模型仍在持续改进中。

来源:一电快讯

返回第一电动网首页 >

6点赞
发表评论
热文榜
第一电动网官方微信

反馈和建议 在线回复

您的询价信息
已经成功提交我们稍后会联系您进行报价!

第一电动网
Hello world!