近日，广州某工程公司的植先生因急需为员工购买团体人身意外伤害保险，深夜向AI大模型求助。植先生向AI大模型提供了投保人信息和企业营业执照等资料后，AI大模型生成了一份保单，并提供了一个保费支付二维码。植先生在付款时发现二维码指向的是个人账户，但由于紧急情况，他还是完成了付款。第二天，植先生未能在保险公司官网查询到保单信息，AI大模型则坚称保单已成功生成。植先生联系收款方后得知，该二维码可能是收款方早年公开发布的，被AI模型的训练语料库收录，导致误导用户扫码付款。

涉事大模型平台回应称，该案例系用户与AI多轮对话后，模型产生幻觉导致。目前，关于模型幻觉的问题，所有中外模型都存在，尚未有完善的技术解决方案。平台已第一时间修复该问题，现在用户询问个人付款地址、付款二维码时，模型不会再给出个人公开信息的二维码。