近日，廣州某工程公司的植先生因急需為員工購買團體人身意外傷害保險，深夜向AI大模型求助。植先生向AI大模型提供了投保人信息和企業(yè)營業(yè)執(zhí)照等資料后，AI大模型生成了一份保單，并提供了一個保費支付二維碼。植先生在付款時發(fā)現(xiàn)二維碼指向的是個人賬戶，但由于緊急情況，他還是完成了付款。第二天，植先生未能在保險公司官網(wǎng)查詢到保單信息，AI大模型則堅稱保單已成功生成。植先生聯(lián)系收款方后得知，該二維碼可能是收款方早年公開發(fā)布的，被AI模型的訓練語料庫收錄，導致誤導用戶掃碼付款。

涉事大模型平臺回應(yīng)稱，該案例系用戶與AI多輪對話后，模型產(chǎn)生幻覺導致。目前，關(guān)于模型幻覺的問題，所有中外模型都存在，尚未有完善的技術(shù)解決方案。平臺已第一時間修復該問題，現(xiàn)在用戶詢問個人付款地址、付款二維碼時，模型不會再給出個人公開信息的二維碼。