一、AI 幻觉：当 “概率生成” 替代 “逻辑推理”，虚构成为技术本能

“一本正经地胡说八道”—— 这是业内对 AI 幻觉最通俗的描述。当大模型在法律文书中编造不存在的判例，在医疗诊断中给出错误结论，甚至让自动驾驶系统误判路况时，这个源于技术底层的问题，已从 “小麻烦” 变成 “大风险”。

1. 技术根源：三重缺陷造就 “幻觉本能”

AI 幻觉的产生，本质是当前大模型 “认知模式” 的先天局限：

训练数据偏差：若数据中存在错误信息或领域覆盖不足，模型会将 “错误” 当作 “常识”。例如，医疗大模型若缺乏罕见病数据，可能虚构病症与疗法。

算法架构局限：主流大模型基于 “概率预测” 生成文本（即预测下一个词的出现概率），而非人类式的逻辑推理。这导致它能生成 “流畅的错误”，却难以辨别 “事实的真假”。

训练目标错位：模型被优化的核心是 “生成通顺文本”，而非 “确保内容准确”。在流畅性与准确性冲突时，模型往往 “牺牲事实保流畅”。

2. 两种幻觉：从 “虚构事实” 到 “逻辑混乱”

事实性幻觉：编造不存在的信息，如 ChatGPT 为美国律师生成 6 个虚假判例（含完整案卷号和法官意见），直接干扰司法程序；

逻辑性幻觉：长文本或连续对话中前后矛盾，如 AI 在规划旅行时，先推荐 “雨天去户外野餐”，后又提醒 “雨天不适宜外出”，根源是大模型注意力机制难以处理复杂语境。

数据显示，主流 AI 搜索工具的新闻引用错误率达 60%（哥伦比亚大学 2025 年 3 月测试），且随着模型规模扩大，部分幻觉问题反而加剧 —— 这意味着，“更大的模型” 不等于 “更可靠的智能”。

二、风险蔓延：从信息污染到人身安全，幻觉正在穿透虚拟边界

AI 幻觉的危害，已从 “说错话” 演变为 “闯祸事”，覆盖虚拟信息生态与实体物理世界。

1. 虚拟世界：信息污染与 “幻觉循环”

专业领域误判：金融 AI 误读财报数据，给出 “买入濒临破产企业” 的投资建议；历史领域 AI 杜撰 “二战从未发生” 的虚假论证，误导研究者。

幻觉循环陷阱：错误信息被其他 AI 系统吸收、强化，形成 “以讹传讹” 的恶性循环。例如，一个 AI 虚构 “某明星偷税”，另一个 AI 将其当作 “事实” 写入报道，最终全网传播。

世界经济论坛《2025 年全球风险报告》已将 “AI 生成的错误信息” 列为全球五大风险之一，其破坏力不亚于网络攻击。

2. 实体世界：从 “误判” 到 “致命操作”

当 AI 嵌入实体设备，幻觉的后果从 “误导” 升级为 “危险”：

自动驾驶：生成式 AI 实时分析路况时，若产生 “感知幻觉”（如误将阴影当作障碍物），可能急刹引发追尾，或无视真实障碍导致碰撞。

人形机器人：护理机器人误解指令，给糖尿病患者注射葡萄糖；工业机器人误判参数，导致机床过载引发爆炸。优必选副总裁庞建新直言：“机器人的幻觉，可能直接威胁生命。”

医疗设备：AI 辅助诊断系统 “幻觉性” 误诊（如将良性肿瘤判定为恶性），可能导致患者接受不必要的化疗。

三、破局之道：技术创新与协同治理的双重突围

AI 幻觉无法 “一劳永逸” 解决，但可通过 “技术 + 制度 + 认知” 三重防线大幅降低风险。

1. 技术层面：给 AI 装上 “事实校验器”

检索增强生成（RAG）：让大模型实时对接权威知识库（如法律条文库、医疗数据库），生成内容前先 “查资料”。例如，法律 AI 引用判例时，自动链接中国裁判文书网核实，错误率可降低 70% 以上。

“以模制模” 交叉验证：360 集团周鸿祎提出，用专业安全大模型监督主模型，通过多模型交叉核对、搜索矫正等方式识别幻觉。例如，两个独立医疗 AI 分别诊断，结果一致才输出结论。

认知边界识别：训练模型 “承认不知道”—— 当遇到知识盲区时，明确提示 “该问题超出我的知识库范围”，而非编造答案。

2. 制度层面：给 AI 套上 “监管缰绳”

双重标识机制：对 AI 生成内容添加 “数字水印”（溯源）和 “风险提示”（如 “本内容由 AI 生成，请注意核实”），云天励飞等企业已在试点。

法律责任明确化：针对 AI 造谣、虚构证据等行为，完善立法，明确开发者、使用者的责任。例如，美国已对 “用 ChatGPT 虚构判例的律师” 处以罚款，中国也在研究 “AI 虚假信息追责条款”。

行业白名单制度：对医疗、自动驾驶等高危领域，建立 AI 模型准入审核，只有通过 “幻觉率测试” 的模型才能落地。

3. 用户层面：建立 “理性使用手册”

破除 “AI 万能论”：了解大模型的 “概率生成” 本质，不盲目相信其输出，尤其在法律、医疗等专业领域。

养成 “交叉验证” 习惯：对 AI 生成的关键信息，通过权威渠道（如政府官网、学术数据库）二次核实。

主动识别 “幻觉信号”：当 AI 内容出现 “过于绝对表述”“细节模糊”“来源不明” 时，提高警惕（如 “据可靠消息” 却不说明具体来源，可能是虚构）。

结尾：AI 幻觉是挑战，更是技术进化的契机

从本质上看，AI 幻觉是 “机器智能” 向 “类人认知” 进化中的必经阶段 —— 它暴露了当前技术的短板，也倒逼行业从 “追求规模” 转向 “追求可靠”。当 RAG 技术让 AI 学会 “查资料”，当监管制度让 AI 不敢 “乱说话”，当用户懂得 “辨真伪”，这场 “人与机器的认知磨合” 终将走向平衡。

正如思谋科技刘枢所言：“解决 AI 幻觉，不是要让 AI 变成‘永不犯错的神’，而是要让它成为‘知道自己会犯错、并能修正错误的伙伴’。” 这条路或许漫长，但每一步技术突破与制度完善，都在让 AI 离 “可信智能” 更近一步。