AI幻觉
AI会生成的看似合理但实际错误的信息
条目
AI幻觉可以分为内在幻觉和外在幻觉两类。[3]内在幻觉是指产生的同输入信息不一致的内容，包括同用户输入的问题或指令 不一致，或是同对话历史上下文信息相矛盾。外在幻觉则是同世界知识不一致或是通过已有信息无法验证的内容。[3]当AI系统无法理解问题或所提供的信息时，就可能产生幻觉。AI幻觉通常发生在两个场景，一是模型根据训练数据中的类似情境填补信息空白时，二是系统基于存在偏见或不完整的训练数据构建时。[4][5]
为减少AI幻觉的产生，可从多个层面发力，首先在算法技术层面加以改进提升，比如设计更稳定、更鲁棒（鲁棒性是指系统在面对外部干扰或数据异常时，仍能保持可靠性和稳定性的能力）的算法，优化模型架构等。此外，在数据层面，应尽可能提供高质量、无偏差的训练数据，从源头减少数据偏差引发的“幻觉”问题。[5]
分类
AI幻觉可以分为内在幻觉和外在幻觉两类。内在幻觉是指产生的同输入信息不一致的内容，包括同用户输入的问题或指令不一致，或是同对话历史上下文信息相矛盾，如AI模型会在同一个对话过程中，针对用户同一个问 题的不同提问方式，给出自相矛盾的回复。外在幻觉则是同世界知识不一致或是通过已有信息无法验证的内容，例如AI模型针对用户提出的事实性问题给出错误回答，或编造无法验证的内容。[3]