幻觉（人工智能）

解说

幻觉（Hallucination） 在人工智能领域是指大型语言模型（LLM）生成的内容虽然在语言上正确、逻辑上连贯、听起来也很有说服力，但事实却是错误的、无法验证的，甚至完全虚构的。人工智能的幻觉的产生源于语言模型的统计生成特性，它并不真正理解事实或来源，因此无法保证信息的真实性或提供可靠的引用。

示例

• 人工智能编造不存在的研究或来源。
• 关于企业、产品或人物的错误事实。
• 生成没有现实依据的数据或数字。

如何防止“AI幻觉”？

• 对 AI 输出进行批判性审查和质量控制
• 培训员工正确使用 AI 生成文本
• 避免因虚假信息导致的声誉风险