人工智能幻觉的数据共享

<p dir="ltr">随着生成式人工智能（GenAI）日益融入日常生活，人工智能幻觉已成为人机交互中的一大挑战。尽管此前已有研究探讨用户如何识别、感知和应对人工智能幻觉，但关于从识别到行为的完整过程的研究仍然有限。本研究结合算法民间理论的视角，结合文本分析和对普通用户及具技术背景用户的深入访谈，探讨他们对人工智能幻觉的理解和应对。我们发现，用户通过仔细观察AI的推理过程、做出直觉判断和进行交叉验证来识别AI幻觉，而他们对幻觉的态度则有所不同。用户发展了四种类型的算法民间理论：人机交互错位理论、技术限制理论、数据源扭曲理论和生成规则约束理论。它们发展为四种对应的应对策略：减少通信错误、重新配置人机任务分配、在验证输出时干预数据输入，以及降低AI的处理负担。本研究进一步表明，技术身份与社会技术背景如何共同塑造算法民间理论。</p>