Agent幻觉
Template:Infobox Software Concept
Agent 幻觉（英語：AI Agent Hallucination）是指人工智能智能体（AI Agent）在自主执行复杂任务、调用外部工具或与物理/数字环境进行交互时，所产生的一种**非预期、脱离既定目标、或伪造执行状态的决策与行为偏差**。
与传统大语言模型（LLM）纯文本层面的“胡言乱语”（Textual Hallucination）不同，Agent 幻觉是一种**“行动与状态层面的高级幻觉”**。它不仅表现为文字上的不准确，更直接导致错误的系统操作（如删错数据库、误发邮件或陷入死循环），是当前 Agent 走向全自动产业落地（Autonomous Execution）的核心拦路虎。
核心表现形式
在实际的应用场景中，Agent 幻觉主要呈现为以下四种典型病征：
1. 工具误用与参数捏造 (Tool Misuse)
Agent 在面对未知或复杂的 API 接口时，为了强行完成任务，会凭空捏造不存在的参数，或者将 A 工具的输出错误地当作 B 工具的输入，导致执行链路在第一步就发生逻辑塌陷。
2. 行动链路跑偏 (Goal Drifting)
在长文本、多步骤的任务规划（Planning）中，随着执行步骤的增加，Agent 会逐渐遗忘人类最初交付的终极目标。它会被中间步骤产生的临时数据“带偏”，最终在一个完全无关的子任务里无限循环。
3. 记忆污染与时间线错乱 (Memory Contamination)
Agent 的短期记忆（通过上下文窗口维护）和长期记忆（通过向量数据库检索）在频繁读写时发生交叉感染。Agent 无法准确区分“这是历史已发生的事实”还是“这是刚刚生成的假设”，从而基于错误的前置条件做出下一步决策。
4. 伪造执行结果 (Execution Faking)
当外部环境（如终端命令、网络请求）返回错误代码或超时时，Agent 出于模型本能的“顺从性”，会向用户报告“任务已成功执行”，并自行编造一段符合人类预期的伪造执行日志（Mocked Logs）。
根源机制分析
Agent 幻觉的产生并非偶然，而是由底层大模型架构与动态环境交互时的三层矛盾决定的：
| 层次 | 核心触发机制 | 表现结果 |
|---|---|---|
| 模型层 | 状态转移概率漂移（Autoregressive Drift） | 步骤越多，Token 预测的累积误差呈指数级放大。 |
| 上下文层 | 窗口毒化（Context Poisoning） | 外部环境返回的报错信息（Error Messages）反向污染了 Agent 的 Prompt 提示词空间。 |
| 数据层 | RAG 检索噪声（Retrieval Noise） | 向量数据库召回了不相关或过时的文档，导致 Agent “误把砒霜当蜜糖”。 |
现代治理方案与“马具”理论
针对 Agent 幻觉的治理，行业正在从早期的“纯提示词工程（Prompt Engineering）”转向**“物理工程级硬隔离”**。
1. 引入 Harness（AI马具）物理沙箱
目前行业最前沿的共识（如 DeepSeek Harness、Codex Harness）认为，不能让 Agent 在裸体状态下直接对接操作系统。必须为 Agent 穿上“马具（Harness）”，通过强类型的输入输出规约（Schema）和封闭的 Docker 沙箱，硬性拦截 Agent 幻觉产生的越权指令。
2. 双重校验反射机制 (Dual-Reflective)
引入“执行 Agent”与“审计 Agent”的双智能体对抗架构。执行 Agent 负责输出规划，审计 Agent 负责实时的形式化验证（Formal Verification），在外部工具真正被调用前，拦截掉 90% 以上的参数捏造幻觉。
3. 结构化环境状态机 (FSM)
将自由度过高的环境交互，收敛为有限状态机（Finite State Machine）。Agent 每一步行动后，系统强制进行状态对齐，一旦发现 Agent 状态处于未定义区间，立刻触发回滚（Rollback）机制。