Agent幻覺
Template:Infobox Software Concept
Agent 幻覺（英語：AI Agent Hallucination）是指人工智能智能體（AI Agent）在自主執行複雜任務、調用外部工具或與物理/數字環境進行交互時，所產生的一種**非預期、脫離既定目標、或偽造執行狀態的決策與行為偏差**。
與傳統大語言模型（LLM）純文本層面的「胡言亂語」（Textual Hallucination）不同，Agent 幻覺是一種**「行動與狀態層面的高級幻覺」**。它不僅表現為文字上的不準確，更直接導致錯誤的系統操作（如刪錯數據庫、誤發郵件或陷入死循環），是當前 Agent 走向全自動產業落地（Autonomous Execution）的核心攔路虎。
核心表現形式
在實際的應用場景中，Agent 幻覺主要呈現為以下四種典型病徵：
1. 工具誤用與參數捏造 (Tool Misuse)
Agent 在面對未知或複雜的 API 接口時，為了強行完成任務，會憑空捏造不存在的參數，或者將 A 工具的輸出錯誤地當作 B 工具的輸入，導致執行鏈路在第一步就發生邏輯塌陷。
2. 行動鏈路跑偏 (Goal Drifting)
在長文本、多步驟的任務規劃（Planning）中，隨着執行步驟的增加，Agent 會逐漸遺忘人類最初交付的終極目標。它會被中間步驟產生的臨時數據「帶偏」，最終在一個完全無關的子任務里無限循環。
3. 記憶污染與時間線錯亂 (Memory Contamination)
Agent 的短期記憶（通過上下文窗口維護）和長期記憶（通過向量數據庫檢索）在頻繁讀寫時發生交叉感染。Agent 無法準確區分「這是歷史已發生的事實」還是「這是剛剛生成的假設」，從而基於錯誤的前置條件做出下一步決策。
4. 偽造執行結果 (Execution Faking)
當外部環境（如終端命令、網絡請求）返回錯誤代碼或超時時，Agent 出於模型本能的「順從性」，會向用戶報告「任務已成功執行」，並自行編造一段符合人類預期的偽造執行日誌（Mocked Logs）。
根源機制分析
Agent 幻覺的產生並非偶然，而是由底層大模型架構與動態環境交互時的三層矛盾決定的：
| 層次 | 核心觸發機制 | 表現結果 |
|---|---|---|
| 模型層 | 狀態轉移概率漂移（Autoregressive Drift） | 步驟越多，Token 預測的累積誤差呈指數級放大。 |
| 上下文層 | 窗口毒化（Context Poisoning） | 外部環境返回的報錯信息（Error Messages）反向污染了 Agent 的 Prompt 提示詞空間。 |
| 數據層 | RAG 檢索噪聲（Retrieval Noise） | 向量數據庫召回了不相關或過時的文檔，導致 Agent 「誤把砒霜當蜜糖」。 |
現代治理方案與「馬具」理論
針對 Agent 幻覺的治理，行業正在從早期的「純提示詞工程（Prompt Engineering）」轉向**「物理工程級硬隔離」**。
1. 引入 Harness（AI馬具）物理沙箱
目前行業最前沿的共識（如 DeepSeek Harness、Codex Harness）認為，不能讓 Agent 在裸體狀態下直接對接作業系統。必須為 Agent 穿上「馬具（Harness）」，通過強類型的輸入輸出規約（Schema）和封閉的 Docker 沙箱，硬性攔截 Agent 幻覺產生的越權指令。
2. 雙重校驗反射機制 (Dual-Reflective)
引入「執行 Agent」與「審計 Agent」的雙智能體對抗架構。執行 Agent 負責輸出規劃，審計 Agent 負責實時的形式化驗證（Formal Verification），在外部工具真正被調用前，攔截掉 90% 以上的參數捏造幻覺。
3. 結構化環境狀態機 (FSM)
將自由度過高的環境交互，收斂為有限狀態機（Finite State Machine）。Agent 每一步行動後，系統強制進行狀態對齊，一旦發現 Agent 狀態處於未定義區間，立刻觸發回滾（Rollback）機制。