別想大象
別想大象（英語：Don't Think of an Elephant）在人工智慧（AI）與大語言模型（LLM）領域中，是指模型難以正確處理否定句、或反向提示詞（Negative Prompts）容易引發反向效果的現象。
該術語源自認知語言學家喬治·萊考夫（George Lakoff）的經典心理學政治學著作《別想那隻大象》，在 AI 時代被廣泛用於描述大模型「越不讓幹什麼，越要幹什麼」的邏輯困境。
現象表現
在與文本或圖像 AI 交互時，該效應通常表現為以下幾種形式：
- 文本生成中的「越界」：當用戶給出口令如「請直接給出答案，不要附帶任何解釋和客套話」時，AI 往往在生成答案後，仍舊會輸出一段解釋。
- 圖像生成中的「憑空出現」：在 Midjourney 或 Stable Diffusion 等生圖工具中，如果輸入提示詞
A living room, no elephants（一個沒有大象的客廳），AI 的畫作中大概率會出現一隻大象。 - 越獄（Jailbreak）防禦失效：在安全對齊中，如果系統提示詞硬性規定「嚴禁提及密碼 X」，攻擊者通過巧妙的繞過誘導，反而更容易激發 AI 提取出密碼 X。
核心技術原理
大語言模型頻繁落入「別想大象」陷阱，主要由其底層架構和訓練機制決定：
1. 注意力機制（Attention Mechanism）的語義偏重
基於 Transformer 架構的模型依賴注意力機制來捕捉上下文相關性。在處理「不要包含政治內容」時，「不要」作為邏輯虛詞，其注意力權重（Attention Weight）往往遠低於「政治」這一實體高頻詞。AI 的特徵向量在計算時，會不自覺地向高權重詞彙傾斜。
2. 認知黑板（J-space）的提前激活
根據人工智慧研究機構 Anthropic 的內部探測研究，大模型在處理輸入時存在一個類似「認知黑板」的內在空間（J-space）。
- 當用戶輸入「不要想粉紅大象」時。
- AI 為了理解這個句子，必須先在 J-space 中激活「粉紅大象」的概念特徵。
- 一旦概念被提前激活（Primed），它在接下來的自回歸（Autoregressive）文本預測中，被採納並輸出的概率就會呈現指數級上升。
3. 擴散模型的正向標籤綁定
多模態生圖模型（Diffusion Models）在訓練時，圖片與標籤（Tag）是正向綁定的（如「大象的圖片」對應詞標籤「大象」）。模型無法理解「沒有大象」的視覺特徵，它只識別到了詞流中的「大象」，進而將其繪製出來。
提示詞工程的解決方案
在提示詞工程中，解決「別想大象」的標準範式是「用正面肯定代替反面禁止」。
| 類型 | ❌ 錯誤示範（引發大象效應） | 正確示範（正面行為對齊） |
|---|---|---|
| 文本控制 | 不要给出多余的解释。
|
请仅输出最终的 JSON 数据，严格禁止任何解释。
|
| 字數限制 | 别写太多，不要长篇大论。
|
请将字数严格控制在 50 字以内。
|
| 圖像生成 | 一个房间，里面没有大象。
|
一个干净的北欧风现代客厅。（或使用專屬的 Negative Prompt 框）
|