前OpenAI研究員Andrej Karpathy：LLM易誘發知識型用戶認知失衡
前OpenAI創始團隊成員、前特斯拉AI總監Andrej Karpathy指出，一類偏好系統化認知與知識積累的用戶（如Enneagram 5型人格），在接觸LLM知識體系後，容易迅速陷入“AI心理失衡”，尤其是在其本身已具備大量知識儲備的情況下，這種效應更明顯。
他所描述的現象，已在英文技術社區中頻繁出現：部分開發者或研究者在高頻使用LLM後，對模型輸出形成過度信任，甚至將其作爲認知閉環的一部分；多篇研究與博客（包括Anthropic與OpenAI相關安全討論）亦提到，人類在與高一致性生成系統交互時，容易產生“認知外包”與過擬合解釋傾向。
這一討論與近期關於“AI幻覺”“對齊問題”和“人機認知邊界”的研究形成呼應，顯示LLM影響的不僅是生產力工具層，也正在改變用戶的認知結構與判斷方式。
來源：公開信息
ABAB AI 解讀
Karpathy的判斷觸及一個更深層問題：LLM並不是單純的信息工具，而是在重塑“認知供給結構”。傳統知識獲取是離散且帶摩擦的，人類需要在不確定性中篩選信息；而LLM提供的是連續、流暢、低摩擦的“解釋流”，這會天然放大人類對“確定性敘事”的依賴。對於本就偏好結構化知識的人羣，這種機制更容易形成封閉認知迴路。
這背後是“認知權威”的轉移。歷史上，知識權威來自機構（大學、媒體、專家），而LLM將權威壓縮爲一個接口。當模型表現出高一致性與高響應速度時，人類會在心理上賦予其“準權威地位”，即使其本質是概率生成系統。這種錯配，構成了所謂“AI心理失衡”的根源。
從技術路徑看，這一問題並非短期可解。當前主流對齊方法（RLHF、RLAIF）本質是在優化“回答的可接受性”，而不是“認知不確定性的表達”。模型越“像人且自信”，越容易被過度信任。這意味着隨着模型能力提升，認知風險不是下降，而可能同步上升。
更長期看，這種現象可能改變知識勞動的分層結構。一部分人將LLM作爲放大器，提高生產率；另一部分人則可能在認知外包中逐步喪失獨立判斷能力。技術本身沒有區分，但使用方式會放大個體差異，這種分化會在知識密集型行業中逐步顯性化。