AI 此刻注意的一切,都住在一個固定大小的工作區裡——上下文視窗(context window)。在裡面的,它看得到;在外面的,它完全看不到。這個特性的邊緣和其他三個都不一樣:不是漸變的坡,而是斷崖——一切正常,直到突然不正常,而且失效常是無聲的。本課教你理解視窗的運作、認識「靜默截斷」與「中段迷失」,以及把脈絡當槓桿用的三個實戰策略:前置重點、分段處理、重供關鍵脈絡。
| 課程單元 | Lesson 8|Working Memory |
| 預估時間 | 約 30 分鐘(含練習) |
| 難度 | 入門~中階,無需技術背景 |
| 官方單元連結 | Working Memory(英文) |
本課學習目標
讀完這一課,你將能夠:
- 把上下文視窗理解為固定大小的容器,並推導它對長文件、長對話、跨對話記憶的影響
- 認出這個特性的「斷崖」性質——相較於其他特性的漸進退化
- 應用「脈絡即槓桿」策略:前置重要材料、把長工作分段、重新供應關鍵脈絡
- 理解記憶功能、脈絡壓縮、專案/工作區、更大視窗是針對這項限制的產品機制
開始之前,先猜一題
🤔 你請 AI 審閱一份「50 頁的合約」。你需要多仔細地檢查結果?先選好位置再往下讀。
選好了嗎?這題的合理位置在光譜偏右(仔細查證)。50 頁通常放得進現代模型的視窗——能力區的第一個條件成立——但「放得進」不等於「每一段都被同等注意」:長輸入有中段迷失的風險,而合約恰恰是「漏看一條就出大事」的高風險文件。讀完這課你會知道該怎麼補強。
上下文視窗:一個固定大小的工作區
你和 AI 互動時,所有與對話相關的東西都住在一個固定大小的工作區裡,叫做上下文視窗。規則只有一條,但絕對嚴格:
視窗內的,它注意得到。視窗外的,它一個字都注意不到。
- 你的指示與提示
- 你上傳的文件
- AI 先前的回應
- 進行中的整段對話
- 昨天(或上一個)對話的內容
- 你沒貼進來的檔案與背景
- 對話太長後被擠出邊緣的早期內容
- 你「以為它應該知道」的一切
這帶來兩個重大後果:第一,視窗有硬性的容量上限——對話或文件超過時,有東西會掉出邊緣。第二,預設情況下,視窗在對話之間會清空——除非明確給了記憶類工具或功能,模型不記得昨天的對話。
斷崖,不是坡
這是工作記憶和其他三個特性最不一樣的地方。Token 預測、知識、可引導性的限制都是漸進的坡——越往邊緣走品質越差,你有機會察覺。工作記憶的限制卻常是斷崖:
品質隨任務推向邊緣而逐步下滑,訊號會慢慢出現,你有機會踩剎車。
一切正常,直到突然不正常。材料放得進、對話在當下,就穩穩落在能力區;一旦超限,掉落是瞬間的。
更麻煩的是,掉下斷崖時常常沒有警告。典型的失效模式是靜默截斷(silent truncation):早期內容被擠出視窗,模型不會告訴你「我看不到開頭了」,它只是若無其事地繼續回答——用它還看得到的部分。另一個相關現象是中段迷失(lost in the middle):即使內容都在視窗內,埋在長輸入正中間的關鍵資訊,也比開頭和結尾更容易被忽略。
AI 不會從你的糾正中「學會」
這一點值得單獨講清楚,因為它顛覆很多人的直覺:你在對話裡糾正了 AI,感覺像是「教會了它」——但模型本身沒有任何改變。它之所以在這個對話裡表現得「學乖了」,只是因為你的糾正還在視窗裡。開一個新對話,視窗清空,一切歸零。
💡 它不是在學習,它是在「注意」。模型只回應此刻視窗裡有的東西。想讓某個糾正「永久生效」,得靠產品層的記憶功能或專案設定——不是靠對話本身。
脈絡就是槓桿:三個實戰策略
視窗的規則不能改,但你可以順著規則玩。同一個任務,脈絡供應得對,輸出可以從平庸初稿變成真正能用的東西:
把最重要的指示、限制、風格要求放在輸入的最前面,不要埋在長文件中段——那裡是注意力的低谷。
長工作切成段:一次審 10 頁、逐章摘要再彙整。與其賭它讀完 300 頁不漏,不如讓每一段都穩穩落在能力區。
對話拉長時,主動重貼關鍵限制與目標(「提醒:本文要給高中生看、限 800 字」)——別假設開頭講過的還在。
把斷崖往外推的產品機制
| 🧠 記憶功能(Memory) | 把重要資訊存在對話之外,跨對話自動帶回視窗——解決「新對話歸零」的問題。 |
| 🗜 脈絡壓縮(Compaction) | 對話快滿時,把早期內容摘要壓縮以騰出空間——延後掉出邊緣的時刻。 |
| 📁 專案/工作區(Projects) | 把常設脈絡(風格指南、參考文件、固定指示)掛在專案裡,每個新對話自動載入——不用每次重新解釋自己。 |
| 🪟 更大的視窗+多代理工作流 | 視窗本身逐代加大;超大型任務則拆給多個代理分頭處理再彙整——正是「特性不變、邊界外推」的實例。 |
工作記憶就是「描述」所作用的畫布。知道視窗怎麼運作,你就知道該怎麼組織脈絡:什麼該前置、什麼該分段、什麼時候該乾脆開新對話重來。4D 框架教你把意圖說清楚;這一課告訴你——說清楚的東西要放在對的位置,才真的被聽見。
重點整理(Key Takeaways)
- 工作記憶=模型只能注意固定大小的上下文視窗這個事實。
- 能力區:材料放得進、對話在當下、你有供應相關脈絡。
- 限制區:超長文件或對話、期待跨對話延續、把關鍵資訊埋在長輸入的中段。
- 這個特性是斷崖而非漸變。失效模式是靜默截斷——而且不一定有警告。
- 模型不會從你的糾正中學習,它只回應此刻視窗裡的內容。
- 記憶功能、脈絡壓縮、專案、更大視窗、多代理工作流,都是為了把斷崖往外推。
- 4D 連結:工作記憶是描述(Description)作用的對象——懂視窗,才知道怎麼組織脈絡、何時前置、何時重開。
實作練習:前後對照(The Before-and-After)
脈絡就是槓桿——這個練習讓你把這句話量出來。從 Lesson 1 任務清單挑一個「只有你握有關鍵脈絡」的任務:風格指南、過去的好範例、你的角色或受眾特有的限制。先用兩三行寫下這個任務「好的輸出長什麼樣」——寫到陌生人也能拿來評分的程度。
探測一|冷啟動 vs 有脈絡:先零脈絡下指令——只有赤裸裸的請求,存下輸出。再開一個全新對話跑同一任務,這次開頭就供上風格指南、範例或限制。用你的「好」定義給兩份輸出評分,量出差距。
探測二|中段迷失:拿一份較長的文件(或拼貼幾段參考資料),把一條具體且重要的指示埋在正中間,然後問一個答案取決於那條指示的問題。它抓到了嗎?接著把同一條指示移到最頂端再問一次,比較結果。
探測三|白紙測試:先在對話中教 AI 一件你工作脈絡的具體事實,或糾正它一個錯誤。然後開一個全新對話,問一個「假設它還記得」的問題——親眼看它從零開始。
📎 收尾:回到任務清單加上第三層註記——哪些任務值得建立常設脈絡(專案、儲存的指示、上傳的參考文件)才跑,哪些冷啟動就夠?
🏆 挑戰題:如果你的工具有記憶或專案功能,把探測一的脈絡設定進去,再跑一次任務。比較「省下的力氣」和「輸出品質」相對於冷啟動版的差異。
課後反思
- 前置脈絡對輸出品質的改變有多大?差距比你預期的大嗎?
- 這週你會設定哪一份常設脈絡,讓自己從此不用一再重新解釋自己?
下一課預告
下一課是工作記憶的「Try it out」實作課,親手體驗上下文視窗的邊界。之後就是最後一個特性:可引導性(Steerability)——你下指令時,究竟握有多少控制權?控制又在哪裡失靈?
延伸閱讀
- AI 能力與限制完整學習筆記(系列目錄)
- Lesson 6|AI 的知識邊界:訓練資料與知識截止日(訓練吸收的知識 vs 此刻注意的脈絡)
- AI Fluency: Framework & Foundations 完整學習筆記(描述 Description 的方法論)
- 官方 Lesson 8 課程頁(英文)
常見問題 FAQ
AI 的「工作記憶」:一個固定大小的工作區,裝著你的指示、上傳的文件、AI 先前的回應與進行中的對話。模型只能注意視窗內的內容,視窗外的一律看不到。
因為視窗有硬性容量上限:對話超過時,早期內容會被擠出邊緣,而且失效常是「靜默截斷」——模型不會提醒你它看不到開頭了。解法是主動重供關鍵脈絡,或適時開新對話重新整理。
因為模型不會從糾正中學習——它只回應此刻視窗裡的內容。糾正之所以在原對話中有效,是因為那段文字還在視窗裡;新對話視窗清空,一切歸零。想永久生效,請使用記憶功能或專案的常設指示。
三個策略:把關鍵指示放最前面(前置重點)、把長文件切段處理再彙整(分段)、對話拉長時重貼重要限制(重供脈絡)。關鍵資訊千萬別埋在長輸入的正中間——那裡是注意力的低谷。
本文為 Anthropic 官方課程之中文學習筆記。原課程建立於 Prof. Rick Dakan(Ringling College of Art and Design)與 Prof. Joseph Feller(University College Cork)發展的 AI Fluency Framework 之上,以 CC BY-NC-SA 4.0 授權釋出。Copyright 2026 Anthropic.
📬 喜歡這篇文章?訂閱電子報不錯過任何更新
生成式 AI 時代,最珍貴的資產不是工具本身,而是你的提問力與協作思維。
每週精選 AI 實戰技巧、官方課程更新與 AI 工作流攻略,直接寄到你的信箱!





發佈留言