Skip to content

為什麼 AI 越聊越笨?Context Window、Compact 與額度管理入門教學

你有沒有常常覺得 AI 聊到後面開始忘東忘西,甚至額度一下就燒光?很多時候不是因為模型變笨,其實是 Context Window(上下文窗口)和對話管理沒有做好!這篇用白話解釋 Context Window、Compact、Token,以及我為 什麼建議把規劃和執行拆成兩個對話?

📌目錄

你有沒有遇過這種狀況:一開始 AI 很聰明,聊到後面卻開始忘東忘西。

前面明明講過的需求,它突然忘了;你已經說過不要那樣寫,它又改回去;甚至你只是叫它修一個小地方,它開始重寫整份文件。

很多人這時候會覺得:「是不是 AI 變笨了?😅」

其實不一定。

有可能是你的「對話」太滿了。

在我最新的 Claude Code vs Codex 桌面版教學影片裡,特別花了一段時間講這件事。

因為只要你開始把 AI Agent 當成真正的工作助理,Context Window 和 Compact 就會變成你每天會碰到的問題。

這篇我會用白話說明這 3 件事:

  1. Context Window 是什麼?
  2. Compact 到底在壓縮什麼?有什麼影響?
  3. 為什麼「規劃」和「執行」建議要分 2 個對話視窗?

Context Window 是什麼?怎麼減少 AI 失憶的狀況?

你可以把 Context Window 想成 AI 這一輪工作時的「桌面空間」。

Gemini Generated Image 3s646a3s646a3s64 comp

你跟它說過的話、它自己回覆過的內容、它讀過的檔案、它跑過的工具結果,全部都會不斷地堆在這張桌面上。

桌面夠大,它就能同時攤開很多資料工作。桌面快滿了,它就會開始卡、亂,開始忘記前面哪張紙放在哪裡?

而這張桌面的容量,通常用 Token 計算。

Token 是 AI 讀文字時的最小單位,我們通常使用中文對話,粗略計算是:1 個中文字,會接近 1-2 個 Token,看模型和內容而定。

如果你在同一個對話裡,先聊選題、再寫大綱、再寫草稿、再改標題、再叫它查資料、再叫它修圖、再叫它推 WordPress,這個對話很快就會變得很肥,再大的桌面都會滿出來。

接下來就是你會遇到的:AI 開始失憶、忘東忘西。


為什麼 AI 會越聊越笨?

我常用一個生活比喻:你叫一個助理幫你做事,但你把所有文件、便條紙、會議記錄、草稿、截圖都丟在同一張桌上。

剛開始桌面很乾淨,要找東西一目了然,馬上就知道在哪裡。五小時後,桌上堆滿資料。

你問他:「剛剛那個版本呢?」他可能還找得到,但速度變慢。

你說:「那照我們一開始說的原則做」,他可能開始混淆,一開始?哪個原則?

人類會記憶過載,AI 也會。

跟 AI 越聊越笨,常見的三個原因:

1. 對話過長,重點被稀釋

你前面講過很多事情,但後面又加入很多新資訊。AI 雖然還讀得到,但「重要性」會被稀釋。

尤其如果一直來回修稿,早期、後期、被你否定過的版本都還在上下文裡,AI 有時候就會把舊版本撿回來,誤以為是你想要的。

2. 閱讀了太多不必要的資料

你沒有給明確路徑,只說「幫我找那個檔案」。

AI 就會在你的資料夾裡到處找,過程中讀取了很多並不需要的內容,這些內容都會佔用 Context。

所以我在影片裡有提一個小技巧:如果你知道檔案在哪裡,直接拖拉給它,或貼完整絕對路徑。不要讓它浪費額度去猜。

3. 規劃和執行混在同一個對話

這是我覺得最常見,也最容易改善的問題。

規劃通常很耗上下文。你會討論方向 → 列選項 → 比較方案 → 推翻重來 → 再定案。

如果規劃對話已經很長,你又直接叫它開始動手,AI 就要背著一大包歷史脈絡去做事。它會比較慢,也比較容易被前面的雜訊干擾。

更好的做法是:規劃完,請它整理成一份明確文件。然後開新對話,請新的 AI 讀那份文件執行。


Compact 是什麼?使用時機?

Compact 可以理解成「把目前對話整理成濃縮版」。

在 Claude Code 裡輸入 /compact;Codex 裡一樣叫做 /compact,若你使用桌面版中文介面,則需要輸入 /精簡

輸入後,就會幫你把前面冗長的對話,整理成摘要,釋放出一部分 Context Window。

聽起來很棒,但壓縮一定有取捨

就像你把一本書濃縮成一頁筆記,重點會留下,但細節可能消失。有時候那些被消失的細節,剛好是你後面工作需要的!

我自己的習慣是:不要等 AI 自動壓縮。我會建議大概 80% 左右,就手動 Compact

如果等到 100% 滿了才被迫壓縮,常常剛好卡在任務一半,AI 被迫整理上下文,漏東漏西的機率會比較高。

留一點餘裕,讓它在你還能控制局面的時候整理,而不是爆掉之後才急救。

Gemini Generated Image 9z5kmy9z5kmy9z5k

查看 Claude Code、Codex 用掉多少額度?

Claude Code 桌面版裡,通常可以在對話右下角看到模型、Context Window 和額度使用狀況。

Codex 桌面版,額度則是藏在左下角的設定裡面,點擊後,你可以點「剩餘用量」,看 5 小時和一週的使用狀況。

你不用每分鐘盯著看,但如果你常常做到一半被限額,或常常覺得它越聊越笨,就要開始留意。

(左圖:Claude Code 桌面版;右圖:Codex 桌面版)


Effort 和模型要怎麼選?

在一些工具裡,你會看到 Low、Medium、High、Extra、Max 這類思考強度選項。

白話講,就是它的聰明程度,要記住,越高(越聰明)不一定越好

如果你只是叫它幫你整理檔名、改幾個標點、寫一封簡單回信,開到 Max 反而浪費。它會想更久,消耗更多額度,你也不一定得到更好的結果。

如果你要它幫你設計一套系統、審查一個複雜方案、找出程式錯誤,才比較需要更高的思考強度。

我自己的簡單判斷是:

任務類型建議模型
簡單整理、改寫、摘要Medium 或 High 就夠
寫完整文章、規劃工作流High 起跳
複雜開發、除錯、架構設計Extra 或 Max
Computer Use 操作畫面不要開太高,因為非常耗額度

我最推薦的對話管理流程

如果你只想記一套做法,我會推薦這個流程:

開始一個任務
│
├─ 第 1 個對話:只做規劃
│      ├─ 討論目標
│      ├─ 釐清限制
│      ├─ 比較方案
│      └─ 產出一份明確計畫文件
│
├─ 第 2 個對話:只做執行
│      ├─ 讀取計畫文件
│      ├─ 照步驟執行
│      └─ 回報結果與風險
│
└─ 如果任務很大
       ├─ Context 到 80% 前手動 Compact
       └─ 或拆成下一個新對話

使用 AI 最怕的是「一邊想、一邊做,然後一邊遺忘」。你把規劃和執行拆開,它的工作就會單純很多。

我在影片中示範 AI 剪輯流程時,會先產出 video spec,再開一個新對話執行。

「先整理工作流,再讓 AI 動手」的思路,也和我在 AI 怎麼幫你動手做事那篇裡講的工具權限選擇有關。


什麼時候該開啟新對話?

我會用幾個訊號判斷:

  • 它開始忘記你剛剛講過的限制。
  • 它開始把舊版本的方向撿回來。
  • 它回覆速度明顯變慢。
  • 你已經從「討論」進入「執行」。
  • 你想開始另一個子任務。
  • Context 用量接近 80%。

很多人捨不得開新對話,是因為怕 AI 忘記前面聊過的東西,但剛好相反。

你應該把重要內容整理成文檔,不是依賴對話歷史。

對話是暫時的,文件才能跨平台協作。

如果一個決策很重要,就請 AI 寫成計畫文件、規格文件、檢查清單。

這樣下一個對話讀文件就好,不需要讀整段聊天歷史,也不會耗費更多 token。


給新手的 5 個習慣

Context Window、Token、Compact 聽起來有點技術,你可以先不用想太複雜,當成整理桌面就好。

你的桌面越乾淨,助理越容易工作;你的需求越清楚,AI 越不需要猜;你的任務切得越乾淨,就不會經常把不同事情混在一起。

養成下面這些習慣與 AI 溝通,你會發現 AI 變得聰明了,也更省額度!

習慣為什麼重要?
任務一開始講清楚背景和目的AI 才知道產出要拿去做什麼
知道檔案在哪就給完整路徑不要浪費 Token 讓 AI 到處找
規劃和執行分開對話減少雜訊,提高執行穩定度
Context 約 80% 就手動 Compact不要等爆掉才被迫壓縮
重要結論寫成文件不要把長期知識藏在對話歷史裡
Gemini Generated Image vj73vdvj73vdvj73 comp

如果你想看實際操作,我在這支影片裡有直接示範 Claude Code 和 Codex 的額度位置、Compact 介面,以及怎麼把規劃對話轉成執行對話(16:10 開始):


📍 AI Agent(Claude Code、Codex)系列教學文章

🔥 五星好評優惠價倒數中|24 小時開始活用 AI Agent(Claude Code、Codex 都適用)

為什麼大多數人用不好?因為你的 AI Agent 一開始太空白、你也不知道從何訓練。

以我們 8 年教學,超過 10,000 名學員在數位工作術的經驗,這次特別設計課程機制:

這堂迷你課,設計為可以直接餵給 Claude Code,它會快速學會這些「武功秘笈」

  • 基礎設定引導檔】讓你直接丟給你 AI Agent,讓它快速升級的
  • 【實戰應用 Skill 組合】,幫你省下 10+ 小時的迷惘摸索期,讓你的 AI Agent 快速好用

👉 已超過 4,500 人購買:前往觀看課程

claude code package 0409

(記得收藏持續更新的 Claude Code 學習資源

分享按鈕

關於作者

留言回應

訂閱
接收通知
guest
0 留言
最新的留言
最舊的留言 Most Voted

領取高效生產力的秘訣!

Free 免費 NT$ ?????
免費入門課&電子書&精華文章一次帶走
  • 聰明工作者的 10 堂體驗課
  • 現代人必備的 25+ 款數位工具
……更多你需要的現代人精進指南!