Agent 的運作原理

第一週｜Agent 時代的知識工作

從 LLM 只會接龍談起：為什麼給它脈絡它就能做事、為什麼它會偏離，以及 agent 與聊天機器人的差異。

作者

單位

黃俊銘

藍震有限公司

LLM 是一個擅長接龍的程式

LLM 的基本機制是根據上下文預測下一段內容。提供的脈絡會影響它接下來產生什麼，因此給對背景往往比反覆修改一句指令更重要。

AI 的視野有限

它沒有權限，也沒有能力知道你電腦裡、你腦中的所有情況。 多數人受阻的原因不是缺少技巧，而是不知道哪些關鍵資訊需要提供給它。

Agent 與聊天機器人的差異

聊天機器人只會回答；agent 多了動手的能力：可以讀取檔案、修改檔案、執行工具、觀察結果，然後繼續調整。

收到目標與脈絡
→ 判斷下一步
→ 呼叫工具、修改檔案
→ 觀察結果
→ 繼續調整

它不是理解完整情況後才動手，而是在有限的脈絡中逐步猜測、行動、修正。 這同時解釋了它的能力，以及它為什麼會偏離。

Context：它記得什麼、忘了什麼

每次對話都會成為下一次的輸入，前面的內容越疊越多；滿了就壓縮，早期的內容被稀釋。 所以「開新對話它就失去記憶」不是故障，而是設計；這門課後面把記憶外部化成檔案，就是在解決這件事。

控制 LLM 的三個層次

• Prompt：單一對話的控制。
• Context：提供更多背景資料。
• Harness：把 LLM 的輸出變成指令執行，再把結果送回去；agent 就是這一層。

桌面程式裡看到的東西

在桌面程式中，可以從對話框、檔案讀取紀錄、權限要求與修改差異，看見 agent 如何取得脈絡並採取行動。使用時要確認它讀了哪些內容、準備改什麼，以及結果是否符合原來的目的。

這門課接下來

Agent 讓收集、蒸餾、表達都變快，唯獨判斷沒有變快。 第二週開始用一份簡報走完一次完整的知識工作循環。