幾十行程式就能做 AI Coding Agent，但讓它好用是另一回事

Coding agent 不是黑盒。拆解 Claude Code 的內部機制：LLM 補全、token 快取設計動機、工具呼叫流程。了解為何 AI 寫程式工具的好用程度取決於工程打磨，而非模型本身。 ⭐ 文章深度讀：拆解 token 快取、工具呼叫和系統提示的設計動機，看懂為什麼好用的 coding agent 難以複製 → https://heymaibao.com/how-coding-agents-work/ ⚡ 章節重點 AI 助理的魔法，是什麼做的？ 00:00 LLM 核心：補全機器，不是預言機 00:56 記憶幻覺：越聊越貴的真相 02:58 工具呼叫：讓 AI 從說說到真的動手 04:37 系統提示：每個 AI 看不見的劇本 05:20 📝 懶人包 ∙ Coding agent 不是神秘黑盒，而是「LLM (大型語言模型) + 看不見的行為指令 + 可呼叫的工具」在一個迴圈裡跑。理解這個結構，就能更清楚為什麼它會做出某些決定。 ∙ LLM 本身是無狀態的，每次對話都從零開始。為了維持對話連續感，工具每次都要把整段對話歷史重放給模型，所以對話越長越貴。Coding agent 刻意不改早期的對話紀錄，是為了讓 token 快取生效、降低費用。 ∙ 工具呼叫的底層是文字解析：LLM 輸出特定格式的文字，外層程式用規則抓出函式名稱並執行，再把結果塞回對話。最強大的工具是讓 AI 直接跑程式碼。 ∙ 我的觀察：Coding agent 的基本原理確實直白，幾十行程式就能做出原型。但 Simon 也誠實地說，「做得出來」和「好用」之間差的是大量工程打磨。這解釋了為什麼 Claude Code 和 Cursor 的體驗差距這麼大，不是因為哪個模型特別聰明，而是背後有多少工程心血投進去。 📚 參考資料 How coding agents work — Agentic Engineering Patterns → https://simonwillison.net/guides/agentic-engineering-patterns/how-coding-agents-work/