用編譯器思維解決LLM健忘：記憶與程式分析的結合 I accidentally turned LLM memory into program analysis

📝 本集重點：• 我覺得這只是工具鏈完備度的問題。現在 Lemmalog 已經提供了 MCP 伺服器，這代表 Agent 可以自己調用它，甚至我們可以用 LLM 來自動生成 Datalog 的規則 and 事實模板。我們應該把這看作是一次架構上的典範轉移。過...• 沒錯！如果問一個無中生有的問題，比如『張三送的禮物，你問為什麼李四要送』，LLM 很容易在海量文本裡找到相似語意，然後腦補出藉口來回答你。但 Lemmalog 因為資料結構化了，查資料庫發現沒有『李四送禮物』這條事實，就會直接回答『沒有這回...• 這點我同意。現在大家太迷信『模型越大、 context 越長就越聰明』的暴力美學了，忽略了結構化資料結構的價值。但我注意到，在 LoCoMo 基準測試裡，對於那些『故意包含錯誤前提』的對抗性問題，Lemmalog 的得分是 0.707，遠高...• 事實提取是一次性成本。反觀 full context 做法，對話每增加一輪，下次提問就得重新塞入所有歷史。到第 500 輪時，token 費用呈指數增長，甚至直接塞爆 context window。Lemmalog 不論聊多久，丟給模型的資...