跳到正文
原文
X:Nathan Lambert (@natolambert)· X:Nathan Lambert (@natolambert)·· 5 天前AI 评分41

让 LLM 直接编辑上下文

AI 导读

当前的 harness 在 LLM 如何管理自身上下文方面设置非常僵化。我们展示了你可以让 LLM 直接编辑上下文——从而实现更好的长时程记忆、FLOP 高效适配,以及更多。 不用再害怕 compaction 了!

正文

Current harnesses have a very rigid setup in how the LLM can manage its own context. We show that you can let LLMs edit the context directly - enabling better long-horizon memory, FLOP efficient adaption, & more.

Don't fear compaction anymore!

来源:X:Nathan Lambert (@natolambert) · x.com