Hoe meer ik mijn agent vertelde, hoe slechter hij werd — totdat ik de staat bewaarde, niet de geschiedenis

Hoe meer ik mijn agent vertelde, hoe slechter hij werd — totdat ik de staat bewaarde, niet de geschiedenis

Ik was een week lang overtuigd dat mijn AI-agent dommer werd. Dat was niet zo. Ik gaf hem alleen steeds meer, en die extra context trok hem naar beneden. Elke conversatie die ik toevoegde, elk nuttig stukje dat ik in het venster hield, maakte hem trager en minder accuraat. De oplossing was geen beter model. Het was eindelijk toegeven dat een enorme berg geschiedenis niet hetzelfde is als weten waar je bent.

Ik schreef hier eerder over — hoe mijn agent slechter werd naarmate ik hem meer vertelde. Toen noemde ik het contextrot en behandelde ik het als een ergernis. Deze week zette een Google-paper een getal op precies wat ik voelde: door staat bij te houden in plaats van de volledige gespreksgeschiedenis te herhalen, knipte een agent zijn tokenverbruik met 94% in lange sessies — en werd hij nauwkeuriger, niet minder. 65k tokens in plaats van 1,1 miljoen, met betere resultaten. Dat is geen kleine optimalisatie. Dat is het verschil tussen een agent die nadenkt en een die verdrinkt.

Geschiedenis is comfort. Staat is navigatie.

Als ik naar mijn eigen vault kijk, zie ik dezelfde valkuil. Ik bleef geheugensystemen bouwen die alles opslaan — elke notitie, elk gesprek, elk halfgevormd idee — en ik vertelde mezelf dat dat het punt was. Is het niet. Wat mijn agents echt nodig hebben is een strakke, actuele momentopname van waar we zijn en wat er nu toe doet. De rest is ruis die het signaal moeilijker vindbaar maakt.

Dus ik stopte met mijn notities als een archief te behandelen en begon ze als een levende kaart te zien. Verwijder het verouderde. Bewaar de staat, niet de hele reis. Het is in het begin oncomfortabel — een verslag weggooien voelt verspillend. Maar een kaart die je de weg wijst is meer waard dan een schoenendoos vol bonnetjes van elke weg die je nooit nam.

Kleinere input. Scherper denken.

Het patroon herhaalt zich in alles wat ik bouw: kleinere, hoog-signaal context verslaat grotere context elke keer. Het model was nooit de bottleneck. De context was het. Als je agent trager wordt of afdwaalt, grijp dan niet naar een groter model — grijp naar een scherpere staat. Knip de geschiedenis, houd je kompas, en kijk hoe het redeneren terugkomt.

En jij — bewaar jij je volledige gespreksgeschiedenis, of een strakke staat van waar je bent? Ik ben oprecht benieuwd hoeveel van jullie aan de archiefkant zitten.