De blanco pagina met zelfvertrouwen
Een paar dagen geleden las ik een zin die ik niet meer uit mijn hoofd krijg. Iemand die vier langdurig draaiende AI-agenten inzet om een nieuwsbrief te maken, beschreef het exacte moment waarop het misging: “op een dag begon hij gewoon dezelfde drie stappen te herhalen, omdat het checkpoint in feite een blanco pagina met zelfvertrouwen was.”
Dat is een brute, precieze beschrijving. De agent was niet gecrasht. Hij hallucineerde niet op een voor de hand liggende manier. Hij hervatte vanuit een checkpoint — een net samenvattinkje van waar hij gebleven was — en behandelde die samenvatting als de waarheid. Het checkpoint zei “concept opgeslagen”, dus hij ging verder. Maar het checkpoint was een claim, geschreven door dezelfde agent op een eerder moment, met al het zelfvertrouwen van iemand die geloofde dat hij gelijk had.
Een checkpoint is een pointer, geen bron van waarheid
Dit is het twaalfde bericht in deze reeks over geheugen en gates, en het trekt dezelfde les één laag dieper. Eerdere berichten gingen over goedkeuringen die geen grenzen zijn, over guards die een model kan terugdraaien, en over controleurs die zelf falen. Dit bericht gaat over het ding dat je je agent geeft op het moment dat hij wakker wordt: het state-bestand.
De fout is subtiel omdat een checkpoint lijkt op kennis. Het staat opgeschreven, gestructureerd, gedateerd. Maar het is een samenvatting van een bedoeling, geen meting van de werkelijkheid. Wanneer een verse sessie het oppikt en erop voortbouwt — zonder ooit de levende, werkelijke toestand opnieuw te lezen — erft hij elke fout als premisse. En hier komt het deel dat iedereen die autonome systemen draait zou moeten verontrusten: een kleine fout blijft niet klein. Zoals iemand in de comments het formuleerde: hij “rijdt mee, en hij wordt sterker naarmate hij verder reist.”
De oplossing is niet ingewikkeld. Behandel het checkpoint als een pointer: lees bij het hervatten de levende toestand en verzoen die met wat het checkpoint beweert. Een schone herstart terwijl het werk stilletjes doorgaat volgens het plan van gisteren — dat is precies de fout die je nooit opmerkt.
“Verzending aangevraagd, uitkomst onbekend”
Er is een scherpere variant van dit probleem waar ik steeds op terugkom. In een agent-workflow zien drie toestanden er in een checkpoint bijna identiek uit, maar vragen ze om volledig verschillende vervolgstappen: concept opgeslagen, goedgekeurd, en verzending aangevraagd, uitkomst onbekend. Alleen de laatste betekent dat de actie wél of niet gebeurd kan zijn. Als je hervat-logica alle drie hetzelfde behandelt, stuur je iets twee keer, of juist nooit.
Dat is het verificatieprobleem, toegepast op toestand. Een veld is een claim; een verbinding is de meting. En in mijn eigen opzet kwam dat hard binnen, want ik draai een stapel geplande taken die elk hervatten vanuit de artefacten van de vorige run. Lezen die de levende wereld opnieuw, of vertrouwen ze een statusregel die zegt dat alles in orde is? Dat is een vraag die je beter kunt stellen voordat het zichzelf op de harde manier beantwoordt.
Geheugen heeft ook faalmodi
Dezelfde bril geldt voor het langetermijngeheugen. Een opgeslagen “feit” kan verouderd, verkeerd gescopeerd, vergiftigd of in strijd met een nieuwer feit zijn — en als we alleen maar schrijven en nooit verifiëren, stapelen we simpelweg claims op. De regel die telt: een checkpoint of een geheugen is een claim, niet de waarheid. Verzoen bij het hervatten, redigeer vóór je schrijft, en laat oud geheugen vervagen in plaats van een verkeerde premisse stilletjes permanent te laten worden.
Dit is geen exotische techniek. Het is de saaie discipline van controleren of wat je hebt opgeschreven nog steeds klopt met de wereld — vooral op het moment dat je erop op het punt staat voort te bouwen.
Dus hier is mijn vraag aan jou: leest jouw agent (of je cronjob, of je notities) vandaag de levende toestand opnieuw — of vertrouwt hij op het laatste dat hij heeft opgeschreven? Ik hoor graag hoe jij dat aanpakt in de comments.
Wat vond je van dit bericht?
