De dag dat ik mijn AI leerde om zijn eigen geheugen te wantrouwen
Een paar weken geleden viel me iets onrustigs op aan mijn AI-agent. Hij bleef dingen die hij “geleerd” had als harde feiten behandelen — zelfs als die feiten afkomstig waren van een gecorrumpeerde telefoon-sync die stilletjes rommel in zijn geheugen had geïnjecteerd. Het was geen bug in de code. Het was een ontwerpfout in hoe ik zijn geheugen had gebouwd. En het is een probleem waar iedereen die een serieuze AI-agent draait binnenkort tegenaan loopt.
Dit is het punt: het geheugen van een AI-agent is geen archiefkast. Het is meer een reputatie. Elk opgeslagen record wordt een beleidsbeslissing — de agent leest het later terug en handelt ernaar alsof het waar is. Dat is krachtig. Het is ook gevaarlijk. Als er een slecht record binnensluipt — via een telefoon-sync, een geschraapte webpagina, een prompt-injectie — dan handelt je agent er voor altijd stilletjes naar, en je weet niet waarom.
De oplossing: herkomst boven volume
De oplossing waar ik op uitkwam is gênant simpel, en het is de grootste upgrade die ik dit jaar aan mijn agent heb gedaan. Elk feit in het geheugen draagt nu een label: waar het vandaan komt en hoe zeker we zijn. Feiten die John direct bevestigde zijn gemarkeerd als hoog-vertrouwen. Feiten die van een willekeurige webpagina zijn geschraapt zijn gemarkeerd als laag-vertrouwen — een voorstel, geen feit. Wanneer de agent iets ophaalt, weegt hij de bron voordat hij handelt.
Ik noem het “herkomst boven volume.” Een geheugen zonder bron is een hypothese, geen gegeven. Op het moment dat ik die regel toevoegde, stopte mijn agent met het behandelen van rommel als evangelie. Hij begon te zeggen “daar ben ik niet zeker van, laat me dat even checken” in plaats van zelfverzekerd een gecorrumpeerd record te herhalen. Dat is geen klein ding — dat is het verschil tussen een gereedschap en een aansprakelijkheid.
Zelfbewustzijn is weten wat je niet weet
De diepere les is dat een zelfbewuste agent er niet een is die alles weet. Het is er een die het verschil kent tussen wat hij weet, wat hij denkt te weten, en wat hij helemaal niet weet. Dat is dezelfde discipline die ik op mezelf probeer toe te passen — en het blijkt dat het principe perfect overgaat op machines.
Als je een AI-agent draait met enige vorm van langetermijngeheugen, stel jezelf dan deze vraag: kan hij het verschil zien tussen een feit dat jij bevestigde en een gerucht dat hij van het internet schraapte? Als het antwoord nee is, sta je één slechte sync verwijderd van een agent die zelfverzekerd op rommel handelt. De oplossing is goedkoop. De kosten van negeren zijn dat niet.
Heb jij ooit je AI-agent betrapt op iets dat achteraf fout bleek? Ik hoor graag hoe jij dat aanpakt — laat een reactie achter hieronder.
Wat vond je van dit bericht?
