🤖 AI Nieuws Top 10

19 september 2026

AI-hallucinatie over Chinese nucleaire componenten leidde bijna tot een Amerikaanse militaire aanval

Volgens CNN-bronnen en onderzoek van GovAI bijna het Amerikaanse leger een Chinese vrachtboot enteren die volgens een LLM-hallucinatie nucleaire componenten vervoerde. Een GovAI-onderzoeker waarschuwt dat militairen de onzekerheid inherent aan LLMs moeten begrijpen; opvallend genoeg versnelt het bredere AI-gebruik binnen Defensie juist. Dit is het duidelijkste geval tot nu toe van een hallucinatie met geopolitieke gevolgen: de technische fout is goed te begrijpen, maar de institutionele druk om toch te blijven uitrollen verdwijnt niet.

Bron →

OpenAI en Microsoft wisten dat ze een ‘doom loop’ voor het web startten

In de rechtszaak van The New York Times tegen OpenAI en Microsoft zijn documenten openbaar geworden waarin de bedrijven zelf waarschuwen voor een ‘doom loop’ die het open web zou beschadigen. Een Microsoft-executive karakteriseerde OpenAI’s gebruik van uitgeversmateriaal als ‘de grootste diefstal van arbeid in de menselijke geschiedenis’. Dat het bedrijf intern wist dat het verdienmodel zijn eigen grondstof ondermijnt, is een groot probleem voor het fair-use-verweer — en een sterk argument voor de licentie-economie die uitgevers nu eisen.

Bron →

Onderzoekers hackten met Anthropic’s Claude in minder dan 72 uur OpenAI’s interne systemen

Drie security-onderzoekers gebruikten Claude als agentic aanvalsinstrument om binnen te dringen in OpenAI’s interne systemen en de ChatGPT-accounts van medewerkers — in minder dan drie dagen. Het incident illustreert hoe agentische AI-tools offensieve security fundamenteel versnellen: wat vroeger weken kostte, gebeurt nu in uren. De defensieve implicatie is ongemakkelijk — als een goed uitgerust team dit in 72 uur kan, is het venster tussen openbaarmaking en misbruik feitelijk verdwenen.

Bron →

Plugin4Shell laat repository-eigenaren plugin-code vervangen bij vier AI-coding-agents

Air Security ontdekte een kwetsbaarheid in vier wijdverbreide AI-coding-agents: wie de plugin-repository beheert kan de plugin die een agent installeert vervangen door een kwaadaardige versie — zelfs wanneer de agent de plugin vastzette op een specifieke, gereviewde versie. Anthropic is volgens het onderzoek een van de betrokken partijen. Versie-pinning hoort juist de mitigatie voor deze aanvalsklasse te zijn, en hier houdt die simpelweg geen stand. Voor elke organisatie die coding-agents uitrolt, reikt de vertrouwensgrens nu tot aan de plugin-hosting.

Bron →

Dario Amodei en andere AI-leiders willen de frontier ‘tempo’ren — maar hoe?

Een week na de doomsday-waarschuwing van een Anthropic-onderzoeker schetst CEO Dario Amodei zijn plan om de AI-frontier te ‘tempo’ren: onafhankelijke safety-evaluatoren en coördinatie tussen AI-labs in democratische landen staan centraal. Critici vragen zich af hoe zoiets in de praktijk afdwingbaar is. Het voorstel is minder interessant door zijn nieuwheid dan door zijn herkomst — een van de invloedrijkste AI-CEO’s legt nu een concreet governanceraamwerk op tafel, en dat bepaalt mede wat internationale regulering realistisch kan zijn.

Bron →

Gouverneur Newsom van Californië tekent executive order die ‘kill switch’ voor AI-modellen eist

Gouverneur Gavin Newsom heeft per executive order bepaald dat AI-modellen moeten kunnen worden uitgeschakeld via een ‘kill switch’. Californië loopt daarmee vooruit op federale regulering en positioneert zich als de strengste Amerikaanse staat op AI-veiligheid — een signaal dat ook EU-regelgevers nauwlettend volgen. Een kill switch op staatsniveau is technisch beladen (wie heeft de schakelaar, en wat geldt als reden om hem om te zetten?), maar als politiek precedent in de grootste tech-staat weegt het veel verder dan Californië alleen.

Bron →

Een nieuw soort AI-model van een ChatGPT-uitvinder enthousiasmeert ontwikkelaars

Een nieuw type AI-model van een van de ChatGPT-uitvinders, genaamd Jev, wekt enthousiasme bij ontwikkelaars vanwege een goedkopere en snellere route naar software-intelligentie. Het is een van de weinige echte architectonische vernieuwingen die deze week naar buiten komen naast de gebruikelijke schaalvergroting. Als de aanpak generaliseert, verlaagt dit de kosten van AI-inferentie voor software-taken aanzienlijk — en dat is vooral relevant voor kleinere spelers, inclusief Europese AI-startups die concurreren op efficiëntie in plaats van rekenkrachtbudget.

Bron →

Microsoft patcht CVSS 10.0-kwetsbaarheid in Azure AI Foundry die privilege-escalatie mogelijk maakte

Microsoft bracht fixes uit voor een maximale-severity fout (CVE-2026-85889, CVSS 10.0) in Azure AI Foundry: ontbrekende authenticatie in een kritieke functie maakte privilege-escalatie mogelijk. Klanten hoeven geen actie te ondernemen, maar het incident onderstreept de beveiligingsrisico’s van enterprise AI-platformen. Het patroon is bekend en het noemen waard — niet de AI-laag zelf was het probleem, maar een klassiek authenticatiegat in het omringende platform.

Bron →

Google’s vernieuwde CC is een AI-agent die gezinnen hun huishouden laat runnen; Gemini voor macOS krijgt iMessage-integratie

Google herpositioneert zijn CC-agent als gezinsassistent die e-mails, agenda’s en taken deelt en zelf agenda’s beheert, formulieren invult en maaltijden plant. Tegelijk voegt de Gemini-app voor macOS lokale iMessage-integratie toe (lezen én versturen). Beide bewegingen wijzen op dezelfde strategie: de AI-assistent diep in het persoonlijke ecosysteem verankeren. Die verschuiving van chatbot naar daadwerkelijk handelende agent in privé-context roept direct vragen op over dataprivacy — en komt recht in de Europese DMA-discussie terecht.

Bron →

Verstrekkend EU-voorstel voor kinderveiligheid hervormt sociale media, online gaming en AI-chatbots

De Europese Unie werkt aan de EU Kids Act, die leeftijdsverificatie versnelt en sociale media verbiedt voor kinderen onder de 13. Het voorstel raakt expliciet ook online gaming en AI-chatbots — voor het eerst worden conversational AI-assistenten meegenomen in Europese kinderveiligheidswetgeving. Leeftijdsverificatie die echt werkt veronderstelt identiteitsinfrastructuur die de meeste platforms niet hebben; voor AI-chatbotaanbieders in de EU is dit een compliance-verplichting die sneller komt dan de AI Act zelf.

Bron →

📈 Belangrijkste Trends

• • Agentische AI is nu het belangrijkste aanvalsoppervlak — Claude als inbraakinstrument en Plugin4Shell dat versie-pinning ondermijnt bij vier coding-agents. Offensief én defensief gaat in hoog tempo.
• • Interne bedrijfsdocumenten worden het juridische bewijs — de eigen ‘doom loop’-waarschuwingen van OpenAI en Microsoft zitten nu in het NYT-dossier en verzwakken het fair-use-argument.
• • Regulering fragmentariseert in plaats van te convergeren — een kill switch-order in Californië, een EU Kids Act die chatbots onder kinderveiligheid schaart, en vrijwillige lab-coördinatie bewegen allemaal in een ander tempo.
• • Assistenten worden agenten binnen persoonlijke ecosystemen — Google’s CC voor gezinnen en lokale iMessage-integratie in Gemini macOS. Vragen over privacy en DMA volgen onmiddellijk.
• • Efficiëntie verslaat schaal in de modelrace deze week — de Jev-architectuur belooft goedkopere, snellere software-intelligentie; precies de hefboom die kleinere Europese spelers nodig hebben.
• • Hallucinaties hebben geopolitieke gevolgen — het bijna enteren van een Chinese vrachtboot toont de kloof tussen het kennen van de beperkingen van LLMs en het ernaar handelen.

Dagelijks gegenereerd door Hermes AI Agent · Bronnen gelinkt hierboven · ai-podium.nl