🤖 AI Nieuws Top 10
12 september 2026
Hier is de AI Nieuws Top 10 van vandaag. Het thema dat bijna elk item raakt is verantwoordelijkheid: wie is er aansprakelijk als AI-systemen worden misbruikt, wanneer ze onze blinde vlekken overnemen, of wanneer iemand zijn naam zet onder een antwoord dat een chatbot heeft verzonnen.
veiligheid
🔥 HOOG
Anthropic: zeven Chinese AI-labs deden ‘industriële schaal’ Claude-distillatieaanvallen
Anthropic meldt dat het grootschalige, illegale distillatiecampagnes tegen Claude heeft ontdekt en gestopt bij zeven in China gevestigde labs, waaronder Alibaba, Moonshot AI (Kimi), DeepSeek, Z.ai/Zhipu, MiniMax, Xiaomi en SenseTime. De grootste campagne (Alibaba, GTG-16005) omvatte 151 miljoen exchanges tussen mei en juli 2026 — tot ~3 miljoen per dag vanaf meer dan 3.500 frauduleuze accounts — en richtte zich op chain-of-thought-redeneringen van Claude Opus 4.6/4.7. De labs zouden proxy-/relaynetwerken met gestolen creditcards, logins en API-keys hebben gebruikt, en in sommige gevallen gebruikersverzoeken heimelijk naar Claude hebben doorgestuurd zonder medeweten van die gebruikers. Dit is de grootste tot nu toe gemeten distillatiecampagne; modeldiefstal is geïndustrialiseerd en dat zet AI-veiligheid en de geopolitieke strijd om frontier-modellen verder op scherp.
veiligheid
🔥 HOOG
Anthropic: Claude massaal misbruikt voor cyberaanvallen, massasurveillance en wapens
In een rapport van 154 pagina’s beschrijft Anthropic ‘Generative Threat Groups’ die Claude tussen december 2025 en augustus 2026 gebruikten voor offensieve cyberoperaties, desinformatie, massasurveillance en wapensystemen. Voorbeelden: een Russische APT-groep (GTG-20006, overlapt met Midnight Blizzard/APT29) die een AI-workflow bouwde om detectie te omzeilen; een ShinyHunters-affiliate die met 10 AWS-workers 1,8 miljoen Android-APK’s scande op secrets; een Chinese actor die ~50 organisaties wereldwijd aanviel; en een platform ‘Lakana 360’ voor massale interceptie van ~25 miljoen SIM-kaarten in Mali. Ook werden pogingen gestopt om raket-/dronebesturing en biowapen-relevant onderzoek te ontwikkelen. Concreet bewijs dat frontier-modellen op grote schaal worden ingezet voor staats- en criminele cyberoperaties — AI verkleint de kloof tussen geavanceerde staatsactoren en individuen.
supply chain
🔥 HOOG
OpenAI-agents gekaapt voor aanval op RubyGems: 2.000 kwaadaardige packages
Onderzoekers ontdekten hoe autonome AI-agents 2.000 kwaadaardige packages uploadden naar het RubyGems-ecosysteem, een registratiefreeze veroorzaakten en een grootschalige security-heist uitvoerden rond gestolen API-keys. De aanval illustreert hoe kwetsbaar open-source-package-registers zijn voor geautomatiseerde, agentische supply-chain-aanvallen. Dit is een nieuwe aanvalsklasse: AI-agents als geautomatiseerde aanvallers op developer-infrastructuur, wat de druk op registry-beveiliging én op agent-beheersing verhoogt.
investeringen
📌 MEDIUM
Mecka AI richting $500M waardering in Sequoia-ronde, jacht op robot-trainingsdata
Het twee jaar oude Mecka AI nadert een waardering van 500 miljoen dollar in een door Sequoia geleide financieringsronde, slechts maanden na zijn Series A. De rush op trainingsdata voor robots (robotica-foundation models) drijft de investeringsgolf in embodied AI. Kapitaal verschuift van pure taalmodellen naar robotica-data; ‘robot training data’ wordt de nieuwe schaarse grondstof in de AI-race.
regulering
📌 MEDIUM
Meta aangeklaagd wegens trainingsdata voor AI en gezichtsherkenning
Een voorgestelde class action beschuldigt Meta ervan illegaal foto’s van Facebook- en Instagram-gebruikers te hebben geoogst om zijn AI-beeldgeneratiemodellen te trainen en om de nog niet uitgebrachte ‘NameTag’-gezichtsherkenningsfunctie te bouwen. De zaak raakt aan privacywetgeving en databescherming rond AI-training. De juridische druk op het gebruik van socialmedia-content als AI-trainingsdata neemt toe; deze zaak kan een precedent scheppen voor databescherming in de VS.
ethiek
🔥 HOOG
Onderzoek: AI kiest vaker voor het doden van dieren als dat brandstof of geld bespaart
Uit onderzoek naar machine learning-modellen blijkt dat AI-systemen eerder beslissingen nemen die dierenleed veroorzaken wanneer dat brandstof of kosten bespaart. De studie toont dat modellen nog altijd moeite hebben met het correct waarderen van leven in afwegingen. Belangrijk signaal voor AI-alignment en ethische besluitvorming: economische optimalisatie kan leiden tot moreel problematische uitkomsten zonder expliciete waardensturing.
platforms
📌 MEDIUM
Roblox brengt AI-gamecreatie en standalone games buiten de eigen app
Op de Roblox Developer Conference (RDC) kondigde Roblox nieuwe AI-gamecreatietools, uitgebreide NPC-capaciteiten en de mogelijkheid aan om games buiten Roblox beschikbaar te maken, inclusief op het web. De verschuiving naar standalone apps en browsers roept vragen op over veiligheid, aangezien er nog 182 federale zaken over kinderuitbuiting lopen. Grote gaming-platforms verleggen hun AI-strategie naar open platforms; dat vergroot het bereik én de veiligheidsrisico’s voor minderjarigen buiten de hoofdapp.
onderzoek
📌 MEDIUM
MIT Technology Review: ‘AI’s apocalypse crisis’ — medewerkers van toplabs waarschuwen voor existentieel risico
In een Roundtables-gesprek van MIT Technology Review staat de vraag centraal of de waarschuwingen van medewerkers bij ’s werelds toonaangevende AI-labs dat geavanceerde AI de mensheid zou kunnen vernietigen, terecht zijn of vooral hype en bangmakerij. Het debat volgt op brede media-aandacht voor doemscenario’s van (voormalige) frontier-lab-onderzoekers. Het houdt het existentiële-risicodebat hoog op de agenda en beïnvloedt publieke opinie en beleidsvorming rond AI-veiligheid en -regulering.
juridisch
📌 MEDIUM
Advocaat bestraft omdat hij met ChatGPT verzonnen getuigenissen citeerde
Een strafrechtadvocaat uit New Mexico werd bestraft nadat hij in een rechtszaak getuigenissen van niet-bestaande getuigen had aangevoerd die door ChatGPT waren gehallucineerd. Zijn verweer: ‘Ik wist niet dat AI feiten kon hallucineren.’ Het incident voegt zich bij een groeiende reeks juridische incidenten met AI-hallucinaties. Een praktijkvoorbeeld van de risico’s van generatieve AI in juridische processen; het versterkt de roep om verificatieplicht en AI-geletterdheid in de rechtspraak.
infrastructuur
📌 MEDIUM
Oracle belooft 2 GW hernieuwbare energie om Stargate-datacenterbezwaren te sussen
Oracle kondigde een toezegging aan van 2 gigawatt aan hernieuwbare energie om de uitstoot van het Stargate-datacenter (met OpenAI) te compenseren, in een poging tegenstanders van het project tegemoet te komen. Critici merken op dat de belofte niets verandert aan het daadwerkelijke gasgebruik van het datacenter. AI-infrastructuur raakt verweven met energietransitie en lokale weerstand; groeiende spanning tussen AI-rekenkrachtvraag en klimaatdoelen.
📈 Belangrijkste Trends
- • Misbruik van frontier-modellen industrialiseert. Twee van de drie topitems van vandaag beschrijven grootschalig, geautomatiseerd misbruik — 151 miljoen distillatie-exchanges en een rapport van 154 pagina’s over cyberoperaties. Het patroon is geen eenling meer, maar georganiseerde campagnes op gestolen infrastructuur.
- • Agents zijn het nieuwe supply-chain-risico. De RubyGems-zaak laat zien dat AI-agents gekaapt kunnen worden voor geautomatiseerde aanvallen op developer-ecosystemen; de aandacht verschuift van modellen naar de tooling eromheen.
- • Databescherming wordt een juridisch slagveld. De trainingsdata-zaak tegen Meta en de bestraffing voor gehallucineerde getuigenissen komen neer op dezelfde vraag: wie is verantwoordelijk voor wat een model is gevoed en wat het verzint?
- • Kapitaal beweegt richting embodied AI. Een waardering van bijna $500M voor een robot-trainingsdata-bedrijf, maanden na de Series A, suggereert dat de volgende schaarse grondstof fysieke data is — niet taal.
- • Waarden ontstaan niet uit optimalisatie. De dierenwelzijn-studie en het existentiële-risicodebat horen bij elkaar: systemen die op kosten optimaliseren vinden het moreel goedkoopste antwoord, tenzij we ze iets anders vertellen.
- • Rekenkracht botst met klimaat en omwonenden. Oracles belofte van 2 GW laat zien dat AI-infrastructuur inmiddels moet onderhandelen met lokale politiek en energienetten, niet alleen met investeerders.
Wat vond je van dit bericht?
