xAI aangeklaagd om gebruik van kindermisbruikmateriaal bij training Grok
28 augustus 2026
Gebaseerd op berichtgeving van Ars Technica ā ā vereenvoudigd & uitgelegd door VAIIYA.
Het kunstmatige-intelligentiebedrijf xAI van Elon Musk is aangeklaagd wegens het vermeende gebruik van kindermisbruikmateriaal (CSAM) voor de training van zijn AI-model Grok. De zaak, aangespannen als een zogeheten class action, stelt dat xAI zowel historisch misbruikmateriaal als recent door AI gegenereerde beelden heeft ingezet om de beeld- en videogeneratie van Grok te verbeteren.
De hoofdeiser in de zaak, aangeduid als Jane Doe, werd als kleuter in de vroege jaren 2000 slachtoffer van misbruik. De beelden daarvan zijn destijds verwerkt tot digitale voetafdrukken (hashes) door organisaties zoals het National Center for Missing and Exploited Children (NCMEC). Doe werd recent door het Canadian Centre for Child Protection (CCCP) gewaarschuwd dat er via xAI nieuwe, door AI gegenereerde afbeeldingen waren aangetroffen die direct op haar historische misbruikbeelden waren gebaseerd.
Zorgen over de trainingspijplijn van xAI
De rechtstreekse aanleiding voor de claim is de manier waarop xAI met gegevens omgaat. Volgens de aanklacht gebruikt het bedrijf openbare berichten op platform X en de eigen gegenereerde uitvoer van Grok standaard als trainingsmateriaal. Hoewel xAI wel specifieke filters toepast voor gewelddadige inhoud, worden categorieƫn zoals expliciete of illegaal gegenereerde beelden niet expliciet uitgesloten van de trainingspijplijn.
Omdat het technisch uiterst complex is om de invloed van specifieke data uit een reeds getraind AI-model te verwijderen, stellen de advocaten dat illegaal materiaal het model blijft beĆÆnvloeden, zelfs nadat de oorspronkelijke beelden van het publieke platform zijn verwijderd. Daarmee zou xAI zich schuldig maken aan de productie, het bezit Ć©n de verspreiding van misbruikmateriaal.
Geƫiste maatregelen en schadevergoeding
De rechtszaak is gebaseerd op Amerikaanse federale wetgeving en Masha's Law, wetten die slachtoffers het recht geven om partijen aan te klaagden die betrokken zijn bij het faciliteren van dit soort materiaal. De eisers vragen de rechter om xAI te verplichten alle door Grok gegenereerde en opgeslagen misbruikbeelden definitief van zijn servers te wissen.
Daarnaast eist de aanklacht dat xAI het Grok-model strikt blokkeert voor het genereren van welke vorm van seksueel getinte content dan ook. Als de rechter het verzoek tot een class action goedkeurt, kan xAI te maken krijgen met aanzienlijke schadeclaims van alle slachtoffers wier beelden zijn gebruikt door het AI-model. xAI heeft nog niet inhoudelijk gereageerd op de beschuldigingen.