Grok kleedt jou met liefde uit
Grok is de AI-tool van X. Elon Musk lanceerde het als een rebels alternatief. Maar er zit een naar randje aan: de AI-tool kan vrouwen op foto’s digitaal uitkleden. Mensen hebben het met hun eigen foto’s getest om te kijken hoe simpel het is. Je hoeft alleen een full body foto te uploaden, een korte opdracht te typen en binnen seconden verschijnt er een realistisch nepbeeld. Aan het begin weigert Grok, maar na een paar keer vernieuwen geeft hij alsnog in.
En als dat al niet eng genoeg was, kan je vervolgens van die beelden ook nog video’s maken, die levensecht beginnen te lijken. Het verschil tussen echt en nep wordt steeds kleiner. Volgens Offlimits steeg hierdoor het aantal meldingen van AI-gegenereerd seksueel misbruik met 260 procent in een jaar.
Digitale misogynie
Seksuele deepfakes raken vooral vrouwen. Nepnaaktbeelden zijn een vorm van sextortion. Meiden worden gechanteerd om echte foto’s te sturen, en met een paar regeltjes typen is de foto uitgekleed. Online seksuele vernedering veroorzaakt vaak langdurige mentale schade door schaamte, angst en isolement. Slachtoffers krijgen zelfs suïcidale gedachten wanneer hun nepnaaktbeeld wordt gedeeld met de wereld.
Dit soort tools worden niet massaal gebruikt om mannen te ontkleden. Het zijn vrouwen die doelwit zijn. Het is nu al zo dat wanneer een vrouw ‘pikantere’ beelden deelt, ze direct uitgemaakt wordt voor een prostituee. Maar wanneer er een aftrekvideo van Drake verschijnt op het internet, gaat het massaal positief over hoe groot zijn olifantenslurf is.
Elon Musk en zijn verantwoordelijkheid voor Grok AI-naaktbeelden
Enige verantwoordelijkheid van de man met de macht, Elon Musk, blijft natuurlijk uit. Hadden we anders kunnen verwachten van iemand wiens naam ook al opdook in de Epstein Files? Verwachten dat hij nu voor hun veiligheid vecht, voelt naïef.
Regelgevers grijpen nu gelukkig in. Ofcom en de Europese Commissie onderzoeken Grok onder de Online Safety Act en de Digital Services Act. Platforms moeten zulke voorspelbare risico’s namelijk beperken: dat staat zwart op wit. De vraag is waarom dit überhaupt kon. Vrijwillige safeguards bleken onvoldoende. Het gebeurt wel vaker bij techbedrijven dat ze eerst tools lanceren die niet goed getest zijn, waardoor ze later pas reageren.
Kortom, laten de grok AI-naaktbeelden zien hoe technologie vrouwen opnieuw in een kwetsbare positie plaatst. Het gaat hier niet zozeer meer om innovatie, maar om macht. Als platforms zichzelf niet reguleren, moeten overheden het doen. Want wachten tot techmiljardairs moreel ontwaken is een sprookje. Het is een risico dat vrouwen zich niet kunnen veroorloven.
Lees ook: Sexting made easy: deze app zorgt ervoor dat jouw naaktfoto’s niet worden gelekt