Grok AI kleedt vrouwen digitaal uit en niemand grijpt écht in
Binnen vijf seconden kan een foto van jou veranderen in een nepnaaktbeeld. Het doet er niet toe of je toestemming hebt gegeven. Je krijgt van niemand een waarschuwing. Iemand kan gewoon een foto van je sociale media halen, een prompt invoeren en klaar. De ophef rond de Grok AI-naaktbeelden die verschijnen, laat zien hoe kwetsbaar vrouwen online zijn.
Grok kleedt jou met liefde uit
Grok is de AI-tool van X. Elon Musk lanceerde het als een rebels alternatief. Maar er zit een naar randje aan: de AI-tool kan vrouwen op foto’s digitaal uitkleden. Mensen hebben het met hun eigen foto’s getest om te kijken hoe simpel het is. Je hoeft alleen een full body foto te uploaden, een korte opdracht te typen en binnen seconden verschijnt er een realistisch nepbeeld. Aan het begin weigert Grok, maar na een paar keer vernieuwen geeft hij alsnog in.
En als dat al niet eng genoeg was, kan je vervolgens van die beelden ook nog video’s maken, die levensecht beginnen te lijken. Het verschil tussen echt en nep wordt steeds kleiner. Volgens Offlimits steeg hierdoor het aantal meldingen van AI-gegenereerd seksueel misbruik met 260 procent in een jaar.
Digitale misogynie
Seksuele deepfakes raken vooral vrouwen. Nepnaaktbeelden zijn een vorm van sextortion. Meiden worden gechanteerd om echte foto’s te sturen, en met een paar regeltjes typen is de foto uitgekleed. Online seksuele vernedering veroorzaakt vaak langdurige mentale schade door schaamte, angst en isolement. Slachtoffers krijgen zelfs suïcidale gedachten wanneer hun nepnaaktbeeld wordt gedeeld met de wereld.
Dit soort tools worden niet massaal gebruikt om mannen te ontkleden. Het zijn vrouwen die doelwit zijn. Het is nu al zo dat wanneer een vrouw ‘pikantere’ beelden deelt, ze direct uitgemaakt wordt voor een prostituee. Maar wanneer er een aftrekvideo van Drake verschijnt op het internet, gaat het massaal positief over hoe groot zijn olifantenslurf is.
Elon Musk en zijn verantwoordelijkheid voor Grok AI-naaktbeelden
Enige verantwoordelijkheid van de man met de macht, Elon Musk, blijft natuurlijk uit. Hadden we anders kunnen verwachten van iemand wiens naam ook al opdook in de Epstein Files? Verwachten dat hij nu voor hun veiligheid vecht, voelt naïef.
Regelgevers grijpen nu gelukkig in. Ofcom en de Europese Commissie onderzoeken Grok onder de Online Safety Act en de Digital Services Act. Platforms moeten zulke voorspelbare risico’s namelijk beperken: dat staat zwart op wit. De vraag is waarom dit überhaupt kon. Vrijwillige safeguards bleken onvoldoende. Het gebeurt wel vaker bij techbedrijven dat ze eerst tools lanceren die niet goed getest zijn, waardoor ze later pas reageren.
Kortom, laten de grok AI-naaktbeelden zien hoe technologie vrouwen opnieuw in een kwetsbare positie plaatst. Het gaat hier niet zozeer meer om innovatie, maar om macht. Als platforms zichzelf niet reguleren, moeten overheden het doen. Want wachten tot techmiljardairs moreel ontwaken is een sprookje. Het is een risico dat vrouwen zich niet kunnen veroorloven.
@cahdoria Men are using Grok to undress women, children, and babies. Men. Stop blaming an AI chatbot. I’ve seen this in the Financial Times, The Guardian, The Verge, and across almost all social media posts online. Please: we have to be more precise with language! Blame the men removing the clothes of women. Blame Elon Musk. Blame the C-suite. Blame X. Blame the actual human beings with agency and responsibility, who should 100% suffer the consequences of their actions. Chatbots can’t be held accountable. And they are clearly trying to blame Grok. And to make things worse, did you know they issued an apology letter? Not by Elon Musk, not by X, but BY GROK. They made Grok apologize for its “behavior.” Why would they do that? To humanize Grok and shift responsibility onto it. Serving the narrative they and the media are trying to push that they are not the ones to blame. Don’t let them. Don’t help them make the case that Grok is to blame. They are. Thank you. 🔄 Don’t forget to share this post so more people understand why they shouldn’t be blaming Grok and why we should be pushing the responsibility into REAL HUMAN BEINGS! ✨ About me: I’m Catharina Doria, an AI ethicist and one of the 100 Most Brilliant Women in AI Ethics™️. My mission is to help you understand, question, and protect yourself from AI risks. Follow to stay safe in the Age of AI. 📅 New episodes every Monday + Wednesday + Friday #IsThisAIorNotTM #ArtificialIntelligence #AIEthics #FakeNews #SpotTheAI ♬ original sound – catharina | AI ethicist 🤖
Lees ook: Sexting made easy: deze app zorgt ervoor dat jouw naaktfoto’s niet worden gelekt
Bron: Linda Meiden, The Conversation
Bekijk ook
