Nieuwe restricties op beeldbewerking en de reactie van de overheid
De wijzigingen bij de AI-tool Grok van X, die eigendom is van Elon Musk, beperken het uploaden en bewerken van afbeeldingen tot betalende abonnees. Gebruikers kunnen nu geen afbeeldingen meer promiseloos uploaden en laten aanpassen, aangezien de chatbot nu reageert met de melding: “Beeldgeneratie en -bewerking zijn momenteel beperkt tot betalende abonnees.”
Deze maatregel volgt op een waarschuwing van de Internet Watch Foundation (IWF), dat criminelen de tool zouden gebruiken om kindermisbruikbeelden te creëren. Volgens de organisatie hebben hun analisten crimineel materiaal gevonden dat gemaakt lijkt te zijn met Grok, met beelden van kinderen tussen de 11 en 13 jaar oud.
Reactie van de Britse overheid en maatschappelijke kritiek
Het Verenigd Koninkrijk’s Downing Street noemde de veranderingen om de beeldgeneratiefunctie te beperken voor betalende gebruikers “geen oplossing”, maar benadrukte dat het aantoont dat X snel kan handelen wanneer dat nodig is. Een woordvoerder benadrukte dat deze stap “gewoonweg een AI-functie die het maken van illegale beelden mogelijk maakt, omzet in een betalende service”.
Volgens hen is dit niet voldoende en wordt het bovendien als beledigend voor slachtoffers van misogynie en seksuele geweld beschouwd. Premier Sir Keir Starmer noemde de situatie eerder “verschrikkelijk” en “walgelijk” en riep X op om “hun zaak op orde te krijgen” en “dit onder controle te krijgen”.
Gebruikersrapportages en regelgeving
In de afgelopen dagen zijn meerdere gebruikers, vooral vrouwen, op X geweest met meldingen dat ze AI-gegenereerde seksuele beelden van zichzelf hadden gezien op het platform. Ngaire Alexander, hoofd van de hotline bij de IWF, bevestigde donderdag dat haar team crimineel beeldmateriaal heeft ontdekt dat lijkt te zijn gemaakt met Grok. Het betreft materiaal van jonge kinderen tussen 11 en 13 jaar oud.
De toezichthouder Ofcom meldde dat zij onmiddellijk contact hebben gezocht met X naar aanleiding van deze incidenten. Musk verklaarde woensdag dat een nieuwe versie van Grok was vrijgegeven en dat gebruikers werden aangemoedigd hun app te updaten, hoewel het onduidelijk was welke wijzigingen deze nieuwe versie bevatte.
Standpunt van Elon Musk en de inzet tegen illegale content
De ondernemer benadrukte eerder dat iedereen die Grok gebruikt om illegale content te maken, dezelfde consequenties zal ondervinden als wanneer ze illegale inhoud uploaden. X beweert actief maatregelen te nemen tegen illegale inhoud, waaronder het verwijderen ervan en het schorsen van accounts, in samenwerking met overheden en wetshandhavingsinstanties.
Sky News heeft X benaderd voor een reactie, maar er is nog geen officiële verklaring ontvangen over de huidige stand van zaken of verdere acties.
