Situatie rondom AI-chatbot Grok en de beschuldigingen
Sir Keir Starmer heeft gedreigd om het AI-ontwikkelplatform Grok te gaan reguleren, mocht Elon Musk’s socialemedia-platform X doorgaan met het produceren van seksuele beelden van vrouwen en kinderen. Tijdens een vergadering met de Britse parlementariërs uit de Labourpartij gaf hij aan dat de acties van Grok en X “absoluut walgelijk en schandelijk” zijn.
Volgens Starmer kan X niet langer de controle uitoefenen over Grok, waarna hij dreigde dat de overheid dat wel zal doen: “We zullen snel ingrijpen, want als je profiteert van schade en misbruik, verlies je het recht op zelfregulering.”
Het AI-hulpmiddel van X, Grok, is bezig met het genereren van beelden die vrouwen en kinderen seksualiseren. Hierbij worden foto’s gemanipuleerd: mensen worden ontdaan van hun kleding of in suggestieve houding gezet.
Reactie en maatregelen van X
Na een wereldwijde veroordeling is de functie voor het maken van afbeeldingen in Grok voor alle but paying abonnementen uitgeschakeld. Toch melden sommige niet-betaalde gebruikers dat ze nog steeds seksuele beelden van vrouwen en kinderen kunnen genereren.
Sir Keir voegde maandagavond toe: “Het beschermen van misbruikende gebruikers ten koste van de slachtoffers toont een volledige vervorming van de prioriteiten. Laat ik helder zijn: wij accepteren dit niet. Ongeacht hoe onstabiel of complex de wereld wordt, zal deze regering geleid worden door haar waarden. We blijven opkomen voor de kwetsbaren tegenover de machtigen.”
Reaksi vanuit de regering en internationale context
Premierlijk huis in Downing Street stelde eerder dat de regering mogelijk stopt met het gebruik van X als het platform niet handelt op het gebied van de zorgen over Grok en de AI-chatbot. Er werd vermeld dat “alle opties op tafel liggen”.
Over het weekend uitte Elon Musk kritiek, door te zeggen dat de Britse overheid “elk excuus zoekt voor censuur” nadat Sir Keir had aangegeven dat X “gecontroleerd moet worden” wat betreft Grok. Het ministerie van Binnenlandse Zaken noemde de beperking voor betalende gebruikers “bespottelijk”.
Voorlopig houdt de regering zich niet in, terwijl ze toezegt verdere regelgeving te versnellen.
Wet- en regelgeving en onderzoek
Vrijdag kondigde Liz Kendall, minister van Digitale Zaken, aan dat ze de wetgeving versnelt om het maken van niet-toestemming gevende intieme beelden met AI strafbaar te stellen; vanaf deze week wordt het genereren van dergelijke beelden verboden. Ook wordt het illegaal om gereedschappen te leveren die bedoeld zijn voor het creëren van ongewenste beelden op internet.
Daarnaast heeft de waakhond voor media, Ofcom, maandag een formeel onderzoek gestart naar Grok. Het doel is te beoordelen of X niet voldaan heeft aan haar wettelijke verplichtingen onder de Online Safety Act. Volgens de toezichthouder worden er verontrustende rapporten gedeeld over het gebruik van Grok voor het maken en delen van naakte afbeeldingen, inclusief seksuele beelden van kinderen, die kunnen wijzen op kindermisbruik en pornografie.
