Socialmediaplatform X heeft aangekondigd de regels voor AI-chatbot Grok aan te scherpen, waardoor het niet meer mogelijk moet zijn om mensen ermee 'uit te kleden' of afbeeldingen te creëren van echte mensen in weinig verhullende kleding. De aanscherping geldt voor de regio's waar "dit illegaal is", aldus het platform in een bericht afgelopen nacht.
Dat zou dan ook voor Nederland moeten gelden: in Nederland is het strafbaar om zonder toestemming van een afgebeeld persoon beeldmateriaal te seksualiseren. Daaronder valt ook het maken van nepnaaktbeelden. Maar een aantal uren na de aankondiging van X was het nog wel mogelijk om via Grok dergelijke afbeeldingen te genereren, bleek uit tests die de NOS deed.
X onderstreepte verder in het bericht, gedeeld door onder anderen topman Elon Musk, dat generatieve kunstmatige intelligentie zich snel ontwikkelt en dat de veiligheidssystemen "steeds strenger" zullen worden. Daarbij wordt volgens het platform samengewerkt met gebruikers, overheden en bedrijven.
Toenemende druk
De afgelopen dagen groeide de druk op X om Grok aan banden te leggen, toen duidelijk werd dat van talloze vrouwen en ook minderjarigen via de tool zonder toestemming foto's op seksuele wijze waren gemanipuleerd. In tal van landen zijn onderzoeken ingesteld naar de stroom aan deepfakes, en dus naar X.
De Britse mediawaakhond Ofcom heeft al laten weten dat het onderzoek naar Grok ondanks de aanscherping wordt voortgezet. Wel spreekt Ofcom van een "welkome ontwikkeling".
Ondertussen werken de autoriteiten in de Filipijnen aan een verbod op Grok, en Indonesië werd afgelopen weekend het eerste land dat de toegang tot de AI-tool in ieder geval tijdelijk blokkeerde.
Roep om verbod
Demissionair justitieminister Van Oosten noemt het 'uitkleden' van echte mensen via Grok "buitengewoon verwerpelijk". Van Oosten: "De impact en de gevolgen van online seksueel misbruik zijn voor slachtoffers en hun omgeving enorm, mede omdat nepmateriaal vaak niet te onderscheiden valt van echt materiaal".
Anti-misbruikorganisatie Offlimits zei vorige week geschrokken te zijn van de deepfakes via Grok en riep op tot een verbod op AI-tools die dergelijke deepnudes mogelijk maken.
"Laten we ons in Nederland, net zoals Australië en het Verenigd Koninkrijk doen, duidelijk uitspreken: dit soort toepassingen moet verboden zijn", aldus de organisatie. "Er is namelijk geen enkele uitlegbare reden waarom dit zou moeten bestaan. Zeker niet in combinatie met een wereldwijd socialmediaplatform zoals X waardoor het voor iedereen bereikbaar is en doodeenvoudig verspreid kan worden, met alle desastreuse gevolgen van dien."
Minister Van Oosten zegt dat er wordt gekeken naar de "mogelijkheid en wenselijkheid" van zo'n verbod. "Dit vraagstuk is complex en kent helaas geen snelle oplossing. Een zorgvuldige afweging, samen met alle betrokken partijen, is noodzakelijk."