Gisteren kondigde socialmediaplatform X aan dat de regels voor AI-chatbot Grok strenger worden. Hierdoor zou het niet meer mogelijk moeten zijn om foto's van mensen digitaal 'uit te kleden', wat zonder toestemming verboden is.
De tool wordt ook gebruikt om foto's van minderjarigen te bewerken. Zo kreeg expertisebureau online misbruik Offlimits vorig jaar 2100 door AI gegenereerde beelden binnen bij het meldpunt voor beeldmateriaal van seksueel misbruik, zegt directeur-bestuurder Robbert Hoving. Offlimits heeft vorige week opgeroepen tot een verbod op AI-tools die het genereren van naaktbeelden mogelijk maken.
Het 'uitkleden' van foto's met Grok roept de vraag op of ouders hierdoor voorzichtiger zijn geworden in het online delen van foto's van hun kinderen. Veel ouders zijn zich al van dit soort gevaren bewust en kiezen er daarom voor om als ze een foto van hun kind delen, het gezicht af te schermen met een emoji of de foto deels te vervagen.
Ook fotograferen sommigen hun kinderen bewust van de achterkant, om zo te voorkomen dat hun gezichten te zien zijn.
Kinderen niet in beeld
Journalist en schrijver Nina Pierson deed dit voorheen ook, maar inmiddels niet meer. Ze gaat heel bewust om met hoe ze haar kinderen online laat zien, vertelt ze. Pierson is moeder van vier kinderen en heeft online een groot bereik. De schrijver laat online nog steeds zien hoe ze haar eigen rol als moeder ervaart, maar laat haar kinderen daarbij zoveel mogelijk buiten beeld, zegt ze.
Ze vertelt dat ze tijdens de eerste jaren dat ze kinderen had, nog niet veel nadacht over hun online voetafdruk. Maar de laatste jaren brengt ze haar kinderen onherkenbaar en ook steeds minder in beeld.
"Het begon voor mij met het principe: dit is mijn leven, ik kies hier zelf voor, maar mijn kinderen doen dat niet", legt ze uit. "Het zijn individuen die zelf mogen bepalen hoe hun online voetafdruk eruit ziet. Pierson wil die afdruk niet te groot maken, zodat haar kinderen later zelf kunnen kiezen.
Toen ze een reclame van een Duitse telecomaanbieder zag, kwam daar ook het veiligheidsaspect bij. In de reclamevideo worden mensen bewustgemaakt van wat AI met een foto van een kind allemaal kan genereren. Pierson heeft sindsdien bekeken waar haar kinderen online te zien zijn en ook beelden verwijderd.
Het is ook een ontwikkeling die is doorgemaakt, legt ze uit. "Eerder was er nog geen technologie als AI waar zoveel mee kon en werd er niet op deze manier misbruik gemaakt van foto's." Ze onderstreept het belang van goede voorlichting, zodat "elke ouder een eigen risicoafweging kan maken".
Privacyschendingen
Ookbij de hulplijn van Offlimits, waar mensen die slachtoffer zijn van online grensoverschrijdend gedrag contact mee kunnen opnemen, was vorig jaar een stijging te zien in het aantal meldingen van (naakt)foto's die gemaakt waren met kunstmatige intelligentie. Het was een stijging van 260 procent ten opzichte van het jaar daarvoor, zegt Hoving.
"Het vervelende aan een applicatie als Grok is dat gebruikers heel ver kunnen gaan. Het is kwalijk dat een tool dit toelaat", zegt hij. Hoving vindt dat degene die dit mogelijk maakt, in dit geval X en diens eigenaar Elon Musk, aanspreekbaar moet zijn op het faciliteren van dit soort privacyschendingen. "In de offline wereld accepteren we het niet, dus dat zouden we ook online niet moeten pikken".
Strafbaar
Hij tekent wel aan dat foto's data zijn, en mensen net als bij andere gegevens heel goed moeten nadenken voordat ze iets online delen. "Omdat alles wat openbaar is, gebruikt kan worden door zo'n tool." De Offlimits-directeur benadrukt dat ouders niet kan worden verweten dat ze online foto's willen delen van hun kinderen.
"Maar let wel, degene die dit misbruik pleegt, is strafbaar", zegt hij. "Diegene en het platform dat dit faciliteert overtreden de wet". Hoving vindt daarom dat naast daders die dit maken en bijvoorbeeld gebruiken om mensen te beschadigen, ook het platform zelf zou moeten worden aangepakt.