Digitaal uitgekleed

Bekijk de video, lees daarna de tekst hieronder en beantwoord de vragen.

Sociaal media platform X zegt dat de regels voor AI tool Grok strenger worden. Via deze tool is het mogelijk om mensen digitaal uit te kleden. Op X verschenen veel van dit soort seksuele afbeeldingen. Met name van vrouwen en minderjarigen die hier geen toestemming voor gaven. En dat is door de wet verboden. Toch werken opdrachten in de tool als “kleed haar uit” of “trek haar een bikini aan” gewoon, zelfs bij minderjarigen. Zo verscheen de veertienjarige Stranger Things actrice Nell Fisher digitaal uitgekleed op X.

Er is wel vaker ophef over Grok. De eigenaar van Grok en X, Elon Musk, vindt de andere mediabedrijven veel te braaf. Hij wil dat zijn AI-tool de grenzen opzoekt. Als je mogelijkheden verbiedt, dan beperkt dit de vrijheid van mensen, vindt hij. “Musk heeft beloofd de echt illegale beelden te gaan verwijderen”, zegt techjournalist Rutger Onno. “Maar dit lost het probleem natuurlijk niet op. Dit soort afbeeldingen mogen helemaal niet gemaakt kunnen worden.”

Het Meldpunt online misbruik ziet een stijging van het aantal meldingen van dit soort afbeeldingen. Directeur Robbert Hoving wil een verbod op AI-tools die dit soort naaktbeelden kunnen maken. “Het vervelende aan Grok is dat mensen heel ver kunnen gaan”, zegt hij. “Het is slecht dat een tool dit toelaat.” Hoving vindt dat X en Musk moeten worden aangepakt. “Degene die de beelden maakt is strafbaar. Maar ook zij die dit mogelijk maken overtreden de wet.”

Naar: NOS en NU.nl

Vragen

1. Waarom zorgt de AI-tool Grok voor ophef?

2. Het bewerken van foto’s van minderjarigen tot seksuele afbeeldingen is strafbaar. Dat geldt ook voor het plaatsen en delen van deze afbeeldingen. Ook Grok is strafbaar, omdat de tool het maken van de foto’s mogelijk maakt. Toch gebeuren deze dingen continu en dat vormt een maatschappelijk probleem.
Leg per groep uit wat ze kunnen doen om dit probleem op te lossen.

• GROK/Elon Musk
• Overheid
• Ouders
• School
• Minderjarigen zelf

3. Ben jij anders gaan denken over het delen en bewerken van foto’s nadat je het filmpje zag?

Vraag aan de docent of jullie deze laatste opdracht klassikaal of in kleine groepen doen.

4. Elon Musk vindt dat andere AI tools te braaf zijn en ze de vrijheid van mensen beperken. Ben je het met hem eens? Leg je antwoord uit.

Van de makers vanThema’s Burgerschap