Nederlandse toezichthouders en politie zien graag geheel verbod op 'uitkleedapps'
Naar aanleiding van het goedgekeurde Europese wetsvoorstel om AI-uitkleedapps strenger aan te pakken, hebben Nederlandse toezichthouders, de politie en het Openbaar Ministerie laten weten dat ze graag nog strengere regelgeving zien.
Afgelopen week bleek dat het Europees Parlement instemde met een gedeeltelijk verbod op apps die gebruikers AI laten inzetten om mensen op de foto of video zogenaamd uit te kleden. Het wetsvoorstel werd met een ruime meerderheid aangenomen: 569 parlementariërs stemden voor, tegenover 45 leden die tegenstemden.
Het huidige wetsvoorstel stelt dat AI-apps niet meer mogen worden gebruikt om herkenbare, echte personen zonder hun toestemming 'uit te kleden'. Dat betekent dat fictieve personen nog wel uitgekleed mogen worden via AI-apps, en dat echte mensen ook uitgekleed mogen worden zolang ze hun toestemming geven.
In een persbericht laten Nederlandse toezichthouders, de politie en het Openbaar Ministerie nu weten dat ze blij zijn met het aannemen van het wetsvoorstel, maar dat handhaving nog beter zou verlopen wanneer er een geheel verbod op dergelijke apps komt. " Voor effectieve wetgeving is het wel noodzakelijk om de tools volledig te verbieden, ook in de gevallen waarin de afgebeelde persoon toestemming zou hebben gegeven voor het vervaardigen van die beelden. De gezamenlijke toezichthouders, Politie en OM nemen in de tussentijd uiteraard hun verantwoordelijkheid door de handhavingsopties binnen de huidige mogelijkheden in te zetten en werken daarbij nauw samen."
Ondanks dat de instanties dus nog strengere regelgeving zouden willen zien, zijn ze wel te spreken over het aangenomen wetsvoorstel, en willen dan ook helpen bij de implementatie in Nederland. "De instanties gaan graag in gesprek met de betrokken ministeries over hoe een Europees verbod straks zo snel mogelijk in Nederland geïmplementeerd kan worden, zodat er daarna direct en doeltreffend kan worden opgetreden. De instanties blijven zich vol inzetten op basis van gestroomlijnd toezicht."
De betrokken instanties willen in de tussentijd ook de mogelijkheden voor digitale bewustwording onder minderjarigen en jongvolwassenen onderzoeken. "De nudify tools worden ook gebruikt door minderjarigen om seksueel beeldmateriaal van andere minderjarigen te maken en te verspreiden. Het is belangrijk dat deze doelgroep zich bewust is van het feit dat dit strafbaar is. Tegelijkertijd benadrukken alle betrokken instanties dat de aanpak zich in de eerste plaats moet richten op de personen en bedrijven die deze tools aanbieden en verspreiden, aangezien daar de bron van het probleem ligt."
Zoals vorige week gemeld, heeft een Nederlandse voorzieningenrechter overigens wel verboden dat X dergelijke beelden van uitgeklede personen gemaakt met AI-bot Grok plaatst. Dit naar aanleiding van een kort geding door de Nederlandse stichtingen Offlimits en Fonds Slachtofferhulp. Elke dag dat X (voorheen Twitter) hier niet aan voldoet, moeten ze een dwangsom van 100.000 euro betalen. De boete kan daardoor oplopen tot maximaal 10 miljoen euro.
