AI-apps die je personen laten 'uitkleden' worden verboden
Het Europees Parlement is ingestemd met een verbod op apps die gebruikers AI laten inzetten om mensen op de foto of video uit te kleden.
Het wetsvoorstel werd met een ruime meerderheid aangenomen: 569 parlementariërs stemden voor, tegenover 45 leden die tegenstemden.
Daarbij gaat dit verbod alleen over herkenbare, echte personen. Het blijft dus wel toegestaan in Europa om met dergelijke AI-apps fictieve personen uit te kleden. Ook mag het wanneer de persoon in kwestie toestemming heeft gegeven.
De bedrijven achter AI-apps krijgen wel tijd om wijzigingen door te voeren zodat ze aan de nieuwe regels kunnen voldoen. Eigenlijk zouden maatregelen uit de zogeheten 'AI Act' aankomende augustus geldig worden, maar dit wordt uitgesteld.
AI-bot Grok onder vuur bij Nederlandse rechtszaak
Gerelateerd aan dit onderwerp is dat de Nederlandse voorzieningenrechter heeft verboden dat X dergelijke beelden van uitgeklede personen gemaakt met AI-bot Grok plaatst. Ook beelden van kindermisbruik mogen niet gemaakt worden.
Dit naar aanleiding van een kort geding door de Nederlandse stichtingen Offlimits en Fonds Slachtofferhulp. Elke dag dat X (voorheen Twitter) hier niet aan voldoet, moeten ze een dwangsom van 100.000 euro betalen. De boete kan daardoor oplopen tot maximaal 10 miljoen euro.
X stelde tijdens de rechtszaak dat Grok afhankelijk is van wat de gebruiker invoert, maar daar wilde de rechter niets van weten. Volgens de rechter heeft X controle over wat er mogelijk is met Grok, en zijn zij dan ook verantwoordelijk.
