Reddit, Twitter en zelfs Pornhub proberen het fenomeen al aan banden te leggen, maar de opmars van neppe AI-porno, ofwel 'deep fake', lijkt niet te stoppen. En dat levert problemen op.

'Deepfake AI-porno' klinkt als een mix van fintech-hype, futurologie, en een beetje viezigheid, maar het proces is in korte tijd uitgegroeid tot een groot probleem voor sociale media, beroemdheden en juristen.

De term staat voor het gebruiken van foto's van gezichten in andere beelden - in dit geval de gezichten van beroemdheden die 'gephotoshopt' worden in bestaande pornovideo's.

Beroemdheden als gewilde doelwitten

Beroemdheden zijn al jaren een gewild doelwit van perverselingen. 'The Fappening' staat nog vers in het geheugen, toen de iCloud-accounts van tientallen vrouwelijke entertainers werden gehackt en duizenden naaktfoto's over het web werden verspreid. De dader werd later opgepakt en veroordeeld voor 18 maanden, maar daarmee is de interesse in gewone actrices en zangeressen in seksuele posities en situaties niet minder geworden.

Dat kan sinds kort met deep fake-AI-porno, waarmee 'gewone' gezichten in bestaande porno-video's worden geplakt.

Deep fakes

De term 'deep fake' om de porno te beschrijven lijkt van een Reddit-gebruiker genaamd DeepFakeApp te komen. Hij ontwikkelde in december een experimenteel desktopprogramma (vernoemd naar zichzelf) om dergelijke fake video's en gifjes te maken - voornamelijk pornografisch materiaal met beroemdheden. Hij zette de applicatie online en begon een community op Reddit, die al snel tienduizenden volgers kreeg.

Machine learning

Het programma maakt gebruik van open source machine learning-algoritmes zoals Googles TensorFlow. Een gebruiker hoeft het maar te downloaden en er een batch foto's aan toe te voegen om zelf al een video te maken.

Om meer te leren over machine learning lees je ook ons uitgebreide achtergrondartikel.

Verboden op sociale media

Het gemak waarmee geruikers met deep fake-algoritmesvideo's kunnen maken zorgt voor problemen bij sociale media zoals Reddit of Twitter. Die waren er dan ook snel bij om hun regels aan te passen en nagemaakte content te blokkeren. Reddit en Twitter zijn, in tegenstelling tot bijvoorbeeld Facebook of Instagram, normaal gesproken erg tolerant wat porno betreft. Dat deep fake-video's dan ook zo snel verboden worden is veelzeggend.

Inmiddels is de subreddit /r/deepfakes gebanned van de website. Een afgeleide subreddit genaamd /r/fakeapp bestaat nog steeds, opgericht door een gebruiker genaamd DeepFakes - waarvan wordt aangenomen dat het óf dezelfde persoon is als DeepFakeApp, of in ieder geval iemand met wie hij nauw samenwerkte.

In tegenstelling tot die oude subreddit is het in /r/fakeapp ten strengste verboden om niet-wederzijdse porno te plaatsen. Daar staat een ban op. Toch lijkt een groot gedeelte van de discussies op de subreddit te draaien om pornografie, en worden er vooral veel links gedeeld naar fora waar die beelden wél verspreid mogen worden.

Pornosites tegen deep fakes

Het zijn niet alleen sociale media die worstelen met het fenomeen. Ook 's werelds bekendste pornosite Pornhub verbiedt het plaatsen van deep fakes, maar de manier waarop dat moet gebeuren is nog onduidelijk. Een snelle zoekterm op de site laat op moment van schrijven 47 actieve deep fake-pornovideo's zien met verschillende bekende actrices. Pornhub zegt zelf dat het deep fake-video's behandelt zoals iedere andere vorm van content: als iemand een verwijderverzoek indient vanwege copyright-schending of wraakporno.

Maar juist die aanpak krijgt veel kritiek. Pornhub is juist groot geworden door het feit dat de website zo overspoeld wordt door video's dat copyright-houders niet tegen het enorme volume kunnen opvechten en het daarom maar opgeven.

Vechten tegen de bierkaai

Bovendien is het effect van één website (hoe invloedrijk dan ook) vechten tegen de bierkaai. Er zijn immers tienduizenden andere sites die maar wat graag verkeer trekken met dergelijke video's, zoals het relatief onbekende EroMe waar nu al tientallen deep fakes op worden aangeboden. Ook zijn er al een groot aantal forums online gekomen waar het delen van video's wordt gestimuleerd - het duurde ons niet veel langer dan 5 minuten om zulke websites te vinden.

Machine learning

AI-porno wordt gemaakt met machine learning-algoritmes. Waar die tot een paar jaar geleden nog voornamelijk voor onderzoekers beschikbaar waren wordt het steeds makkelijker voor doorsnee gebruikers om op die manier dergelijke nepvideo's te maken. Netwerken zoals TensorFlow van Google zijn inmiddels open source beschikbaar, en gratis te gebruiken voor studenten en onderzoekers, maar ook voor iedereen die wil experimenteren met machine learning.

Dat leidt tot apps zoals Deep Fake, die nu gratis te downloaden zijn en die uitgerekend een gebruiksvriendelijke interface hebben.

Makkelijk te maken

Programmeurs hebben dan enkel nog een aantal foto's of video's nodig om de beelden zo echt mogelijk te laten lijken. Daarom zijn beroemdheden zo aantrekkelijk voor het maken van de video's. Via Google en YouTube zijn met een paar zoektermen miljoenen beelden van een actrice beschikbaar.

Opvallend is ook dat voor machine learning geen industriële high-end hardware nodig is. Met gewone consumenten-gpu's en -cpu's is het al mogelijk om beelden te renderen - al is het natuurlijk afhankelijk van de kracht van een chip hoe snel dat gebeurt.

Gewone mensen

Omdat het steeds makkelijker wordt zulke beelden te maken is het maar de vraag wanneer het niet meer alleen over beroemdheden gaat, maar ook over 'gewone mensen'; de kennissen, vrienden of zelfs familie van een maker. Hoe geavanceerder de algoritmes worden, des te makkelijker het wordt om beelden te genereren. Experts voorspellen dan ook dat het in de toekomst doodnormaal wordt om zelfgemaakte porno te maken met wie je dan ook wil zien.

Legaliteit

Het is dan ook maar de vraag of zulke namaakporno wel legaal is, maar gek genoeg is dat niet zo makkelijk als het lijkt.

Daarbij kun je de link leggen met wraakporno, ook een relatief nieuw concept dat in groeiende mate problematisch wordt. Wraakporno is pornografisch materiaal dat door iemand anders wordt geüpload, vaak door bijvoorbeeld een rancuneuze ex.

"Verwerking van persoonsgegevens"

Aan de oppervlakte voelt het alsof deep fake-porno illegaal is - het is in ieder geval zwaar onethisch. Maar is het ook echt tegen de wet? Volgens Arnoud Engelfriet van ICT Recht wel, maar niet rondom dezelfde principes als wraakporno. Neppe porno is volgens Engelfriet 'een geautomatiseerde verwerking van een persoonsgegeven', en daarvoor zou de maker uitdrukkelijke toestemming nodig hebben.

Voor zover bekend heeft er nog geen rechter uitspraak gedaan over het fenomeen, maar als dat gebeurt kan dat leiden tot een precedent waarin het maken van neppe porno inherent wordt verboden.

Van de andere kant: wie houdt zich nou netjes aan zo'n uitspraak?

Haal je binnenkort je camper of caravan weer van stal? Misschien is dit dan ook het moment om te kijken naar een upgrade. Op een regenachtige dag of tijdens een belangrijke sportwedstrijd is het fijn als je een televisie tot je beschikking hebt. Wij hebben vijf compacte modellen gevonden die geschikt zijn om in een camper of caravan te plaatsen.

LG 24TQ510S-PZ

De LG 24TQ510S-PZ combineert de eigenschappen van een computermonitor met die van een televisie. Het schermtype is Wide Viewing Angle, wat zorgt voor bredere kijkhoeken, zowel horizontaal als verticaal, in vergelijking met standaard panelen. Dit model draait op het webOS-platform, waarmee je toegang hebt tot een interface met diverse apps. Een onderscheidende specificatie is de ondersteuning voor AirPlay 2, waarmee je het scherm van Apple-apparaten kunt spiegelen. Ook Screen Share voor Android-apparaten via Miracast is geïntegreerd.

Het geluid wordt verzorgd door twee 5 watt speakers. Voor externe apparatuur zijn er twee HDMI-ingangen beschikbaar en een optische audio-uitgang. De resolutie bedraagt 1366 x 768 pixels en de helderheid van het paneel is gespecificeerd op 250 cd/m². Er is geen aparte 12-volt adapter meegeleverd, dus dit model werkt standaard op netstroom. Je caravan of camper moet deze optie dus bieden.

Salora 32MBA300

Salora 32MBA300 biedt jou een beeldscherm met een formaat van 32 inch met een LED-scherm. Het heeft een Full HD-resolutie en een standaard beeldfrequentie van 50 Hz. Voor de stroomvoorziening is er een specifieke 12-volt aansluiting aanwezig op de achterzijde van het toestel. Je maakt met deze televisie gebruik van het Android TV-platform, waarmee je via de ingebouwde wifimodule verbinding kunt maken met het internet voor het gebruiken van applicaties. Het delen van media vanaf je eigen mobiele apparaten doe je via de geïntegreerde Google Cast-functie.

De hardware is tevens voorzien van een DVB-T2/C/S2-tuner voor het ontvangen van verschillende soorten televisiesignalen. Daarbij kun je zenderlijsten direct inladen via het Canal Digitaal Fast Scan-systeem en is er ondersteuning voor de smartcards van Ziggo. Je kunt externe randapparatuur verbinden via de twee aanwezige HDMI-poorten, terwijl de Bluetooth-functionaliteit je de optie geeft om audiosignalen draadloos naar luidsprekers of een koptelefoon te sturen.

Samsung 24F6000F

Als je kiest voor de Samsung 24F6000F, krijg je een scherm met een Full HD-resolutie van 1920 bij 1080 pixels. Dit 2025-model is uitgerust met de Hyper Real Picture Engine en ondersteunt HDR voor het weergeven van content met een hoog dynamisch bereik. Het besturingssysteem is Tizen, dat fungeert als hub voor alle smart-functies en apps. Qua geluid ondersteunt de televisie Object Tracking Sound Lite (OTS Lite), een techniek die het geluid virtueel de actie op het scherm laat volgen.

Voor connectiviteit zijn er twee HDMI-poorten en een USB-poort aanwezig. Daarnaast beschikt het toestel over Bluetooth 5.2 en WiFi 5 voor draadloze verbindingen. Het scherm kan worden opgehangen met een VESA-beugel van 100 bij 100 millimeter. Dit model heeft geen specifieke 12-volt aansluiting en is ontworpen voor gebruik op het reguliere stroomnet.

Lenco LED-3263BK

Deze Lenco LED-3263BK werkt op basis van het Android Smart TV-besturingssysteem. Je navigeert bij dit toestel door een interface die via een wifi-module verbinding maakt met het netwerk voor de verwerking van digitale streams en gedownloade applicaties. De weergave van deze visuele informatie gebeurt op een LED-paneel met een beeldschermdiagonaal van 32 inch.

Dit apparaat heeft een ingebouwde voeding die geschikt is voor laagspanning, en je ontvangt bij het product de benodigde 12-volt autoadapter. Hiermee sluit je de televisie direct aan op de gelijkstroomcircuits van het vrijetijdsvoertuig. Wat betreft de fysieke aansluitmogelijkheden heb je bij dit model de beschikking over drie afzonderlijke HDMI-poorten aan de zijkant of achterzijde. Dit geeft je de ruimte om meerdere externe bronnen, zoals een satellietontvanger en een losse mediaspeler, gelijktijdig verbonden te houden zonder dat je steeds de kabels hoeft te verwisselen. De televisie verwerkt je opdrachten en instellingen volgens de netwerkprotocollen van het ingebouwde platform.

MEDION MD824000

Deze betaalbare MEDION MD824000 levert beeld via een LED-LCD paneel dat een diagonaal heeft van 24 inch, wat in centimeters neerkomt op 59,9. Je ziet de grafische beelden op dit scherm geprojecteerd in een Full HD-resolutie. De interne hardware omvat een triple tuner, waarmee je zelfstandig de televisiesignalen uit de ether, via de kabel of via een satellietschotel binnenhaalt.

Het stroomverbruik van de televisie valt tijdens werking in de categorie energieklasse E. Voor het gebruik in de camper of caravan tijdens je reis gebruik je de speciale 12-volt adapter die bij de televisie in de verpakking zit. Je sluit eventuele randapparatuur aan op dit model via de ene aanwezige HDMI-poort, terwijl er ook een USB-aansluiting in het toestel verwerkt zit.

ByteDance, het bedrijf dat ook eigenaar is van TikTok, heeft beloofd zijn AI-videotool Seedance 2.0 aan te passen nadat verschillende filmstudio's kritiek hebben geuit en zelfs hebben gedreigd met juridische stappen.

Met Seedance 2.0 kunnen gebruikers realistisch ogende video's met bekende acteurs maken. Afgelopen week ging een filmpje viral waarin acteurs Tom Cruise en Brad Pitt bovenop een gebouw vechten. Die video is geheel met AI gemaakt en heeft dus niets van doen met de echte acteurs.

Verschillende filmstudio's hebben hier kritiek op geuit, en The Walt Disney Company eist zelfs (via Axios) dat ByteDance het onmogelijk maakt om auteursrechtelijke personages in Seedance 2.0 te gebruiken. Mensen kunnen immers ook personages uit Disney-, Marvel- en Star Wars-films gebruiken voor de AI-tool. Ook Paramount heeft een brief gestuurd naar Variety.

ByteDance heeft op zijn beurt een statement naar buiten gebracht (via o.a. Reuters en BBC) waarin het claimt dat het de huidige beveiligingsmaatregelen gaat aanscherpen om zo te voorkomen dat gebruikers bestaande personages en acteurs in kunnen zetten. Op welke manier het bedrijf dat precies gaat doen is niet duidelijk.