ID.nl logo
Huis

Deep fake AI-porno problematisch en moeilijk te stoppen

Reddit, Twitter en zelfs Pornhub proberen het fenomeen al aan banden te leggen, maar de opmars van neppe AI-porno, ofwel 'deep fake', lijkt niet te stoppen. En dat levert problemen op.

'Deepfake AI-porno' klinkt als een mix van fintech-hype, futurologie, en een beetje viezigheid, maar het proces is in korte tijd uitgegroeid tot een groot probleem voor sociale media, beroemdheden en juristen.

De term staat voor het gebruiken van foto's van gezichten in andere beelden - in dit geval de gezichten van beroemdheden die 'gephotoshopt' worden in bestaande pornovideo's.

Beroemdheden als gewilde doelwitten

Beroemdheden zijn al jaren een gewild doelwit van perverselingen. 'The Fappening' staat nog vers in het geheugen, toen de iCloud-accounts van tientallen vrouwelijke entertainers werden gehackt en duizenden naaktfoto's over het web werden verspreid. De dader werd later opgepakt en veroordeeld voor 18 maanden, maar daarmee is de interesse in gewone actrices en zangeressen in seksuele posities en situaties niet minder geworden.

Dat kan sinds kort met deep fake-AI-porno, waarmee 'gewone' gezichten in bestaande porno-video's worden geplakt.

Deep fakes

De term 'deep fake' om de porno te beschrijven lijkt van een Reddit-gebruiker genaamd DeepFakeApp te komen. Hij ontwikkelde in december een experimenteel desktopprogramma (vernoemd naar zichzelf) om dergelijke fake video's en gifjes te maken - voornamelijk pornografisch materiaal met beroemdheden. Hij zette de applicatie online en begon een community op Reddit, die al snel tienduizenden volgers kreeg.

Machine learning

Het programma maakt gebruik van open source machine learning-algoritmes zoals Googles TensorFlow. Een gebruiker hoeft het maar te downloaden en er een batch foto's aan toe te voegen om zelf al een video te maken.

Om meer te leren over machine learning lees je ook ons uitgebreide achtergrondartikel.

Verboden op sociale media

Het gemak waarmee geruikers met deep fake-algoritmesvideo's kunnen maken zorgt voor problemen bij sociale media zoals Reddit of Twitter. Die waren er dan ook snel bij om hun regels aan te passen en nagemaakte content te blokkeren. Reddit en Twitter zijn, in tegenstelling tot bijvoorbeeld Facebook of Instagram, normaal gesproken erg tolerant wat porno betreft. Dat deep fake-video's dan ook zo snel verboden worden is veelzeggend.

Inmiddels is de subreddit /r/deepfakes gebanned van de website. Een afgeleide subreddit genaamd /r/fakeapp bestaat nog steeds, opgericht door een gebruiker genaamd DeepFakes - waarvan wordt aangenomen dat het óf dezelfde persoon is als DeepFakeApp, of in ieder geval iemand met wie hij nauw samenwerkte.

In tegenstelling tot die oude subreddit is het in /r/fakeapp ten strengste verboden om niet-wederzijdse porno te plaatsen. Daar staat een ban op. Toch lijkt een groot gedeelte van de discussies op de subreddit te draaien om pornografie, en worden er vooral veel links gedeeld naar fora waar die beelden wél verspreid mogen worden.

Pornosites tegen deep fakes

Het zijn niet alleen sociale media die worstelen met het fenomeen. Ook 's werelds bekendste pornosite Pornhub verbiedt het plaatsen van deep fakes, maar de manier waarop dat moet gebeuren is nog onduidelijk. Een snelle zoekterm op de site laat op moment van schrijven 47 actieve deep fake-pornovideo's zien met verschillende bekende actrices. Pornhub zegt zelf dat het deep fake-video's behandelt zoals iedere andere vorm van content: als iemand een verwijderverzoek indient vanwege copyright-schending of wraakporno.

Maar juist die aanpak krijgt veel kritiek. Pornhub is juist groot geworden door het feit dat de website zo overspoeld wordt door video's dat copyright-houders niet tegen het enorme volume kunnen opvechten en het daarom maar opgeven.

Vechten tegen de bierkaai

Bovendien is het effect van één website (hoe invloedrijk dan ook) vechten tegen de bierkaai. Er zijn immers tienduizenden andere sites die maar wat graag verkeer trekken met dergelijke video's, zoals het relatief onbekende EroMe waar nu al tientallen deep fakes op worden aangeboden. Ook zijn er al een groot aantal forums online gekomen waar het delen van video's wordt gestimuleerd - het duurde ons niet veel langer dan 5 minuten om zulke websites te vinden.

Pornosites en sociale media worstelen met deep fake-pornovideo's

-

Machine learning

AI-porno wordt gemaakt met machine learning-algoritmes. Waar die tot een paar jaar geleden nog voornamelijk voor onderzoekers beschikbaar waren wordt het steeds makkelijker voor doorsnee gebruikers om op die manier dergelijke nepvideo's te maken. Netwerken zoals TensorFlow van Google zijn inmiddels open source beschikbaar, en gratis te gebruiken voor studenten en onderzoekers, maar ook voor iedereen die wil experimenteren met machine learning.

Dat leidt tot apps zoals Deep Fake, die nu gratis te downloaden zijn en die uitgerekend een gebruiksvriendelijke interface hebben.

Makkelijk te maken

Programmeurs hebben dan enkel nog een aantal foto's of video's nodig om de beelden zo echt mogelijk te laten lijken. Daarom zijn beroemdheden zo aantrekkelijk voor het maken van de video's. Via Google en YouTube zijn met een paar zoektermen miljoenen beelden van een actrice beschikbaar.

Opvallend is ook dat voor machine learning geen industriële high-end hardware nodig is. Met gewone consumenten-gpu's en -cpu's is het al mogelijk om beelden te renderen - al is het natuurlijk afhankelijk van de kracht van een chip hoe snel dat gebeurt.

Gewone mensen

Omdat het steeds makkelijker wordt zulke beelden te maken is het maar de vraag wanneer het niet meer alleen over beroemdheden gaat, maar ook over 'gewone mensen'; de kennissen, vrienden of zelfs familie van een maker. Hoe geavanceerder de algoritmes worden, des te makkelijker het wordt om beelden te genereren. Experts voorspellen dan ook dat het in de toekomst doodnormaal wordt om zelfgemaakte porno te maken met wie je dan ook wil zien.

Legaliteit

Het is dan ook maar de vraag of zulke namaakporno wel legaal is, maar gek genoeg is dat niet zo makkelijk als het lijkt.

Daarbij kun je de link leggen met wraakporno, ook een relatief nieuw concept dat in groeiende mate problematisch wordt. Wraakporno is pornografisch materiaal dat door iemand anders wordt geüpload, vaak door bijvoorbeeld een rancuneuze ex.

"Verwerking van persoonsgegevens"

Aan de oppervlakte voelt het alsof deep fake-porno illegaal is - het is in ieder geval zwaar onethisch. Maar is het ook echt tegen de wet? Volgens Arnoud Engelfriet van ICT Recht wel, maar niet rondom dezelfde principes als wraakporno. Neppe porno is volgens Engelfriet 'een geautomatiseerde verwerking van een persoonsgegeven', en daarvoor zou de maker uitdrukkelijke toestemming nodig hebben.

Voor zover bekend heeft er nog geen rechter uitspraak gedaan over het fenomeen, maar als dat gebeurt kan dat leiden tot een precedent waarin het maken van neppe porno inherent wordt verboden.

Van de andere kant: wie houdt zich nou netjes aan zo'n uitspraak?

▼ Volgende artikel
Bloober Team kondigt horrorspel Layers of Fear 3 aan
Huis

Bloober Team kondigt horrorspel Layers of Fear 3 aan

De Poolse ontwikkelaar heeft Layers of Fear 3 aangekondigd, een nieuw deel in diens horrorgamefranchise.

Bloober Team hintte al een tijdje naar een nieuwe aankondiging - er was geruime tijd een timer te zien die afliep naar Valentijnsdag afgelopen weekend. Die timer bleek dus voor Layers of Fear 3 te zijn.

Er is nog geen gameplay van het spel getoond, maar er werd wel een live-action teaserfilmpje online geplaatst waarin een man het gericht 'The Sick Rose' van William Blake voorleest. Meer info over de game werd niet gegeven.

Watch on YouTube

In de eerste Layers of Fear-game uit 2016 besturen spelers een schilder die in een Victoriaans landhuis probeert zijn meesterwerk af te maken, terwijl het landhuis geheimen over zijn verleden onthult. Er kwam een vervolg uit, alsmede een remake uit 2023 die simpelweg 'Layers of Fear' heet en de verhalen van de eerste twee games combineert en nieuw materiaal toevoegt.

Bloober Team heeft de laatste jaren flink aan de weg getimmerd als leverancier van horrorspellen. Naast de Layers of Fear-games heeft het bedrijf ook de remake van Silent Hill 2 gemaakt, alsmede Cronos: The New Dawn, Blair Witch en The Medium. Het bedrijf werkt samen met Konami ook aan een remake van de eerste Silent Hill.

▼ Volgende artikel
Mixen, pureren en hakken? Deze Philips handmixer is dé keukenfavoriet van 2025
© Philips
Huis

Mixen, pureren en hakken? Deze Philips handmixer is dé keukenfavoriet van 2025

De Philips HR3781/20 Handmixer is door consumenten uitgeroepen tot Best Reviewed van het Jaar 2025. En dat is niet zonder reden: deze alleskunner overtuigt in prestaties, gemak en veelzijdigheid - en dat zie je terug in de reviews.

Partnerbijdrage - in samenwerking met Philips

De publieksfavoriet volgens échte gebruikers

De Best Reviewed van het Jaar-award draait niet om mooie verkooppraatjes, maar om ervaringen van mensen die het product echt hebben gebruikt. Op Kieskeurig.nl delen duizenden consumenten hun mening over apparaten, gebaseerd op hoe die in de praktijk bevallen. Die ongefilterde reviews vormen de basis voor de jaarlijkse awards. Alleen producten die consequent goed scoren op gebruiksgemak, prestaties en tevredenheid komen in aanmerking. De Philips HR3781/20 handmixer heeft zich een jaar lang bewezen in keukens door het hele land - en dat leverde hem een plek op als publieksfavoriet van het jaar.

Een mixer die méér kan

De Philips HR3781/20 is geen gewone handmixer. Deze krachtpatser uit de 5000-serie levert 500 watt vermogen, wat bovengemiddeld is in deze productcategorie. Of je nu luchtig beslag mixt, brooddeeg kneedt of een warme soep pureert - dit apparaat draait er zijn hand niet voor om.

Wat de set echt compleet maakt, zijn de meegeleverde accessoires: naast gardes en deeghaken krijg je ook een staafmixer-opzetstuk, een hakmolen én een maatbeker met slimme opbergfunctie. Alles past netjes in elkaar en is makkelijk op te bergen.

Ook aan het gebruiksgemak is gedacht. Dankzij het ergonomische ontwerp ligt de mixer prettig in de hand, en het antispat-ontwerp zorgt ervoor dat je keuken schoon blijft - zelfs bij het mengen van vloeibare ingrediënten. Met vijf snelheden en een turbofunctie pas je de kracht eenvoudig aan je bereiding aan.

©Philips

Waarom gebruikers deze mixer aanraden

Wat gebruikers vooral waarderen aan de Philips HR3781/20, is hoe veelzijdig en compleet hij is. Velen geven aan dat de mixer in korte tijd onmisbaar is geworden. Zo noemt iemand het "een multifunctionele handmixer, niet meer weg te denken uit de keuken door de vele opties en manieren van gebruik." Van beslag kloppen tot soep pureren en groenten hakken: alles werkt soepel, en de opzetstukken klik je eenvoudig vast. Een gebruiker schrijft: "Ik gebruik hem voor simpele dingen zoals beslag maken of slagroom kloppen, maar ook voor soep pureren en groenten hakken. De accessoires werken goed en klikken makkelijk vast."

Ook de krachtige motor maakt indruk: "Zelfs bij het kneden van zwaardere brooddegen houdt hij zich goed staande," merkt een reviewer op. Het antispat-ontwerp valt eveneens in de smaak, met name door de slimme softstartfunctie: "Daardoor zit niet de hele keuken onder de spetters als je begint met mixen." Daarnaast krijgt ook het opbergsysteem veel lof. Zoals iemand opmerkt: "De accessoires klik je gewoon vast in het deksel. Zo ligt er niets los rond en dat bespaart echt veel ruimte."

Al met al is de toon in de reviews overtuigend positief: een krachtige, praktische mixer die aanvoelt alsof je meerdere apparaten in één keer in huis haalt.

©Philips

Een eerlijk oordeel

Natuurlijk is geen enkel apparaat zonder minpunten. Sommige gebruikers vinden het snoer aan de korte kant, wat vooral in keukens met minder gunstig geplaatste stopcontacten wat behelpen kan zijn. Ook wordt genoemd dat de mixer bij langdurig gebruik wat zwaar in de hand kan liggen. En bij heel stevig deeg moet je soms even doorzetten. Toch blijken dit voor de meeste mensen geen dealbreakers. Ze roemen vooral de kracht, veelzijdigheid en het gemak waarmee je de mixer gebruikt én weer opbergt. Daardoor wegen de kleine nadelen niet op tegen de dagelijkse voordelen. Of je nu een fanatieke thuisbakker bent of gewoon een handige hulp zoekt die meerdere apparaten vervangt: de Philips HR3781/20 is een slimme, doordachte keuze - en dat zie je terug in de enthousiaste beoordelingen.

©Philips

De Philips 5000 Series HR3781/20 handmixer

Ontdek hem