ID.nl logo
Huis

Deep fake AI-porno problematisch en moeilijk te stoppen

Reddit, Twitter en zelfs Pornhub proberen het fenomeen al aan banden te leggen, maar de opmars van neppe AI-porno, ofwel 'deep fake', lijkt niet te stoppen. En dat levert problemen op.

'Deepfake AI-porno' klinkt als een mix van fintech-hype, futurologie, en een beetje viezigheid, maar het proces is in korte tijd uitgegroeid tot een groot probleem voor sociale media, beroemdheden en juristen.

De term staat voor het gebruiken van foto's van gezichten in andere beelden - in dit geval de gezichten van beroemdheden die 'gephotoshopt' worden in bestaande pornovideo's.

Beroemdheden als gewilde doelwitten

Beroemdheden zijn al jaren een gewild doelwit van perverselingen. 'The Fappening' staat nog vers in het geheugen, toen de iCloud-accounts van tientallen vrouwelijke entertainers werden gehackt en duizenden naaktfoto's over het web werden verspreid. De dader werd later opgepakt en veroordeeld voor 18 maanden, maar daarmee is de interesse in gewone actrices en zangeressen in seksuele posities en situaties niet minder geworden.

Dat kan sinds kort met deep fake-AI-porno, waarmee 'gewone' gezichten in bestaande porno-video's worden geplakt.

Deep fakes

De term 'deep fake' om de porno te beschrijven lijkt van een Reddit-gebruiker genaamd DeepFakeApp te komen. Hij ontwikkelde in december een experimenteel desktopprogramma (vernoemd naar zichzelf) om dergelijke fake video's en gifjes te maken - voornamelijk pornografisch materiaal met beroemdheden. Hij zette de applicatie online en begon een community op Reddit, die al snel tienduizenden volgers kreeg.

Machine learning

Het programma maakt gebruik van open source machine learning-algoritmes zoals Googles TensorFlow. Een gebruiker hoeft het maar te downloaden en er een batch foto's aan toe te voegen om zelf al een video te maken.

Om meer te leren over machine learning lees je ook ons uitgebreide achtergrondartikel.

Verboden op sociale media

Het gemak waarmee geruikers met deep fake-algoritmesvideo's kunnen maken zorgt voor problemen bij sociale media zoals Reddit of Twitter. Die waren er dan ook snel bij om hun regels aan te passen en nagemaakte content te blokkeren. Reddit en Twitter zijn, in tegenstelling tot bijvoorbeeld Facebook of Instagram, normaal gesproken erg tolerant wat porno betreft. Dat deep fake-video's dan ook zo snel verboden worden is veelzeggend.

Inmiddels is de subreddit /r/deepfakes gebanned van de website. Een afgeleide subreddit genaamd /r/fakeapp bestaat nog steeds, opgericht door een gebruiker genaamd DeepFakes - waarvan wordt aangenomen dat het óf dezelfde persoon is als DeepFakeApp, of in ieder geval iemand met wie hij nauw samenwerkte.

In tegenstelling tot die oude subreddit is het in /r/fakeapp ten strengste verboden om niet-wederzijdse porno te plaatsen. Daar staat een ban op. Toch lijkt een groot gedeelte van de discussies op de subreddit te draaien om pornografie, en worden er vooral veel links gedeeld naar fora waar die beelden wél verspreid mogen worden.

Pornosites tegen deep fakes

Het zijn niet alleen sociale media die worstelen met het fenomeen. Ook 's werelds bekendste pornosite Pornhub verbiedt het plaatsen van deep fakes, maar de manier waarop dat moet gebeuren is nog onduidelijk. Een snelle zoekterm op de site laat op moment van schrijven 47 actieve deep fake-pornovideo's zien met verschillende bekende actrices. Pornhub zegt zelf dat het deep fake-video's behandelt zoals iedere andere vorm van content: als iemand een verwijderverzoek indient vanwege copyright-schending of wraakporno.

Maar juist die aanpak krijgt veel kritiek. Pornhub is juist groot geworden door het feit dat de website zo overspoeld wordt door video's dat copyright-houders niet tegen het enorme volume kunnen opvechten en het daarom maar opgeven.

Vechten tegen de bierkaai

Bovendien is het effect van één website (hoe invloedrijk dan ook) vechten tegen de bierkaai. Er zijn immers tienduizenden andere sites die maar wat graag verkeer trekken met dergelijke video's, zoals het relatief onbekende EroMe waar nu al tientallen deep fakes op worden aangeboden. Ook zijn er al een groot aantal forums online gekomen waar het delen van video's wordt gestimuleerd - het duurde ons niet veel langer dan 5 minuten om zulke websites te vinden.

Pornosites en sociale media worstelen met deep fake-pornovideo's

-

Machine learning

AI-porno wordt gemaakt met machine learning-algoritmes. Waar die tot een paar jaar geleden nog voornamelijk voor onderzoekers beschikbaar waren wordt het steeds makkelijker voor doorsnee gebruikers om op die manier dergelijke nepvideo's te maken. Netwerken zoals TensorFlow van Google zijn inmiddels open source beschikbaar, en gratis te gebruiken voor studenten en onderzoekers, maar ook voor iedereen die wil experimenteren met machine learning.

Dat leidt tot apps zoals Deep Fake, die nu gratis te downloaden zijn en die uitgerekend een gebruiksvriendelijke interface hebben.

Makkelijk te maken

Programmeurs hebben dan enkel nog een aantal foto's of video's nodig om de beelden zo echt mogelijk te laten lijken. Daarom zijn beroemdheden zo aantrekkelijk voor het maken van de video's. Via Google en YouTube zijn met een paar zoektermen miljoenen beelden van een actrice beschikbaar.

Opvallend is ook dat voor machine learning geen industriële high-end hardware nodig is. Met gewone consumenten-gpu's en -cpu's is het al mogelijk om beelden te renderen - al is het natuurlijk afhankelijk van de kracht van een chip hoe snel dat gebeurt.

Gewone mensen

Omdat het steeds makkelijker wordt zulke beelden te maken is het maar de vraag wanneer het niet meer alleen over beroemdheden gaat, maar ook over 'gewone mensen'; de kennissen, vrienden of zelfs familie van een maker. Hoe geavanceerder de algoritmes worden, des te makkelijker het wordt om beelden te genereren. Experts voorspellen dan ook dat het in de toekomst doodnormaal wordt om zelfgemaakte porno te maken met wie je dan ook wil zien.

Legaliteit

Het is dan ook maar de vraag of zulke namaakporno wel legaal is, maar gek genoeg is dat niet zo makkelijk als het lijkt.

Daarbij kun je de link leggen met wraakporno, ook een relatief nieuw concept dat in groeiende mate problematisch wordt. Wraakporno is pornografisch materiaal dat door iemand anders wordt geüpload, vaak door bijvoorbeeld een rancuneuze ex.

"Verwerking van persoonsgegevens"

Aan de oppervlakte voelt het alsof deep fake-porno illegaal is - het is in ieder geval zwaar onethisch. Maar is het ook echt tegen de wet? Volgens Arnoud Engelfriet van ICT Recht wel, maar niet rondom dezelfde principes als wraakporno. Neppe porno is volgens Engelfriet 'een geautomatiseerde verwerking van een persoonsgegeven', en daarvoor zou de maker uitdrukkelijke toestemming nodig hebben.

Voor zover bekend heeft er nog geen rechter uitspraak gedaan over het fenomeen, maar als dat gebeurt kan dat leiden tot een precedent waarin het maken van neppe porno inherent wordt verboden.

Van de andere kant: wie houdt zich nou netjes aan zo'n uitspraak?

▼ Volgende artikel
Kristen Bell speelt Amy Rose in vierde Sonic the Hedgehog-film
Huis

Kristen Bell speelt Amy Rose in vierde Sonic the Hedgehog-film

Actrice Kristen Bell zal de stem van Amy Rose inspreken in de aankomende vierde Sonic the Hedgehog-film.

Het personage, dat veelvuldig in de Sonic-games voorkomt, had al een gastrolletje aan het einde van de film Sonic the Hedgehog 3. Deze week heeft The Hollywood Reporter onthuld dat het personage in de vierde Sonic-film ingesproken zal worden door Kristen Bell.

Bell heeft al ervaring met stemacteerwerk: ze speelde ook de rol van Princess Anna in de Frozen-films. Verder is ze bekend van series als The Good Place, Veronica Mars en Deadwood. Ze speelde ook de rol van Lucy in de allereerste Assassin's Creed-game.

De vierde Sonic the Hedgehog-film draait vanaf 19 maart 2027 in de bioscoop.

View post on X

Over de Sonic the Hedgehog-films

De Sonic the Hedgehog-films zijn gebaseerd op het populaire gamepersonage van Sega, een blauwe egel die zijn dierenvrienden probeert te redden en extreem snel kan rennen. De films combineren live-action acteerwerk met computergeanimeerde beelden.

De drie uitgekomen verfilmingen zijn een megasucces: begin 2025 werd al aangekondigd dat de drie Sonic-films bij elkaar meer dan een miljard dollar aan bioscoopopbrengsten hadden gegenereerd.

De films staan mede bekend om hun goedgevulde cast. Zo zijn James Marsden en Jim Carrey te zien, en verlenen onder andere Ben Schwartz, Keanu Reeves en Idris Elba hun stemmen aan computergeanimeerde personages.

▼ Volgende artikel
Alles over Tomb Raider: The Legacy of Atlantis, Catalyst en de aankomende serie
© Crystal Dynamics
Huis

Alles over Tomb Raider: The Legacy of Atlantis, Catalyst en de aankomende serie

Eind 2025 kregen we eindelijk de langverwachte eerste beelden van Tomb Raiders toekomst te zien. Het was al een aantal jaren bekend dat Amazon de franchise met zowel een serie als nieuwe games wilde terugbrengen, maar hoe precies, dat was nog lang giswerk. Nu is bekend dat er maar liefst twee nieuwe games op stapel staan: Tomb Raider: The Legacy of Atlantis en Tomb Raider: Catalyst.

Releasedata van de nieuwe Tomb Raider-games

Tijdens The Game Awards in 2025 werd aangekondigd dat Tomb Raider: The Legacy of Atlantis (een remake van de allereerste Tomb Raider-game uit 1996) in 2026 moet verschijnen. Een geheel nieuwe Tomb Raider-game die zich later in de tijdlijn afspeelt is Catalyst, de game die in 2027 moet verschijnen. Beide spellen komen uit op de PlayStation 5, Xbox Series X en S en pc.

Beide titels worden ontwikkeld door Crystal Dynamics, dat eerder Tomb Raider uit 2013 en Rise of the Tomb Raider uit 2015 maakte. Ook hielp de studio mede-ontwikkelaar Eidos Montréal met de productie van Shadow of the Tomb Raider (2018). De studio Flying Wild Hog (Shadow Warrior, Trek to Yomi) ondersteunt de ontwikkeling van Tomb Raider: The Legacy of Atlantis.

Allemaal in één tijdlijn

Met dit nieuwe Tomb Raider-tijdperk willen Amazon en ontwikkelaar Crystal Dynamics harder dan ooit inzetten op de eenduidige tijdlijn van de franchise. In de allereerste Tomb Raider-game uit 1996 was Lara Croft al een geharde avonturier, en in 2012 begon Crystal Dynamics met het vertellen van haar 'oorsprongsverhaal'. De zogenaamde Survivor-trilogie omvat de games Tomb Raider (2013), Rise of the Tomb Raider (2015) en Shadow of the Tomb Raider (2018), die samen laten zien hoe Lara steeds meer in die rol van de geharde bad-ass groeit.

©Crystal Dynamics

De bedoeling is in principe altijd geweest dat de Survivor-trilogie een voorloper vormt op de originele games, al werd daar nog vaak over gediscussieerd door fans. Sommigen vinden bijvoorbeeld dat de sfeer van de modernere games niet goed overeenkomt met de originele titels. Desalniettemin gaat Amazon door met het plan, zo werd al aangekondigd in 2021, waar in een speciale video het volgende werd gezegd over de aankomende Tomb Raider-game:

"Het bevat alle elementen die de Tomb Raider-reeks een van de meest geprezen franchises in gaming heeft gemaakt. Spelers besturen een zelfverzekerde en multidimensionale heldin in een omgeving waarin verkenning en creatief routes vinden wordt beloond. Er zijn duizelingwekkende puzzels om op te lossen en er is een grote variatie aan vijanden om het tegen op te nemen."

©Crystal Dynamics

Tomb Raider: Legacy of Atlantis

Tomb Raider: The Legacy of Atlantis lijkt dit duidelijk te moeten maken. De game is dus een remake van het spel waar de franchise mee begon, met gemoderniseerde gameplay en visuals. Het verhaal rondom het krachtige artefact de Scion blijft intact, al gaat de verhaalvertelling in deze versie van het spel wat anders dan in 1996.

Dit biedt de ontwikkelaar ook genoeg kansen om het avontuur waar het voor Lara allemaal begon te koppelen aan de Survivor-delen, en dus het tijdperk tussen nieuw en oud te overbruggen. De dinosauriërs uit het origineel zijn dus nog gewoon aanwezig, al is dat nu met veren. Want we moeten wel rechtdoen aan de geschiedenis.

Watch on YouTube

Tomb Raider: Catalyst

Dus wat betekent dat voor Tomb Raider: Catalyst, de andere game die tijdens The Game Awards voor het eerst getoond werd? Catalyst is eigenlijk een soort schone lei voor Tomb Raider, met een verhaal dat zich na alle voorgaande games, boeken, comics en series - ja, daar komen we later nog op - afspeelt.

De voorgaande verhalen worden wel als 'canon' (lees: onderdeel van de geschiedenis in deze tijdlijn) beschouwd. Dat kunnen we opmaken uit de onthullingstrailer van het spel, waarin gerefereerd wordt aan de gebeurtenissen uit Tomb Raider (2013) en de eerste Tomb Raider-game - alsmede Legacy of Atlantis dus.

Watch on YouTube

Het spel speelt zich af in het noorden van India, in de nasleep van een cataclysmische gebeurtenis waardoor verschillende geheimen uit de geschiedenis plotseling geopenbaard zijn. Lara Croft en zo ongeveer iedere andere schattenjager in de wereld gaat dus op pad naar het gebied om de geheimen en rijkdommen van weleer te ontdekken. Aan Lara de taak om te zorgen dat de soms gevaarlijke mythische voorwerpen uit de verkeerde handen blijven, wat volgens de website voor een verhaal bomvol 'vertrouwen en verraad' zorgt.

De start van een trilogie?

Het is goed mogelijk dat Catalyst het eerste deel is van een gloednieuwe Tomb Raider-trilogie. In maart 2024 vond er bij het South by Southwest-filmfestival (SXSW) een panel plaats waarin (zo ontdekte het Tomb Raider fan-account Society of Raiders) Dimitri Johnson aan het woord kwam.

©Crystal Dynamics

Johnson, een producent van onder andere de eerste Sonic the Hedgehog-film, heeft een deal gesloten met Amazon Studios voor het ontwikkelen van televisieseries, onder andere romdom Tomb Raider. In het panel over transmedia - oftewel het gebruiken van een IP (intellectual property) via verschillende mediums, waaronder live-action films, series, animatie en games - zei hij het volgende:

"Er is een franchise waar we aan werken waar ik niet te diep op in kan gaan. En dit is een groot experiment voor ons - de studio's en het gamebedrijf waar we werken aan animatie, live-action films, live-action televisie en een trilogie aan games die gebouwd zijn in Unreal 5. Daarbij kijken we naar een manier om de assets die voor de game gebruikt worden toe te passen om de productie van de live-action producties te ondersteunen."

©Amazon

De precieze franchise waar het om gaat wordt niet genoemd, maar gezien zijn betrokkenheid bij de live-action serie valt aan te nemen dat het om Tomb Raider gaat. Hij heeft dus mogelijk bevestigd dat Cataclysm het startschot is van een nieuwe Tomb Raider-trilogie.

Amazon en Crystal Dynamics lijken hier ook naar te hinten met de trailer van het spel. Na een lange monoloog van een antagonist over hoe de 'legende van Lara Croft tot een einde moet komen' stelt de avonturier zelf dat ze nog maar net begonnen is. Dat kan uiteraard een knipoog zijn naar haar langverwachte terugkeer, maar het lijkt erop dat Amazon hard op Tomb Raider gaat inzetten.

©Crystal Dynamics

De stem van Lara Croft

In de nieuwe games krijgt Lara een nieuwe stemactrice. Alix Wilton Regan - bekend van rollen in Mass Effect 3, Cyberpunk 2077 en Assassin's Creed: Origins - gaat het stokje overnemen van Camilla Luddington, die het personage vertolkte in de Survivor-trilogie. Na de aankondiging dat Regan de rol op zich gaat nemen, plaatste Luddington een emotioneel bericht op haar Instagram-account:

"Ik wil jullie laten weten dat ik van de fans heb gehouden. Het was een ongelooflijke eer om Lara Croft te spelen en ze blijft altijd onderdeel van mij uitmaken. De Survivor-trilogie bood mij een decennium aan avontuur dat ik nooit ga vergeten. Ik kan niet trotser zijn op wat we hebben gecreëerd. Zoals altijd ontvangt de nieuwe actrice een ongelooflijke gift door in haar laarzen te mogen stappen."

View post on Instagram
 

Gameplay van de nieuwe Tomb Raider

Van Legacy of Atlantis hebben we al wat gameplay - mogelijk gemaakt door Unreal Engine 5 - kunnen zien met de onthullingstrailer. Daaruit blijkt dat Lara net zo acrobatisch is als in de oorspronkelijke PlayStation-games - iets wat in de Survivor-trilogie minder aan bod kwam. In de trailer zien we in ieder geval dat Lara zich niet simpelweg omhoog drukt tijdens het klimmen, maar haar iconische 'cirkelmethode' nog altijd onder de knie heeft. Verder zijn er beelden te zien van het klimmen, een puzzel en de valstrikken die je in de verschillende tombes te wachten staan. Ook kregen we een glimp van de gunplay in het spel. Lara heeft haar twee vertrouwde pistolen, en kan die al ontwijkend en springend loslaten op dinosauriërs.

Van Catalyst is nog geen gameplay getoond, al onthult de cinematische trailer mogelijk wel een paar gameplaymogelijkheden. Denk aan de grijphaak die Lara op Spider-Man-achtige wijze aan haar pols heeft hangen, en die ze schijnbaar ook tijdens gevechten kan inzetten om vijanden af te leiden of uit te schakelen. Ook zien we haar een lamp kapotschieten om voor verwarring te zorgen, en daar een voordeel uit halen. Wellicht wordt de combat en stealth dus wel uitgebreid met mechanieken rondom lichtinval. Veel meer is er nog niet op te maken, al zijn er in de afgelopen jaren wellicht al een paar details naar buiten gekomen.

©Crystal Dynamics

Eerdere geruchten

Deze nieuwe Tomb Raider-games zijn al jaren in ontwikkeling, en er zijn in die tijd ook een flink aantal geruchten opgedoken rondom Catalyst. Niets is bevestigd, dus houd een korreltje zout bij de hand.

Het is de insider V Scooper en journalist Gregory Felipe namelijk ter ore gekomen dat de nieuwe Tomb Raider-game een soort Ubisoft-achtige open wereld-game betreft. V Scooper deelde eerder ook al details over het verhaal van Catalyst, die op basis van de onthulling goed overeenkomen.

Volgens V Scooper heeft Lara naast 'gebruikelijke Lara bewegingsmethodes' toegang tot een motor en parachute om zich door het noorden van India te begeven. Daarbij hint hij naar verschillende confrontaties met dieren als luiaarden en tijgers in gebieden als jungles, bergen en woestijnen.

©Crystal Dynamics

Felipe had het voor die berichten ook al over een motor waarmee Lara zich door de map kan verplaatsen. Daarbij had hij het ook over companions met unieke vaardigheden, en dat er bekende personages uit de vorige game terugkeren.

Het spel bevat volgens Felipe vijf Far Cry-achtige vijanden, die volgens hem bestaan uit de stereotiepe rijke man, een misdaadbaas en een duo van twee broers. Lara zelf zou daarbij toegang krijgen tot een skilltree met magische skills. Nogmaals: dit zijn allemaal geruchten. Geen van deze gameplayelementen is tot nu toe bevestigd en er kan in de tijd sinds de rapportage van alles veranderd zijn.

©Crystal Dynamics

De Tomb Raider-serie met Sophie Turner

Tomb Raider en Lara Croft zijn uiteraard game-iconen, maar de franchise is al geruime tijd ook onderdeel van het Hollywoodlandschap. In 2001 en 2003 kwamen respectievelijk de films Lara Croft: Tomb Raider en Lara Croft: Tomb Raider - The Cradle of Life uit. Ondanks de sterrenkracht van Angelina Jolie als Lara Croft waren de films niet bijster succesvol, dus het duurde tot 2018 totdat Lara weer op het witte doek verscheen. Ook met Alicia Vikander in de hoofdrol wist Tomb Raider niet veel indruk te maken als film.

Enfin, we geven niet op. In 2024 kwam Netflix met de animatieserie Tomb Raider: The Legend of Lara Croft - waarvan een tweede en laatste seizoen in 2025 verscheen. Deze serie volgt Lara Croft na de Shadow of the Tomb Raider-game, en overbrugt dus het tijdperk van de Survivor-trilogie en de originele games. Helaas werd ook de animatieserie niet bijster goed ontvangen. Een prima tussendoortje, maar niets om over naar huis te schrijven.

©Netflix

Maar Hollywood - en specifiek Amazon in dit geval - weet niet van ophouden. Er wordt namelijk ook al sinds eind 2023 gewerkt aan een live-action Tomb Raider-serie door Fleabag-maker Phoebe Waller-Bridge, die op een nog onbekend moment op Amazon Prime Video verschijnt. Het heeft even mogen duren voordat de serie in productie ging, maar begin 2026 was het eindelijk zover. In februari kwamen de eerste setfoto's van de serie naar buiten.

Daarbij werd ook bekendgemaakt dat Sophie Turner (van Game of Thrones- en X-Men-faam) de rol van de iconische avonturier op zich neemt. Ze wordt vergezeld door onder anderen Martin Bobb-Semple als Lara's compagnon Zip, Alien-actrice Sigourney Weaver als Evelyn Wallis, Harry Potter-ster Jason Isaacs als Atlas DeMornay en Bill Paterson (Fleabag) als Winston - Lara's butler. Het is nog niet geheel duidelijk hoe de live-action serie in de Tomb Raider-tijdlijn past, en details over het verhaal zijn momenteel nog schaars. Zodra er meer duidelijkheid is, lees je dat uiteraard in dit overzicht.