Reddit, Twitter en zelfs Pornhub proberen het fenomeen al aan banden te leggen, maar de opmars van neppe AI-porno, ofwel 'deep fake', lijkt niet te stoppen. En dat levert problemen op.

'Deepfake AI-porno' klinkt als een mix van fintech-hype, futurologie, en een beetje viezigheid, maar het proces is in korte tijd uitgegroeid tot een groot probleem voor sociale media, beroemdheden en juristen.

De term staat voor het gebruiken van foto's van gezichten in andere beelden - in dit geval de gezichten van beroemdheden die 'gephotoshopt' worden in bestaande pornovideo's.

Beroemdheden als gewilde doelwitten

Beroemdheden zijn al jaren een gewild doelwit van perverselingen. 'The Fappening' staat nog vers in het geheugen, toen de iCloud-accounts van tientallen vrouwelijke entertainers werden gehackt en duizenden naaktfoto's over het web werden verspreid. De dader werd later opgepakt en veroordeeld voor 18 maanden, maar daarmee is de interesse in gewone actrices en zangeressen in seksuele posities en situaties niet minder geworden.

Dat kan sinds kort met deep fake-AI-porno, waarmee 'gewone' gezichten in bestaande porno-video's worden geplakt.

Deep fakes

De term 'deep fake' om de porno te beschrijven lijkt van een Reddit-gebruiker genaamd DeepFakeApp te komen. Hij ontwikkelde in december een experimenteel desktopprogramma (vernoemd naar zichzelf) om dergelijke fake video's en gifjes te maken - voornamelijk pornografisch materiaal met beroemdheden. Hij zette de applicatie online en begon een community op Reddit, die al snel tienduizenden volgers kreeg.

Machine learning

Het programma maakt gebruik van open source machine learning-algoritmes zoals Googles TensorFlow. Een gebruiker hoeft het maar te downloaden en er een batch foto's aan toe te voegen om zelf al een video te maken.

Om meer te leren over machine learning lees je ook ons uitgebreide achtergrondartikel.

Verboden op sociale media

Het gemak waarmee geruikers met deep fake-algoritmesvideo's kunnen maken zorgt voor problemen bij sociale media zoals Reddit of Twitter. Die waren er dan ook snel bij om hun regels aan te passen en nagemaakte content te blokkeren. Reddit en Twitter zijn, in tegenstelling tot bijvoorbeeld Facebook of Instagram, normaal gesproken erg tolerant wat porno betreft. Dat deep fake-video's dan ook zo snel verboden worden is veelzeggend.

Inmiddels is de subreddit /r/deepfakes gebanned van de website. Een afgeleide subreddit genaamd /r/fakeapp bestaat nog steeds, opgericht door een gebruiker genaamd DeepFakes - waarvan wordt aangenomen dat het óf dezelfde persoon is als DeepFakeApp, of in ieder geval iemand met wie hij nauw samenwerkte.

In tegenstelling tot die oude subreddit is het in /r/fakeapp ten strengste verboden om niet-wederzijdse porno te plaatsen. Daar staat een ban op. Toch lijkt een groot gedeelte van de discussies op de subreddit te draaien om pornografie, en worden er vooral veel links gedeeld naar fora waar die beelden wél verspreid mogen worden.

Pornosites tegen deep fakes

Het zijn niet alleen sociale media die worstelen met het fenomeen. Ook 's werelds bekendste pornosite Pornhub verbiedt het plaatsen van deep fakes, maar de manier waarop dat moet gebeuren is nog onduidelijk. Een snelle zoekterm op de site laat op moment van schrijven 47 actieve deep fake-pornovideo's zien met verschillende bekende actrices. Pornhub zegt zelf dat het deep fake-video's behandelt zoals iedere andere vorm van content: als iemand een verwijderverzoek indient vanwege copyright-schending of wraakporno.

Maar juist die aanpak krijgt veel kritiek. Pornhub is juist groot geworden door het feit dat de website zo overspoeld wordt door video's dat copyright-houders niet tegen het enorme volume kunnen opvechten en het daarom maar opgeven.

Vechten tegen de bierkaai

Bovendien is het effect van één website (hoe invloedrijk dan ook) vechten tegen de bierkaai. Er zijn immers tienduizenden andere sites die maar wat graag verkeer trekken met dergelijke video's, zoals het relatief onbekende EroMe waar nu al tientallen deep fakes op worden aangeboden. Ook zijn er al een groot aantal forums online gekomen waar het delen van video's wordt gestimuleerd - het duurde ons niet veel langer dan 5 minuten om zulke websites te vinden.

Machine learning

AI-porno wordt gemaakt met machine learning-algoritmes. Waar die tot een paar jaar geleden nog voornamelijk voor onderzoekers beschikbaar waren wordt het steeds makkelijker voor doorsnee gebruikers om op die manier dergelijke nepvideo's te maken. Netwerken zoals TensorFlow van Google zijn inmiddels open source beschikbaar, en gratis te gebruiken voor studenten en onderzoekers, maar ook voor iedereen die wil experimenteren met machine learning.

Dat leidt tot apps zoals Deep Fake, die nu gratis te downloaden zijn en die uitgerekend een gebruiksvriendelijke interface hebben.

Makkelijk te maken

Programmeurs hebben dan enkel nog een aantal foto's of video's nodig om de beelden zo echt mogelijk te laten lijken. Daarom zijn beroemdheden zo aantrekkelijk voor het maken van de video's. Via Google en YouTube zijn met een paar zoektermen miljoenen beelden van een actrice beschikbaar.

Opvallend is ook dat voor machine learning geen industriële high-end hardware nodig is. Met gewone consumenten-gpu's en -cpu's is het al mogelijk om beelden te renderen - al is het natuurlijk afhankelijk van de kracht van een chip hoe snel dat gebeurt.

Gewone mensen

Omdat het steeds makkelijker wordt zulke beelden te maken is het maar de vraag wanneer het niet meer alleen over beroemdheden gaat, maar ook over 'gewone mensen'; de kennissen, vrienden of zelfs familie van een maker. Hoe geavanceerder de algoritmes worden, des te makkelijker het wordt om beelden te genereren. Experts voorspellen dan ook dat het in de toekomst doodnormaal wordt om zelfgemaakte porno te maken met wie je dan ook wil zien.

Legaliteit

Het is dan ook maar de vraag of zulke namaakporno wel legaal is, maar gek genoeg is dat niet zo makkelijk als het lijkt.

Daarbij kun je de link leggen met wraakporno, ook een relatief nieuw concept dat in groeiende mate problematisch wordt. Wraakporno is pornografisch materiaal dat door iemand anders wordt geüpload, vaak door bijvoorbeeld een rancuneuze ex.

"Verwerking van persoonsgegevens"

Aan de oppervlakte voelt het alsof deep fake-porno illegaal is - het is in ieder geval zwaar onethisch. Maar is het ook echt tegen de wet? Volgens Arnoud Engelfriet van ICT Recht wel, maar niet rondom dezelfde principes als wraakporno. Neppe porno is volgens Engelfriet 'een geautomatiseerde verwerking van een persoonsgegeven', en daarvoor zou de maker uitdrukkelijke toestemming nodig hebben.

Voor zover bekend heeft er nog geen rechter uitspraak gedaan over het fenomeen, maar als dat gebeurt kan dat leiden tot een precedent waarin het maken van neppe porno inherent wordt verboden.

Van de andere kant: wie houdt zich nou netjes aan zo'n uitspraak?

Een link die nét echt lijkt, een download met verborgen rommel, een datalek bij een webshop waar je jaren geleden iets kocht… het gebeurt dagelijks en vaak zonder dat je het meteen doorhebt. Goede beveiliging voorkomt een hoop gedoe, maar hoeft gelukkig geen grote uitgave te zijn. Via CashbackXL kun je nu tot 30% geld terug krijgen op alle producten van AVG!

De beveiligingspakketten van AVG richten zich op wat je dagelijks online tegenkomt: verdachte downloads, slimme phishingtrucs, datalekken en trackers die ongemerkt informatie verzamelen. AVG Internet Security scant continu op ransomware, spyware en andere digitale dreigingen. De AI-technologie herkent nieuwe risico's vroegtijdig, terwijl links, downloads en bijlagen automatisch worden gecontroleerd. De firewall houdt indringers buiten, je webcam blijft afgesloten voor onbekende apps en bij online betalen voorkomt een extra controlelaag dat je op een nepsite belandt.

Wie meer wil doen met privacy en prestaties, vindt in AVG Ultimate een complete oplossing. De versleutelde VPN-verbinding beschermt je netwerkverkeer op zowel thuis- als openbare wifi. TuneUp houdt laptops en telefoons soepel door achtergebleven bestanden op te ruimen en software bij te werken. AntiTrack verkleint je digitale voetafdruk door minder gegevens prijs te geven aan adverteerders en websites.

Daarbuiten zijn er losse tools voor wie gericht één risico wil aanpakken. AVG Secure VPN richt zich op anonimiteit en veilige verbindingen. AVG AntiTrack helpt je identiteit te verbergen voor trackers. BreachGuard controleert of je gegevens in datalekken opduiken en ondersteunt bij het verwijderen van die informatie. AVG TuneUp zorgt dat laptops en telefoons soepel blijven draaien door achtergebleven bestanden op te ruimen, software bij te werken en opstartprocessen te stroomlijnen

🚨 Denk je nu: dat wil ik? Dan is dit hét moment. Want met de AVG-actie op CashbackXL krijg je een maar liefst 30% van je aankoopbedrag teruggestort op je rekening!

💡 Tip!

De vergoedingen van AVG willen nog wel eens veranderen en zijn erg specifiek. 
Wil je zeker weten of je op jouw bestelling cashback ontvangt? Stuur dan even een email naar info@cashbackxl.nl. 

Waarom je CashbackXL kunt vertrouwen

CashbackXL is de grootste cashback-site van Nederland. De site registreert 97 procent van alle aankopen succesvol en scoort op Kiyoh een klantwaardering van een 9,0. Je ontvangt je uitbetaling maandelijks, krijgt de hoogste cashback-percentages en kunt terecht bij een toegankelijke klantenservice.

Het is Black Friday Week bij Expert. In de winkels én online vind je hoge kortingen op televisies, laptops, wasmachines, drogers, e-readers en slimme apparaten. Dit is dus hét moment om toe te slaan. Hieronder zetten we zeven producten in de spotlight – en je ziet meteen welke korting je krijgt!

Partnerbijdrage - in samenwerking met Expert

LG 55QNED86A6A 55-inch: 4K QNED EVO-televisie

De LG 55QNED86A6A combineert QNED EVO-technologie met een 55-inch 4K-scherm voor helder beeld en nauwkeurige kleuren. De α8 AI Processor 4K optimaliseert beeld en geluid automatisch, terwijl HDR10 en HLG zorgen voor een breed dynamisch bereik. Dankzij WebOS 25 schakel je snel tussen apps, en met vier HDMI 2.1-poorten sluit je moeiteloos consoles of streamingapparaten aan. Een complete smart-tv voor films, series en gaming.

💡LG 55QNED86A6A: van 849 euro voor 675 euro

Samsung WW11DG6B25LB: grote en zuinige wasmachine

De Samsung WW11DG6B25LB heeft een ruime trommel van 11 kilo en centrifugeert met 1400 toeren. EcoBubble wast grondig op lage temperatuur en Hygiënisch Stomen verwijdert bacteriën en allergenen. Met SuperSpeed is een volle trommel in 39 minuten schoon. Het AI Display leert welke programma's je het meest gebruikt en zet die vooraan. Bovendien is het met een energieklasse van A -10% ook nog eens een zuinige wasmachine.

💡Samsung WW11DG6B25LB: van 819 euro voor 566 euro

Beko BM3T3823W: energiezuinige warmtepompdroger

De Beko BM3T3823W is een energiezuinige warmtepompdroger met een capaciteit van 8 kilo. Dankzij EcoGentle blijven kleuren mooi, terwijl het AquaWave-systeem zorgt voor een zachte trommelbeweging die slijtage beperkt. De vijftien programma's bieden opties voor uiteenlopende stoffen, van katoen tot fijne was. Het overzichtelijke LED-display toont de resterende tijd en maakt elke instelling eenvoudig.

💡Beko BM3T3823W: van 519 euro voor 433 euro

Inventum VVW6008AB: vrijstaande vaatwasser

De Inventum VVW6008AB is een praktische vrijstaande vaatwasser met ruimte voor twaalf couverts. Met een hoogte van 85 centimeter past hij onder de meeste aanrechtbladen. De indeling is overzichtelijk en de bestekmand houdt messen, vorken en lepels bij elkaar zodat alles goed schoon wordt. Een nuchtere, stille vaatwasser die ontworpen is voor dagelijks gebruik.

💡Inventum VVW6008AB: van 379 euro voor 299 euro

Acer Aspire Go 15 (AG15-42P-R6QL): allround laptop

De Acer Aspire Go 15 combineert een slank ontwerp met sterke prestaties. De AMD Ryzen 7 5825U-processor en 16 GB RAM zorgen voor soepele multitasking, terwijl de 512 GB SSD voor snelle opstarttijden zorgt. Het 15,6-inch Full HD IPS-scherm levert scherpe beelden en AMD Radeon Graphics zorgt voor verbeterde grafische prestaties. Een lichte, veelzijdige laptop voor thuis, studie en onderweg.

💡Acer Aspire Go 15 (AG15-42P-R6QL): van 599 euro voor 499 euro

Eufy Video Doorbell E340 + Chime: slimme deurbel

De Eufy Video Doorbell E340 toont wie er voor je deur staat in scherpe 1080p- of 1536p-modus. Dankzij de draadloze installatie heb je geen bedrading nodig. Via de Eufy-app bekijk je livebeelden en meldingen op je smartphone. De meegeleverde Chime zorgt dat je het signaal ook zonder telefoon hoort. Een eenvoudige manier om je huis slimmer en veiliger te maken.

💡Eufy Video Doorbell E340 + Chime: van 199 euro voor 119 euro

Kobo Libra Colour (zwart): e-reader met kleurenscherm

De Kobo Libra Colour heeft een 7-inch E Ink Kaleido 3-scherm dat omslagen, illustraties en notities in kleur weergeeft. De e-reader is waterbestendig (IPX8) en biedt 32 GB opslag voor duizenden boeken. ComfortLight PRO vermindert automatisch blauw licht voor prettig lezen. Wie met de Kobo Stylus 2 werkt (optioneel), kan notities en markeringen in kleur maken. Ideaal voor lezen thuis en onderweg.

💡Kobo Libra Colour (zwart): van 239 euro voor 209 euro