Reddit, Twitter en zelfs Pornhub proberen het fenomeen al aan banden te leggen, maar de opmars van neppe AI-porno, ofwel 'deep fake', lijkt niet te stoppen. En dat levert problemen op.

'Deepfake AI-porno' klinkt als een mix van fintech-hype, futurologie, en een beetje viezigheid, maar het proces is in korte tijd uitgegroeid tot een groot probleem voor sociale media, beroemdheden en juristen.

De term staat voor het gebruiken van foto's van gezichten in andere beelden - in dit geval de gezichten van beroemdheden die 'gephotoshopt' worden in bestaande pornovideo's.

Beroemdheden als gewilde doelwitten

Beroemdheden zijn al jaren een gewild doelwit van perverselingen. 'The Fappening' staat nog vers in het geheugen, toen de iCloud-accounts van tientallen vrouwelijke entertainers werden gehackt en duizenden naaktfoto's over het web werden verspreid. De dader werd later opgepakt en veroordeeld voor 18 maanden, maar daarmee is de interesse in gewone actrices en zangeressen in seksuele posities en situaties niet minder geworden.

Dat kan sinds kort met deep fake-AI-porno, waarmee 'gewone' gezichten in bestaande porno-video's worden geplakt.

Deep fakes

De term 'deep fake' om de porno te beschrijven lijkt van een Reddit-gebruiker genaamd DeepFakeApp te komen. Hij ontwikkelde in december een experimenteel desktopprogramma (vernoemd naar zichzelf) om dergelijke fake video's en gifjes te maken - voornamelijk pornografisch materiaal met beroemdheden. Hij zette de applicatie online en begon een community op Reddit, die al snel tienduizenden volgers kreeg.

Machine learning

Het programma maakt gebruik van open source machine learning-algoritmes zoals Googles TensorFlow. Een gebruiker hoeft het maar te downloaden en er een batch foto's aan toe te voegen om zelf al een video te maken.

Om meer te leren over machine learning lees je ook ons uitgebreide achtergrondartikel.

Verboden op sociale media

Het gemak waarmee geruikers met deep fake-algoritmesvideo's kunnen maken zorgt voor problemen bij sociale media zoals Reddit of Twitter. Die waren er dan ook snel bij om hun regels aan te passen en nagemaakte content te blokkeren. Reddit en Twitter zijn, in tegenstelling tot bijvoorbeeld Facebook of Instagram, normaal gesproken erg tolerant wat porno betreft. Dat deep fake-video's dan ook zo snel verboden worden is veelzeggend.

Inmiddels is de subreddit /r/deepfakes gebanned van de website. Een afgeleide subreddit genaamd /r/fakeapp bestaat nog steeds, opgericht door een gebruiker genaamd DeepFakes - waarvan wordt aangenomen dat het óf dezelfde persoon is als DeepFakeApp, of in ieder geval iemand met wie hij nauw samenwerkte.

In tegenstelling tot die oude subreddit is het in /r/fakeapp ten strengste verboden om niet-wederzijdse porno te plaatsen. Daar staat een ban op. Toch lijkt een groot gedeelte van de discussies op de subreddit te draaien om pornografie, en worden er vooral veel links gedeeld naar fora waar die beelden wél verspreid mogen worden.

Pornosites tegen deep fakes

Het zijn niet alleen sociale media die worstelen met het fenomeen. Ook 's werelds bekendste pornosite Pornhub verbiedt het plaatsen van deep fakes, maar de manier waarop dat moet gebeuren is nog onduidelijk. Een snelle zoekterm op de site laat op moment van schrijven 47 actieve deep fake-pornovideo's zien met verschillende bekende actrices. Pornhub zegt zelf dat het deep fake-video's behandelt zoals iedere andere vorm van content: als iemand een verwijderverzoek indient vanwege copyright-schending of wraakporno.

Maar juist die aanpak krijgt veel kritiek. Pornhub is juist groot geworden door het feit dat de website zo overspoeld wordt door video's dat copyright-houders niet tegen het enorme volume kunnen opvechten en het daarom maar opgeven.

Vechten tegen de bierkaai

Bovendien is het effect van één website (hoe invloedrijk dan ook) vechten tegen de bierkaai. Er zijn immers tienduizenden andere sites die maar wat graag verkeer trekken met dergelijke video's, zoals het relatief onbekende EroMe waar nu al tientallen deep fakes op worden aangeboden. Ook zijn er al een groot aantal forums online gekomen waar het delen van video's wordt gestimuleerd - het duurde ons niet veel langer dan 5 minuten om zulke websites te vinden.

Machine learning

AI-porno wordt gemaakt met machine learning-algoritmes. Waar die tot een paar jaar geleden nog voornamelijk voor onderzoekers beschikbaar waren wordt het steeds makkelijker voor doorsnee gebruikers om op die manier dergelijke nepvideo's te maken. Netwerken zoals TensorFlow van Google zijn inmiddels open source beschikbaar, en gratis te gebruiken voor studenten en onderzoekers, maar ook voor iedereen die wil experimenteren met machine learning.

Dat leidt tot apps zoals Deep Fake, die nu gratis te downloaden zijn en die uitgerekend een gebruiksvriendelijke interface hebben.

Makkelijk te maken

Programmeurs hebben dan enkel nog een aantal foto's of video's nodig om de beelden zo echt mogelijk te laten lijken. Daarom zijn beroemdheden zo aantrekkelijk voor het maken van de video's. Via Google en YouTube zijn met een paar zoektermen miljoenen beelden van een actrice beschikbaar.

Opvallend is ook dat voor machine learning geen industriële high-end hardware nodig is. Met gewone consumenten-gpu's en -cpu's is het al mogelijk om beelden te renderen - al is het natuurlijk afhankelijk van de kracht van een chip hoe snel dat gebeurt.

Gewone mensen

Omdat het steeds makkelijker wordt zulke beelden te maken is het maar de vraag wanneer het niet meer alleen over beroemdheden gaat, maar ook over 'gewone mensen'; de kennissen, vrienden of zelfs familie van een maker. Hoe geavanceerder de algoritmes worden, des te makkelijker het wordt om beelden te genereren. Experts voorspellen dan ook dat het in de toekomst doodnormaal wordt om zelfgemaakte porno te maken met wie je dan ook wil zien.

Legaliteit

Het is dan ook maar de vraag of zulke namaakporno wel legaal is, maar gek genoeg is dat niet zo makkelijk als het lijkt.

Daarbij kun je de link leggen met wraakporno, ook een relatief nieuw concept dat in groeiende mate problematisch wordt. Wraakporno is pornografisch materiaal dat door iemand anders wordt geüpload, vaak door bijvoorbeeld een rancuneuze ex.

"Verwerking van persoonsgegevens"

Aan de oppervlakte voelt het alsof deep fake-porno illegaal is - het is in ieder geval zwaar onethisch. Maar is het ook echt tegen de wet? Volgens Arnoud Engelfriet van ICT Recht wel, maar niet rondom dezelfde principes als wraakporno. Neppe porno is volgens Engelfriet 'een geautomatiseerde verwerking van een persoonsgegeven', en daarvoor zou de maker uitdrukkelijke toestemming nodig hebben.

Voor zover bekend heeft er nog geen rechter uitspraak gedaan over het fenomeen, maar als dat gebeurt kan dat leiden tot een precedent waarin het maken van neppe porno inherent wordt verboden.

Van de andere kant: wie houdt zich nou netjes aan zo'n uitspraak?

14 februari, de dag van de liefde. Of je nu al jaren gelukkig getrouwd bent of nog volop aan het daten bent: het is een dag waarop we allemaal extra openstaan voor een mooi gebaar of een leuk berichtje. En precies dan let je misschien net even wat minder goed op. Voor cybercriminelen is het daarom een van de mooiste dagen van het jaar. Want de kans dat zij (en niet Cupido) raak schieten, is groot. Hoe je Valentijnsfraude kunt herkennen én hoe je jezelf ertegen kunt beschermen, lees je in dit artikel.

Partnerbijdrage - in samenwerking met Bitdefender

Dat onderzoek van het Bitdefender Antispam Lab laat zien dat het niet bij een paar losse berichtjes blijft; het is een enorme golf. Tussen januari en februari was bijna veertig procent van alle mailtjes over Valentijnsdag pure misleiding. Je krijgt dan van alles in je inbox: van nepcadeaus en vage enquêtes tot uitnodigingen om iemands profiel te bekijken op een datingsite. Of wat dacht je van 'exclusieve aanbiedingen' die eigenlijk alleen maar bedoeld zijn om je gegevens te stelen.

Vooral in Europa en de Verenigde Staten draaien de spamfilters overuren. In de VS sloegen de oplichters het vaakst toe, maar ook in landen als Duitsland, Ierland en het Verenigd Koninkrijk was het raak. Het laat maar weer zien dat een mailtje met een roos of een hartje in de onderwerpregel lang niet altijd met goede bedoelingen is verstuurd.

Veel van die valse berichten maken slim gebruik van alles wat bij Valentijnsdag hoort. Je ziet in deze periode opeens veel meer mailtjes die van grote parfummerken of bekende webwinkels lijken te komen. Vaak spelen ze direct in op je nieuwsgierigheid met een bericht over een 'geheim cadeau' of een 'versleutelde liefdesboodschap' die voor je klaarstaat. Omdat we rond deze dag vaker pakketjes en verrassingen verwachten, klik je in een opwelling sneller op zo'n link om je gegevens te 'bevestigen'. Gegevens die ze vervolgens kunnen misbruiken…

©Bitdefender

Naast deze mailboxfraude gaan oplichters ook op de datingapps steeds geraffineerder te werk. Wat opvalt, is hoe echt de nepaccounts tegenwoordig lijken. Oplichters gebruiken allang niet meer alleen maar gejatte foto's van internet; ze laten AI complete mensen maken die helemaal niet bestaan. Je krijgt dan een match met iemand die er sympathiek en betrouwbaar uitziet, en het gesprek loopt ook nog eens heel soepel. Het enige doel is om jouw vertrouwen te winnen. Pas als dat er is, begint de toon te veranderen en gaan ze subtiel vissen naar geld voor een investering of een andere vage dienst. Dit noemen ze ook wel 'pig butchering': ze 'mesten' je als het ware vet met aandacht, om je daarna financieel kaal te plukken.

Waar bij spammail vooral wordt ingespeeld op je nieuwsgierigheid en hebberigheid, wordt er bij datingfraude vooral ingespeeld op je emoties. Je hoeft natuurlijk niet iedereen direct te wantrouwen, maar blijf alert op de subtiele signalen. Wees kritisch als een match na een paar berichten al ongewoon emotioneel wordt of als het gesprek wel erg snel van de datingapp naar WhatsApp of Telegram moet verhuizen. Ook elk verzoek om geld, crypto of cadeaubonnen is een direct alarmsignaal.

©Bitdefender

Omdat het steeds lastiger is om met het blote oog te zien of een bericht klopt, is een extra check geen overbodige luxe. Scamio is een gratis online tool van Bitdefender die je precies op die momenten van twijfel helpt. Je plakt simpelweg een link, tekst of screenshot in de chat, waarna de tool onderzoekt wat je precies hebt ontvangen. Het systeem herkent patronen die vaak bij oplichting voorkomen, analyseert het taalgebruik en checkt hoe een link is opgebouwd. Binnen een paar seconden krijg je een duidelijke beoordeling. Dat werkt niet alleen voor die flirterige chatberichten, maar ook voor vage cadeauclaims of pakketjes die je niet verwacht.

Wil je liever dat je apparaten automatisch een oogje in het zeil houden, dan bieden Premium Security en Ultimate Security van Bitdefender een stevige basis. Deze pakketten blokkeren phishing, nepsites en schadelijke berichten al voordat ze echt kwaad kunnen doen. Een handig onderdeel hiervan is Scam Copilot; deze kijkt op de achtergrond met je mee terwijl je een site bezoekt of een bericht leest. Zodra er iets niet klopt, krijg je meteen een seintje. Zo ben je beschermd zonder dat je daar zelf iets voor hoeft te ondernemen.

Valentijnsdag is en blijft een dag waarop we graag contact maken met anderen. Maar de cijfers liegen niet: het is ook de periode waarin oplichters extra actief zijn. Dat risico kun je nooit helemaal uitsluiten, maar je kunt jezelf wel een stuk beter beschermen.

Door alert te blijven op de bekende trucs, vage berichten eerst even te laten checken en je apparaten goed te beveiligen, houd je zelf de regie over je digitale leven. Zo zorg je ervoor dat je online zoektocht naar een cadeau of een leuke date misschien niet 100% zonder risico is, maar wel een stuk veiliger en leuker blijft - ook op 14 februari.

Sony heeft gisteren tijdens de State of Play de games die naar PlayStation Plus Extra en Premium komen later deze maand onthuld. Eén van de spellen is Marvel's Spider-Man 2.

Spider-Man 2 van Insomniac Games is zonder twijfel de grootste toevoeging van de line-up deze maand. De in 2023 uitgekomen game volgt Spider-Man en tussendeel Miles Morales op, en draait voor een groot deel ook om Venom. Verder kunnen spelers de gebruikelijke gameplay die met de moderne Spider-Man-games gepaard gaat verwachten, waarbij men aan een web door de straten van New York slingert.

Hieronder is de complete line-up aan PlayStation Plus Extra- en Premium-toevoegingen van deze maand te zien. De spellen worden op 17 februari aan de line-up toegevoegd. Meer informatie over de titels is op PlayStation Blog te vinden.

Deze games komen op 17 februari beschikbaar voor PlayStation Plus Extra- en Premium-leden:

En de volgende PlayStation 2-game komt op 17 februari exclusief voor Premium-leden beschikbaar:

Alle aankondigingen die gisteren tijdens de State of Play werden gemaakt zijn in dit overzicht te vinden. Een van de grootste aankondigingen was de release van de 2D-actie-platformer God of War: Sons of Sparta. Daarbij wordt er ook gewerkt aan een remake van de eerste drie God of War-games.