Reddit, Twitter en zelfs Pornhub proberen het fenomeen al aan banden te leggen, maar de opmars van neppe AI-porno, ofwel 'deep fake', lijkt niet te stoppen. En dat levert problemen op.

'Deepfake AI-porno' klinkt als een mix van fintech-hype, futurologie, en een beetje viezigheid, maar het proces is in korte tijd uitgegroeid tot een groot probleem voor sociale media, beroemdheden en juristen.

De term staat voor het gebruiken van foto's van gezichten in andere beelden - in dit geval de gezichten van beroemdheden die 'gephotoshopt' worden in bestaande pornovideo's.

Beroemdheden als gewilde doelwitten

Beroemdheden zijn al jaren een gewild doelwit van perverselingen. 'The Fappening' staat nog vers in het geheugen, toen de iCloud-accounts van tientallen vrouwelijke entertainers werden gehackt en duizenden naaktfoto's over het web werden verspreid. De dader werd later opgepakt en veroordeeld voor 18 maanden, maar daarmee is de interesse in gewone actrices en zangeressen in seksuele posities en situaties niet minder geworden.

Dat kan sinds kort met deep fake-AI-porno, waarmee 'gewone' gezichten in bestaande porno-video's worden geplakt.

Deep fakes

De term 'deep fake' om de porno te beschrijven lijkt van een Reddit-gebruiker genaamd DeepFakeApp te komen. Hij ontwikkelde in december een experimenteel desktopprogramma (vernoemd naar zichzelf) om dergelijke fake video's en gifjes te maken - voornamelijk pornografisch materiaal met beroemdheden. Hij zette de applicatie online en begon een community op Reddit, die al snel tienduizenden volgers kreeg.

Machine learning

Het programma maakt gebruik van open source machine learning-algoritmes zoals Googles TensorFlow. Een gebruiker hoeft het maar te downloaden en er een batch foto's aan toe te voegen om zelf al een video te maken.

Om meer te leren over machine learning lees je ook ons uitgebreide achtergrondartikel.

Verboden op sociale media

Het gemak waarmee geruikers met deep fake-algoritmes video's kunnen maken zorgt voor problemen bij sociale media zoals Reddit of Twitter. Die waren er dan ook snel bij om hun regels aan te passen en nagemaakte content te blokkeren. Reddit en Twitter zijn, in tegenstelling tot bijvoorbeeld Facebook of Instagram, normaal gesproken erg tolerant wat porno betreft. Dat deep fake-video's dan ook zo snel verboden worden is veelzeggend.

Inmiddels is de subreddit /r/deepfakes gebanned van de website. Een afgeleide subreddit genaamd /r/fakeapp bestaat nog steeds, opgericht door een gebruiker genaamd DeepFakes - waarvan wordt aangenomen dat het óf dezelfde persoon is als DeepFakeApp, of in ieder geval iemand met wie hij nauw samenwerkte.

In tegenstelling tot die oude subreddit is het in /r/fakeapp ten strengste verboden om niet-wederzijdse porno te plaatsen. Daar staat een ban op. Toch lijkt een groot gedeelte van de discussies op de subreddit te draaien om pornografie, en worden er vooral veel links gedeeld naar fora waar die beelden wél verspreid mogen worden.

Pornosites tegen deep fakes

Het zijn niet alleen sociale media die worstelen met het fenomeen. Ook 's werelds bekendste pornosite Pornhub verbiedt het plaatsen van deep fakes, maar de manier waarop dat moet gebeuren is nog onduidelijk. Een snelle zoekterm op de site laat op moment van schrijven 47 actieve deep fake-pornovideo's zien met verschillende bekende actrices. Pornhub zegt zelf dat het deep fake-video's behandelt zoals iedere andere vorm van content: als iemand een verwijderverzoek indient vanwege copyright-schending of wraakporno.

Maar juist die aanpak krijgt veel kritiek. Pornhub is juist groot geworden door het feit dat de website zo overspoeld wordt door video's dat copyright-houders niet tegen het enorme volume kunnen opvechten en het daarom maar opgeven.

Vechten tegen de bierkaai

Bovendien is het effect van één website (hoe invloedrijk dan ook) vechten tegen de bierkaai. Er zijn immers tienduizenden andere sites die maar wat graag verkeer trekken met dergelijke video's, zoals het relatief onbekende EroMe waar nu al tientallen deep fakes op worden aangeboden. Ook zijn er al een groot aantal forums online gekomen waar het delen van video's wordt gestimuleerd - het duurde ons niet veel langer dan 5 minuten om zulke websites te vinden.

Machine learning

AI-porno wordt gemaakt met machine learning-algoritmes. Waar die tot een paar jaar geleden nog voornamelijk voor onderzoekers beschikbaar waren wordt het steeds makkelijker voor doorsnee gebruikers om op die manier dergelijke nepvideo's te maken. Netwerken zoals TensorFlow van Google zijn inmiddels open source beschikbaar, en gratis te gebruiken voor studenten en onderzoekers, maar ook voor iedereen die wil experimenteren met machine learning.

Dat leidt tot apps zoals Deep Fake, die nu gratis te downloaden zijn en die uitgerekend een gebruiksvriendelijke interface hebben.

Makkelijk te maken

Programmeurs hebben dan enkel nog een aantal foto's of video's nodig om de beelden zo echt mogelijk te laten lijken. Daarom zijn beroemdheden zo aantrekkelijk voor het maken van de video's. Via Google en YouTube zijn met een paar zoektermen miljoenen beelden van een actrice beschikbaar.

Opvallend is ook dat voor machine learning geen industriële high-end hardware nodig is. Met gewone consumenten-gpu's en -cpu's is het al mogelijk om beelden te renderen - al is het natuurlijk afhankelijk van de kracht van een chip hoe snel dat gebeurt.

Gewone mensen

Omdat het steeds makkelijker wordt zulke beelden te maken is het maar de vraag wanneer het niet meer alleen over beroemdheden gaat, maar ook over 'gewone mensen'; de kennissen, vrienden of zelfs familie van een maker. Hoe geavanceerder de algoritmes worden, des te makkelijker het wordt om beelden te genereren. Experts voorspellen dan ook dat het in de toekomst doodnormaal wordt om zelfgemaakte porno te maken met wie je dan ook wil zien.

Legaliteit

Het is dan ook maar de vraag of zulke namaakporno wel legaal is, maar gek genoeg is dat niet zo makkelijk als het lijkt.

Daarbij kun je de link leggen met wraakporno, ook een relatief nieuw concept dat in groeiende mate problematisch wordt. Wraakporno is pornografisch materiaal dat door iemand anders wordt geüpload, vaak door bijvoorbeeld een rancuneuze ex.

"Verwerking van persoonsgegevens"

Aan de oppervlakte voelt het alsof deep fake-porno illegaal is - het is in ieder geval zwaar onethisch. Maar is het ook echt tegen de wet? Volgens Arnoud Engelfriet van ICT Recht wel, maar niet rondom dezelfde principes als wraakporno. Neppe porno is volgens Engelfriet 'een geautomatiseerde verwerking van een persoonsgegeven', en daarvoor zou de maker uitdrukkelijke toestemming nodig hebben.

Voor zover bekend heeft er nog geen rechter uitspraak gedaan over het fenomeen, maar als dat gebeurt kan dat leiden tot een precedent waarin het maken van neppe porno inherent wordt verboden.

Van de andere kant: wie houdt zich nou netjes aan zo'n uitspraak?

Motorola heeft de edge 60 fusion aangekondigd, een premium smartphone die een elegant ontwerp combineert met geavanceerde AI-functies. Het toestel is het eerste Motorola-model dat standaard is uitgerust met geïntegreerde moto AI-functionaliteit.

De smartphone beschikt over een uniek quad-curve edge display met door Pantone gevalideerde kleuren. Het scherm is beschermd met Corning Gorilla Glass 7i, dat twee keer betere val- en krasbestendigheid biedt dan voorgaande versies. 

Geïntegreerde moto ai

Na een eerder bètaprogramma is de motorola edge 60 fusion het eerste toestel waarbij moto ai direct is geïntegreerd. De smartphone bevat AI-functies zoals Pay Attention (voor het opnemen, noteren en samenvatten van audio), Remember This (om live momenten of informatie vast te leggen) en Magic Canvas (voor het genereren van afbeeldingen op basis van tekstinstructies). 

Innovatief display en robuust ontwerp

Het toestel heeft volgens Motorola 's werelds eerste quad-curve edge display met door Pantone gevalideerde kleuren. Het ontwerp omvat hoogwaardige materialen, waaronder een op leer geïnspireerde coating en canvas-achtige afwerkingen in zorgvuldig samengestelde kleuren.

De motorola edge 60 fusion is niet alleen stijlvol maar ook robuust gebouwd. De telefoon voldoet aan militaire standaarden (MIL-STD 810H) voor duurzaamheid en heeft zowel IP68 als IP69 certificeringen voor waterbescherming. Het toestel kan onderdompeling in zoet water tot 1,5 meter diepte gedurende maximaal 30 minuten weerstaan. Dankzij Water Touch-technologie blijft het touchscreen werken, zelfs als het nat is. 

Camera met Sony-sensor

De hoofdcamera heeft een 50MP Ultra Pixel sensor, gecombineerd met een geavanceerde Sony LYTIA 700C sensor en optische beeldstabilisatie (OIS). Hierdoor maakt de camera ook bij weinig licht goede foto's. De ultrabrede lens met ingebouwde macrovisie biedt een gezichtsveld van 122 graden en kan tot 3 cm inzoomen voor extreme close-ups . 

De 32MP selfiecamera gebruikt Quad Pixel-technologie voor betere prestaties bij minder licht. Een 3-in-1 lichtsensor kalibreert automatisch de lichtgevoeligheid voor optimale belichting en kleur.

Entertainment en batterij

Het 6,67 inch pOLED-scherm heeft een Super HD (1220p) resolutie en een verversingssnelheid van 120Hz. Het display is zowel Pantone als Pantone SkinTone gevalideerd voor een natuurgetrouwe kleurweergave. Voor audio is het toestel uitgerust met Dolby Atmos, twee stereoluidsprekers en een Hi-Res gecertificeerd geluidssysteem.

De motorola edge 60 fusion wordt aangedreven door de MediaTek Dimensity 7300 processor, heeft tot 8GB RAM en tot 256GB opslag. De 5200mAh batterij ondersteunt 68W TurboPower opladen, waarmee gebruikers na slechts 8 minuten opladen een volle dag vooruit kunnen.

De smartphone draait op Android 15 en bevat Moto Secure en ThinkShield voor extra beveiliging, evenals Hello UX voor aanpassingsopties. De motorola edge 60 fusion is vanaf half april verkrijgbaar voor een adviesprijs van 329,99 euro.

Bekijk hier andere Motorola-modellen op Kieskeurig.nl:

Steeds meer mensen kiezen voor een VPN om veilig te internetten. Een kill switch helpt om die veiligheid te garanderen. Je leest er alles over in dit artikel.

Lees ook: Wat is VPN en waarom heb je het nodig?

Je gebruikt een Virtual Private Network (VPN) voor anonimiteit, veilige bestandsoverdracht en/of het omzeilen van geografische blokkades. Hoewel een kill switch optioneel is bij een (VPN), hoort het er eigenlijk wel echt bij: het is een soort extra slot op de deur om die zaken te garanderen.

©Funtap

Zo werkt een VPN kill switch

Een kill switch controleert continu of je VPN nog in gebruik is. Wordt er vastgesteld dat dat niet het geval is? Dan blokkeert een kill switch de verbinding van je internet. Je bent dan dus ook niet meer verbonden. Een goede kill switch zorgt er ook voor dat je automatisch weer verbonden wordt met het internet als de problemen verholpen zijn.

Blokkeren: je complete apparaat of bepaalde toepassingen

Een kill switch gebruiken is helemaal niet moeilijk. Je stelt het allemaal gewoon in via je VPN-applicatie. Daarin bepaal je ook of je pc of laptop volledig van het internet losgekoppeld wordt als de VPN-verbinding wegvalt of dat alleen bepaalde applicaties worden afgesloten. De eerste optie is duidelijk: het apparaat is dan helemaal niet meer verbonden met het internet.

Specifieke applicaties de toegang ontzeggen

In sommige situaties is het niet handig dat je helemaal geen internet meer hebt als de VPN-verbinding wegvalt. Bijvoorbeeld wanneer je in een belangrijk gesprek zit via Zoom of Microsoft Teams. Voor die gevallen kun je een kill switch applicatie-specifiek de verbinding laten verbreken. Je kunt dan bijvoorbeeld wel doorgaan met videobellen of browsen, terwijl je torrent client geen internettoegang meer heeft.

©Ģirts Raģelis

Welke apps laat je wel afsluiten en welke niet?

Sommige online bezigheden brengen meer risico's met zich mee dan andere wanneer het gaat om je privacy of de beveiliging van je persoonlijke informatie. Misschien gebruik je je VPN alleen om een serie op Netflix te kijken die in Nederland niet beschikbaar is. In dat geval wil je niet dat je hele internetverbinding wegvalt als de VPN uitvalt. Maar bij privacygevoelige taken, zoals internetbankieren, het versturen van e-mails, het werken in de cloud of het downloaden van torrents, wil je juist voorkomen dat je zonder VPN online gaat. Je kunt de kill switch dan zo instellen dat alleen je browser, e-mailapp, cloudopslag en torrentclient worden geblokkeerd, terwijl andere apps gewoon verbinding houden.

Voor wie is een VPN kill switch nuttig?

Eigenlijk heeft iedereen die waarde hecht aan privacy baat bij een VPN-provider met kill switch. In Nederland is er sprake van weinig censuur en zijn er amper internetblokkades. Maar alsnog zijn VPN's hier erg populair. Als je torrents downloadt, is het handig om ervoor te zorgen dat je IP-adres beschermd is, want dat downloaden is in veel gevallen illegaal. Gevoelige informatie of belangrijke (werkgerelateerde) documenten kun je beter ook niet zomaar versturen. Met een VPN met kill switch zijn je gegevens en bestanden beter beschermd. Zit je vaak op een open wifi-netwerk? Dan is het zonder meer verstandig om te kiezen voor een VPN met kill switch. Want openbare netwerken hebben een slechte reputatie op het gebied van veiligheid en zijn regelmatig het doelwit van hackers.