Reddit, Twitter en zelfs Pornhub proberen het fenomeen al aan banden te leggen, maar de opmars van neppe AI-porno, ofwel 'deep fake', lijkt niet te stoppen. En dat levert problemen op.

'Deepfake AI-porno' klinkt als een mix van fintech-hype, futurologie, en een beetje viezigheid, maar het proces is in korte tijd uitgegroeid tot een groot probleem voor sociale media, beroemdheden en juristen.

De term staat voor het gebruiken van foto's van gezichten in andere beelden - in dit geval de gezichten van beroemdheden die 'gephotoshopt' worden in bestaande pornovideo's.

Beroemdheden als gewilde doelwitten

Beroemdheden zijn al jaren een gewild doelwit van perverselingen. 'The Fappening' staat nog vers in het geheugen, toen de iCloud-accounts van tientallen vrouwelijke entertainers werden gehackt en duizenden naaktfoto's over het web werden verspreid. De dader werd later opgepakt en veroordeeld voor 18 maanden, maar daarmee is de interesse in gewone actrices en zangeressen in seksuele posities en situaties niet minder geworden.

Dat kan sinds kort met deep fake-AI-porno, waarmee 'gewone' gezichten in bestaande porno-video's worden geplakt.

Deep fakes

De term 'deep fake' om de porno te beschrijven lijkt van een Reddit-gebruiker genaamd DeepFakeApp te komen. Hij ontwikkelde in december een experimenteel desktopprogramma (vernoemd naar zichzelf) om dergelijke fake video's en gifjes te maken - voornamelijk pornografisch materiaal met beroemdheden. Hij zette de applicatie online en begon een community op Reddit, die al snel tienduizenden volgers kreeg.

Machine learning

Het programma maakt gebruik van open source machine learning-algoritmes zoals Googles TensorFlow. Een gebruiker hoeft het maar te downloaden en er een batch foto's aan toe te voegen om zelf al een video te maken.

Om meer te leren over machine learning lees je ook ons uitgebreide achtergrondartikel.

Verboden op sociale media

Het gemak waarmee geruikers met deep fake-algoritmesvideo's kunnen maken zorgt voor problemen bij sociale media zoals Reddit of Twitter. Die waren er dan ook snel bij om hun regels aan te passen en nagemaakte content te blokkeren. Reddit en Twitter zijn, in tegenstelling tot bijvoorbeeld Facebook of Instagram, normaal gesproken erg tolerant wat porno betreft. Dat deep fake-video's dan ook zo snel verboden worden is veelzeggend.

Inmiddels is de subreddit /r/deepfakes gebanned van de website. Een afgeleide subreddit genaamd /r/fakeapp bestaat nog steeds, opgericht door een gebruiker genaamd DeepFakes - waarvan wordt aangenomen dat het óf dezelfde persoon is als DeepFakeApp, of in ieder geval iemand met wie hij nauw samenwerkte.

In tegenstelling tot die oude subreddit is het in /r/fakeapp ten strengste verboden om niet-wederzijdse porno te plaatsen. Daar staat een ban op. Toch lijkt een groot gedeelte van de discussies op de subreddit te draaien om pornografie, en worden er vooral veel links gedeeld naar fora waar die beelden wél verspreid mogen worden.

Pornosites tegen deep fakes

Het zijn niet alleen sociale media die worstelen met het fenomeen. Ook 's werelds bekendste pornosite Pornhub verbiedt het plaatsen van deep fakes, maar de manier waarop dat moet gebeuren is nog onduidelijk. Een snelle zoekterm op de site laat op moment van schrijven 47 actieve deep fake-pornovideo's zien met verschillende bekende actrices. Pornhub zegt zelf dat het deep fake-video's behandelt zoals iedere andere vorm van content: als iemand een verwijderverzoek indient vanwege copyright-schending of wraakporno.

Maar juist die aanpak krijgt veel kritiek. Pornhub is juist groot geworden door het feit dat de website zo overspoeld wordt door video's dat copyright-houders niet tegen het enorme volume kunnen opvechten en het daarom maar opgeven.

Vechten tegen de bierkaai

Bovendien is het effect van één website (hoe invloedrijk dan ook) vechten tegen de bierkaai. Er zijn immers tienduizenden andere sites die maar wat graag verkeer trekken met dergelijke video's, zoals het relatief onbekende EroMe waar nu al tientallen deep fakes op worden aangeboden. Ook zijn er al een groot aantal forums online gekomen waar het delen van video's wordt gestimuleerd - het duurde ons niet veel langer dan 5 minuten om zulke websites te vinden.

Machine learning

AI-porno wordt gemaakt met machine learning-algoritmes. Waar die tot een paar jaar geleden nog voornamelijk voor onderzoekers beschikbaar waren wordt het steeds makkelijker voor doorsnee gebruikers om op die manier dergelijke nepvideo's te maken. Netwerken zoals TensorFlow van Google zijn inmiddels open source beschikbaar, en gratis te gebruiken voor studenten en onderzoekers, maar ook voor iedereen die wil experimenteren met machine learning.

Dat leidt tot apps zoals Deep Fake, die nu gratis te downloaden zijn en die uitgerekend een gebruiksvriendelijke interface hebben.

Makkelijk te maken

Programmeurs hebben dan enkel nog een aantal foto's of video's nodig om de beelden zo echt mogelijk te laten lijken. Daarom zijn beroemdheden zo aantrekkelijk voor het maken van de video's. Via Google en YouTube zijn met een paar zoektermen miljoenen beelden van een actrice beschikbaar.

Opvallend is ook dat voor machine learning geen industriële high-end hardware nodig is. Met gewone consumenten-gpu's en -cpu's is het al mogelijk om beelden te renderen - al is het natuurlijk afhankelijk van de kracht van een chip hoe snel dat gebeurt.

Gewone mensen

Omdat het steeds makkelijker wordt zulke beelden te maken is het maar de vraag wanneer het niet meer alleen over beroemdheden gaat, maar ook over 'gewone mensen'; de kennissen, vrienden of zelfs familie van een maker. Hoe geavanceerder de algoritmes worden, des te makkelijker het wordt om beelden te genereren. Experts voorspellen dan ook dat het in de toekomst doodnormaal wordt om zelfgemaakte porno te maken met wie je dan ook wil zien.

Legaliteit

Het is dan ook maar de vraag of zulke namaakporno wel legaal is, maar gek genoeg is dat niet zo makkelijk als het lijkt.

Daarbij kun je de link leggen met wraakporno, ook een relatief nieuw concept dat in groeiende mate problematisch wordt. Wraakporno is pornografisch materiaal dat door iemand anders wordt geüpload, vaak door bijvoorbeeld een rancuneuze ex.

"Verwerking van persoonsgegevens"

Aan de oppervlakte voelt het alsof deep fake-porno illegaal is - het is in ieder geval zwaar onethisch. Maar is het ook echt tegen de wet? Volgens Arnoud Engelfriet van ICT Recht wel, maar niet rondom dezelfde principes als wraakporno. Neppe porno is volgens Engelfriet 'een geautomatiseerde verwerking van een persoonsgegeven', en daarvoor zou de maker uitdrukkelijke toestemming nodig hebben.

Voor zover bekend heeft er nog geen rechter uitspraak gedaan over het fenomeen, maar als dat gebeurt kan dat leiden tot een precedent waarin het maken van neppe porno inherent wordt verboden.

Van de andere kant: wie houdt zich nou netjes aan zo'n uitspraak?

Heb je ooit wel eens meegemaakt dat je iPhone de huidige locatie nogal slordig aangaf? Dat kan vervelend zijn voor apps die een precieze locatie nodig hebben, en al helemaal als je op zoek bent naar je verloren of gestolen toestel. Met deze tips haal je het maximum uit Zoek mijn iPhone.

Altijd online

 De Zoek mijn-app gebruikt een combinatie van gps, wifi, triangulatie met behulp van zendmasten en bluetooth-signalen om de exacte locatie van je iPhone in realtime te bepalen. Het apparaat moet verbonden zijn met internet, via wifi of mobiele data. Zonder actieve verbinding kan de iPhone geen locatie-updates versturen en niet daadwerkelijk communiceren met het Zoek mijn-netwerk. Gebruik bij voorkeur wifi. Als dat niet beschikbaar is, schakel dan mobiele data in. Daarnaast verhoogt een actieve bluetooth-verbinding de nauwkeurigheid van Zoek mijn iPhone.

Exacte locatie

Als gps uitstaat, geeft de iPhone geen realtime positie door. Voor optimale nauwkeurigheid ga je naar Instellingen / Privacy en beveiliging / Locatievoorzieningen. Zoek in de applijst naar Zoek mijn en kies Bij gebruik van de app. Wanneer je alleen Locatievoorzieningen hebt ingeschakeld, zal je iPhone alleen de ‘geschatte’ locatie doorgeven. Voor meer nauwkeurigheid moet je daarnaast de optie Exacte locatie activeren. Met alleen een ‘geschatte locatie’ krijg je vaak een brede blauwe cirkel op de kaart te zien, terwijl Exacte locatie het toestel tot op enkele meters nauwkeurig kan lokaliseren. Apple onderscheidt beide opties bewust, omdat sommige apps slechts bij benadering hoeven te weten waar je bent, maar voor Zoek mijn wil je uiteraard maximale precisie.

Stuur laatste locatie

Stuur laatste locatie is een functie op de iPhone die automatisch de laatst bekende locatie van het apparaat naar Apple stuurt, vlak voordat de batterij leeg raakt of voordat het toestel wordt uitgeschakeld. Zo weet je waar het apparaat op dat moment was. Om deze functie te activeren, open je opnieuw de Instellingen en ga je bovenaan naar (Je naam) / Zoek mijn / Zoek mijn iPhone en vervolgens schakel je de optie Stuur laatste locatie in.

In de rubriek Waar voor je geld gaan we op zoek naar producten waar je niet de hoofdprijs voor betaalt of die zijn voorzien van bijzondere functies. Een paar keer per week maken we een overzicht van zulke producten. Dit keer: combimagnetrons voor minder dan 200 euro.

Een combimagnetron is een veelzijdig keukenapparaat dat meerdere bereidingswijzen in één toestel combineert, vandaar 'combi'. Waar een gewone magnetron vooral geschikt is voor het opwarmen en ontdooien van eten, kan een combimagnetron veel meer. Je kunt er niet alleen mee magnetronnen, maar ook bakken, grillen en vaak zelfs volledig ovenfuncties gebruiken, zoals hetelucht. Daardoor vervangt een combimagnetron in veel keukens zowel een losse magnetron als een traditionele oven. Wij vonden op kieskeurig.nl vijf combimagnetrons voor minder dan 200 euro.

Samsung MC28H5015CS

Met deze Samsung haal je een stijlvolle keukenhulp in huis die veel meer kan dan alleen opwarmen. Je hebt de beschikking over een ruime inhoud van 28 liter, waardoor ook grotere ovenschalen erin passen. Het draaiplateau kun je stilzetten, wat handig is als je vierkante borden gebruikt die anders tegen de randen zouden stoten. De binnenkant is voorzien van een keramische emaille laag, waardoor vet en vuil nauwelijks hechten en je hem met een doekje zo weer schoon hebt. Dankzij de diverse automatische programma's hoef je niet zelf te gokken hoe lang je groenten of vlees moet garen.

Specificaties:
Inhoud: 28 Liter
Vermogen: 100 - 900 Watt (6 standen)
Maximum temperatuur: 200 °C
Aantal kookprogramma's: 15

Sharp R-843INW

Deze Sharp is een compacte krachtpatser die perfect is voor kleinere keukens. Je bedient hem eenvoudig via het duidelijke digitale display en de draaiknop. Naast de standaard magnetronfunctie beschikt hij over een krachtige grill en een heteluchtoven die tot 230 graden gaat, wat hoog is voor deze prijsklasse. De zogeheten dubbele grill-functie zorgt ervoor dat je gerechten zowel van boven als onderen knapperig worden. Een leuke extra is de speciale pizza-stand, waarmee je diepvriespizza's net dat beetje extra krokantheid geeft.

Specificaties:
Inhoud: 25 Liter
Vermogen: 90 - 900 Watt (5 standen)
Maximum temperatuur: 230 °C
Aantal kookprogramma's: 10

Tomado TMC2302B

Met de TMC2302B haal je een veelzijdig apparaat in huis dat ondanks zijn compacte formaat van 23 liter toch over uitgebreide functies beschikt. Je bedient de combimagnetron eenvoudig via de draaiknop en de druktoetsen onder het digitale display. Naast de standaard magnetronfunctie kun je gebruikmaken van de heteluchtoven en de grill, of een combinatie hiervan om gerechten sneller te bereiden met een krokant resultaat. Er zijn 10 automatische kookprogramma's ingebouwd, zodat je voor veelvoorkomende gerechten zoals pizza of aardappelen niet zelf de tijd en temperatuur hoeft te bedenken. Het draaiplateau zorgt voor een gelijkmatige verwarming van je eten en de binnenverlichting springt automatisch aan zodra je de deur opent. Mocht je kleine kinderen in huis hebben, dan kun je het bedieningspaneel vergrendelen met het kinderslot.

Specificaties:
Inhoud: 23 Liter
Vermogen: 90 - 900 Watt (5 standen)
Maximum temperatuur: 200 °C
Aantal kookprogramma's: 10

Etna CMV328ZT

Deze Etna valt op door zijn strakke zwarte design dat in bijna elke moderne keuken past. Je bedient hem met druktoetsen en een draaiknop, wat de bediening intuïtief maakt. Hij heeft een inhoud van 28 liter en combineert magnetron, grill en hetelucht. Een handige feature is de ontdooifunctie op gewicht: je voert in hoeveel gram vlees je hebt en deze magnetron berekent zelf de tijd. De ovenfunctie gaat tot 230 graden, waardoor je er ook prima een cake of lasagne in kunt bereiden.

Specificaties:
Inhoud: 28 Liter
Vermogen: 90 - 900 Watt (5 standen)
Maximum temperatuur: 230 °C
Aantal kookprogramma's: 10

Inventum MN297CB

Inventum staat bekend om degelijke apparatuur en dat zie je terug in dit model. Je hebt de keuze uit diverse kookprogramma's die het leven makkelijker maken. De combinatie van magnetron en hetelucht zorgt ervoor dat je gerechten snel gaar zijn maar toch die lekkere oven-structuur behouden. Het apparaat wordt geleverd met een draaiplateau en een grillrooster, zodat je direct aan de slag kunt met grillen. De timer is digitaal in te stellen tot 95 minuten, wat lang genoeg is voor de meeste ovengerechten.

Specificaties:Inhoud: 29 Liter
Vermogen: 100 - 1000 Watt (5 standen)
Maximum temperatuur: 240 °C
Aantal kookprogramma's: 10