Reddit, Twitter en zelfs Pornhub proberen het fenomeen al aan banden te leggen, maar de opmars van neppe AI-porno, ofwel 'deep fake', lijkt niet te stoppen. En dat levert problemen op.

'Deepfake AI-porno' klinkt als een mix van fintech-hype, futurologie, en een beetje viezigheid, maar het proces is in korte tijd uitgegroeid tot een groot probleem voor sociale media, beroemdheden en juristen.

De term staat voor het gebruiken van foto's van gezichten in andere beelden - in dit geval de gezichten van beroemdheden die 'gephotoshopt' worden in bestaande pornovideo's.

Beroemdheden als gewilde doelwitten

Beroemdheden zijn al jaren een gewild doelwit van perverselingen. 'The Fappening' staat nog vers in het geheugen, toen de iCloud-accounts van tientallen vrouwelijke entertainers werden gehackt en duizenden naaktfoto's over het web werden verspreid. De dader werd later opgepakt en veroordeeld voor 18 maanden, maar daarmee is de interesse in gewone actrices en zangeressen in seksuele posities en situaties niet minder geworden.

Dat kan sinds kort met deep fake-AI-porno, waarmee 'gewone' gezichten in bestaande porno-video's worden geplakt.

Deep fakes

De term 'deep fake' om de porno te beschrijven lijkt van een Reddit-gebruiker genaamd DeepFakeApp te komen. Hij ontwikkelde in december een experimenteel desktopprogramma (vernoemd naar zichzelf) om dergelijke fake video's en gifjes te maken - voornamelijk pornografisch materiaal met beroemdheden. Hij zette de applicatie online en begon een community op Reddit, die al snel tienduizenden volgers kreeg.

Machine learning

Het programma maakt gebruik van open source machine learning-algoritmes zoals Googles TensorFlow. Een gebruiker hoeft het maar te downloaden en er een batch foto's aan toe te voegen om zelf al een video te maken.

Om meer te leren over machine learning lees je ook ons uitgebreide achtergrondartikel.

Verboden op sociale media

Het gemak waarmee geruikers met deep fake-algoritmesvideo's kunnen maken zorgt voor problemen bij sociale media zoals Reddit of Twitter. Die waren er dan ook snel bij om hun regels aan te passen en nagemaakte content te blokkeren. Reddit en Twitter zijn, in tegenstelling tot bijvoorbeeld Facebook of Instagram, normaal gesproken erg tolerant wat porno betreft. Dat deep fake-video's dan ook zo snel verboden worden is veelzeggend.

Inmiddels is de subreddit /r/deepfakes gebanned van de website. Een afgeleide subreddit genaamd /r/fakeapp bestaat nog steeds, opgericht door een gebruiker genaamd DeepFakes - waarvan wordt aangenomen dat het óf dezelfde persoon is als DeepFakeApp, of in ieder geval iemand met wie hij nauw samenwerkte.

In tegenstelling tot die oude subreddit is het in /r/fakeapp ten strengste verboden om niet-wederzijdse porno te plaatsen. Daar staat een ban op. Toch lijkt een groot gedeelte van de discussies op de subreddit te draaien om pornografie, en worden er vooral veel links gedeeld naar fora waar die beelden wél verspreid mogen worden.

Pornosites tegen deep fakes

Het zijn niet alleen sociale media die worstelen met het fenomeen. Ook 's werelds bekendste pornosite Pornhub verbiedt het plaatsen van deep fakes, maar de manier waarop dat moet gebeuren is nog onduidelijk. Een snelle zoekterm op de site laat op moment van schrijven 47 actieve deep fake-pornovideo's zien met verschillende bekende actrices. Pornhub zegt zelf dat het deep fake-video's behandelt zoals iedere andere vorm van content: als iemand een verwijderverzoek indient vanwege copyright-schending of wraakporno.

Maar juist die aanpak krijgt veel kritiek. Pornhub is juist groot geworden door het feit dat de website zo overspoeld wordt door video's dat copyright-houders niet tegen het enorme volume kunnen opvechten en het daarom maar opgeven.

Vechten tegen de bierkaai

Bovendien is het effect van één website (hoe invloedrijk dan ook) vechten tegen de bierkaai. Er zijn immers tienduizenden andere sites die maar wat graag verkeer trekken met dergelijke video's, zoals het relatief onbekende EroMe waar nu al tientallen deep fakes op worden aangeboden. Ook zijn er al een groot aantal forums online gekomen waar het delen van video's wordt gestimuleerd - het duurde ons niet veel langer dan 5 minuten om zulke websites te vinden.

Machine learning

AI-porno wordt gemaakt met machine learning-algoritmes. Waar die tot een paar jaar geleden nog voornamelijk voor onderzoekers beschikbaar waren wordt het steeds makkelijker voor doorsnee gebruikers om op die manier dergelijke nepvideo's te maken. Netwerken zoals TensorFlow van Google zijn inmiddels open source beschikbaar, en gratis te gebruiken voor studenten en onderzoekers, maar ook voor iedereen die wil experimenteren met machine learning.

Dat leidt tot apps zoals Deep Fake, die nu gratis te downloaden zijn en die uitgerekend een gebruiksvriendelijke interface hebben.

Makkelijk te maken

Programmeurs hebben dan enkel nog een aantal foto's of video's nodig om de beelden zo echt mogelijk te laten lijken. Daarom zijn beroemdheden zo aantrekkelijk voor het maken van de video's. Via Google en YouTube zijn met een paar zoektermen miljoenen beelden van een actrice beschikbaar.

Opvallend is ook dat voor machine learning geen industriële high-end hardware nodig is. Met gewone consumenten-gpu's en -cpu's is het al mogelijk om beelden te renderen - al is het natuurlijk afhankelijk van de kracht van een chip hoe snel dat gebeurt.

Gewone mensen

Omdat het steeds makkelijker wordt zulke beelden te maken is het maar de vraag wanneer het niet meer alleen over beroemdheden gaat, maar ook over 'gewone mensen'; de kennissen, vrienden of zelfs familie van een maker. Hoe geavanceerder de algoritmes worden, des te makkelijker het wordt om beelden te genereren. Experts voorspellen dan ook dat het in de toekomst doodnormaal wordt om zelfgemaakte porno te maken met wie je dan ook wil zien.

Legaliteit

Het is dan ook maar de vraag of zulke namaakporno wel legaal is, maar gek genoeg is dat niet zo makkelijk als het lijkt.

Daarbij kun je de link leggen met wraakporno, ook een relatief nieuw concept dat in groeiende mate problematisch wordt. Wraakporno is pornografisch materiaal dat door iemand anders wordt geüpload, vaak door bijvoorbeeld een rancuneuze ex.

"Verwerking van persoonsgegevens"

Aan de oppervlakte voelt het alsof deep fake-porno illegaal is - het is in ieder geval zwaar onethisch. Maar is het ook echt tegen de wet? Volgens Arnoud Engelfriet van ICT Recht wel, maar niet rondom dezelfde principes als wraakporno. Neppe porno is volgens Engelfriet 'een geautomatiseerde verwerking van een persoonsgegeven', en daarvoor zou de maker uitdrukkelijke toestemming nodig hebben.

Voor zover bekend heeft er nog geen rechter uitspraak gedaan over het fenomeen, maar als dat gebeurt kan dat leiden tot een precedent waarin het maken van neppe porno inherent wordt verboden.

Van de andere kant: wie houdt zich nou netjes aan zo'n uitspraak?

De verkiezingen lijken nog ver weg, maar voor je het weet is het 29 oktober. Om te bepalen welke partij het best bij je past, bestaan er al jaren hulpmiddelen als StemWijzer en Kieskompas. Bij de juiste partij uitkomen is misschien niet zo lastig, maar: op welke persoon ga je stemmen? Een nieuwe AI-tool helpt je daarbij door het werk van Kamerleden zelf naast elkaar te zetten.

BeleidsRadar bundelt meer dan een miljoen parlementaire documenten in één omgeving. Denk aan Kamervragen, moties, stemmingen en debatbijdragen. Je kunt daar op twee manieren mee aan de slag: via gestructureerde overzichten per thema, zoals klimaat, zorg of onderwijs, of via een open gesprek met de assistent waarin je je vraag gewoon in het Nederlands stelt. Bij elk antwoord krijg je verwijzingen naar de brondocumenten, zodat je kunt doorklikken en zelf controleren.

De tool richt zich primair op zittende Kamerleden, omdat daarover de meeste concrete parlementaire data beschikbaar is. Voor nieuwe kandidaten zoekt de AI-assistent in andere bronnen, zoals gemeenteraden, Provinciale Staten of verkiezingsprogramma's.

Zo werkt het in de praktijk

Je start op https://beleidsradar.nl/kamerleden. Kies een thema of een Kamerlid, of stel een vraag in natuurlijke taal. Vraag je bijvoorbeeld: "Welke Kamerleden zijn voor verhoging of koppeling van de pensioenleeftijd aan de levensverwachting?", dan vat de assistent samen welke partijen en Kamerleden zich daar in het verleden voor uitspraken, met links naar wetsvoorstellen, moties en stemmingen. Het gaat dus om wat er daadwerkelijk is ingediend of gesteund, niet om losse uitspraken in de media.

Wil je juist inzoomen op een persoon, dan zie je per Kamerlid waar hij of zij veel aan werkt en hoe er in de afgelopen periode is gestemd. Dat geeft snel gevoel bij iemands dossierkennis en prioriteiten.

Geen kant-en-klaar stemadvies

Verwacht geen pasklare steminstructie als "Ben je voor een lagere pensioenleeftijd, kies dan kandidaat X". De assistent helpt je vooral om relevante stukken te vinden en verbanden te zien. Bij heel specifieke vragen kan het systeem soms nog geen direct antwoord geven. Op een vraag als "Wie stemde vóór de motie van Soepboer en Grinwis over subsidies voor verduurzaming van veerdiensten?" kwam er geen kant-en-klaar overzicht. Je kunt dan wel meteen doorklikken naar de motie zelf, waarna je de stemming handmatig kunt nalopen. Zie de dienst dus als hulpmiddel om je te verdiepen, niet als adviesmachine die vertelt waar je op moet stemmen.

Voor wie is deze tool interessant?

BeleidsRadar is vooral iets voor kiezers die verder willen kijken dan partijprogramma's of campagnebeloftes. Wil je weten wat een Kamerlid in de afgelopen periode concreet heeft gedaan, dan helpt dit systeem om feiten boven tafel te krijgen. Zo kun je je beter oriënteren op de persoon achter de partij.

Transparantie en controle

Kunstmatige intelligentie maakt fouten en is nooit volledig neutraal. Daarom toont BeleidsRadar bij elke reactie de gebruikte bronnen. Dat helpt bij controle en maakt duidelijk waar conclusies vandaan komen. Blijf zelf scherp: vergelijk meerdere documenten, kijk naar de context van een stemverklaring en weeg recente ontwikkelingen mee.

Toegang en periode

De dienst is gratis te gebruiken tot en met 29 oktober. Je kunt dagelijks vijf gesprekken voeren met de assistent en daarnaast door de thematische overzichten bladeren. Beginpunt: https://beleidsradar.nl/kamerleden.

Met de nieuwe Tensor G5-chip voor slimmere AI-functies, een helderder scherm en Pixelsnap voor magnetische accessoires probeert Google je te overtuigen een Pixel 10 Pro aan te schaffen. Maar met een adviesprijs van minimaal 1099 euro kan dat nog lastig worden.

De Google Pixel 10 Pro behoudt het herkenbare ontwerp van zijn voorgangers, met de horizontale camerabalk en platte zijkanten. De constructie bestaat uit een aluminium frame en een beschermlaag van Gorilla Glass Victus 2 aan de voor- en achterzijde. Het toestel beschikt daarnaast over een IP68-certificering voor stof- en waterbestendigheid. Naast de nieuwe kleuren Jade (lichtgroen) en Porselein (roomwit) heeft de 10 Pro een functionele toevoeging: Pixelsnap. Dit is een magnetisch systeem voor draadloze Qi2-opladers (vergelijkbaar met MagSafe op iPhone).

Het toestel is uitgerust met een Super Actua oleddisplay van 6,3 inch. Het scherm heeft een variabele verversingssnelheid die kan oplopen tot 120 Hz. Dat resulteert in een vloeiende weergave van bewegende beelden. Google heeft de maximale piekhelderheid verhoogd naar 3300 nits. Daardoor kun je in vrijwel elke omgeving goed zien wat er op het scherm gebeurt, zelfs wanneer het buiten erg zonnig is. De resolutie en overige basisspecificaties van het scherm zijn verder gelijk gebleven ten opzichte van de Pixel 9 Pro van een jaar eerder.

©Wesley Akkerman

©Wesley Akkerman

Nieuwe Tensor-processor

De nieuwste Pixel wordt aangedreven door de Tensor G5-processor, die (uiteraard) geoptimaliseerd is voor AI-taken en soepele prestaties levert bij dagelijks gebruik. Hoewel de chip een duidelijke verbetering is ten opzichte van zijn voorganger, loopt-ie toch achter op wat de concurrentie te bieden heeft, zoals Samsung en Apple. Dat is in de praktijk gelukkig zelden merkbaar, behalve bij zeer zware games. Standaard is het toestel uitgerust met een ruime 16 GB aan werkgeheugen, waardoor multitasking geen enkel probleem vormt voor de Pixel 10 Pro.

Het toestel beschikt bovendien over een 4870mAh-batterij die het gemakkelijk een dag volhoudt. Opladen kan met een vermogen van 30 watt, waarmee je de batterij in ongeveer anderhalf uur volledig oplaadt. Een belangrijke vernieuwing is, zoals gezegd, de ondersteuning voor de Qi2-standaard voor draadloos opladen. Dankzij het ingebouwde Pixelsnap-magneetsysteem kun je de telefoon eenvoudig uitlijnen met ondersteunde draadloze laders. Veel reeds beschikbare magnetische accessoires werken gewoon met de Pixel 10-lijn.

©Wesley Akkerman

©Wesley Akkerman

Veel ontbrekende functies

De Pixel 10 Pro draait op Android 16 en mag daarnaast rekenen op zeven jaar aan software- en beveiligingsupdates (net zoals de andere Pixels). Dat garandeert een lange levensduur met toegang tot toekomstige functies en de nieuwste beveiliging. De nieuwe Android-versie kenmerkt zich door veel kleine aanpassingen door te voeren. De verschillende iconen in de statusbalk ogen wat voller en speelser, terwijl de toevoeging van transparante elementen het systeem wat levendiger maakt. Het strakke en saaie karakter is daardoor verdwenen.

Verder valt vooral op dat de Pixel 10 Pro zijn potentie in Nederland niet waarmaakt. Jaarlijks presenteert Google een hoop AI-functies die de aanschaf voor een Pixel kunnen maken of breken, maar die zijn zelden beschikbaar in de Benelux. Opties die nu schitteren in afwezigheid zijn Magic Cue, Ask Photos en Live Call Translate. Hoewel, die laatstgenoemde functie wérkt technisch gezien wel in de Benelux, maar niet in de lokale talen. Die kun je dus alleen in het Engels gebruiken, wat de inzetbaarheid op dagelijks niveau drastisch vermindert.

100x inzoomen of AI?

Verder is de Google Pixel 10 Pro uitgerust met een bekend en veelzijdig camerasysteem, bestaande uit een hoofdcamera van 50 megapixel en een ultragroothoeklens en telelens met 5x optische zoom (allebei 48 megapixel). Hoewel de hardware grotendeels ongewijzigd is ten opzichte van vorig jaar, is de fotokwaliteit nog altijd indrukwekkend. Dankzij Googles geavanceerde beeldverwerking levert het toestel onder de meeste lichtomstandigheden scherpe, consistente en gedetailleerde foto's met een uitstekend dynamisch bereik. Zo kennen we de Pixel.

Een nieuwe functie is de 100x Pro Res Zoom, die AI gebruikt om objecten op grote afstand dichterbij te halen. De resultaten hiervan zijn wisselend: de functie kan effectief zijn voor landschappen of architectuur, maar heeft de neiging om details zoals tekst onjuist te reconstrueren (eigenlijk zoals veel AI-diensten dat nu ook al doen). In situaties met weinig licht neemt de algehele prestatie van het camerasysteem af, met name bij de ultragroothoek- en telelens. Ook de videokwaliteit in het donker blijft een aandachtspunt voor het toestel.

Pixel 10 Pro kopen?

Hoewel Google best wat vraagt voor het toestel en de Pixel 10 Pro op behoorlijk wat punten achterloopt op de concurrentie, zijn we toch enthousiast over het apparaat. De 10 Pro is namelijk een capabele en compacte smartphone, die lekker in de hand ligt en perfect presteert voor alledaags taken. Zo eerlijk moeten we dan ook weer zijn. Het beeldscherm laat weinig te wensen over, de foto's komen over het algemeen goed uit de verf en de batterijduur is acceptabel. We laden onze smartphones meestal toch wel elke dag of anderhalve dag op.

Ja, de Pixel 10 Pro mist flink wat AI-functies in Nederland. Maar veel mensen verzetten zich nog altijd tegen dergelijke functionaliteit, waardoor ze die ook niet zullen missen. Dan ligt de focus op software (die veel speelser en duidelijker is) en algemene cameraprestaties, en op die vlakken scoort Google gewoon goed. Een ander nadeel is dan misschien nog de oplaadsnelheid, maar ook daar kun je prima omheen werken. Het allergrootste struikelblok is en blijft de prijs. Voor minimaal 1099 euro krijg je bij de concurrentie, technisch gezien, meer waar voor je geld.