Reddit, Twitter en zelfs Pornhub proberen het fenomeen al aan banden te leggen, maar de opmars van neppe AI-porno, ofwel 'deep fake', lijkt niet te stoppen. En dat levert problemen op.

'Deepfake AI-porno' klinkt als een mix van fintech-hype, futurologie, en een beetje viezigheid, maar het proces is in korte tijd uitgegroeid tot een groot probleem voor sociale media, beroemdheden en juristen.

De term staat voor het gebruiken van foto's van gezichten in andere beelden - in dit geval de gezichten van beroemdheden die 'gephotoshopt' worden in bestaande pornovideo's.

Beroemdheden als gewilde doelwitten

Beroemdheden zijn al jaren een gewild doelwit van perverselingen. 'The Fappening' staat nog vers in het geheugen, toen de iCloud-accounts van tientallen vrouwelijke entertainers werden gehackt en duizenden naaktfoto's over het web werden verspreid. De dader werd later opgepakt en veroordeeld voor 18 maanden, maar daarmee is de interesse in gewone actrices en zangeressen in seksuele posities en situaties niet minder geworden.

Dat kan sinds kort met deep fake-AI-porno, waarmee 'gewone' gezichten in bestaande porno-video's worden geplakt.

Deep fakes

De term 'deep fake' om de porno te beschrijven lijkt van een Reddit-gebruiker genaamd DeepFakeApp te komen. Hij ontwikkelde in december een experimenteel desktopprogramma (vernoemd naar zichzelf) om dergelijke fake video's en gifjes te maken - voornamelijk pornografisch materiaal met beroemdheden. Hij zette de applicatie online en begon een community op Reddit, die al snel tienduizenden volgers kreeg.

Machine learning

Het programma maakt gebruik van open source machine learning-algoritmes zoals Googles TensorFlow. Een gebruiker hoeft het maar te downloaden en er een batch foto's aan toe te voegen om zelf al een video te maken.

Om meer te leren over machine learning lees je ook ons uitgebreide achtergrondartikel.

Verboden op sociale media

Het gemak waarmee geruikers met deep fake-algoritmesvideo's kunnen maken zorgt voor problemen bij sociale media zoals Reddit of Twitter. Die waren er dan ook snel bij om hun regels aan te passen en nagemaakte content te blokkeren. Reddit en Twitter zijn, in tegenstelling tot bijvoorbeeld Facebook of Instagram, normaal gesproken erg tolerant wat porno betreft. Dat deep fake-video's dan ook zo snel verboden worden is veelzeggend.

Inmiddels is de subreddit /r/deepfakes gebanned van de website. Een afgeleide subreddit genaamd /r/fakeapp bestaat nog steeds, opgericht door een gebruiker genaamd DeepFakes - waarvan wordt aangenomen dat het óf dezelfde persoon is als DeepFakeApp, of in ieder geval iemand met wie hij nauw samenwerkte.

In tegenstelling tot die oude subreddit is het in /r/fakeapp ten strengste verboden om niet-wederzijdse porno te plaatsen. Daar staat een ban op. Toch lijkt een groot gedeelte van de discussies op de subreddit te draaien om pornografie, en worden er vooral veel links gedeeld naar fora waar die beelden wél verspreid mogen worden.

Pornosites tegen deep fakes

Het zijn niet alleen sociale media die worstelen met het fenomeen. Ook 's werelds bekendste pornosite Pornhub verbiedt het plaatsen van deep fakes, maar de manier waarop dat moet gebeuren is nog onduidelijk. Een snelle zoekterm op de site laat op moment van schrijven 47 actieve deep fake-pornovideo's zien met verschillende bekende actrices. Pornhub zegt zelf dat het deep fake-video's behandelt zoals iedere andere vorm van content: als iemand een verwijderverzoek indient vanwege copyright-schending of wraakporno.

Maar juist die aanpak krijgt veel kritiek. Pornhub is juist groot geworden door het feit dat de website zo overspoeld wordt door video's dat copyright-houders niet tegen het enorme volume kunnen opvechten en het daarom maar opgeven.

Vechten tegen de bierkaai

Bovendien is het effect van één website (hoe invloedrijk dan ook) vechten tegen de bierkaai. Er zijn immers tienduizenden andere sites die maar wat graag verkeer trekken met dergelijke video's, zoals het relatief onbekende EroMe waar nu al tientallen deep fakes op worden aangeboden. Ook zijn er al een groot aantal forums online gekomen waar het delen van video's wordt gestimuleerd - het duurde ons niet veel langer dan 5 minuten om zulke websites te vinden.

Machine learning

AI-porno wordt gemaakt met machine learning-algoritmes. Waar die tot een paar jaar geleden nog voornamelijk voor onderzoekers beschikbaar waren wordt het steeds makkelijker voor doorsnee gebruikers om op die manier dergelijke nepvideo's te maken. Netwerken zoals TensorFlow van Google zijn inmiddels open source beschikbaar, en gratis te gebruiken voor studenten en onderzoekers, maar ook voor iedereen die wil experimenteren met machine learning.

Dat leidt tot apps zoals Deep Fake, die nu gratis te downloaden zijn en die uitgerekend een gebruiksvriendelijke interface hebben.

Makkelijk te maken

Programmeurs hebben dan enkel nog een aantal foto's of video's nodig om de beelden zo echt mogelijk te laten lijken. Daarom zijn beroemdheden zo aantrekkelijk voor het maken van de video's. Via Google en YouTube zijn met een paar zoektermen miljoenen beelden van een actrice beschikbaar.

Opvallend is ook dat voor machine learning geen industriële high-end hardware nodig is. Met gewone consumenten-gpu's en -cpu's is het al mogelijk om beelden te renderen - al is het natuurlijk afhankelijk van de kracht van een chip hoe snel dat gebeurt.

Gewone mensen

Omdat het steeds makkelijker wordt zulke beelden te maken is het maar de vraag wanneer het niet meer alleen over beroemdheden gaat, maar ook over 'gewone mensen'; de kennissen, vrienden of zelfs familie van een maker. Hoe geavanceerder de algoritmes worden, des te makkelijker het wordt om beelden te genereren. Experts voorspellen dan ook dat het in de toekomst doodnormaal wordt om zelfgemaakte porno te maken met wie je dan ook wil zien.

Legaliteit

Het is dan ook maar de vraag of zulke namaakporno wel legaal is, maar gek genoeg is dat niet zo makkelijk als het lijkt.

Daarbij kun je de link leggen met wraakporno, ook een relatief nieuw concept dat in groeiende mate problematisch wordt. Wraakporno is pornografisch materiaal dat door iemand anders wordt geüpload, vaak door bijvoorbeeld een rancuneuze ex.

"Verwerking van persoonsgegevens"

Aan de oppervlakte voelt het alsof deep fake-porno illegaal is - het is in ieder geval zwaar onethisch. Maar is het ook echt tegen de wet? Volgens Arnoud Engelfriet van ICT Recht wel, maar niet rondom dezelfde principes als wraakporno. Neppe porno is volgens Engelfriet 'een geautomatiseerde verwerking van een persoonsgegeven', en daarvoor zou de maker uitdrukkelijke toestemming nodig hebben.

Voor zover bekend heeft er nog geen rechter uitspraak gedaan over het fenomeen, maar als dat gebeurt kan dat leiden tot een precedent waarin het maken van neppe porno inherent wordt verboden.

Van de andere kant: wie houdt zich nou netjes aan zo'n uitspraak?

Het heeft even geduurd voordat de aangekondigde beeldgenerator voor Paint daadwerkelijk in Nederland en België beschikbaar werd. Nu zien we de knop in het basisprogramma voor afbeeldingen staan, en dit kun je ermee.

Credits

Microsoft Paint heeft in Windows 11 een bijzonder krachtige tekst-naar-afbeelding-generatietool gekregen. Voorheen stond hij bekend als Cocreator, nu gaat de AI-generator onder de naam Image Creator door het leven. Je vindt de knop bovenaan in de knoppenbalk naast de knop Lagen, die eveneens aan de nieuwe Paint-versie is toegevoegd. Image Creator is een functie, gebaseerd op het bekende Dall-E-model, die ook beschikbaar is in de Copilot-app van Windows 11.

Je kunt niet oneindig veel afbeeldingen door middel van een tekstprompt genereren. Microsoft 365 Personal- en Gezinsabonnees krijgen zestig AI-credits per maand en iedere afbeelding die je genereert kost één credit. Wanneer je nog vijf credits overhebt, ontvang je een melding. Aan het begin van iedere maand worden de credits automatisch aangevuld. Extra AI-tegoed kun je kopen door je te abonneren op Copilot Pro.

De knop naar Image Creator zit tussen de kleuren en het Lagen-pictogram.

Tekstopdracht

De leukste eigenschap van Paint Image Creator is de eenvoud. Klik op de knop, waarna je in de rechterbalk een tekstprompt typt in het vak Beschrijf wat u wilt maken. Formuleer zo helder mogelijk wat je wilt hebben. Hoe nauwkeuriger de prompt, hoe beter het resultaat wordt. In het rechtermenu vind je het onderdeel Een stijl kiezen. Je hebt de keuze uit Houtskool, Ink Sketch, Waterverf, Olieverfschilderij, Digitale kunst, Fotorealistisch, Anime en Pixel Art. De keuze Fotorealistisch is vaak handig, omdat hiermee afbeeldingen worden geproduceerd die er behoorlijk echt uitzien. Achteraf kun je er toch nog filters op loslaten. Zodra je een keuze hebt gemaakt, klik je op de knop Maken. Deze actie verbruikt onmiddellijk een AI-credit.

Selecteer een van de acht stijlen.

Varianten

De uitvoer verschijnt in het rechtermenu onder Varianten verkennen. Zodra je op een van de varianten klikt, wordt de afbeelding zichtbaar in het werkvlak van Paint. Houd het canvas groot om de uitvoer gemakkelijk op te slaan. Je mag deze afbeelding rechtenvrij gebruiken, maar Paint genereert automatisch Content credentials waardoor bezoekers toch kunnen zien dat de afbeelding gemaakt is met behulp van AI-software.

Verken de drie varianten.

De Boox Go Color 7 Gen II moet de compacte kleur-e-reader naar een hoger niveau tillen. Met Android 13, stylus-ondersteuning en toegang tot talloze apps lijkt het een veelzijdige upgrade ten opzichte van de eerste generatie. Maar wie hoopt op een spectaculair verschil, ontdekt al snel dat de verbeteringen bescheiden zijn en dat oude minpunten nog steeds aanwezig zijn.

Qua uiterlijk heeft Onyx weinig aangepast. De Gen II is net zo licht en handzaam als zijn voorganger, weegt nog steeds rond de 190 gram en ligt dankzij de matte achterkant prettig in de hand. De brede rand rondom het scherm blijft een slimme keuze, zodat je het apparaat stevig kunt vasthouden zonder per ongeluk het scherm aan te raken. De bladerknoppen lijken iets beter geplaatst en klikken overtuigender dan bij de Gen I, maar het blijft een nuanceverschil. Het formaat is precies in balans: groot genoeg om comfortabel te lezen, maar compact genoeg om gemakkelijk mee te nemen. Dat maakt het een van de grootste troeven van deze serie.

Kleuren overtuigen nog steeds niet

Het 7-inch scherm gebruikt de Kaleido 3-technologie, met 4096 kleuren op 150 ppi en 300 ppi voor zwart-wit. In de praktijk oogt het kleurbeeld nog steeds erg zacht, flets en wollig, met een lichte gelige zweem die vooral opvalt bij bepaalde achtergrondkleuren. Voor strips en grafieken is het prima, maar het haalt het niet bij zelfs de goedkoopste tablets. Het contrast blijft lager dan bij een zwart-wit-e-reader en het lichte screendoor-effect (waarbij je het fijne raster van de pixels op een scherm kunt zien, alsof je door een hor of gaas kijkt) is goed zichtbaar. Ghosting, waarbij oude beeldresten kort blijven hangen, is iets minder storend dan bij zijn voorganger, maar nog altijd aanwezig.

©ER | ID.nl

©ER | ID.nl

Leuk voor stripverhalen, maar met beperkingen

Het kleurenscherm van de Boox Go Color 7 Gen II komt het best tot zijn recht bij het lezen van stripverhalen, manga of comics. Illustraties krijgen immers een subtiele kleurdiepte die prettiger is voor de ogen dan de felle gloed van een tablet, en het compacte 7-inch formaat voelt in de hand bijna als een klein stripboekje. Vooral bij traditionele manga werkt dat prima, zeker als je leest via een sideload-app als Tachiyomi of Perfect Viewer, die je zelf als .apk-bestand kunt installeren.

Bij webtoons of andere digitale strips met lange verticale pagina’s merk je echter dat het e-ink-scherm wat moeite heeft: het scrollen is niet altijd vloeiend en het beeld ververst uiteraard niet zo snel als op een lcd- of oled-scherm. Ook blijft de kleurweergave wat gedempt en mist het geheel de levendigheid van een tablet. Ghosting kan bij intensieve beeldwisselingen eveneens zichtbaar blijven, waardoor het apparaat beter presteert bij rustiger, pagina-gebaseerde content dan bij dynamische visuele media.

©ER | ID.nl

Flexibiliteit met een leercurve

De overstap naar Android 13 zorgt voor een stabielere en iets snellere ervaring dan bij de vorige generatie. Het grote voordeel is de vrijheid om via Google Play vrijwel elke lees-app te installeren, van Kindle tot Kobo en Storytel. Zo kun je vanuit één apparaat bij meerdere aanbieders terecht. Daarnaast kun je per app talloze leesinstellingen aanpassen, tot en met het installeren van specifieke lettertypes zoals een dyslexie­vriendelijk font.

Toch zit daar ook een keerzijde aan. Zowel de knoppen als het touchscreen reageren merkbaar trager dan bij conventionele e-readers, en bij complexe apps merk je dat de hardware het eigenlijk maar moeilijk kan bijbenen. Het apparaat voelt daardoor minder direct en soepel aan, zelfs bij simpele handelingen zoals het invoeren van een pincode.

©ER | ID.nl

Android is een kracht én een valkuil

Doordat het apparaat draait op Android 13 kun je zoals hierboven al genoemd via de Play Store vrijwel elke app installeren. Dat opent een deur naar een breed scala aan toepassingen: naast lees-apps zoals Kindle, Kobo en Storytel kun je er ook allerhande educatieve apps, productiviteitstools en zelfs games op zetten.

In theorie maakt dat van de Go Color 7 Gen II een soort mini-tablet met e-ink-scherm. In de praktijk loop je echter al snel tegen de grenzen van de technologie aan. Bewegende beelden, zoals video's, ogen traag en onscherp, en animaties in apps komen schokkerig over. Games werken technisch gezien, maar de reactiesnelheid van het scherm maakt ze eigenlijk onspeelbaar. Ook voelt de interface minder vloeiend aan dan op een echte tablet, waardoor het apparaat het meest tot zijn recht komt als veelzijdige e-reader, en niet als volwaardige vervanger van je iPad of Android-tablet. Houd dat dus in gedachten.

Kijk nou, een stylus!

De grootste vernieuwing is de ondersteuning voor een stylus. Met de Boox InkSense-pen kun je notities maken, documenten annoteren en zelfs illustraties maken (als je daar de juiste app voor installeert). Dat werkt, maar het schrijf-/tekengevoel is wisselend. Palm rejection is niet altijd betrouwbaar, waardoor er soms ongewenste strepen op het scherm verschijnen als je hand erop rust. Daarnaast verliest de pen soms kortstondig contact, waardoor lijnen of delen van letters ontbreken. Voor snelle krabbels of het markeren van tekst voldoet het, maar voor langdurig schrijf- of tekenwerk of precisie-aantekeningen is de Gen II minder geschikt.

Accessoires niet inbegrepen

Wie de Boox Go Color 7 Gen II optimaal wil gebruiken, moet rekening houden met extra kosten. De InkSense-stylus, die nodig is om notities te maken of te tekenen, wordt niet standaard meegeleverd en kost 54,95 euro. Ook de magnetische beschermhoes, geprijsd op 29,95 euro, moet je apart aanschaffen. Die hoes is handig voor bescherming en om de e-reader rechtop te zetten, maar de magneten zijn niet bijzonder krachtig, waardoor het apparaat er vrij gemakkelijk uit kan glijden. Voor wie het complete pakket wil, tikt de totaalprijs dus merkbaar hoger uit dan alleen de aanschaf van het apparaat zelf.

Conclusie: niche-ding voor specifieke gebruikers

De Boox Go Color 7 Gen II is een degelijk apparaat voor wie (een beetje) kleur nodig heeft in een compact formaat, meerdere leesplatforms wil combineren en bereid is tijd te investeren in het instellen van apps en instellingen. De stap vooruit ten opzichte van de Gen I is echter klein. De kleurweergave blijft erg zacht, ghosting is nog steeds aanwezig en de stylus-ervaring wordt beperkt door onnauwkeurigheid en vertraging. Als e-reader voor wie vooral in zwart-wit leest of lekker snel wil kunnen bladeren, zijn er gebruiksvriendelijker en goedkopere alternatieven. En wie denkt hiermee ook meteen een tabletvervanger in huis te halen, zal snel merken dat bewegend beeld en interactieve content (bijvoorbeeld bij het browsen) simpelweg niet prettig werken op e-ink.