Reddit, Twitter en zelfs Pornhub proberen het fenomeen al aan banden te leggen, maar de opmars van neppe AI-porno, ofwel 'deep fake', lijkt niet te stoppen. En dat levert problemen op.

'Deepfake AI-porno' klinkt als een mix van fintech-hype, futurologie, en een beetje viezigheid, maar het proces is in korte tijd uitgegroeid tot een groot probleem voor sociale media, beroemdheden en juristen.

De term staat voor het gebruiken van foto's van gezichten in andere beelden - in dit geval de gezichten van beroemdheden die 'gephotoshopt' worden in bestaande pornovideo's.

Beroemdheden als gewilde doelwitten

Beroemdheden zijn al jaren een gewild doelwit van perverselingen. 'The Fappening' staat nog vers in het geheugen, toen de iCloud-accounts van tientallen vrouwelijke entertainers werden gehackt en duizenden naaktfoto's over het web werden verspreid. De dader werd later opgepakt en veroordeeld voor 18 maanden, maar daarmee is de interesse in gewone actrices en zangeressen in seksuele posities en situaties niet minder geworden.

Dat kan sinds kort met deep fake-AI-porno, waarmee 'gewone' gezichten in bestaande porno-video's worden geplakt.

Deep fakes

De term 'deep fake' om de porno te beschrijven lijkt van een Reddit-gebruiker genaamd DeepFakeApp te komen. Hij ontwikkelde in december een experimenteel desktopprogramma (vernoemd naar zichzelf) om dergelijke fake video's en gifjes te maken - voornamelijk pornografisch materiaal met beroemdheden. Hij zette de applicatie online en begon een community op Reddit, die al snel tienduizenden volgers kreeg.

Machine learning

Het programma maakt gebruik van open source machine learning-algoritmes zoals Googles TensorFlow. Een gebruiker hoeft het maar te downloaden en er een batch foto's aan toe te voegen om zelf al een video te maken.

Om meer te leren over machine learning lees je ook ons uitgebreide achtergrondartikel.

Verboden op sociale media

Het gemak waarmee geruikers met deep fake-algoritmesvideo's kunnen maken zorgt voor problemen bij sociale media zoals Reddit of Twitter. Die waren er dan ook snel bij om hun regels aan te passen en nagemaakte content te blokkeren. Reddit en Twitter zijn, in tegenstelling tot bijvoorbeeld Facebook of Instagram, normaal gesproken erg tolerant wat porno betreft. Dat deep fake-video's dan ook zo snel verboden worden is veelzeggend.

Inmiddels is de subreddit /r/deepfakes gebanned van de website. Een afgeleide subreddit genaamd /r/fakeapp bestaat nog steeds, opgericht door een gebruiker genaamd DeepFakes - waarvan wordt aangenomen dat het óf dezelfde persoon is als DeepFakeApp, of in ieder geval iemand met wie hij nauw samenwerkte.

In tegenstelling tot die oude subreddit is het in /r/fakeapp ten strengste verboden om niet-wederzijdse porno te plaatsen. Daar staat een ban op. Toch lijkt een groot gedeelte van de discussies op de subreddit te draaien om pornografie, en worden er vooral veel links gedeeld naar fora waar die beelden wél verspreid mogen worden.

Pornosites tegen deep fakes

Het zijn niet alleen sociale media die worstelen met het fenomeen. Ook 's werelds bekendste pornosite Pornhub verbiedt het plaatsen van deep fakes, maar de manier waarop dat moet gebeuren is nog onduidelijk. Een snelle zoekterm op de site laat op moment van schrijven 47 actieve deep fake-pornovideo's zien met verschillende bekende actrices. Pornhub zegt zelf dat het deep fake-video's behandelt zoals iedere andere vorm van content: als iemand een verwijderverzoek indient vanwege copyright-schending of wraakporno.

Maar juist die aanpak krijgt veel kritiek. Pornhub is juist groot geworden door het feit dat de website zo overspoeld wordt door video's dat copyright-houders niet tegen het enorme volume kunnen opvechten en het daarom maar opgeven.

Vechten tegen de bierkaai

Bovendien is het effect van één website (hoe invloedrijk dan ook) vechten tegen de bierkaai. Er zijn immers tienduizenden andere sites die maar wat graag verkeer trekken met dergelijke video's, zoals het relatief onbekende EroMe waar nu al tientallen deep fakes op worden aangeboden. Ook zijn er al een groot aantal forums online gekomen waar het delen van video's wordt gestimuleerd - het duurde ons niet veel langer dan 5 minuten om zulke websites te vinden.

Machine learning

AI-porno wordt gemaakt met machine learning-algoritmes. Waar die tot een paar jaar geleden nog voornamelijk voor onderzoekers beschikbaar waren wordt het steeds makkelijker voor doorsnee gebruikers om op die manier dergelijke nepvideo's te maken. Netwerken zoals TensorFlow van Google zijn inmiddels open source beschikbaar, en gratis te gebruiken voor studenten en onderzoekers, maar ook voor iedereen die wil experimenteren met machine learning.

Dat leidt tot apps zoals Deep Fake, die nu gratis te downloaden zijn en die uitgerekend een gebruiksvriendelijke interface hebben.

Makkelijk te maken

Programmeurs hebben dan enkel nog een aantal foto's of video's nodig om de beelden zo echt mogelijk te laten lijken. Daarom zijn beroemdheden zo aantrekkelijk voor het maken van de video's. Via Google en YouTube zijn met een paar zoektermen miljoenen beelden van een actrice beschikbaar.

Opvallend is ook dat voor machine learning geen industriële high-end hardware nodig is. Met gewone consumenten-gpu's en -cpu's is het al mogelijk om beelden te renderen - al is het natuurlijk afhankelijk van de kracht van een chip hoe snel dat gebeurt.

Gewone mensen

Omdat het steeds makkelijker wordt zulke beelden te maken is het maar de vraag wanneer het niet meer alleen over beroemdheden gaat, maar ook over 'gewone mensen'; de kennissen, vrienden of zelfs familie van een maker. Hoe geavanceerder de algoritmes worden, des te makkelijker het wordt om beelden te genereren. Experts voorspellen dan ook dat het in de toekomst doodnormaal wordt om zelfgemaakte porno te maken met wie je dan ook wil zien.

Legaliteit

Het is dan ook maar de vraag of zulke namaakporno wel legaal is, maar gek genoeg is dat niet zo makkelijk als het lijkt.

Daarbij kun je de link leggen met wraakporno, ook een relatief nieuw concept dat in groeiende mate problematisch wordt. Wraakporno is pornografisch materiaal dat door iemand anders wordt geüpload, vaak door bijvoorbeeld een rancuneuze ex.

"Verwerking van persoonsgegevens"

Aan de oppervlakte voelt het alsof deep fake-porno illegaal is - het is in ieder geval zwaar onethisch. Maar is het ook echt tegen de wet? Volgens Arnoud Engelfriet van ICT Recht wel, maar niet rondom dezelfde principes als wraakporno. Neppe porno is volgens Engelfriet 'een geautomatiseerde verwerking van een persoonsgegeven', en daarvoor zou de maker uitdrukkelijke toestemming nodig hebben.

Voor zover bekend heeft er nog geen rechter uitspraak gedaan over het fenomeen, maar als dat gebeurt kan dat leiden tot een precedent waarin het maken van neppe porno inherent wordt verboden.

Van de andere kant: wie houdt zich nou netjes aan zo'n uitspraak?

Microsoft Gaming-ceo Phil Spencer en Xbox-directeur Sarah Bond vertrekken bij het Amerikaanse bedrijf.

Dat hebben verschillende media vernomen, en Spencer zelf heeft het inmiddels ook bevestigd via social media. Daarbij publiceerde IGN ook interne e-mails van Microsoft's ceo Satya Nadella, de te vertrekken Spencer en de nieuwe Microsoft Gaming-ceo Asha Sharma en Matt Booty.

Naar verwachting vertrekt Spencer, die bijna veertig jaar bij Microsoft werkzaam was, aanstaande maandag. Xbox-president Sarah Bond - waarvan voorheen werd gedacht dat ze Spencer uiteindelijk zou vervangen - gaat ook weg. Asha Sharma is op dit moment nog de president van Microsofts CoreAI en gaat dus Microsoft Gaming bestieren. Matt Booty, het hoofd van Xbox Game Studios, wordt gepromoot naar chief content officer en zal nauw samenwerken met Sharma.

"Afgelopen najaar deelde ik met Satya dat ik nadacht over mijn vertrek en het beginnen aan het volgende hoofdstuk van mijn leven", zo stelt Spencer in zijn e-mail. "Vanaf dat moment gingen we aan de slag met onze aanpak, met het oog op het behoud van stabiliteit en het versterken van de fundering die we hebben gebouwd. Xbox is altijd meer dan een bedrijf geweest. Het is een levendige gemeenschap bestaande uit spelers, makers en teams die erg veel geven om wat we bouwen en hoe we dat doen. Het verdient een goed doordacht plan voor de toekomst."

"Ik wil Phil bedanken voor zijn uitzonderlijke leiderschap en samenwerking", aldus Nadella in zijn e-mail naar werknemers. "In meer dan 38 jaar bij Microsoft, waaronder 12 jaar aan het hoofd van de gamedivisie, heeft Phil geholpen met het transformeren van wat we doen en hoe we dat doen."

De nieuwe Microsoft Gaming-ceo aan het woord

Sharma, de nieuwe ceo van Microsoft Gaming, meldt in haar e-mail: "Mijn eerste taak is simpel: begrijpen hoe dit werkt en het vervolgens beschermen. Dat begint bij drie verplichtingen. Ten eerste geweldige games - daar begint alles mee. We moeten geweldige games hebben die door onze spelers geliefd worden." Vervolgens vertelt Sharma over het belang van onvergetelijke personages, de macht geven aan ontwikkelstudio's en iconische franchises.

"Ten tweede: de terugkeer van Xbox. We verbinden ons opnieuw aan onze trouwe Xbox-fans en -spelers, die de afgelopen 25 jaar in ons hebben geïnvesteerd, en de ontwikkelaars waar we de uitgebreide universa en ervaringen die onze spelers wereldwijd omarmen mee hebben gebouwd. We zullen onze afkomst eren met een vernieuwde inzet voor Xbox, te beginnen bij de console, die heeft gevormd wie we zijn." Sharma benadrukt daarbij dat games tegenwoordig op meerdere apparaten te vinden zijn, en spreekt uit dat Microsoft zich niet wil limiteren aan één apparaat. "Terwijl we uitbreiden op pc, mobiel en cloud, moet Xbox naadloos, onmiddellijk en waardig voor de gemeenschappen die we serveren voelen."

Het derde punt van Sharma is "de toekomst van spelen. We nemen de heruitvinding van spelen waar. Daarom zullen we investeren in nieuwe zakenmodellen en nieuwe manieren om te spelen door gebruik te maken van wat we al hebben: iconische teams, personages en werelden waar mensen van houden. Maar we zullen die werelden niet behandelen als statische IP om uit te melken en geld uit te onttrekken. We bouwen een gedeeld platform en gereedschappen die ontwikkelaars en spelers de macht geven om hun eigen verhalen te creëren en delen."

Over Spencer en de staat van Xbox

Phil Spencer werd in 2014 hoofd van Xbox, toen hij de opdracht had Xbox One van een gebrekkige release het jaar ervoor te redden. Tijdens die consolegeneratie werd onder andere het populaire Xbox Game Pass gelanceerd. Dankzij onder andere die service en zijn veelvuldige interviews werd hij al snel populair onder gamers.

Na de Xbox Series X en S-release in 2020 begon de mening over Spencer om te slaan, vooral gevoed door de veranderingen rondom Xbox als merk. Sinds enkele jaren komen de spellen van Xbox-ontwikkelaar zelfs vaak ook op andere platforms uit - bijvoorbeeld op PlayStation 5 en Nintendo Switch. Tegelijkertijd loopt de verkoop van de huidige Xbox Series X en S-consoles flink terug. Spencer zelf verscheen de afgelopen jaren steeds minder vaak in interviews, en ook de vele ontslagrondes en studiosluitingen binnen de Xbox-divisie zorgden voor reputatieschade.

Tegelijkertijd werden onder Spencers leiding grote aankopen als Bethesda en Activision Blizzard gedaan, bekend van gamefranchises als The Elder Scrolls, Fallout en Call of Duty.

Microsoft heeft eerder laten weten aan een nieuwe console te werken, die de grenzen tussen consoles en pc moet vervagen. Voor zover bekend wordt dit een apparaat die in feite pc-games af gaat spelen, alsmede Xbox-games, en waarop verschillende digitale pc-winkels bereikbaar zullen zijn - en dus niet alleen die van Microsoft zelf.

Het vertrek van twee belangrijke kopstukken binnen Microsofts gamedivisie is opvallend, zeker in combinatie met het feit dat de gametak van het bedrijf schijnbaar in een transitieperiode zit. Ook het feit dat de nieuwe ceo van Microsoft Gaming van CoreAI afkomt, houdt de gemoederen onder gamers bezig. Microsoft zet groots in op kunstmatige intelligentie, maar onder gamers heerst vooral onvrede over de invloed die AI tegenwoordig heeft op hun hobby. Sharma benadrukte in haar interne e-mail echter dat Xbox zich niet gaat richten op "zielloze AI-slop".

Toen je je laptop kocht, keek je waarschijnlijk vooral naar de processor, de grafische chip en hoeveel GB werkgeheugen erin zit. Of dat werkgeheugen DDR4 of DDR5 is, is voor de meeste mensen geen doorslaggevende factor. Toch is het wel handig om te weten wat de verschillen zijn tussen DDR4, dat je vooral in oudere laptops tegenkomt, en DDR5, dat bij nieuwe modellen meestal de standaard is. DDR5 kan per seconde meer data verwerken dan DDR4. Wat dat verschil betekent en wanneer extra gigabytes meer opleveren dan de stap naar DDR5, lees je in dit artikel.

De techniek achter DDR4 en DDR5

Het grootste verschil tussen DDR4 en DDR5 zit in de datasnelheid en bandbreedte. Zie het als een digitale weg: DDR4 is een prima route waar het verkeer netjes doorrijdt, DDR5 is een bredere snelweg waar per seconde meer data overheen kan. Daardoor hoeft de processor bij zware taken waarbij veel data heen en weer gaat (denk bijvoorbeeld aan videobewerking) minder vaak te wachten op nieuwe informatie. Let wel: die extra 'rijstroken' leveren pas winst op als je processor, grafische chip en software er ook echt gebruik van maken. Bij lichte taken, zoals browsen en tekstverwerken, is werkgeheugenbandbreedte zelden de bottleneck. Gaat dat langzaam, dan heeft dat eerder te maken met de processor, opslag, of de browser.

DDR5 kan ook helpen met het energieverbruik, omdat het op een lagere spanning werkt: 1,1 volt in plaats van 1,2 volt bij DDR4. In een laptop kan dat iets schelen, al hangt het effect af van wat je doet en hoe de rest van het systeem is opgebouwd. Daarnaast zit bij DDR5 een deel van de stroomregeling op de geheugenmodule zelf. Dat kan de stroomvoorziening stabieler maken, maar het maakt de module ook wat complexer om te produceren.

Wat biedt DDR5 in de praktijk?

DDR5 komt vooral tot zijn recht bij taken die veel werkgeheugenbandbreedte vragen, zoals 8K videobewerking of complexe simulaties. Daarbij blijft de processor (en soms de GPU) meestal de doorslaggevende factor: die bepaalt of je systeem zo'n klus überhaupt vlot aankan. DDR5 kan helpen om wachttijd te verminderen, maar het maakt een trage CPU niet ineens snel. Een ander voordeel is dat je per module hoge capaciteiten kunt halen. Voor zware desktop-werkstations zijn systemen met 256 GB aan werkgeheugen inmiddels realiteit. Bij laptops ligt die grens doorgaans lager, vaak rond de 128 GB, omdat ze meestal minder geheugenslots hebben. Bovendien is het werkgeheugen bij veel modellen vastgesoldeerd, waardoor je later niet kunt uitbreiden.

©Batorskaya Larisa

DDR5 voor gamers: nodig of niet?

Voor gamers blijft het voordeel van DDR5 vaak beperkt. In veel games gaat het om een klein verschil, en op 1440p of 4K zie je dat meestal nog minder terug omdat je dan eerder tegen de grens van de videokaart aanloopt dan tegen die van het werkgeheugen. Ook hier geldt: de keuze voor CPU en vooral GPU bepaalt je gameprestaties veel sterker dan de stap van DDR4 naar DDR5. Dat verschil tussen DDR4 en DDR5 is onderzocht in een vergelijkingstest van de gezaghebbende site Tom's Hardware. Daarbij ging het bijvoorbeeld om 3% verschil in gameprestaties in Assassin's Creed Valhalla, 2% in Far Cry 6, Tom Clancy's Ghost Recon Breakpoint, Watch Dogs: Legion en Borderlands 3, en 1% in Shadow of the Tomb Raider en Wolfenstein: Youngblood.

©Crystal Dynamics

Is een laptop met DDR4 nog goed genoeg?

Ja, voor de meeste Nederlanders is een laptop met DDR4 nog steeds goed genoeg. Gebruik je hem vooral voor internetten, Netflix kijken, Microsoft Office en af en toe een simpele fotobewerking, dan merk je in de praktijk nauwelijks verschil tussen DDR4 en DDR5. Bij laptops is DDR4 of DDR5 bovendien vaak geen losse keuze: het hangt samen met de generatie processor die in het model zit.

DDR5 kan wel voordeel geven bij zwaardere taken waarbij de computer grote hoeveelheden data tegelijk moet verwerken, maar dat wordt pas echt interessant als je met zware programma's werkt, of als je games zo soepel mogelijk wilt laten lopen - ervan uitgaande dat je CPU en GPU die werklast ook aankunnen. Denk aan situaties waarin je merkt dat je laptop moeite heeft om alles bij te houden, ook al staat de beeldkwaliteit niet eens extreem hoog. In veel situaties blijft het verschil klein. Belangrijker is vaak de hoeveelheid werkgeheugen: 16 GB voelt meestal merkbaar fijner dan 8 GB, ongeacht of het DDR4 of DDR5 is.

DDR4 is niet meer vanzelfsprekend goedkoop

Lange tijd was DDR4 de slimme, goedkope keuze als je vooral op de prijs lette: het verschil met DDR5 was groot. Door de huidige tekorten klopt dat beeld minder. DDR4-geheugen is flink duurder geworden; in sommige gevallen is de prijs zelfs meer dan verdubbeld. DDR5 is ook duurder geworden, maar omdat de productie van DDR4 wordt afgebouwd, kan DDR4 relatief harder in prijs oplopen. Daardoor ligt DDR4 in veel gevallen dichter tegen DDR5 aan dan je zou verwachten. Wie nu een nieuw systeem koopt, is met DDR4 vaak nog steeds het minst kwijt, alleen is 'goedkoop' bij werkgeheugen momenteel een rekbaar begrip.

©ronstik

Upgraden: wat wel en niet kan

DDR4 en DDR5 zijn nooit onderling uitwisselbaar, ook niet in een desktop. De inkeping zit op een andere plek en het platform moet het juiste type werkgeheugen ondersteunen. Je kunt dus geen DDR5 plaatsen in een systeem dat voor DDR4 is gemaakt, en andersom ook niet.

Bij laptops betekent dit meestal dat als je wilt overstappen op DDR5 je een nieuwe laptop zult moeten kopen. Veel laptops hebben namelijk geen uitbreidbaar werkgeheugen meer: de geheugenchips zitten voor ruimte- en kostenbesparing op het moederbord gesoldeerd, en bij sommige ontwerpen zelfs in hetzelfde pakket als de processor. Dan kun je later niets meer bijprikken. Dat is ook precies waarom DDR4 vs DDR5 bij laptops zelden de hoofdvraag is: je kiest een model, en daar hoort dit type geheugen bij.

Bij een desktop heb je vaak meer speelruimte, maar ook daar is het geen kwestie van alleen de geheugenmodules wisselen. Wil je van DDR4 naar DDR5, dan heb je een moederbord nodig dat DDR5 ondersteunt, en vaak ook een processor die bij dat moederbord past. Heb je vooral te weinig werkgeheugen (bijvoorbeeld 8 of 16 GB) en merk je dat je pc daardoor traag wordt, dan is extra DDR4 bijplaatsen meestal de goedkoopste verbetering. Pas als je toch al toe bent aan een grotere upgrade van je pc, wordt de stap naar DDR5 logisch.

Wanneer moet je echt upgraden?

Echt upgraden is pas zinvol als je merkt dat je huidige machine niet meer probleemloos werkt bij zware klussen zoals grote fotobestanden bewerken, video's monteren of veel dingen tegelijk doen. Heb je nu een laptop met 16 GB of 32 GB DDR4 die nog vlot werkt? Blijf die dan vooral gebruiken zolang de prijzen zo hoog liggen. Twijfel je, kijk dan eerst wat de oorzaak van de mindere prestaties is: zit je werkgeheugen tegen zijn limiet, of zijn het vooral je processor of GPU die de klus niet bijbenen?

Zo controleer je of je extra RAM nodig hebt

Voordat je besluit om een flinke investering te doen in een nieuw systeem of extra geheugen, is het slim om te kijken hoe je huidige computer presteert onder druk. Je kunt dit eenvoudig zelf testen op zowel Windows als Mac.

Windows

Open eerst de programma's die je normaal gesproken tegelijk gebruikt, zoals je browser met veel tabbladen, Word en een videocall. Druk daarna op Ctrl + Shift + Esc om Taakbeheer te openen. Ga naar het tabblad Prestaties en klik op Geheugen. Kijk vervolgens naar de grafiek en het percentage dat in gebruik is: blijft dat langere tijd rond de 80 tot 90 procent hangen terwijl je gewoon je dagelijkse werk doet, dan zit je tegen de grens van je werkgeheugen aan. Dat merk je vaak aan kleine haperingen, zoals tabbladen die trager laden of apps die later reageren. Zie je tegelijk dat je pc veel met de schijf bezig is, bijvoorbeeld omdat programma's ineens langzamer worden terwijl je opslaglampje blijft knipperen, dan is de kans groot dat Windows tijdelijk data op de SSD parkeert omdat het werkgeheugen volloopt.

Apple

Open je gebruikelijke programma's en druk daarna op Command + Spatiebalk. Typ Activiteitenweergave en druk op enter. Klik bovenin op het tabblad Geheugen en kijk onderaan naar de grafiek bij Geheugendruk. Is die groen, dan is er niets aan de hand. Wordt de grafiek geel of rood, dan heeft je Mac meer geheugen nodig om alles vlot te blijven draaien. Let ook op Gebruikte swap: als dat oploopt tot meerdere gigabytes, dan is je werkgeheugen in de praktijk te krap.