Reddit, Twitter en zelfs Pornhub proberen het fenomeen al aan banden te leggen, maar de opmars van neppe AI-porno, ofwel 'deep fake', lijkt niet te stoppen. En dat levert problemen op.

'Deepfake AI-porno' klinkt als een mix van fintech-hype, futurologie, en een beetje viezigheid, maar het proces is in korte tijd uitgegroeid tot een groot probleem voor sociale media, beroemdheden en juristen.

De term staat voor het gebruiken van foto's van gezichten in andere beelden - in dit geval de gezichten van beroemdheden die 'gephotoshopt' worden in bestaande pornovideo's.

Beroemdheden als gewilde doelwitten

Beroemdheden zijn al jaren een gewild doelwit van perverselingen. 'The Fappening' staat nog vers in het geheugen, toen de iCloud-accounts van tientallen vrouwelijke entertainers werden gehackt en duizenden naaktfoto's over het web werden verspreid. De dader werd later opgepakt en veroordeeld voor 18 maanden, maar daarmee is de interesse in gewone actrices en zangeressen in seksuele posities en situaties niet minder geworden.

Dat kan sinds kort met deep fake-AI-porno, waarmee 'gewone' gezichten in bestaande porno-video's worden geplakt.

Deep fakes

De term 'deep fake' om de porno te beschrijven lijkt van een Reddit-gebruiker genaamd DeepFakeApp te komen. Hij ontwikkelde in december een experimenteel desktopprogramma (vernoemd naar zichzelf) om dergelijke fake video's en gifjes te maken - voornamelijk pornografisch materiaal met beroemdheden. Hij zette de applicatie online en begon een community op Reddit, die al snel tienduizenden volgers kreeg.

Machine learning

Het programma maakt gebruik van open source machine learning-algoritmes zoals Googles TensorFlow. Een gebruiker hoeft het maar te downloaden en er een batch foto's aan toe te voegen om zelf al een video te maken.

Om meer te leren over machine learning lees je ook ons uitgebreide achtergrondartikel.

Verboden op sociale media

Het gemak waarmee geruikers met deep fake-algoritmesvideo's kunnen maken zorgt voor problemen bij sociale media zoals Reddit of Twitter. Die waren er dan ook snel bij om hun regels aan te passen en nagemaakte content te blokkeren. Reddit en Twitter zijn, in tegenstelling tot bijvoorbeeld Facebook of Instagram, normaal gesproken erg tolerant wat porno betreft. Dat deep fake-video's dan ook zo snel verboden worden is veelzeggend.

Inmiddels is de subreddit /r/deepfakes gebanned van de website. Een afgeleide subreddit genaamd /r/fakeapp bestaat nog steeds, opgericht door een gebruiker genaamd DeepFakes - waarvan wordt aangenomen dat het óf dezelfde persoon is als DeepFakeApp, of in ieder geval iemand met wie hij nauw samenwerkte.

In tegenstelling tot die oude subreddit is het in /r/fakeapp ten strengste verboden om niet-wederzijdse porno te plaatsen. Daar staat een ban op. Toch lijkt een groot gedeelte van de discussies op de subreddit te draaien om pornografie, en worden er vooral veel links gedeeld naar fora waar die beelden wél verspreid mogen worden.

Pornosites tegen deep fakes

Het zijn niet alleen sociale media die worstelen met het fenomeen. Ook 's werelds bekendste pornosite Pornhub verbiedt het plaatsen van deep fakes, maar de manier waarop dat moet gebeuren is nog onduidelijk. Een snelle zoekterm op de site laat op moment van schrijven 47 actieve deep fake-pornovideo's zien met verschillende bekende actrices. Pornhub zegt zelf dat het deep fake-video's behandelt zoals iedere andere vorm van content: als iemand een verwijderverzoek indient vanwege copyright-schending of wraakporno.

Maar juist die aanpak krijgt veel kritiek. Pornhub is juist groot geworden door het feit dat de website zo overspoeld wordt door video's dat copyright-houders niet tegen het enorme volume kunnen opvechten en het daarom maar opgeven.

Vechten tegen de bierkaai

Bovendien is het effect van één website (hoe invloedrijk dan ook) vechten tegen de bierkaai. Er zijn immers tienduizenden andere sites die maar wat graag verkeer trekken met dergelijke video's, zoals het relatief onbekende EroMe waar nu al tientallen deep fakes op worden aangeboden. Ook zijn er al een groot aantal forums online gekomen waar het delen van video's wordt gestimuleerd - het duurde ons niet veel langer dan 5 minuten om zulke websites te vinden.

Machine learning

AI-porno wordt gemaakt met machine learning-algoritmes. Waar die tot een paar jaar geleden nog voornamelijk voor onderzoekers beschikbaar waren wordt het steeds makkelijker voor doorsnee gebruikers om op die manier dergelijke nepvideo's te maken. Netwerken zoals TensorFlow van Google zijn inmiddels open source beschikbaar, en gratis te gebruiken voor studenten en onderzoekers, maar ook voor iedereen die wil experimenteren met machine learning.

Dat leidt tot apps zoals Deep Fake, die nu gratis te downloaden zijn en die uitgerekend een gebruiksvriendelijke interface hebben.

Makkelijk te maken

Programmeurs hebben dan enkel nog een aantal foto's of video's nodig om de beelden zo echt mogelijk te laten lijken. Daarom zijn beroemdheden zo aantrekkelijk voor het maken van de video's. Via Google en YouTube zijn met een paar zoektermen miljoenen beelden van een actrice beschikbaar.

Opvallend is ook dat voor machine learning geen industriële high-end hardware nodig is. Met gewone consumenten-gpu's en -cpu's is het al mogelijk om beelden te renderen - al is het natuurlijk afhankelijk van de kracht van een chip hoe snel dat gebeurt.

Gewone mensen

Omdat het steeds makkelijker wordt zulke beelden te maken is het maar de vraag wanneer het niet meer alleen over beroemdheden gaat, maar ook over 'gewone mensen'; de kennissen, vrienden of zelfs familie van een maker. Hoe geavanceerder de algoritmes worden, des te makkelijker het wordt om beelden te genereren. Experts voorspellen dan ook dat het in de toekomst doodnormaal wordt om zelfgemaakte porno te maken met wie je dan ook wil zien.

Legaliteit

Het is dan ook maar de vraag of zulke namaakporno wel legaal is, maar gek genoeg is dat niet zo makkelijk als het lijkt.

Daarbij kun je de link leggen met wraakporno, ook een relatief nieuw concept dat in groeiende mate problematisch wordt. Wraakporno is pornografisch materiaal dat door iemand anders wordt geüpload, vaak door bijvoorbeeld een rancuneuze ex.

"Verwerking van persoonsgegevens"

Aan de oppervlakte voelt het alsof deep fake-porno illegaal is - het is in ieder geval zwaar onethisch. Maar is het ook echt tegen de wet? Volgens Arnoud Engelfriet van ICT Recht wel, maar niet rondom dezelfde principes als wraakporno. Neppe porno is volgens Engelfriet 'een geautomatiseerde verwerking van een persoonsgegeven', en daarvoor zou de maker uitdrukkelijke toestemming nodig hebben.

Voor zover bekend heeft er nog geen rechter uitspraak gedaan over het fenomeen, maar als dat gebeurt kan dat leiden tot een precedent waarin het maken van neppe porno inherent wordt verboden.

Van de andere kant: wie houdt zich nou netjes aan zo'n uitspraak?

Fable, de nieuwe adventuregame van Playground Games,verschijnt aankomend najaar op Xbox Series-consoles, PlayStation 5 en pc. Dat werd vanavond tijdens de Xbox Developer Direct aangekondigd.

Het was al bekend dat de game naar Xbox en pc kwam, maar nu is dus ook duidelijk dat het spel op release ook voor PlayStation 5 beschikbaar zal zijn. Daarbij weten we nu dus dat Fable ergens aankomend najaar verschijnt. Gedurende de presentatie werd uitgebreid ingegaan op de game, waarbij ook gameplay werd getoond. Hieronder zijn zowel een korte teaser trailer als de complete presentatie te zien - in die presentatie vallen veel meer beelden van de game te zien.

Een eigen held in een grootse wereld

Spelers beginnen de game als een kind in een rustig dorpje. Al snel komen spelers er achter dat ze uit kunnen groeien tot held in het land van Albion. In de beelden zijn magische bossen, drukke dorpjes, complete steden die rondom kastelen zijn gebouwd en andere prachtige omgevingen te zien. De game heeft voor het eerst in de reeks echt een open spelwereld en spelers kunnen dan ook gaan en staan waar ze maar willen.

Spelers bepalen daarbij zelf wat voor soort held ze worden. Men bepaalt het uiterlijk van het personage, de kleding die men draagt en wat het personage zoal doet in het spel. Er zijn zwaarden, men kan magie gebruiken of juist met pijl en boog aan de slag gaan. Daarbij keren er diverse vijanden uit de vorige games terug, waaronder trollen en skeletten. Natuurlijk zijn er ook nieuwe vijanden, waaronder de Cockatrice - een grote, monsterlijke kip.

Net als in de oude games kunnen spelers zich ook vermaken met allerlei randzaken buiten het hoofdavontuur. Denk aan het kopen van een huis - of élk huis - of het vinden van een partner en met ze op date gaan. Het is ook mogelijk om meerdere partners te hebben, of juist te scheiden.

Er zijn meer dan duizend inwoners van Albion, en elk heeft een eigen rol in deze wereld, en een eigen routine. Elk personage is aanspreekbaar - inclusief ingesproken stemmen. Daarbij hebben de acties van spelers ook een groot effect op de andere personages: zo kan de speler een huisbaas worden en die verhuren, of andere inwoners zelfs op straat gooien. Spelers bouwen gedurende het spel een reputatie op, en alle inwoners reageren daar op hun eigen manier op.

Als voorbeeld werd een missie getoond rondom een inwoner - gespeeld door Britse komediant Richard Ayoade - die een middeltje uitvindt om uit te groeien tot een reus. Als spelers er voor kiezen deze reus te doden, blijft het dode lichaam van dit personage op een heuvel liggen, wat volgens de ontwikkelaars de huizenprijzen van het nabijgelegen dorpje beïnvloedt. Op Xbox Wire valt meer informatie over de game te lezen.

Het ontstaan van Fable

De Fable-franchise ontstond op de eerste Xbox-console en werd ontwikkeld door Lionhead Games, dat onder leiding stond van Peter Molyneux – ook bekend van Black & White. Deze adventure-rpg die zich afspeelde in een middeleeuwse fantasiewereld genaamd Albion – gebaseerd op Groot-Brittannië – had als unieke insteek dat spelers zelf bepaalden of ze goede of slechte daden verrichten, en het uiterlijk van het hoofdpersonage veranderde afhankelijk van deze keuzes. Spelers konden zo een koene ridder of een duivelse crimineel worden.

Ook uniek aan de game was dat spelers een levenspartner konden vinden en daarmee zelfs een kind konden krijgen. Daarnaast was een belangrijk onderdeel van het origineel en de diverse vervolgen die zijn verschenen de typisch Britse, droge humor. De Fable-reeks heeft al jaren geen nieuw deel gekregen, tot het aankomende nieuwe deel.

De nieuwe Fable

De nieuwe Fable is al een aantal jaar in ontwikkeling bij Playground Games, tevens de ontwikkelaar van de Forza Horizon-reeks. Deze reboot moet de unieke aspecten van de franchise behouden, maar een nieuwe generatie gamers er kennis mee laten maken, terwijl de hoogstaande graphics van moderne consoles en pc voor een veel gedetailleerdere spelwereld zorgen.

Forza Horizon 6 komt op 19 mei uit, zo werd vanavond tijdens de Xbox Developer Direct bevestigd. Ook werden er nieuwe beelden van de game getoond, waaronder de eerste gameplaybeelden.

Een selectie aan gameplaybeelden is hieronder te zien in de officiële teaser trailer. Tijdens de livestream, die ook hieronder te vinden is, werd nog veel meer informatie gegeven over het aankomende nieuwe deel in de populaire racefranchise.

Racen in Japan

Zoals eerder al bekend werd gemaakt, speelt de game zich af in Japan. De spelwereld zit vol met prachtige landschappen, waarbij klassieke natuur met moderne stedelijke omgevingen wordt gecombineerd.

Spelers arriveren in de virtuele versie van dit land als toerist, en werken zich langzaam maar zeker omhoog in de racewereld door mee te doen aan festivals. Nieuw zijn 'Horizon Rush'-evenementen waarbij spelers hun skills tonen op obstakelcourses.

Natuurlijk mogen auto's niet ontbreken in de game. Er zitten meer dan 550 wagens in de game op release. Elke wagen reageert zo realistisch mogelijk op de weg en het weer. Naast klassieke wagens zijn ook de nieuwste auto's in het spel te vinden, waaronder de GR GT.

Er zijn verschillende aanpasbare garages te vinden in de spelwereld. Spelers bepalen zelf het uiterlijk van deze garages en kunnen hier hun auto's showen. Daarnaast is er de Estate, een uitgebreid landschap waar spelers gedurende het spel hun eigen thuishaven kunnen opbouwen. Meer informatie over de game is in dit artikel op Xbox Wire te vinden.

Forza Horizon 6-releasedatum en platforms

De releasedatum lekte onlangs al via een te vroeg gepubliceerde advertentie, maar is nu dus bevestigd. Op 19 mei komen zowel de standaard editie als een deluxe editie uit. Mensen die de laatstgenoemde editie aanschaffen, ontvangen op 15 mei al toegang tot de game. De standaard editie gaat 69,99 euro kosten.

De game komt op de bovengenoemde datum uit voor Xbox Series-consoles en pc, en later dit jaar ook voor PlayStation 5. Xbox geeft steeds vaker zijn games uit op consoles van concurrerende platforms, en Forza Horizon 6 vormt daar geen uitzondering op.

De Forza Horizon-reeks

In de Forza Horizon-games kunnen spelers naar hartenlust rondscheuren in mooie bolides. De games spelen zich af in open werelden, waarbij men de mogelijkheid heeft om aan diverse racefestivals mee te doen. Het betreft een subreeks van Forza Motorsport – dat zijn serieuzere racegames ten opzichte van de wat speelsere Horizon-titels. De populariteit van de Horizon-subreeks is die van Forza Motorsport inmiddels voorbijgestreefd.

De ontwikkelaar van de Forza Horizon-reeks is Playground Games. Zij werken ook aan de nieuwe Fable, die vandaag ook tijdens de Xbox Developer Direct werd getoond.