Reddit, Twitter en zelfs Pornhub proberen het fenomeen al aan banden te leggen, maar de opmars van neppe AI-porno, ofwel 'deep fake', lijkt niet te stoppen. En dat levert problemen op.

'Deepfake AI-porno' klinkt als een mix van fintech-hype, futurologie, en een beetje viezigheid, maar het proces is in korte tijd uitgegroeid tot een groot probleem voor sociale media, beroemdheden en juristen.

De term staat voor het gebruiken van foto's van gezichten in andere beelden - in dit geval de gezichten van beroemdheden die 'gephotoshopt' worden in bestaande pornovideo's.

Beroemdheden als gewilde doelwitten

Beroemdheden zijn al jaren een gewild doelwit van perverselingen. 'The Fappening' staat nog vers in het geheugen, toen de iCloud-accounts van tientallen vrouwelijke entertainers werden gehackt en duizenden naaktfoto's over het web werden verspreid. De dader werd later opgepakt en veroordeeld voor 18 maanden, maar daarmee is de interesse in gewone actrices en zangeressen in seksuele posities en situaties niet minder geworden.

Dat kan sinds kort met deep fake-AI-porno, waarmee 'gewone' gezichten in bestaande porno-video's worden geplakt.

Deep fakes

De term 'deep fake' om de porno te beschrijven lijkt van een Reddit-gebruiker genaamd DeepFakeApp te komen. Hij ontwikkelde in december een experimenteel desktopprogramma (vernoemd naar zichzelf) om dergelijke fake video's en gifjes te maken - voornamelijk pornografisch materiaal met beroemdheden. Hij zette de applicatie online en begon een community op Reddit, die al snel tienduizenden volgers kreeg.

Machine learning

Het programma maakt gebruik van open source machine learning-algoritmes zoals Googles TensorFlow. Een gebruiker hoeft het maar te downloaden en er een batch foto's aan toe te voegen om zelf al een video te maken.

Om meer te leren over machine learning lees je ook ons uitgebreide achtergrondartikel.

Verboden op sociale media

Het gemak waarmee geruikers met deep fake-algoritmesvideo's kunnen maken zorgt voor problemen bij sociale media zoals Reddit of Twitter. Die waren er dan ook snel bij om hun regels aan te passen en nagemaakte content te blokkeren. Reddit en Twitter zijn, in tegenstelling tot bijvoorbeeld Facebook of Instagram, normaal gesproken erg tolerant wat porno betreft. Dat deep fake-video's dan ook zo snel verboden worden is veelzeggend.

Inmiddels is de subreddit /r/deepfakes gebanned van de website. Een afgeleide subreddit genaamd /r/fakeapp bestaat nog steeds, opgericht door een gebruiker genaamd DeepFakes - waarvan wordt aangenomen dat het óf dezelfde persoon is als DeepFakeApp, of in ieder geval iemand met wie hij nauw samenwerkte.

In tegenstelling tot die oude subreddit is het in /r/fakeapp ten strengste verboden om niet-wederzijdse porno te plaatsen. Daar staat een ban op. Toch lijkt een groot gedeelte van de discussies op de subreddit te draaien om pornografie, en worden er vooral veel links gedeeld naar fora waar die beelden wél verspreid mogen worden.

Pornosites tegen deep fakes

Het zijn niet alleen sociale media die worstelen met het fenomeen. Ook 's werelds bekendste pornosite Pornhub verbiedt het plaatsen van deep fakes, maar de manier waarop dat moet gebeuren is nog onduidelijk. Een snelle zoekterm op de site laat op moment van schrijven 47 actieve deep fake-pornovideo's zien met verschillende bekende actrices. Pornhub zegt zelf dat het deep fake-video's behandelt zoals iedere andere vorm van content: als iemand een verwijderverzoek indient vanwege copyright-schending of wraakporno.

Maar juist die aanpak krijgt veel kritiek. Pornhub is juist groot geworden door het feit dat de website zo overspoeld wordt door video's dat copyright-houders niet tegen het enorme volume kunnen opvechten en het daarom maar opgeven.

Vechten tegen de bierkaai

Bovendien is het effect van één website (hoe invloedrijk dan ook) vechten tegen de bierkaai. Er zijn immers tienduizenden andere sites die maar wat graag verkeer trekken met dergelijke video's, zoals het relatief onbekende EroMe waar nu al tientallen deep fakes op worden aangeboden. Ook zijn er al een groot aantal forums online gekomen waar het delen van video's wordt gestimuleerd - het duurde ons niet veel langer dan 5 minuten om zulke websites te vinden.

Machine learning

AI-porno wordt gemaakt met machine learning-algoritmes. Waar die tot een paar jaar geleden nog voornamelijk voor onderzoekers beschikbaar waren wordt het steeds makkelijker voor doorsnee gebruikers om op die manier dergelijke nepvideo's te maken. Netwerken zoals TensorFlow van Google zijn inmiddels open source beschikbaar, en gratis te gebruiken voor studenten en onderzoekers, maar ook voor iedereen die wil experimenteren met machine learning.

Dat leidt tot apps zoals Deep Fake, die nu gratis te downloaden zijn en die uitgerekend een gebruiksvriendelijke interface hebben.

Makkelijk te maken

Programmeurs hebben dan enkel nog een aantal foto's of video's nodig om de beelden zo echt mogelijk te laten lijken. Daarom zijn beroemdheden zo aantrekkelijk voor het maken van de video's. Via Google en YouTube zijn met een paar zoektermen miljoenen beelden van een actrice beschikbaar.

Opvallend is ook dat voor machine learning geen industriële high-end hardware nodig is. Met gewone consumenten-gpu's en -cpu's is het al mogelijk om beelden te renderen - al is het natuurlijk afhankelijk van de kracht van een chip hoe snel dat gebeurt.

Gewone mensen

Omdat het steeds makkelijker wordt zulke beelden te maken is het maar de vraag wanneer het niet meer alleen over beroemdheden gaat, maar ook over 'gewone mensen'; de kennissen, vrienden of zelfs familie van een maker. Hoe geavanceerder de algoritmes worden, des te makkelijker het wordt om beelden te genereren. Experts voorspellen dan ook dat het in de toekomst doodnormaal wordt om zelfgemaakte porno te maken met wie je dan ook wil zien.

Legaliteit

Het is dan ook maar de vraag of zulke namaakporno wel legaal is, maar gek genoeg is dat niet zo makkelijk als het lijkt.

Daarbij kun je de link leggen met wraakporno, ook een relatief nieuw concept dat in groeiende mate problematisch wordt. Wraakporno is pornografisch materiaal dat door iemand anders wordt geüpload, vaak door bijvoorbeeld een rancuneuze ex.

"Verwerking van persoonsgegevens"

Aan de oppervlakte voelt het alsof deep fake-porno illegaal is - het is in ieder geval zwaar onethisch. Maar is het ook echt tegen de wet? Volgens Arnoud Engelfriet van ICT Recht wel, maar niet rondom dezelfde principes als wraakporno. Neppe porno is volgens Engelfriet 'een geautomatiseerde verwerking van een persoonsgegeven', en daarvoor zou de maker uitdrukkelijke toestemming nodig hebben.

Voor zover bekend heeft er nog geen rechter uitspraak gedaan over het fenomeen, maar als dat gebeurt kan dat leiden tot een precedent waarin het maken van neppe porno inherent wordt verboden.

Van de andere kant: wie houdt zich nou netjes aan zo'n uitspraak?

Gevoelsmatig is de rek nog niet eens uit de PlayStation 5, maar de tech-architecten bij Sony zitten allesbehalve stil. De komst van een PlayStation 6 is een zekerheid, en in dit artikel nemen wij je mee in alle geruchten en feiten rondom de nieuwe console.

Dit artikel is bijgewerkt op 23 januari.

Releasedatum van de PlayStation 6

Het is voor Sony gebruikelijk om na iedere zes tot zeven jaar een nieuwe PlayStation-console uit te brengen. Tijdens een gesprek tussen Mark Cerny - de hardware-architect van Sony die de ontwikkeling van consoles overziet - en Jack Huynh van AMD - die de chips voor de consoles produceert - zei eerstgenoemde dat de nieuwe PlayStation-hardware 'over een paar jaar' uit moet komen. De schatting is dus dat de console rond het einde van 2027 of in 2028 moet verschijnen.

©Insomniac Games

Ook claimt het relatief betrouwbare Moore's Law is Dead dat de productie van de PlayStation 6 momenteel gepland staat om ergens in 2027 te beginnen. Dat zou dus passen bij een releasedatum in 2027 of 2028. Tijdens een grote rechtszaak tegen Microsoft, rondom de aankoop van Activision-Blizzard, werd daarnaast de herfst van 2028 genoemd als het moment voor de release van nieuwe console-hardware.

Volgens de doorgaans betrouwbare Tom Henderson van Insider Gaming overwegen bedrijven daarentegen om de volgende console-generatie uit te stellen. Dit heeft te maken met de RAM-prijzen, die momenteel flink in de lift zitten. Door de stijging in het gebruik van AI hebben meer computers en apparaten RAM nodig, waardoor prijzen ook stijgen.

Ook in gameconsoles is RAM erg belangrijk. Daardoor zou dit ook effect hebben op de productie- en verkoopprijzen van de PlayStation 6 - en meer aankomende consoles. Hoewel Sony nog weinig woorden heeft vuilgemaakt aan de komst van toekomstige hardware, heeft deze ontwikkeling waarschijnlijk wel een effect op de plannen. Uitstel zou dus overwogen worden zodat RAM-fabrikanten hun productie-infrastructuur zodanig kunnen verbeteren dat de prijzen weer schappelijk worden.

©Team Asobi

Hardware van de PS6

Er is nog weinig officieel bekendgemaakt over de PlayStation 6, laat staan de binnenkant ervan. De eerste details werden echter al besproken tijdens het eerder genoemde gesprek tussen Mark Cerny en Jack Huynh. In de onderstaande video hebben de twee het over drie aspecten die met de nieuwe hardware worden verbeterd, namelijk:

• Betere verlichting dankzij een aparte ray tracing-chip
• Verbeterde AI-upscaling
• Verbeterde datacompressie

De video gaat vooral over het zogenaamde Project Amethyst, dat Sony en AMD in 2023 zijn gestart om "slimmere en efficiëntere oplossingen" te vinden voor het maken van games. Cerny benadrukt dan ook dat de technologieën waar de video over gaat momenteel alleen nog in 'simulatievorm' - ofwel, niet als fysieke hardware - bestaan. "Maar de eerste resultaten zijn veelbelovend en ik kan niet wachten om ze binnen een paar jaar tijd in een toekomstige console te stoppen."

Zo spreekt het duo over Radiance Cores, een aparte chip die in realtime ray tracing  (realistisch gesimuleerde lichtinval) en path tracing (een meer geavanceerde vorm van ray tracing) genereert en dus de zwaarste taken qua lichtsimulatie op zich kan nemen. Dat wordt dan dus via een aparte chip gedaan, terwijl de cpu en overige hardware zich kunnen richten op simuleren van de gameplayscenario's en dergelijke.

Daarbij moet de AI-upscaling beter worden in de aankomende console. Zowel FidelityFX Super Resolution (FSR) en PlayStation Spectral Super Resolution (PSSR) zijn features die graphics en framerate kunnen verbeteren door het gebruik van AI machine learning, zoals je op pc vaak ziet met Nvidia's DLSS. Sony en AMD hebben samen een machine learning-technologie ontwikkeld die Neural Arrays heet. Daarmee kan de gpu van een apparaat grote delen van het scherm in één keer tot zich nemen en verwerken, waardoor het upscalen sneller werkt. Daarbij zijn de Arrays schijnbaar efficiënter dan bestaande upscalemethodes. Betere resultaten met minder moeite? Daar tekenen we graag voor.

©Guerilla Games

Het laatste punt dat het duo behandelt heet Universal Compressing. Daarmee wordt álle gpu-data gecomprimeerd - verpakt, als het ware - in plaats van steeds een gedeelte. Op deze manier wordt er veel minder bandbreedte gebruikt en kunnen er meer details worden weergegeven op het scherm. Ook moet dit een hogere framerate bewerkstelligen, en dit allemaal terwijl het apparaat minder stroom verbruikt.

YouTuber Moore's Law is Dead heeft gesteld een aantal specificaties en details rondom de PlayStation 6 in handen te hebben gekregen. Hij heeft een goede reputatie, maar neem de details uiteraard nog altijd met een korrel zout.

• Gebruik van chiplets (kleine, modulaire geïntegreerde schakelingen die samen een grotere, complexere chip vormen), mogelijk Navi 5-desktopchiplets

• De console is backwards compatibel met PS5 en PS4

• 160W TBP (staat voor Total Board Power, wat de totale hoeveelheid energie die naar de grafische kaart gaat aangeeft); dit is lager dan de 200W TBP van de PS5

• Acht Zen 6 (or nieuwere) cores

• 40-48 RDNA 5 Compute Units van 3GHz+

• 160-bit of 192-bit bus met GDDR7@32GT/s+-

• 'Rasterisation Performance' (hoe snel het systeem 3D-beelden naar een 2D-scherm kan overzetten) in de PS6 zou de console drie sneller maken dan de PS5, met sterk verbeterde ray tracing

©Naughty Dog

Komt Sony met een PlayStation-handheld?

Aan de andere kant van het hardwareverhaal gaan daarbij sterke geruchten dat Sony met een PlayStation-handheld komt tegelijk met - of rondom - de PlayStation 6-release. De bedoeling zou zijn dat de handheld en console nauw met elkaar samenwerken om een nieuwe PlayStation-ervaring te bieden. Volgens Bloomberg, een platform dat rapporteert over verschillende economische sectoren, is het dan ook de bedoeling dat Sony's handheld de concurrentie aangaat met de Nintendo Switch 2. Het bedrijf wil onder andere zijn bereik vergroten met dit nieuwe apparaat.

Volgens de tech-YouTuber Moore's Law is Dead, die bewezen contacten heeft in de techcomponentenwereld, kijkt Sony in wel meer aspecten af bij Nintendo. Zo zou de handheld door middel van een 'dock' verbonden kunnen worden aan een televisie om games op een groter scherm te kunnen spelen. Daarbij beweert hij dat het apparaat op deze manier krachtiger is dan een PlayStation 5-console, al stellen andere bronnen iets anders.

©Sony

Mogelijke specificaties van de handheld

Als de handheld samen met de PlayStation 6 moet verschijnen, is de verwachting dus ook dat het apparaat games van de console af moet kunnen spelen. Maar ingewijde KeplerL2, die gezien wordt als zeer betrouwbaar op het gebied van AMD-technologie, heeft op het forum ResetEra gezegd dat het apparaat niet zo sterk wordt als een PlayStation 5. Desalniettemin kan de handheld schijnbaar wel PS5-games afspelen, maar met een lagere resolutie en framerate. Dit wekt vragen op over hoe de PS6-handheld samen moet werken met de PlayStation 6 zelf, maar antwoorden blijven momenteel nog uit.

Ook over de PS6-handheld heeft Moore's Law is Dead een aantal mogelijke details gedeeld, die we hieronder op een rijtje zetten.

• Complete chip zou als één object van 3 nanometer worden geproduceerd

• De handheld is backward compatibel met PS5 en PS4

• Inclusief MicroSD- en M.2 SSD-opening, haptische feedback, twee microfoons en touchscreen

• De USB-C-opening heeft video-out mogelijkheid

• 15W TBP

• Vier Zen 6c cores

• 12-20 RDNA 5 Compute Units van 1.6-2GHz

• 128-bit bus met LPDDR5X-7500+

• 'Rasterisation Performance' is schijnbaar ongeveer de helft van de PS5, al zou de ray tracing wel beter zijn

Met deze specs zou de handheld krachtiger zijn dan de ROG (Xbox) Ally X, al stelt de YouTuber dat dit model niet gezien wordt als een krachtpatser.

©ASUS

Twee PlayStation-consoles

Voordat de geruchten rondom een nieuwe PlayStation-handheld opdoken, bracht KeplerL2 al naar buiten dat Sony mogelijk aan twéé verschillende apparaten werkte. Toen werd gedacht dat het ging om een krachtige console en een eventuele budget-versie, zoals Microsoft deed met de Xbox Series X en S.

Hij kwam er namelijk achter dat het bedrijf twee SoC's (system-on-a-chip) ontwikkelde, terwijl je er voor een nieuwe console maar eentje nodig hebt. Een SoC is een soort schakeling die alle componenten van een apparaat (in dit geval een console) samenvoegt in de behuizing van een enkele chip. Het is goed mogelijk dat de tweede SoC dus bedoeld is voor de PS6-handheld.

Een andere mogelijke hint is de recent toegevoegde 'power saver'-modus voor PlayStation 5. Die modus laat de console tijdens het spelen van sommige games de helft minder stroom verbruiken, wat volgens tech-experts van Digital Foundry past bij het stroomverbruik van de vermeende SoC van de PlayStation-handheld.

©Team Asobi

Wat gaat de console kosten?

Omdat we niet met zekerheid kunnen zeggen wat er onder de motorkap van de PlayStation 6 zit, is een prijs nog redelijk lastig te voorspellen. Wel is te verwachten dat de volgende generatie een flinke duit gaat kosten. Nieuwere en krachtige technologie kost nou eenmaal meer, en met de huidge RAM-tekorten wordt het voorspellen van een prijs nog moeilijker. Daarbij weten we ook niet hoe de importheffingen vanuit Amerika de industrie de komende jaren gaan beïnvloeden. Onze verwachting is in ieder geval dat de PlayStation 6 op release zeker tussen de 600 en 700 euro gaat kosten.

Geen ingebouwde disk drive

Daarbij is een ander gerucht interessant, wederom afkomstig van Tom Henderson, via Insider Gaming. Hij claimt namelijk dat de PlayStation 6 niet verscheept wordt met een ingebouwde disk drive, maar dat die los verkrijgbaar wordt. Dit om de productiekosten van de console zo laag mogelijk te houden, aldus Henderson. Dat is in lijn met de recentere PlayStation 5 Pro, die ook werd uitgebracht zonder disk drive.

©Sony

Features van de PlayStation 6

Ook over de nieuwe features van de console is nog weinig bekend. De eerder genoemde insiders lijken allemaal vast te stellen dat de PlayStation 6 in ieder geval backwards compatible is met games uit de PS5- en PS4-generaties. Uit het technische praatje van Cerny en Huynh zijn ook al een paar verbeteringen op bestaande features bekend geworden, maar over een concept op het niveau van de Haptic Feedback van de DualSense-controller is nog niet besproken.

Fans hopen in ieder geval dat thema's terugkeren na de afwezigheid daarvan op de PlayStation 5, en wordt er gespeculeerd dat draadloos opladen van de controllers eventueel een mogelijkheid wordt.

©Square Enix

Welke games verschijnen er voor de PlayStation 6?

AI en teraflops zijn allemaal leuk en aardig, maar uiteindelijk draait het om de videogames.Momenteel is er praktisch niets bekend over software op de volgende generatie, al kunnen we er wel vanuit gaan dat een aantal PlayStation 5-exclusives later - of met de launch van het systeem - een next-gen upgrade krijgen. Net zoals Marvel's Spider-Man Remastered en God of War: Ragnarök met de overgang van de PS4 naar PS5, bijvoorbeeld.

Een van de grootste titels die mogelijk rond de release van de PlayStation 6 uitkomt is Intergalactic: The Heretic Prophet - de nieuwe game van Uncharted- en The Last of Us-ontwikkelaar Naughty Dog. De game is al aangekondigd voor een release op de PS5, maar er is nog geen releasedatum gegeven. We achten het dus zeer mogelijk dat Intergalactic een van de games is die een geüpgraded versie ontvangt op Sony's nieuwe console.

Daarbij bezit Sony nog een flink aantal ontwikkelstudio's waarvan de huidige projecten onbekend zijn, of die nog niet geheel uit de doeken zijn gedaan. Zo kwamen een paar jaar geleden de toekomstplannen van Marvel's Spider-Man- en Ratchet and Clank-ontwikkelaar Insomniac Games op straat te liggen na een hack, waar we om die reden niet dieper op ingaan.

Wel is bijvoorbeeld bekend dat het in Nederland gevestigde Guerilla Games werkt aan een nieuwe Horizon-game, nadat Horizon: Forbidden West aan het begin van de PlayStation 5's levenscyclus uitkwam. Ook is God of War-maker Santa Monica Studio nog altijd bezig met mysterieuze projecten, wellicht een derde God of War-titel en een sciencefiction-titel, die nog niet uit de doeken zijn gedaan.

De mensen bij Bluepoint Games - dat de PS5-exclusieve remake van Demon's Souls leverde - werkt na de annulering van hun live-service-game daarbij waarschijnlijk aan een nieuw project. De mogelijkheden zijn in ieder geval eindeloos, dus houd dit artikel en ID.nl in de gaten om op de hoogte te blijven over alles rondom de PlayStation 6 en zijn launchtitels.

Microsoft heeft bekendgemaakt welke spellen er de komende dagen en weken op Xbox Game Pass verschijnen. Een van die spellen is Kingdom Come: Deliverance.

Dat meldde het bedrijf op Xbox Wire. Het middeleeuwse avontuur van Warhorse staat bekend om zijn uitzonderlijke realisme, waarbij alle acties van de speler gevolgen hebben. De game is sinds enkele jaren weer populair geworden door de komst van het geprezen vervolg.

Hieronder zijn de toevoegingen van de komende weken te vinden, waaronder twee spellen die al sinds gisteren op Xbox Game Pass zijn verschenen:

Tot slot werd bekendgemaakt dat Madden NFL 24 op 15 februari van Xbox Game Pass verdwijnt.