Reddit, Twitter en zelfs Pornhub proberen het fenomeen al aan banden te leggen, maar de opmars van neppe AI-porno, ofwel 'deep fake', lijkt niet te stoppen. En dat levert problemen op.

'Deepfake AI-porno' klinkt als een mix van fintech-hype, futurologie, en een beetje viezigheid, maar het proces is in korte tijd uitgegroeid tot een groot probleem voor sociale media, beroemdheden en juristen.

De term staat voor het gebruiken van foto's van gezichten in andere beelden - in dit geval de gezichten van beroemdheden die 'gephotoshopt' worden in bestaande pornovideo's.

Beroemdheden als gewilde doelwitten

Beroemdheden zijn al jaren een gewild doelwit van perverselingen. 'The Fappening' staat nog vers in het geheugen, toen de iCloud-accounts van tientallen vrouwelijke entertainers werden gehackt en duizenden naaktfoto's over het web werden verspreid. De dader werd later opgepakt en veroordeeld voor 18 maanden, maar daarmee is de interesse in gewone actrices en zangeressen in seksuele posities en situaties niet minder geworden.

Dat kan sinds kort met deep fake-AI-porno, waarmee 'gewone' gezichten in bestaande porno-video's worden geplakt.

Deep fakes

De term 'deep fake' om de porno te beschrijven lijkt van een Reddit-gebruiker genaamd DeepFakeApp te komen. Hij ontwikkelde in december een experimenteel desktopprogramma (vernoemd naar zichzelf) om dergelijke fake video's en gifjes te maken - voornamelijk pornografisch materiaal met beroemdheden. Hij zette de applicatie online en begon een community op Reddit, die al snel tienduizenden volgers kreeg.

Machine learning

Het programma maakt gebruik van open source machine learning-algoritmes zoals Googles TensorFlow. Een gebruiker hoeft het maar te downloaden en er een batch foto's aan toe te voegen om zelf al een video te maken.

Om meer te leren over machine learning lees je ook ons uitgebreide achtergrondartikel.

Verboden op sociale media

Het gemak waarmee geruikers met deep fake-algoritmesvideo's kunnen maken zorgt voor problemen bij sociale media zoals Reddit of Twitter. Die waren er dan ook snel bij om hun regels aan te passen en nagemaakte content te blokkeren. Reddit en Twitter zijn, in tegenstelling tot bijvoorbeeld Facebook of Instagram, normaal gesproken erg tolerant wat porno betreft. Dat deep fake-video's dan ook zo snel verboden worden is veelzeggend.

Inmiddels is de subreddit /r/deepfakes gebanned van de website. Een afgeleide subreddit genaamd /r/fakeapp bestaat nog steeds, opgericht door een gebruiker genaamd DeepFakes - waarvan wordt aangenomen dat het óf dezelfde persoon is als DeepFakeApp, of in ieder geval iemand met wie hij nauw samenwerkte.

In tegenstelling tot die oude subreddit is het in /r/fakeapp ten strengste verboden om niet-wederzijdse porno te plaatsen. Daar staat een ban op. Toch lijkt een groot gedeelte van de discussies op de subreddit te draaien om pornografie, en worden er vooral veel links gedeeld naar fora waar die beelden wél verspreid mogen worden.

Pornosites tegen deep fakes

Het zijn niet alleen sociale media die worstelen met het fenomeen. Ook 's werelds bekendste pornosite Pornhub verbiedt het plaatsen van deep fakes, maar de manier waarop dat moet gebeuren is nog onduidelijk. Een snelle zoekterm op de site laat op moment van schrijven 47 actieve deep fake-pornovideo's zien met verschillende bekende actrices. Pornhub zegt zelf dat het deep fake-video's behandelt zoals iedere andere vorm van content: als iemand een verwijderverzoek indient vanwege copyright-schending of wraakporno.

Maar juist die aanpak krijgt veel kritiek. Pornhub is juist groot geworden door het feit dat de website zo overspoeld wordt door video's dat copyright-houders niet tegen het enorme volume kunnen opvechten en het daarom maar opgeven.

Vechten tegen de bierkaai

Bovendien is het effect van één website (hoe invloedrijk dan ook) vechten tegen de bierkaai. Er zijn immers tienduizenden andere sites die maar wat graag verkeer trekken met dergelijke video's, zoals het relatief onbekende EroMe waar nu al tientallen deep fakes op worden aangeboden. Ook zijn er al een groot aantal forums online gekomen waar het delen van video's wordt gestimuleerd - het duurde ons niet veel langer dan 5 minuten om zulke websites te vinden.

Machine learning

AI-porno wordt gemaakt met machine learning-algoritmes. Waar die tot een paar jaar geleden nog voornamelijk voor onderzoekers beschikbaar waren wordt het steeds makkelijker voor doorsnee gebruikers om op die manier dergelijke nepvideo's te maken. Netwerken zoals TensorFlow van Google zijn inmiddels open source beschikbaar, en gratis te gebruiken voor studenten en onderzoekers, maar ook voor iedereen die wil experimenteren met machine learning.

Dat leidt tot apps zoals Deep Fake, die nu gratis te downloaden zijn en die uitgerekend een gebruiksvriendelijke interface hebben.

Makkelijk te maken

Programmeurs hebben dan enkel nog een aantal foto's of video's nodig om de beelden zo echt mogelijk te laten lijken. Daarom zijn beroemdheden zo aantrekkelijk voor het maken van de video's. Via Google en YouTube zijn met een paar zoektermen miljoenen beelden van een actrice beschikbaar.

Opvallend is ook dat voor machine learning geen industriële high-end hardware nodig is. Met gewone consumenten-gpu's en -cpu's is het al mogelijk om beelden te renderen - al is het natuurlijk afhankelijk van de kracht van een chip hoe snel dat gebeurt.

Gewone mensen

Omdat het steeds makkelijker wordt zulke beelden te maken is het maar de vraag wanneer het niet meer alleen over beroemdheden gaat, maar ook over 'gewone mensen'; de kennissen, vrienden of zelfs familie van een maker. Hoe geavanceerder de algoritmes worden, des te makkelijker het wordt om beelden te genereren. Experts voorspellen dan ook dat het in de toekomst doodnormaal wordt om zelfgemaakte porno te maken met wie je dan ook wil zien.

Legaliteit

Het is dan ook maar de vraag of zulke namaakporno wel legaal is, maar gek genoeg is dat niet zo makkelijk als het lijkt.

Daarbij kun je de link leggen met wraakporno, ook een relatief nieuw concept dat in groeiende mate problematisch wordt. Wraakporno is pornografisch materiaal dat door iemand anders wordt geüpload, vaak door bijvoorbeeld een rancuneuze ex.

"Verwerking van persoonsgegevens"

Aan de oppervlakte voelt het alsof deep fake-porno illegaal is - het is in ieder geval zwaar onethisch. Maar is het ook echt tegen de wet? Volgens Arnoud Engelfriet van ICT Recht wel, maar niet rondom dezelfde principes als wraakporno. Neppe porno is volgens Engelfriet 'een geautomatiseerde verwerking van een persoonsgegeven', en daarvoor zou de maker uitdrukkelijke toestemming nodig hebben.

Voor zover bekend heeft er nog geen rechter uitspraak gedaan over het fenomeen, maar als dat gebeurt kan dat leiden tot een precedent waarin het maken van neppe porno inherent wordt verboden.

Van de andere kant: wie houdt zich nou netjes aan zo'n uitspraak?

Zoek je een draadloze hoofdtelefoon met een uitstekend geluid? De HDB 630 is de eerste bluetooth-koptelefoon waarbij Sennheiser het 'Hi-Res Audio'-label op de productdoos heeft geplakt. Dus dat belooft wat! Is luxe koptelefoon zijn stevige adviesprijs van bijna vijfhonderd euro waard?

De Sennheiser HDB 630 is een stijlvol vormgegeven over-ear-hoofdtelefoon met een veilige kleurstelling van zwart en zilver. Beide schelpen hebben nogal dikke kussens van kunstleer die volledig over de oren vallen. In combinatie met de zacht gevoerde hoofdband is de pasvorm erg comfortabel. De klemdruk is trouwens wel wat steviger dan we van veel andere hoofdtelefoons gewend zijn. Hierdoor blijft de HDB 630 tijdens een wandeling of huishoudelijke klus goed op het hoofd zitten. Dankzij de draaibare oorschelpen en verstelbare hoofdband is het apparaat voor vrijwel iedereen geschikt. Luister je graag buitenshuis, dan is het belangrijk om te weten dat dit product geen IP-certificering heeft. Kijk dus uit voor een onverhoopte regenbui.

©Maikel Dijkhuizen

Inbegrepen accessoires

Zoals je van een product in deze prijsklasse mag verwachten, levert de Duitse audiospecialist een stevige opbergcase mee. Die is overigens wel iets groter vergeleken met de case die veel andere merken, zoals Sony en JBL, bij hun koptelefoons leveren. De HDB 630 heeft namelijk geen vouwmechanisme, waardoor de koptelefoon meer ruimte in beslag neemt.

Opvallend is de aanwezigheid van een bluetooth-dongel. Wanneer jouw computer geen bluetooth ondersteunt, kun je evengoed draadloos luisteren. Het is trouwens wel een usb-c-dongel. Check dus voor de zekerheid even of deze poort op jouw computer zit. De adapter ondersteunt een respectabele audioresolutie van maximaal 24 bit/192 kHz. Wanneer je de dongel op een geschikte smartphone of tablet aansluit, profiteer je van een hoge geluidskwaliteit.

Behalve bluetooth ontvangt deze koptelefoon als alternatief ook audiosignalen via twee fysieke ingangen, namelijk usb-c en een 3,5mm-audiopoort. De benodigde kabels zijn inbegrepen. Tot slot bevat de opbergcase een vliegtuigadapter.

©Maikel Dijkhuizen

Muziek luisteren

Zodra je de HDB 630 uit de draaghoes haalt, springt het apparaat vanzelf aan. De eerste klanken laten meteen een goede indruk achter, want deze bluetooth-hoofdtelefoon levert een kraakhelder en levendig geluid. Zowel het hoog, midden als laag zijn luid en duidelijk te horen, waardoor de HDB 630 niets uit de oorspronkelijke opname achterwege laat. Je hoort werkelijk ieder detail. Van metal tot klassiek; elk liedje klinkt kortweg prachtig. Een groot pluspunt is de doeltreffende noise cancelling-functie. We horen tijdens het luisteren nauwelijks omgevingsgeluid. Ideaal voor wie op luidruchtige plekken een podcast, audioboek, talkshow of radio-uitzending wil volgen. Volgens de fabrikant is een volgeladen accu goed voor een luistertijd tot ongeveer zestig uur.

©Sennheiser

Audiobediening

Deze hoofdtelefoon laat zich makkelijk bedienen. De buitenzijde van de rechteroorschelp heeft hiervoor een aanraakpaneel. Veeg omhoog of vooruit om respectievelijk het volume op te voeren en naar het volgende liedje te navigeren. Daarnaast kun je inkomende gesprekken aannemen (of weigeren) en noise cancelling inschakelen. Druk je tweemaal kort op de aan-uitknop, dan vertelt een vrouwelijke stem het resterende batterijpercentage.

Voor toegang tot meer audio-instellingen installeer je de uitgebreide Sennheiser Smart Control Plus-app op een smartphone. Switch bijvoorbeeld snel tussen geluidsopties als Podcast, Rock, Pop, Movie, Dance en Hip-Hop. Daarnaast kun je het basniveau omhoog krikken. Je stelt verder eenvoudig de mate van noise cancelling in. Je bepaalt hierbij zelf hoeveel omgevingsgeluid je hoort. Leuk is dat je in de Engelstalige app allerlei experimentele audio-instellingen kunt uitproberen. Ten slotte verschijnen er mogelijk ook soms nieuwe software-updates voor de hoofdtelefoon.

©Maikel Dijkhuizen

Sennheiser HDB 630 kopen?

Is het hoge prijskaartje van zo'n vijfhonderd euro geen bezwaar, dan haal je met de Sennheiser HDB 630 een hoogstaand audioproduct in huis. Deze over-ear-hoofdtelefoon zit comfortabel en klinkt werkelijk fantastisch. Overige voordelen zijn de stevige reishoes, lange accuduur, goede noise cancelling-functie en uitgebreide app. Houd er wel rekening mee dat de behuizing geen regen kan verdragen.

Meer koptelefoons van Sennheiser:

Het tweede seizoen van Battlefield 6 is na uitstel gisteren van start gegaan.

Het tweede seizoen had eigenlijk op 20 januari van start moeten gaan, maar dat werd vier weken uitgesteld omdat het tweede seizoen nog niet klaar voor release was. Dat is nu blijkbaar wel, en spelers van de shooter kunnen dan ook aan de slag met het tweede seizoen.

Het tweede seizoen bestaat uit drie fases van een maand, die elk nieuwe content met zich meebrengen. De eerste fase heet Extreme Measures en is begonnen. Spelers kunnen aan de slag met een nieuwe multiplayermap genaamd Contaminated, dat geschikt is voor alle gevechtsgroottes. Ook is er een nieuwe tijdelijk beschikbare modus in de vorm van VL-7 Strike, en de battle royale-game Battlefield RedSec krijgt de modi Gauntlet: Altered State en Battle Royale: Synthesis. Ook zijn er nieuwe wapens en gadgets.

De tweede fase heet Nightfall en start op 17 maart, en zal onder andere de nieuwe map Hagental Base en nieuwe Nightfall-modus - waarbij het nacht is en het zich dus slecht is - bevatten. Op 14 april begint de derde fase, Hunter / Prey, met een nieuwe gelimiteerde modus genaamd Operation Augur.

Battlefield 6 kwam afgelopen najaar uit voor pc, PlayStation 5 en Xbox Series-consoles en bleek een groot succes. In de eerste drie dagen werden er meer dan zeven miljoen exemplaren van verkocht. Tegelijkertijd kreeg de game concurrentie uit onverwachtse hoek, namelijk van de ook vorig najaar uitgekomen extraction shooter Arc Raiders.