Reddit, Twitter en zelfs Pornhub proberen het fenomeen al aan banden te leggen, maar de opmars van neppe AI-porno, ofwel 'deep fake', lijkt niet te stoppen. En dat levert problemen op.

'Deepfake AI-porno' klinkt als een mix van fintech-hype, futurologie, en een beetje viezigheid, maar het proces is in korte tijd uitgegroeid tot een groot probleem voor sociale media, beroemdheden en juristen.

De term staat voor het gebruiken van foto's van gezichten in andere beelden - in dit geval de gezichten van beroemdheden die 'gephotoshopt' worden in bestaande pornovideo's.

Beroemdheden als gewilde doelwitten

Beroemdheden zijn al jaren een gewild doelwit van perverselingen. 'The Fappening' staat nog vers in het geheugen, toen de iCloud-accounts van tientallen vrouwelijke entertainers werden gehackt en duizenden naaktfoto's over het web werden verspreid. De dader werd later opgepakt en veroordeeld voor 18 maanden, maar daarmee is de interesse in gewone actrices en zangeressen in seksuele posities en situaties niet minder geworden.

Dat kan sinds kort met deep fake-AI-porno, waarmee 'gewone' gezichten in bestaande porno-video's worden geplakt.

Deep fakes

De term 'deep fake' om de porno te beschrijven lijkt van een Reddit-gebruiker genaamd DeepFakeApp te komen. Hij ontwikkelde in december een experimenteel desktopprogramma (vernoemd naar zichzelf) om dergelijke fake video's en gifjes te maken - voornamelijk pornografisch materiaal met beroemdheden. Hij zette de applicatie online en begon een community op Reddit, die al snel tienduizenden volgers kreeg.

Machine learning

Het programma maakt gebruik van open source machine learning-algoritmes zoals Googles TensorFlow. Een gebruiker hoeft het maar te downloaden en er een batch foto's aan toe te voegen om zelf al een video te maken.

Om meer te leren over machine learning lees je ook ons uitgebreide achtergrondartikel.

Verboden op sociale media

Het gemak waarmee geruikers met deep fake-algoritmesvideo's kunnen maken zorgt voor problemen bij sociale media zoals Reddit of Twitter. Die waren er dan ook snel bij om hun regels aan te passen en nagemaakte content te blokkeren. Reddit en Twitter zijn, in tegenstelling tot bijvoorbeeld Facebook of Instagram, normaal gesproken erg tolerant wat porno betreft. Dat deep fake-video's dan ook zo snel verboden worden is veelzeggend.

Inmiddels is de subreddit /r/deepfakes gebanned van de website. Een afgeleide subreddit genaamd /r/fakeapp bestaat nog steeds, opgericht door een gebruiker genaamd DeepFakes - waarvan wordt aangenomen dat het óf dezelfde persoon is als DeepFakeApp, of in ieder geval iemand met wie hij nauw samenwerkte.

In tegenstelling tot die oude subreddit is het in /r/fakeapp ten strengste verboden om niet-wederzijdse porno te plaatsen. Daar staat een ban op. Toch lijkt een groot gedeelte van de discussies op de subreddit te draaien om pornografie, en worden er vooral veel links gedeeld naar fora waar die beelden wél verspreid mogen worden.

Pornosites tegen deep fakes

Het zijn niet alleen sociale media die worstelen met het fenomeen. Ook 's werelds bekendste pornosite Pornhub verbiedt het plaatsen van deep fakes, maar de manier waarop dat moet gebeuren is nog onduidelijk. Een snelle zoekterm op de site laat op moment van schrijven 47 actieve deep fake-pornovideo's zien met verschillende bekende actrices. Pornhub zegt zelf dat het deep fake-video's behandelt zoals iedere andere vorm van content: als iemand een verwijderverzoek indient vanwege copyright-schending of wraakporno.

Maar juist die aanpak krijgt veel kritiek. Pornhub is juist groot geworden door het feit dat de website zo overspoeld wordt door video's dat copyright-houders niet tegen het enorme volume kunnen opvechten en het daarom maar opgeven.

Vechten tegen de bierkaai

Bovendien is het effect van één website (hoe invloedrijk dan ook) vechten tegen de bierkaai. Er zijn immers tienduizenden andere sites die maar wat graag verkeer trekken met dergelijke video's, zoals het relatief onbekende EroMe waar nu al tientallen deep fakes op worden aangeboden. Ook zijn er al een groot aantal forums online gekomen waar het delen van video's wordt gestimuleerd - het duurde ons niet veel langer dan 5 minuten om zulke websites te vinden.

Machine learning

AI-porno wordt gemaakt met machine learning-algoritmes. Waar die tot een paar jaar geleden nog voornamelijk voor onderzoekers beschikbaar waren wordt het steeds makkelijker voor doorsnee gebruikers om op die manier dergelijke nepvideo's te maken. Netwerken zoals TensorFlow van Google zijn inmiddels open source beschikbaar, en gratis te gebruiken voor studenten en onderzoekers, maar ook voor iedereen die wil experimenteren met machine learning.

Dat leidt tot apps zoals Deep Fake, die nu gratis te downloaden zijn en die uitgerekend een gebruiksvriendelijke interface hebben.

Makkelijk te maken

Programmeurs hebben dan enkel nog een aantal foto's of video's nodig om de beelden zo echt mogelijk te laten lijken. Daarom zijn beroemdheden zo aantrekkelijk voor het maken van de video's. Via Google en YouTube zijn met een paar zoektermen miljoenen beelden van een actrice beschikbaar.

Opvallend is ook dat voor machine learning geen industriële high-end hardware nodig is. Met gewone consumenten-gpu's en -cpu's is het al mogelijk om beelden te renderen - al is het natuurlijk afhankelijk van de kracht van een chip hoe snel dat gebeurt.

Gewone mensen

Omdat het steeds makkelijker wordt zulke beelden te maken is het maar de vraag wanneer het niet meer alleen over beroemdheden gaat, maar ook over 'gewone mensen'; de kennissen, vrienden of zelfs familie van een maker. Hoe geavanceerder de algoritmes worden, des te makkelijker het wordt om beelden te genereren. Experts voorspellen dan ook dat het in de toekomst doodnormaal wordt om zelfgemaakte porno te maken met wie je dan ook wil zien.

Legaliteit

Het is dan ook maar de vraag of zulke namaakporno wel legaal is, maar gek genoeg is dat niet zo makkelijk als het lijkt.

Daarbij kun je de link leggen met wraakporno, ook een relatief nieuw concept dat in groeiende mate problematisch wordt. Wraakporno is pornografisch materiaal dat door iemand anders wordt geüpload, vaak door bijvoorbeeld een rancuneuze ex.

"Verwerking van persoonsgegevens"

Aan de oppervlakte voelt het alsof deep fake-porno illegaal is - het is in ieder geval zwaar onethisch. Maar is het ook echt tegen de wet? Volgens Arnoud Engelfriet van ICT Recht wel, maar niet rondom dezelfde principes als wraakporno. Neppe porno is volgens Engelfriet 'een geautomatiseerde verwerking van een persoonsgegeven', en daarvoor zou de maker uitdrukkelijke toestemming nodig hebben.

Voor zover bekend heeft er nog geen rechter uitspraak gedaan over het fenomeen, maar als dat gebeurt kan dat leiden tot een precedent waarin het maken van neppe porno inherent wordt verboden.

Van de andere kant: wie houdt zich nou netjes aan zo'n uitspraak?

Tegenwoordig brengt zo'n beetje elk gerespecteerd audiomerk soundbars inclusief subwoofers op de markt. Toch slaagt het Duitse Teufel om zich van de massa te onderscheiden. De bijgesloten basspeaker van de nieuwe Cinebar 22 is namelijk verrassend slank. Hierdoor kun je hem makkelijk naast een televisiemeubel of onder een loungebank kwijt. In de soundbar zelf zitten nog eens acht actieve audiodrivers. Dat belooft wat!

Teufel ontwikkelde zijn Cinebar 22 voor een brede doelgroep. Deze soundbar is namelijk een meter lang, zodat hij goed matcht met een middelgrote tot grote televisie. Je kunt de behuizing op een meubel neerzetten of hem aan de wand schroeven. Voor woonkamers met beperkte ruimte is de bijgesloten subwoofer van slechts twaalf centimeter breed ideaal. Heb je naast de televisiemeubel alsnog geen plek, dan schuif je de basspeaker gewoon onder de bank. Je kunt de subwoofer namelijk zowel staand als liggend positioneren. Denk vooraf goed na over de locatie, want je kunt de vier meegeleverde antislipvoetjes maar op één zijde plakken.

©Maikel Dijkhuizen

Soundbar aansluiten

De soundbar heeft een stevige kunststof behuizing met aan de rechterkant een klein dimbaar display. Hierop bekijk je onder meer de actieve bron en het volumeniveau. Verder bevindt zich bovenop een compact bedieningspaneel met touchknoppen. De subwoofer bestaat uit een MDF-klankkast. Beide componenten communiceren draadloos met elkaar. Het aansluiten van de Cinebar 22 stelt weinig voor. Verbind de twee apparaten met netstroom en koppel de soundbar via HDMI aan een televisie. Een klein kritiekpuntje is dat Teufel geen HDMI-kabel meelevert. Gezien de adviesprijs van bijna zeshonderd euro hoort zo'n snoertje er naar onze mening gewoon bij.

Je geeft met een schuifknopje aan de achterkant van de subwoofer aan hoe de basspeaker is opgesteld, namelijk vrijstaand, in een hoek of liggend. Zodra je beide apparaten eenmaal hebt ingeschakeld, kies je op het display de Nederlandse taal. In de volgende stap koppel je de subwoofer aan de soundbar door op de pairing-knop te drukken. Dat gaat erg snel, want luttele seconden later hoor je tv-geluid.

Handig is dat je achterop ook nog verschillende audiovisuele bronnen kunt aansluiten, zoals een cd-speler, gameconsole of tv-ontvanger. Gebruik hiervoor bijvoorbeeld de tweede HDMI-poort, optische ingang of analoge tulpaansluitingen. De Cinebar 22 vervult daarmee min of meer de rol van klassieke receiver. Abonnees van Spotify of een andere online muziekdienst kunnen draadloos naar albums, afspeellijsten en podcasts luisteren. Verbind hiervoor een smartphone of tablet met bluetooth.

©Maikel Dijkhuizen

©Maikel Dijkhuizen

Ruimtelijk geluid

In tegenstelling tot veel andere soundbars is er geen bijbehorende app. Geen punt, want de duidelijke afstandsbediening voldoet prima. De bediening werkt kinderlijk eenvoudig. Kies TV, HDMI, OPT, AUX of bluetooth als bron en leun lekker achterover. Audiopuristen passen met aparte knopjes de niveaus voor de lage en hoge tonen aan. Verder heeft de Cinebar 22 voorgeprogrammeerde modi voor muziek, spraak en nacht. Vanuit het menu zet je uiteenlopende (geavanceerde) audio-instellingen eventueel nog verder naar je hand.

Alles leuk en aardig, maar uiteindelijk draait het natuurlijk om de geluidskwaliteit. Die is kortweg uitstekend. Het is bewonderingswaardig wat een vol geluid deze soundbar/subwoofer-combinatie kan produceren. Dit audiosysteem heeft ook nog eens veel power, want het volume kan behoorlijk luid. Dankzij twee zijwaarts gerichte audiodrivers schieten surroundeffecten van links naar rechts en vice versa. Via een aparte toets op de afstandsbediening kun je deze effecten nog wat versterken.

De subwoofer doet zijn werk naar behoren, want bombastische scènes hoor (en voel) je heerlijk nadreunen. Teufel pronkt op de productdoos weliswaar met ondersteuning voor Dolby Atmos, maar daar merk je in de praktijk eigenlijk niks van. Er ontbreken simpelweg hoogtekanalen om zo'n audiospoor goed te verwerken. Desalniettemin is de Cinebar 22 voor liefhebbers van films, series en games een absolute aanrader.

©Maikel Dijkhuizen

Teufel Cinebar 22 kopen?

De Teufel Cinebar 22 is een aanwinst voor elke kleine tot middelgrote kamer. Je krijgt deze soundbar/subwoofer-combinatie in enkele minuten aan de praat, waarna je luistert naar een vol televisiegeluid met ruimtelijke effecten. Overige pluspunten zijn de duidelijke afstandsbediening en het Nederlandstalige display. Houd wel rekening met een behoorlijke adviesprijs van zo'n zeshonderd euro.

Meer van Teufel ⤵

De aankomende nieuwe Xbox-machine van Microsoft geeft wat Epic Games betreft vanaf de dag van release meteen toegang tot de digitale pc-winkel Epic Games Store.

Dat meldde Epic Games Store-hoofd Steve Allison aan Game File. Daarmee lijkt hij zo goed als te bevestigen dat de Epic Games Store toegankelijk wordt op de aankomende nieuwe Xbox, die volgens eerdere berichten meer richting een pc neigt in een consolejasje.

"We zijn zeker van plan om op de nieuwe Xbox-hardware aanwezig te zijn, aangezien ze ons vertellen dat ze dat verwelkomen - tenzij hun beleid gaat veranderen. We gaan er vanaf dag één bij zijn."

De nieuwe Xbox is in feite een pc

Microsoft bevestigde eerder al dat de volgende Xbox veel eigenschappen zal delen met pc's. Zo zouden er meerdere gamewinkels op beschikbaar komen naast de Xbox Store zelf - net zoals de vorig jaar uitgekomen ROG Xbox Ally dus. Daarmee is ook de hoop ontstaan dat er op het apparaat pc-winkels van andere partijen, zoals Steam en de Epic Games Store, beschikbaar komen. Uit bovenstaande quote blijkt dus dat Epic Games dat in ieder geval wel ziet zitten.

Naast digitale winkels van derde partijen is het aannemelijk dat ook de Xbox Store zelf aanwezig is op het apparaat. Het zou de keuze via welke winkel games gekocht worden dus bij de consument zelf leggen. Voor zover bekend is Microsoft ook bezig met een manier om Xbox Series- en Xbox One-games speelbaar te krijgen op de nieuwe Xbox via backward compatibility.

Begin dit jaar kwamen er geruchten naar buiten dat de nieuwe Xbox-interface zou draaien op de Full Screen Experience van de Xbox pc-app, dat onderdeel uitmaakt van Windows. De volgende Xbox zou volgens geruchten draaien op de AMD Magnus APU, die CPU en GPU in één chip combineert.

Eerder deze week hintte AMD al naar de mogelijkheid dat de nieuwe Xbox in 2027 uitkomt. Officieel heeft Microsoft op moment van schrijven de nieuwe machine nog niet onthuld, en er is dus ook geen releasedatum bekend.