Reddit, Twitter en zelfs Pornhub proberen het fenomeen al aan banden te leggen, maar de opmars van neppe AI-porno, ofwel 'deep fake', lijkt niet te stoppen. En dat levert problemen op.

'Deepfake AI-porno' klinkt als een mix van fintech-hype, futurologie, en een beetje viezigheid, maar het proces is in korte tijd uitgegroeid tot een groot probleem voor sociale media, beroemdheden en juristen.

De term staat voor het gebruiken van foto's van gezichten in andere beelden - in dit geval de gezichten van beroemdheden die 'gephotoshopt' worden in bestaande pornovideo's.

Beroemdheden als gewilde doelwitten

Beroemdheden zijn al jaren een gewild doelwit van perverselingen. 'The Fappening' staat nog vers in het geheugen, toen de iCloud-accounts van tientallen vrouwelijke entertainers werden gehackt en duizenden naaktfoto's over het web werden verspreid. De dader werd later opgepakt en veroordeeld voor 18 maanden, maar daarmee is de interesse in gewone actrices en zangeressen in seksuele posities en situaties niet minder geworden.

Dat kan sinds kort met deep fake-AI-porno, waarmee 'gewone' gezichten in bestaande porno-video's worden geplakt.

Deep fakes

De term 'deep fake' om de porno te beschrijven lijkt van een Reddit-gebruiker genaamd DeepFakeApp te komen. Hij ontwikkelde in december een experimenteel desktopprogramma (vernoemd naar zichzelf) om dergelijke fake video's en gifjes te maken - voornamelijk pornografisch materiaal met beroemdheden. Hij zette de applicatie online en begon een community op Reddit, die al snel tienduizenden volgers kreeg.

Machine learning

Het programma maakt gebruik van open source machine learning-algoritmes zoals Googles TensorFlow. Een gebruiker hoeft het maar te downloaden en er een batch foto's aan toe te voegen om zelf al een video te maken.

Om meer te leren over machine learning lees je ook ons uitgebreide achtergrondartikel.

Verboden op sociale media

Het gemak waarmee geruikers met deep fake-algoritmesvideo's kunnen maken zorgt voor problemen bij sociale media zoals Reddit of Twitter. Die waren er dan ook snel bij om hun regels aan te passen en nagemaakte content te blokkeren. Reddit en Twitter zijn, in tegenstelling tot bijvoorbeeld Facebook of Instagram, normaal gesproken erg tolerant wat porno betreft. Dat deep fake-video's dan ook zo snel verboden worden is veelzeggend.

Inmiddels is de subreddit /r/deepfakes gebanned van de website. Een afgeleide subreddit genaamd /r/fakeapp bestaat nog steeds, opgericht door een gebruiker genaamd DeepFakes - waarvan wordt aangenomen dat het óf dezelfde persoon is als DeepFakeApp, of in ieder geval iemand met wie hij nauw samenwerkte.

In tegenstelling tot die oude subreddit is het in /r/fakeapp ten strengste verboden om niet-wederzijdse porno te plaatsen. Daar staat een ban op. Toch lijkt een groot gedeelte van de discussies op de subreddit te draaien om pornografie, en worden er vooral veel links gedeeld naar fora waar die beelden wél verspreid mogen worden.

Pornosites tegen deep fakes

Het zijn niet alleen sociale media die worstelen met het fenomeen. Ook 's werelds bekendste pornosite Pornhub verbiedt het plaatsen van deep fakes, maar de manier waarop dat moet gebeuren is nog onduidelijk. Een snelle zoekterm op de site laat op moment van schrijven 47 actieve deep fake-pornovideo's zien met verschillende bekende actrices. Pornhub zegt zelf dat het deep fake-video's behandelt zoals iedere andere vorm van content: als iemand een verwijderverzoek indient vanwege copyright-schending of wraakporno.

Maar juist die aanpak krijgt veel kritiek. Pornhub is juist groot geworden door het feit dat de website zo overspoeld wordt door video's dat copyright-houders niet tegen het enorme volume kunnen opvechten en het daarom maar opgeven.

Vechten tegen de bierkaai

Bovendien is het effect van één website (hoe invloedrijk dan ook) vechten tegen de bierkaai. Er zijn immers tienduizenden andere sites die maar wat graag verkeer trekken met dergelijke video's, zoals het relatief onbekende EroMe waar nu al tientallen deep fakes op worden aangeboden. Ook zijn er al een groot aantal forums online gekomen waar het delen van video's wordt gestimuleerd - het duurde ons niet veel langer dan 5 minuten om zulke websites te vinden.

Machine learning

AI-porno wordt gemaakt met machine learning-algoritmes. Waar die tot een paar jaar geleden nog voornamelijk voor onderzoekers beschikbaar waren wordt het steeds makkelijker voor doorsnee gebruikers om op die manier dergelijke nepvideo's te maken. Netwerken zoals TensorFlow van Google zijn inmiddels open source beschikbaar, en gratis te gebruiken voor studenten en onderzoekers, maar ook voor iedereen die wil experimenteren met machine learning.

Dat leidt tot apps zoals Deep Fake, die nu gratis te downloaden zijn en die uitgerekend een gebruiksvriendelijke interface hebben.

Makkelijk te maken

Programmeurs hebben dan enkel nog een aantal foto's of video's nodig om de beelden zo echt mogelijk te laten lijken. Daarom zijn beroemdheden zo aantrekkelijk voor het maken van de video's. Via Google en YouTube zijn met een paar zoektermen miljoenen beelden van een actrice beschikbaar.

Opvallend is ook dat voor machine learning geen industriële high-end hardware nodig is. Met gewone consumenten-gpu's en -cpu's is het al mogelijk om beelden te renderen - al is het natuurlijk afhankelijk van de kracht van een chip hoe snel dat gebeurt.

Gewone mensen

Omdat het steeds makkelijker wordt zulke beelden te maken is het maar de vraag wanneer het niet meer alleen over beroemdheden gaat, maar ook over 'gewone mensen'; de kennissen, vrienden of zelfs familie van een maker. Hoe geavanceerder de algoritmes worden, des te makkelijker het wordt om beelden te genereren. Experts voorspellen dan ook dat het in de toekomst doodnormaal wordt om zelfgemaakte porno te maken met wie je dan ook wil zien.

Legaliteit

Het is dan ook maar de vraag of zulke namaakporno wel legaal is, maar gek genoeg is dat niet zo makkelijk als het lijkt.

Daarbij kun je de link leggen met wraakporno, ook een relatief nieuw concept dat in groeiende mate problematisch wordt. Wraakporno is pornografisch materiaal dat door iemand anders wordt geüpload, vaak door bijvoorbeeld een rancuneuze ex.

"Verwerking van persoonsgegevens"

Aan de oppervlakte voelt het alsof deep fake-porno illegaal is - het is in ieder geval zwaar onethisch. Maar is het ook echt tegen de wet? Volgens Arnoud Engelfriet van ICT Recht wel, maar niet rondom dezelfde principes als wraakporno. Neppe porno is volgens Engelfriet 'een geautomatiseerde verwerking van een persoonsgegeven', en daarvoor zou de maker uitdrukkelijke toestemming nodig hebben.

Voor zover bekend heeft er nog geen rechter uitspraak gedaan over het fenomeen, maar als dat gebeurt kan dat leiden tot een precedent waarin het maken van neppe porno inherent wordt verboden.

Van de andere kant: wie houdt zich nou netjes aan zo'n uitspraak?

Teufel komt met een nieuwe generatie van zijn Airy Sports TWS. Deze tweede versie is beschikbaar in meerdere kleuren en voorzien van een hogere IP-classificatie (IPx4). Een andere verbetering is dat je in een mobiele app naar eigen wens de audio-instellingen kunt aanpassen. Maar de opvallendste vernieuwing is de toevoeging van noise cancelling. Tijd voor een praktijktest.

De Berlijnse audiospecialist heeft aan het uiterlijk van de Teufel Airy Sports TWS 2 niet veel veranderd. Het door ons geteste zwarte model bevat aan de buitenzijde van elk oordopje een iets onopvallender Teufel-logo. Daarnaast zijn de oorhaken iets korter en zitten de magneetpunten op een andere plek. Via deze magneetpunten laden de ingebouwde accu's op. De opbergcase heeft zelf ook een accu met een capaciteit van 750 mAh. Die kun je met de inbegrepen usb-c-kabel bijladen. Helaas is dit snoertje met een lengte van nog geen dertig centimeter erg kort.

©Maikel Dijkhuizen

Draagcomfort

Elk oor is anders en dat begrijpt Teufel maar al te goed. Het merk levert maar liefst vijf setjes siliconen oordoppen mee. Je verwisselt ze eenvoudig, waardoor iedere persoon de juiste pasvorm kan kiezen. Nadat je de Airy Sports TWS 2 aan een bluetooth-bron hebt gekoppeld, haal je de in-ears uit de oplaadcase. Dankzij de flexibele oorhaken blijven de oordoppen prima op hun plek zitten. Ook tijdens het sporten zitten de luisterapparaatjes als gegoten, want de in-ears gaan bij lichamelijke inspanning niet wiebelen. Wegens de prettige pasvorm en het lichte gewicht voel je amper dat je ze in hebt.

©Maikel Dijkhuizen

Bediening

Voor de bediening beschikken beide in-ears aan de buitenzijde over een aanraakpaneeltje. De werking is even wennen, want de linker- en rechterkant herbergen verschillende functies. Tik bijvoorbeeld aan de rechterkant tweemaal om een liedje te skippen en tik links twee keer om naar het vorige liedje te gaan. Je drukt tijdelijk op de behuizing om het volume te wijzigen. Met driemaal tikken kun je de transparantiemodus (links) of noise cancelling (rechts) activeren. Tot slot neem je simpel inkomende gesprekken aan, waarna je handsfree kunt bellen. Zodra je alle functies eenmaal onder de knie hebt, voelt de bediening intuïtief aan. De bijgevoegde handleiding bevat voor alle beschikbare opties duidelijke instructies.

Geluidskwaliteit

De Airy Sports TWS 2 levert zowel op lage als hoge volumes een helder geluid. Muziek klinkt erg levendig waarbij luisteraars een duidelijk stereobeeld kunnen horen. Vrouwelijke en mannelijke stemmen zijn duidelijk te verstaan, waardoor je podcasts, audioboeken en radio-uitzendingen moeiteloos kunt volgen. De in-ears sluiten je oren namelijk goed af van de omgeving. Daarnaast kun je natuurlijk noise cancelling inschakelen, maar deze functie zorgt slechts voor een bescheiden demping van de lage tonen in jouw omgeving. Je hoort omringende geluiden hierdoor een fractie zachter.

Met de standaardinstellingen laten de bassen zich niet zo nadrukkelijk gelden. Vind je een diepere laagweergave prettig, dan loont het de moeite om de Teufel Go-app te installeren. Kies vervolgens de geluidsinstelling Bass Boost en ervaar een steviger geluid. Overigens zijn er nog meer audio-opties beschikbaar, namelijk Podcast, Techno, Pop, Treble boost, Rock en Klassiek. Bovendien pas je de equalizerinstellingen eventueel handmatig aan. Kortom, genoeg mogelijkheden om het geluid naar je hand te zetten.

Gebruikers kunnen in de app ook nog noise cancelling of de transparantiemodus activeren. Laatstgenoemde functie laat geluid van buitenaf door, zodat je tijdens het luisteren soepel een gesprek kunt voeren. Verder toont de app de resterende batterijcapaciteit van elk oordopje en de huidige firmware-versie. Als er een nieuwe software-update verschijnt, kun je die meteen installeren.

©Maikel Dijkhuizen

Teufel Airy Sports TWS 2 kopen?

Als je van de noise cancelling-functie geen wonderen verwacht, is de Teufel Airy Sports TWS 2 een interessant product voor actievelingen. Tijdens het wandelen, hardlopen, fitnessen en fietsen blijven de oordopjes goed zitten. Fijn is dat je tijdens al die activiteiten muziek, podcasts en luisterboeken makkelijk kunt bedienen via de aanraakpaneeltjes. Ten slotte is ook de audiokwaliteit dik in orde. Al met al vinden we de adviesprijs van 119,99 euro voor dit kwalitatieve setje in-ears gerechtvaardigd.

Catherine O'Hara, de actrice die onder andere bekend is van haar rol in de eerste twee Home Alone-films, is op 71-jarige leeftijd overleden.

Ze kwam in haar huis te Los Angeles te overlijden na een korte ziekte. Het internet stond gisteren vol met mooie herinneringen aan O'Hara van collega-acteurs en anderen uit het acteervak.

De Canadees-Amerikaanse actrice was vooral bekend om haar rol als moeder van hoofdpersonage Kevin McCallister in de eerste twee Home Alone-films. Ook haar rol als Delia Deetz in de gotische Tim Burton-film Beetlejuice was bekend.

De laatste jaren kreeg O'Hara's carrière een tweede leven dankzij haar rol in de sitcom Schitt's Creek, alsmede in het vervolg op Beetlejuice. Daarnaast had ze rollen in recente series als The Last of Us en The Studio.