Reddit, Twitter en zelfs Pornhub proberen het fenomeen al aan banden te leggen, maar de opmars van neppe AI-porno, ofwel 'deep fake', lijkt niet te stoppen. En dat levert problemen op.

'Deepfake AI-porno' klinkt als een mix van fintech-hype, futurologie, en een beetje viezigheid, maar het proces is in korte tijd uitgegroeid tot een groot probleem voor sociale media, beroemdheden en juristen.

De term staat voor het gebruiken van foto's van gezichten in andere beelden - in dit geval de gezichten van beroemdheden die 'gephotoshopt' worden in bestaande pornovideo's.

Beroemdheden als gewilde doelwitten

Beroemdheden zijn al jaren een gewild doelwit van perverselingen. 'The Fappening' staat nog vers in het geheugen, toen de iCloud-accounts van tientallen vrouwelijke entertainers werden gehackt en duizenden naaktfoto's over het web werden verspreid. De dader werd later opgepakt en veroordeeld voor 18 maanden, maar daarmee is de interesse in gewone actrices en zangeressen in seksuele posities en situaties niet minder geworden.

Dat kan sinds kort met deep fake-AI-porno, waarmee 'gewone' gezichten in bestaande porno-video's worden geplakt.

Deep fakes

De term 'deep fake' om de porno te beschrijven lijkt van een Reddit-gebruiker genaamd DeepFakeApp te komen. Hij ontwikkelde in december een experimenteel desktopprogramma (vernoemd naar zichzelf) om dergelijke fake video's en gifjes te maken - voornamelijk pornografisch materiaal met beroemdheden. Hij zette de applicatie online en begon een community op Reddit, die al snel tienduizenden volgers kreeg.

Machine learning

Het programma maakt gebruik van open source machine learning-algoritmes zoals Googles TensorFlow. Een gebruiker hoeft het maar te downloaden en er een batch foto's aan toe te voegen om zelf al een video te maken.

Om meer te leren over machine learning lees je ook ons uitgebreide achtergrondartikel.

Verboden op sociale media

Het gemak waarmee geruikers met deep fake-algoritmesvideo's kunnen maken zorgt voor problemen bij sociale media zoals Reddit of Twitter. Die waren er dan ook snel bij om hun regels aan te passen en nagemaakte content te blokkeren. Reddit en Twitter zijn, in tegenstelling tot bijvoorbeeld Facebook of Instagram, normaal gesproken erg tolerant wat porno betreft. Dat deep fake-video's dan ook zo snel verboden worden is veelzeggend.

Inmiddels is de subreddit /r/deepfakes gebanned van de website. Een afgeleide subreddit genaamd /r/fakeapp bestaat nog steeds, opgericht door een gebruiker genaamd DeepFakes - waarvan wordt aangenomen dat het óf dezelfde persoon is als DeepFakeApp, of in ieder geval iemand met wie hij nauw samenwerkte.

In tegenstelling tot die oude subreddit is het in /r/fakeapp ten strengste verboden om niet-wederzijdse porno te plaatsen. Daar staat een ban op. Toch lijkt een groot gedeelte van de discussies op de subreddit te draaien om pornografie, en worden er vooral veel links gedeeld naar fora waar die beelden wél verspreid mogen worden.

Pornosites tegen deep fakes

Het zijn niet alleen sociale media die worstelen met het fenomeen. Ook 's werelds bekendste pornosite Pornhub verbiedt het plaatsen van deep fakes, maar de manier waarop dat moet gebeuren is nog onduidelijk. Een snelle zoekterm op de site laat op moment van schrijven 47 actieve deep fake-pornovideo's zien met verschillende bekende actrices. Pornhub zegt zelf dat het deep fake-video's behandelt zoals iedere andere vorm van content: als iemand een verwijderverzoek indient vanwege copyright-schending of wraakporno.

Maar juist die aanpak krijgt veel kritiek. Pornhub is juist groot geworden door het feit dat de website zo overspoeld wordt door video's dat copyright-houders niet tegen het enorme volume kunnen opvechten en het daarom maar opgeven.

Vechten tegen de bierkaai

Bovendien is het effect van één website (hoe invloedrijk dan ook) vechten tegen de bierkaai. Er zijn immers tienduizenden andere sites die maar wat graag verkeer trekken met dergelijke video's, zoals het relatief onbekende EroMe waar nu al tientallen deep fakes op worden aangeboden. Ook zijn er al een groot aantal forums online gekomen waar het delen van video's wordt gestimuleerd - het duurde ons niet veel langer dan 5 minuten om zulke websites te vinden.

Machine learning

AI-porno wordt gemaakt met machine learning-algoritmes. Waar die tot een paar jaar geleden nog voornamelijk voor onderzoekers beschikbaar waren wordt het steeds makkelijker voor doorsnee gebruikers om op die manier dergelijke nepvideo's te maken. Netwerken zoals TensorFlow van Google zijn inmiddels open source beschikbaar, en gratis te gebruiken voor studenten en onderzoekers, maar ook voor iedereen die wil experimenteren met machine learning.

Dat leidt tot apps zoals Deep Fake, die nu gratis te downloaden zijn en die uitgerekend een gebruiksvriendelijke interface hebben.

Makkelijk te maken

Programmeurs hebben dan enkel nog een aantal foto's of video's nodig om de beelden zo echt mogelijk te laten lijken. Daarom zijn beroemdheden zo aantrekkelijk voor het maken van de video's. Via Google en YouTube zijn met een paar zoektermen miljoenen beelden van een actrice beschikbaar.

Opvallend is ook dat voor machine learning geen industriële high-end hardware nodig is. Met gewone consumenten-gpu's en -cpu's is het al mogelijk om beelden te renderen - al is het natuurlijk afhankelijk van de kracht van een chip hoe snel dat gebeurt.

Gewone mensen

Omdat het steeds makkelijker wordt zulke beelden te maken is het maar de vraag wanneer het niet meer alleen over beroemdheden gaat, maar ook over 'gewone mensen'; de kennissen, vrienden of zelfs familie van een maker. Hoe geavanceerder de algoritmes worden, des te makkelijker het wordt om beelden te genereren. Experts voorspellen dan ook dat het in de toekomst doodnormaal wordt om zelfgemaakte porno te maken met wie je dan ook wil zien.

Legaliteit

Het is dan ook maar de vraag of zulke namaakporno wel legaal is, maar gek genoeg is dat niet zo makkelijk als het lijkt.

Daarbij kun je de link leggen met wraakporno, ook een relatief nieuw concept dat in groeiende mate problematisch wordt. Wraakporno is pornografisch materiaal dat door iemand anders wordt geüpload, vaak door bijvoorbeeld een rancuneuze ex.

"Verwerking van persoonsgegevens"

Aan de oppervlakte voelt het alsof deep fake-porno illegaal is - het is in ieder geval zwaar onethisch. Maar is het ook echt tegen de wet? Volgens Arnoud Engelfriet van ICT Recht wel, maar niet rondom dezelfde principes als wraakporno. Neppe porno is volgens Engelfriet 'een geautomatiseerde verwerking van een persoonsgegeven', en daarvoor zou de maker uitdrukkelijke toestemming nodig hebben.

Voor zover bekend heeft er nog geen rechter uitspraak gedaan over het fenomeen, maar als dat gebeurt kan dat leiden tot een precedent waarin het maken van neppe porno inherent wordt verboden.

Van de andere kant: wie houdt zich nou netjes aan zo'n uitspraak?

De digitale wereld verandert in een razendsnel tempo. Oplichters gaan dankzij AI steeds overtuigender te werk, waardoor valse berichten en nepwebsites nauwelijks nog van echte te onderscheiden zijn. Tegelijkertijd groeit het aantal accounts en apps dat je dagelijks gebruikt, wat de kans op beveiligingslekken vergroot. Het is daarom belangrijker dan ooit om je online aanwezigheid (nóg) actiever te beschermen. In dit artikel lees je welke aanpassingen je zelf direct kunt doorvoeren en welke extra beschermingslagen jou helpen je digitale veiligheid te versterken.

Partnerbijdrage - in samenwerking met Bitdefender

Waarom cyberhygiëne juist nu belangrijk is

In een modern huishouden volgen de digitale vernieuwingen elkaar razendsnel op. Van schoolapps en games tot werken op afstand; jij en je familie verzamelen ongemerkt een enorme berg online accounts. Tegelijkertijd worden digitale dreigingen steeds lastiger te herkennen.

Vroeger pikte je een nepbericht er zo uit door de kromme zinnen of spelfouten, maar die tijd is echt voorbij. Dankzij de inzet van slimme AI-technieken zien phishingberichten er tegenwoordig ontzettend professioneel uit. Ook foto's, filmpjes en zelfs stemmen kunnen digitaal zo nagemaakt worden dat je niet meer ziet of hoort met wie je echt te maken hebt. Het wordt daardoor steeds moeilijker om de risico's te zien. Hoog tijd dus om je digitale huishouding belangrijker op orde te brengen.

Beginnen bij het begin: een digitale schoonmaak

Veel mensen hebben meer oude accounts dan ze denken. Door die op te ruimen, sluit je meteen een aantal achterdeuren die je gemakkelijk over het hoofd ziet. De volgende onmisbare stap is het gebruik van sterke, unieke wachtwoorden. Zie het als een sleutelbos: wanneer je overal hetzelfde wachtwoord (of een variatie daarop) gebruikt, geef je criminelen met één enkele sleutel direct toegang tot al je accounts. Met unieke wachtwoorden zorg je ervoor dat een lek bij de ene dienst niet automatisch leidt tot een inbraak bij de andere. Een wachtwoordmanager neemt al dat denkwerk van je over. Het geeft je de rust dat je niet langer tientallen ingewikkelde codes zelf hoeft te onthouden. Handig: in een beveiligingspakket als Bitdefender Premium Security zit zo'n Password Manager bijvoorbeeld standaard inbegrepen. Zie tweestapsverificatie vervolgens als een extra slot op de deur; deze laag houdt kwaadwillenden buiten, zelfs als je wachtwoord onverhoopt toch op straat komt te liggen.

Vergeet daarnaast de updates van je apparaten niet. Deze software-updates dichten beveiligingslekken voordat criminelen er misbruik van kunnen maken. Dit is niet alleen belangrijk voor je smartphone, maar juist ook voor apparaten waar je minder vaak bij stilstaat. Denk aan de router in de meterkast of de tablets die de kinderen dagelijks gebruiken.

©Queenmoonlite Studio - stock.adobe.com

De dreigingen van nu vragen om extra hulp

Zelf alert blijven is de basis, maar het speelveld verandert razendsnel. Oplichting wordt steeds geraffineerder door in te spelen op situaties uit je dagelijkse leven. Je krijgt bijvoorbeeld precies op het juiste moment een bericht over een pakket dat vertraagd is, of een dringende waarschuwing die van je bank lijkt te komen. Omdat de grens tussen echt en nep zo vervaagt, is het prettig om een hulpmiddel achter de hand te hebben voor die momenten van twijfel.

Scamio is zo'n hulpmiddel. Deze gratis online tool van Bitdefender controleert binnen een paar seconden of een link of screenshot verdacht is. Je hoeft alleen de inhoud te plakken of de afbeelding te uploaden. Scamio analyseert de informatie en vertelt je direct hoe betrouwbaar het bericht is. Het is alsof er even een expert met je meekijkt voordat je besluit om ergens op te klikken. 

Een veilige basis voor het hele gezin

Goede cyberhygiëne draait om slimme gewoonten, maar ook om bescherming die meebeweegt met de dagelijkse werkelijkheid. Bitdefender Premium Security biedt die extra laag voor het hele huishouden. Omdat moderne gezinnen allerlei verschillende apparaten gebruiken, is het omslachtig om alles apart te beveiligen. Door al deze apparaten onder één pakket te brengen, creëer je direct overzicht en rust.

Achter de schermen werken verschillende lagen bescherming nauw samen om je gezin te beveiligen. De software blokkeert malware en ransomware en houdt valse websites tegen nog voordat je ze kunt openen. Scam Copilot kijkt ondertussen met je mee tijdens het browsen en analyseert aanbiedingen en berichten in realtime. Zodra er iets niet klopt, krijg je direct een waarschuwing. Naast deze beveiliging helpt Bitdefender je privacy te bewaken. Denk aan een VPN die je verbinding versleutelt wanneer je onderweg bent, of meldingen wanneer je gegevens onverhoopt opduiken in een datalek.

©Bitdefender

Daarnaast is het goed om te weten dat Bitdefender een Europese partij is met datacenters op eigen bodem. In een tijd waarin je gegevens soms de hele wereld overgaan, is het een prettig idee dat jouw privacy wordt beschermd volgens de strenge regels die we hier in Europa kennen. Je houdt zo simpelweg meer grip op je eigen gegevens.

Samen slim en veilig online

Je digitale veiligheid hoeft geen hoofdpijndossier te zijn. Door kritisch naar je oude accounts te kijken, overal unieke wachtwoorden te gebruiken en updates direct te installeren, zet je zelf al de belangrijkste stappen. Met een totaalpakket als Bitdefender Premium Security voeg je daar een slimme beschermlaag aan toe die de lastige taken van je overneemt. Zo creëer je met een paar simpele aanpassingen een veilige online omgeving voor je hele gezin, waarin je met een gerust hart kunt blijven internetten

Dragon Quest is al meer dan drie decennia een icoon binnen de game-industrie. Hoewel de oudere delen al snel gedateerd voelden, zorgde een gestroomlijnde vernieuwing voor een nieuwe aanwas van fans. Toch moest alles nog één keer overboord. Met volle moed en een frisse stijl blijkt Dragon Quest 7 Reimagined een prachtige herinterpretatie van een klassieke rpg voor een nieuwe generatie.

Dragon Quest 7 is een beetje het verloren kindje binnen de reeks. Het was het debuut van de franchise op PlayStation, maar werd berucht door de langzame openingsuren en unieke structuur. Sterker nog: de regisseur van deze remake, Takeshi Ichikawa, biechtte op dat hij als kind nooit verder kwam dan het openingssegment in een recent interview. Er zou dus behoorlijk wat gesneden moeten worden in deze structuur. Bovendien is dit de derde remake van een mainline Dragon Quest-game in twee jaar tijd. Gelukkig onderscheidt Dragon Quest 7 Reimagined zich dit keer wel al vanaf het eerste uur.

©Square Enix

Schuitje Varen, Eilandje Redden

Op het eerste gezicht lijkt Dragon Quest 7 logisch in lijn te vallen met de rest van de serie. Als ‘de Held’ begin je op het enige eiland in de wereld. Samen met prins Keifer en jeugdvriendin Maribel ga je op een groot avontuur wanneer er een portaal opent in de mysterieuze tempel op het eiland. Niet alleen verschijnt er opeens een nieuw eiland in de eindeloze oceaan, maar ook reist de groep terug in de tijd. Ieder nieuw eiland bezoek je zo eerst in het verleden, waarna je acties gevolgen hebben in het heden.

Zo wordt de spelwereld steeds groter. Het ene eiland is compleet verlaten, omdat alle inwoners zijn versteend. Op een ander eiland probeert een groep reizende pelgrims om hun God te helpen terugkeren na zijn verdwijning aan de hand van de Demon King. Onderweg vind je tabletstukken om nieuwe portalen te openen. Ieder eiland heeft zo zijn eigen verhaal en personages die je volgt, wat kan voelen als een televisieserie met allemaal kleine uitstapjes. Het bouwt langzaam op naar een grotere verhaallijn met de terugkeer van de Demon King. Het geeft Dragon Quest 7 een eigen identiteit ten opzichte van andere Dragon Quest-titels, maar vereist wel een langere aandachtsspanne.

Visueel vakmanschap

Gelukkig spat het spel van je scherm. De nieuwe visuele stijl is een hoogtepunt, een fenomenale balans tussen de originele tekeningen en ontwerpen van Akira Toriyama (Dragon Ball) en de 3D-stijl die de games hebben omarmd sinds de PlayStation 2. De hoofdpersonages zien er uit als handgemaakte poppetjes. Steden en kamers worden getoond als kleine diorama's. Het deed mij op meer dan één manier denken aan de uitstekende remake van Zelda: Link’s Awakening op de Nintendo Switch. De nieuwe stijl complementeert de Dragon Quest-serie uitstekend. Wanneer het samenkomt onder begeleiding van de prachtige symfonische muziek, voelt Reimagined als een warme deken voor fans van klassieke rpg’s.

Ik wilde elk hoekje van de wereld verkennen. Elk eiland voelde als een nieuw avontuur. Naarmate de groep avonturiers groter wordt, zwijmel je zo weer weg in de wereld van Dragon Quest. De game heeft zowel Japanse als Engelse stemwerk voor de tussenfilmpjes en belangrijke dialogen, maar ook het schrijfwerk is behoorlijk sterk. Leuke details zoals het gebruik van  ‘Thou’s’ en ‘Thy’s’ bij eilanden in het verleden voelen gepast. Wat minder gepast zijn de plaatsen die stilistische fouten gebruiken om over te komen als ‘Duits’ of ‘Frans’ (‘Wiz’ in plaats van ‘With’, of het weglaten van werkwoorden). Geen pretje om te lezen, maar het brengt wel degelijk het gevoel van een gevarieerde wereld over.

Knokken bouwt karakter

De combat is traditioneel zoals je kan verwachten van Dragon Quest. Elke beurt kies je welke aanval je personage uitvoert. Je maakt gebruik van de zwaktes van vijanden om je aanvallen maximale schade te laten toebrengen. Om in te spelen op de sterke punten van je party kun je ze allemaal een rol geven met het ‘vocation’-systeem. Deze beïnvloedt de statistieken en aanvallen die je kan leren. Na het vrijspelen van de ‘Alltrades abbey’ is het mogelijk om op ieder moment een ander pad te kiezen. Als je specifieke combinaties van vocations leert, krijg je toegang tot speciale rollen. Nadat je de Sailor- en de Thief-vocation beheerst, krijg je de Pirate-vocation, een unieke mix van beide rollen.

Het is een flexibel systeem dat uitnodigt om lekker te experimenteren. Zo maakte ik van Ruff een glazen kanon met een hele hoge kans op critical hits om massale schade uit te delen, terwijl ik Maribel als Sage en Priest gebruikte voor magische aanvallen en genezing. In de beste gevechten van Dragon Quest 7 voelt je party als een goed geoliede machine die compleet kan worden afgestemd op elke situatie. Dankzij de uitgebreide instellingen is het mogelijk om aan te passen hoeveel XP, geld, of levels in vocations je verdient in gevechten. In combinatie met de aangepaste snelheid van gevechten en tactische opties blies ik mij door de gevechten.

©Square Enix

Ideale moderne remake

Al deze kleine verbeteringen maken van Dragon Quest 7 Reimagined de ideale moderne remake. Hoe dol ik ook ben op de 2D-HD-stijl die Square Enix heeft toegepast in de laatste paar Dragon Quest-titels, is de nieuwe stijl in Reimagined een prachtige samensmelting van oud en nieuw. Structureel is de game flink opgepoetst en met de toegankelijkheidsopties hoef je niet eindeloos te grinden voor elke eindbaas. Dit alles komt samen in een heerlijke traditionele en tegelijkertijd modern aanvoelende rpg. Voor de oudgedienden: verwacht geen bergen aan nieuwe missies of verhalen, maar een ‘greatest hits’-album van Dragon Quest 7.

Voor de nieuwkomer is dit niet de eerste Dragon Quest die ik zou aanraden, maar zeker eentje om te ervaren als je nieuwsgierig bent naar andere delen in de serie. Ik kan alleen maar hopen dat dit het startschot is om ook andere delen in de serie op deze manier te ‘reimaginen’. Dragon Quest 9 bijvoorbeeld?

Dragon Quest 7 Reimagined is vanaf 5 februari beschikbaar voor PlayStation 5, PlayStation 4, Xbox Series X en S, pc (via Steam), Nintendo Switch 2en Nintendo Switch. Voor deze review is de game getest op Nintendo Switch 2.