Het wordt steeds eenvoudiger om met AI-systemen fake video’s te maken. Wat heeft dat voor gevolgen?

Nog niet zo lang geleden had je als regisseur een miljoenenbudget nodig als je special effects aan een film wilde toevoegen. Neem bijvoorbeeld de uitdaging waarvoor Martin Scorsese zich gesteld zag in 2015: zijn misdaadfilm The Irishman omspande vijf decennia. Dat betekende dat de hoofdrolspelers op zeer uiteenlopende leeftijden in beeld moesten verschijnen. Scorsese had kunnen kiezen voor het inzetten van jongere look-a-likes van hoofdrolspelers Robert de Niro, Al Pacino en Joe Pesci, die toen al dik in de zeventig waren.

Hij koos echter voor een technische oplossing: hij huurde een bedrijf in dat de acteurs achteraf met digitale animatie verjongde. Al tijdens het filmen moest daarmee rekening worden gehouden. De normale camera werd geflankeerd door twee infraroodcamera’s. Die brachten de exacte gezichtsbewegingen van de acteurs continu in drie dimensies in beeld. Zo kon hun mimiek achteraf op de computer als draadmodel worden gereconstrueerd, en kon de software daarover een jonger masker leggen.

©PXimport

Gratis software

De voor de Irishman gebruikte techniek was niet alleen kostbaar maar ook arbeidsintensief. De postproductie van de film duurde maar liefst twee jaar. Groot was dan ook de schok toen drie maanden na het uitbrengen van de film in 2019 op YouTube een video opdook met de titel ‘The Irishman De-Aging: Netflix Millions VS. Free Software!’. Een anonieme persoon – die zichzelf iFake noemde – had het digitale verjongingsproces verbeterd. Hij had daarvoor gratis software gebruikt. In slechts zeven dagen tijd had hij een resultaat bereikt dat beter was dan in de film.

©PXimport

Deep learning

De slimme software die iFake gebruikte, dankt zijn bestaan aan deep learning. Bij deze vorm van kunstmatige intelligentie leert een computer zelf, door ervaring. Dat gebeurt in een neuraal netwerk, dat losjes geïnspireerd is op de werking van het menselijk brein. Wanneer onze hersenen iets leren, leggen ze nieuwe verbindingen tussen hersencellen. Een kunstmatig neuraal netwerk leert op soortgelijke wijze en gebruikt daarvoor een soort digitale pendant van hersencellen.

Zo kan ook een computer leren; net als jonge kinderen dat doen: met vallen en opstaan, door eindeloos te proberen en te kijken wat wel en wat niet werkt. Een getraind kunstmatig intelligent neuraal netwerk volgt daardoor geen voorgeprogrammeerde regels, maar doet zelf stap voor stap ervaring op.

Wedijverende neurale netwerken

Van oorsprong waren kunstmatig intelligente neurale netwerken vooral goed in herkenning, bijvoorbeeld van beelden. In het zelf bedenken van dingen waren ze lange tijd minder sterk.

Daar kwam verandering in dankzij computerstudent Ian Goodfellow. Hij was in 2014 al een tijd tevergeefs aan het proberen om een neuraal netwerk zo gek te krijgen om nepportretten te produceren. Tot hij op het lumineuze idee kwam om een tweede neuraal netwerk te trainen in het ontmaskeren van het nepportret-productiesysteem. Beide systemen zouden dus met elkaar gaan wedijveren, en elkaar op die manier maximaal uitdagen. Die aanpak had vrijwel meteen effect: Goodfellows neurale netwerk produceerde betere fake portretten dan ooit tevoren.

Dit soort trainingsnetwerken worden tot op de dag van vandaag gebruikt om neurale netwerken het vuur aan de schenen te leggen. Ze worden generatieve antagonistennetwerken genoemd – in het Engels generative adversarial networks, afgekort tot GAN.

©PXimport

Deepfakes

Deep learning kent allerlei nuttige toepassingen. Zo hebben autonome auto’s dankzij deep learning geleerd om wegmarkeringen, verkeersborden en andere weggebruikers te signaleren en erop te reageren. Zo zijn spraakherkenningsprogramma’s in staat om het geluid van een menselijke stem om te zetten in letters op een scherm. En zo zullen binnen enkele jaren ook mensen zonder veel verstand van kunstmatige intelligentie met eenvoudige, gratis software nepfoto’s, -audio en -video’s kunnen produceren.

Deskundigen voorspellen dat het internet overspoeld zal raken met zogeheten deepfakes. Volgens sommige schattingen zal in 2030 zo’n negentig procent van al het online audiovisuele materiaal nep zijn. Hoe levensecht een deepfake eruit kan zien, zie je bijvoorbeeld op www.thispersondoesnotexist.com. Iedere keer dat je deze websitepagina ververst, bedenkt een achterliggend neuraal netwerk automatisch een nieuwe portretfoto van een niet bestaand persoon.

©PXimport

Deepfake-Dalí

Deep learning maakt het mogelijk om deepfakes te maken van bestaande personen. Een voorwaarde daarvoor is dat er voldoende camerabeelden van die persoon beschikbaar zijn om een deep-learningsysteem mee te trainen. In zo’n geval bestudeert een AI-systeem eerst uitgebreid iemands biometrische kenmerken – gezicht, lichaam, stem, mimiek en/of motoriek. Daarna maakt het stapje voor stapje een fake video van de bestudeerde persoon.

Dat overkwam bijvoorbeeld Salvador Dalí, twintig jaar na zijn dood in 1989. Het naar hem vernoemde museum in Florida maakte in 2019 een kunstinstallatie waarin een nep-Dalí vanaf een scherm uitleg geeft over de tentoongestelde werken. Bezoekers waren onder de indruk van deze deepfake, die was gemaakt door historische beelden van Dalí aan een deep-learningsysteem te voeren. Ze hadden het idee naar de echte Dalí te kijken. Dat effect werd nog eens versterkt doordat Dalí bij het verlaten van de tentoonstelling voorstelde om samen een selfie te maken.

©PXimport

Afpersing en misleiding

Het voorbeeld van Dalí is onschuldig en vermakelijk, maar deepfaketechnologie kent helaas ook kwalijke toepassingen. “Ik overdrijf niet als ik zeg dat wanneer je ooit – in welke vorm dan ook – bent gefilmd, gefotografeerd of je stem is opgenomen, je theoretisch slachtoffer kunt worden van deepfake fraude”, schrijft Nina Schick in haar standaardwerk over deepfakes. Zo werden al vroeg in de historie van deepfakes ontelbare actrices slachtoffer van een ‘face swap’, waarbij hun gezicht op het lichaam van een pornoster werd geplaatst.

Ook criminelen kunnen misbruik maken van deepfakes, bijvoorbeeld om mensen af te persen of te misleiden. Zo werd een hoge functionaris bij een Britse energiemaatschappij in 2018 gebeld door iemand die exact klonk als diens directeur. De stem vroeg hem onmiddellijk 250.000 Britse ponden over te maken naar een bankrekeningnummer dat zou toebehoren aan een leverancier. De medewerker gehoorzaamde, omdat hij ervan overtuigd was de directeur aan de lijn te hebben. Hij sloeg pas alarm toen hij nogmaals werd gebeld door zijn directeur met een soortgelijk verzoek, zo meldde de verzekeringsmaatschappij die de claim behandelde.

©PXimport

De infocalyps komt eraan

Ook regimes en politieke groeperingen kunnen deepfakes inzetten, om zo bewust desinformatie te verspreiden. Om te waarschuwen voor ‘de toekomst van fake news’, liet nieuws- en entertainment-website Buzzfeed in het voorjaar van 2018 een deepfake video van Barack Obama maken. In deze korte video beledigt Obama niet alleen Trump, maar spreekt hij ook waarschuwende woorden: we leven in een tijdperk waarin je zorgvuldig moet zijn in het kiezen van je informatiebronnen.

Toch voorspelt Schick dat ook traditionele media door de opkomst van deepfakes steeds vaker onder vuur zullen komen te liggen. “Als mensen zich realiseren dat kunstmatige intelligentie nepcontent kan synthetiseren, zullen ze ook bij authentieke audio en video hun vraagtekens zetten”, zei ze deze zomer tijdens een discussie in de Balie in Amsterdam. Schick vreest om die reden voor een ware ‘infocalyps’, waarin niemand elkaar nog gelooft en discussies onmogelijk worden.

De term infocalyps werd overigens al in 2016 gebruikt door de Amerikaanse technologieonderzoeker Aviv Ovadya. Hij waarschuwde dat de algoritmen die sociale-mediaplatformen gebruiken om de aandacht van hun leden gevangen te houden, ertoe leiden dat mensen steeds extremer nieuws binnen hun eigen interessesfeer krijgen voorgeschoteld. Kwaadwillenden kunnen van dat mechanisme misbruik maken door propaganda te verspreiden en mensen tegen elkaar uit te spelen.

©PXimport

Couppoging

Een triest bijeffect van deepfakes is dat mensen ook steeds vaker zullen twijfelen aan de echtheid van authentiek audiovisueel materiaal. Lobbygroepen, autoritaire regimes en extremistische politieke groeperingen kunnen van dat effect misbruik maken.

Dat gebeurde bijvoorbeeld in het West-Afrikaanse land Gabon. Toen president Bongo in januari 2019 zijn traditionele nieuwjaarstoespraak hield, werd de echtheid van de tv-beelden door velen in twijfel getrokken. Bongo was in oktober van het jaar daarvoor getroffen door een beroerte. De regering had daarover pas laat openheid gegeven en had bovendien tegenstrijdige berichten naar buiten gebracht. Politieke tegenstanders hadden de gelegenheid aangegrepen om op social media het gerucht te verspreiden dat de president overleden was. Toen Bongo op 1 januari eindelijk op televisie verscheen, vermoedden velen daardoor dat het ging om een dubbelganger, een gemanipuleerde video of een deepfake. Dat vermoeden werd versterkt doordat Bongo’s gezicht bijna geen expressie vertoonde. Een Amerikaanse neuroloog vertelde later aan The Washington Post dat Bongo’s vlakke gezichtsuitdrukkingen het gevolg konden zijn van diens beroerte. Daarnaast verklaarden twee computerexperts dat de kans klein was dat het om een deepfake ging. Het kwaad was echter al geschied: de onrust hield aan en politieke tegenstanders deden op 7 januari 2019 een couppoging.

©PXimport

Deepfake Detection Challenge

Vanwege de grote schade die deepfakes op allerlei manieren kunnen aanrichten, komen er steeds meer onderzoeks-, bedrijfs en regeringsinitiatieven om ze te detecteren en te bestrijden.

Een daarvan is de Deepfake Detection Challenge. Deze wedstrijd werd georganiseerd door Facebook, Microsoft en een aantal onderzoeksinstituten. Speciaal voor dit doel creëerde het samenwerkingsverband, met de hulp van maar liefst 3500 acteurs, zo’n 115.000 video’s, waaronder zowel echte als nep. Zo kregen onderzoekers opeens toegang tot een gigantische databank om hun deepfake-detectiemodellen te trainen. De hoop was om zo de ontwikkeling van deze ontmaskeringsmodellen te stimuleren. De winnaar van deze challenge werd beloond met een geldbedrag van een half miljoen dollar.

©PXimport

Controle met metadata

Mensenrechtenorganisatie Witness koos een andere benadering om de infocalyps te bestrijden: het maakte een app waarmee je kunt bewijzen dat een foto of video daadwerkelijk op een bepaalde plaats en tijdstip is gemaakt. Dat is onder meer relevant voor de rapporteurs van deze organisatie, die wereldwijd misstanden aan de kaak proberen te stellen.

Met ‘ProofMode’ kan iedereen automatisch metadata opslaan van alle omstandigheden waaronder een opname is gemaakt. Daarbij gaat het niet alleen om de tijd, maar ook om de metingen die ingebouwde sensoren doen, zoals de gps, die de exacte locatie registreert. Ook naburige gsm-antennes geven daarover informatie, net zoals bewegingssensoren iets kunnen zeggen over de omstandigheden waaronder een opname werd gemaakt. Al deze informatie wordt in ProofMode als metadata versleuteld en samen met het audio- of videobestand opgeslagen. Zo kan later worden gecontroleerd of een foto of video authentiek en onbewerkt is.

©PXimport

Kat- en muisspel

Toch zullen deze slimme technieken er niet voor zorgen dat deepfakes in de toekomst beter kunnen worden ontdekt en bestreden, zo voorspelt het Rathenau-instituut in het rapport Digitale dreigingen voor de democratie. “Tegenmaatregelen kunnen op hun beurt juist leiden tot nog geavanceerde deepfakes, die moeilijker zijn te detecteren. Ook kunnen ze ertoe leiden dat de activiteiten van producenten en verspreiders van desinformatie zich verplaatsen naar besloten groepen en kanalen, en zich daarmee onttrekken aan het oog van moderators.”

Ook om een andere reden kan de bestrijding van desinformatie achterop raken, voorspelt het Rathenau-Instituut. “De mogelijkheden die nieuwe technologieën bieden om desinformatie te bestrijden, lijken beperkter dan de technologische mogelijkheden om desinformatie te produceren en te verspreiden. Zo kunnen productie- en verspreidingstechnologieën sterk profiteren van automatisering, terwijl voor de bestrijding ervan vaak mensen nodig blijven om te beoordelen of er werkelijk sprake is van misleidende informatie.”

Bij ID.nl zijn we dol op kwaliteitsproducten waar je niet de hoofdprijs voor betaalt. Een paar keer per week speuren we binnen een bepaald thema naar zulke deals. Ben je op zoek naar een goede combimagnetron met veel kookopties? Vandaag hebben we vijf interessante modellen voor je gespot.

Disclaimer: op het moment van schrijven zijn de besproken combimagnetrons bij de goedkoopste webwinkels niet duurder dan 450 euro. De prijzen kunnen schommelen.

Panasonic NN-DF38PB

Voor kleine huishoudens is de Panasonic NN-DF38PB zeer geschikt. Het is namelijk een oven, grill en magnetron ineen. Vanwege het compacte formaat kun je hem vast wel ergens in een hoekje van de keuken kwijt. Houd rekening met een bescheiden inhoud van 23 liter. Met deze keukenhulp maak je gerechten voor enkele personen klaar. Een pluspunt is het maximale magnetronvermogen van duizend watt. Het kost dan ook weinig tijd om maaltijden op te warmen.

Vrijwel elke combimagnetron heeft een bedieningspaneel met pictogrammen, maar dit model bevat daarnaast ook tekstaanduidingen. Handig, want het is zo direct duidelijk welke functie bij welke aanraaktoets hoort. Een interessante optie is de zogenoemde Eco Combi-modus. Het apparaat gebruikt hierbij tegelijk grill- en magnetronvermogen, waardoor je volgens Panasonic tijd en energie bespaart. Je kunt in totaal uit zestien automatische programma's kiezen. Na afloop start je de geïntegreerde schoonmaakcyclus om de boel te reinigen. De fabrikant levert een draadrek en geëmailleerde plaat mee.

Sharp R-971INW

Zoek je een grote vrijstaande combimagnetron? Dit model van Sharp is beslist een goede keuze. Niet voor niks kreeg dit product al eens het Beste Uit De Test-predicaat van de Consumentenbond. Een groot voordeel is de riante inhoud van veertig liter. Kortom, maak gerust een grote pastaschotel, flinke pizza of hele kip klaar. Met de zogenoemde invertertechniek wordt het vermogen geleidelijk op- en afgebouwd. Zeker tijdens het verwarmen en ontdooien voorkom je zo dat het voedsel uitdroogt. Het maximale magnetronvermogen bedraagt 1050 watt, terwijl de oven tot hoogstens 250 graden kan verwarmen.

Het kiezen van de juiste kookinstellingen is een fluitje van een cent. Tik gewoon op de afbeelding van het gerecht dat je wilt klaarmaken. Nadat je het juiste gewicht hebt ingevoerd, kiest de Sharp R-971INW een optimale bereidingstijd. Je kunt in totaal uit 24 programma's kiezen. Vanzelfsprekend staat het je ook vrij om de kookinstellingen handmatig te selecteren. De R-971INW leent zich goed voor het bereiden van eten voor een groot gezelschap. De twee bijgesloten bakplaten en ovenrekken plaats je in deze combimagnetron namelijk op verschillende niveaus.

Samsung MC35R8058CG/EN

Heb je een fraaie (design)keuken, dan zal de stijlvol vormgegeven Samsung MC35R8058CG zeker niet misstaan. Veel modellen hebben alleen een afgewerkte voorkant, maar dit model heeft ook nette zijkanten. Je bedient diverse magnetronfuncties via het gelikte aanraakpaneel. Behalve de hendel is de voorzijde helemaal vlak. Hierdoor kun je deze combimagnetron makkelijk afnemen. De keramische binnenwanden zijn glad en laten zich eveneens eenvoudig reinigen. Bovendien is dit materiaal goed bestand tegen krassen. Met een inhoud van 35 liter is de MC35R8058CG/EN geschikt voor meerpersoonshuishoudens.

Via het bedieningspaneel kies je tussen diverse automatische programma's. Met name de zogeheten AirFry-modus is het vermelden waard. Door de magnetronfunctie, grill en oven te combineren, ontstaat er een soort 'frituurfunctie'. Op deze manier maak je gerechten extra knapperig. Samsung levert hiervoor een speciale crusty-plaat mee. Verder kun je onder andere ook grillen, bakken, ontdooien en stomen. De magnetronfunctie ondersteunt een maximaal vermogen van 900 watt. Gebruik je de oven, dan kies je een temperatuur van hoogstens van 230 graden.

Lees ook: Herontdek je magnetron: je kunt er veel meer mee dan je denkt!

Whirlpool MWSC 833 SX

Deze uitgebreide combimagnetron van Whirlpool heeft een handige crisp- én CrispFry-functie. Maak daarmee bijvoorbeeld ovenfriet, een pizza en bittergarnituur extra knapperig. In combinatie met de bijgesloten crispplaat krijgen de hapjes een krokant laagje. Als je maaltijden graag in de vriezer bewaart, komt de zogenoemde Jet Defrost-functie goed van pas. Daarmee kun je voedsel snel en gelijkmatig ontdooien zonder dat de smaak hierbij verloren gaat. Je kiest op het duidelijke bedieningspaneel tussen maar liefst veertig(!) voorgeprogrammeerde recepten.

De Whirlpool MWSC 833 SX heeft een binnenruimte van 33 liter. Met een magnetronvermogen van maximaal 900 watt kun je alle kanten op. Is na uitgebreid kokerellen de binnenkant nogal vies? Zet dan een glas water in de combimagnetron en activeer het reinigingsprogramma. Dankzij de ontstane stoom laten de vet- en voedingsresten vanzelf los. Je hoeft de wanden daarna alleen maar even af te nemen. Kortom, laat die schoonmaakmiddelen voortaan in de kast staan!

LG MJ3965BIB

De betaalbare LG MJ3965BIB heeft een ruime inhoud van 39 liter. Ideaal voor wie bijvoorbeeld een grote lasagneschotel of flink wat warme kaiserbroodjes wil klaarmaken. Dankzij een gevoelige temperatuurregeling kan deze combimagnetron gelijkmatig verwarmen en ontdooien. Dat komt de smaak van het gerecht ten goede! Een opvallende eigenschap is het houtskool-verwarmingselement. Volgens de fabrikant optimaliseert dit onderdeel de hitteopname, zodat de oorspronkelijke smaak behouden blijft.

Ten opzichte van de meeste andere modellen in deze prijsklasse is het riante maximale magnetronvermogen van 1100 watt een pluspunt. Het eenvoudige bedieningspaneel telt weliswaar slechts enkele toetsen, maar toch kun je tussen allerlei automatische programma's kiezen. Gebruik daarvoor de draaiknop. Nuttig is de felle ledlamp, want hierdoor houd je de voortgang van het gerecht goed in de gaten. De binnenzijde heeft een speciale coating waarop etens- en vetresten zich niet goed kunnen hechten. Het afnemen van de wanden is dan ook voldoende om de volgende kooksessie weer schoon te beginnen.

Het is weer die tijd van het jaar: de dagen zijn korter, de kou neemt toe, en er is niets zo gezellig als met een warme chocolademelk op de bank kruipen om een goede (Kerst)film of serie te kijken. De meeste streamingdiensten hebben rond de feestdagen extra aanbod van Kerstgerelateerde films en series. Maar soms is de verleiding groot om films en series op een andere manier binnen te halen, vooral wanneer ze niet direct beschikbaar zijn in jouw land of op jouw favoriete platform. Maar wat zijn eigenlijk de gevaren hiervan?

Partnerbijdrage - in samenwerking met Bitdefender

Streamingdiensten staan rond de feestdagen vol met aan Kerst gerelateerde content, zowel nieuwe, speciaal voor streamingdiensten gemaakte films als de bekende klassiekers. Maar lang niet al die klassiekers vind je terug op iedere streamingdienst. En om nou voor die paar weken meerdere streamingabonnementen af te sluiten is natuurlijk ook niet voor iedereen een optie, zeker niet nu de abonnementsprijzen steeds vaker worden verhoogd.

Gratis streamen

Heeft jouw streamingdienst niet die klassieke Kerstfilm beschikbaar en heb je zelf ook nergens een dvd'je van zo'n klassieker? Als je geluk hebt - en de filmstudio heeft zijn speurwerk niet goed gedaan, of laat het oogluikend toe - dan kan het soms zo zijn dat je je favoriete film terugvindt op YouTube.

Het probleem is daar vaak dat de kwaliteit relatief laag is, de films soms zelfs in spiegelbeeld is om zo onder de auteursrechten uit te kunnen komen en dat je tijdens het kijken van een film met regelmaat wordt bestookt door reclames. Dat komt het kijkplezier natuurlijk niet ten goede.

Downloaden

Het downloaden van films was jaren geleden een populaire bezigheid en de streamingdiensten hebben dat voor een groot deel weten terug te dringen door het beschikbaar stellen van oudere films in hun uitgebreide database. Toch worden er nog steeds op verschillende plekken films aangeboden, bijvoorbeeld via torrent-sites en in nieuwsgroepen, maar ook gewoon op diverse fora. Je moet er tegenwoordig wel snel bij zijn, want zo'n post of site kan tegenwoordig redelijk snel offline worden gehaald.

Gevaar

Het downloaden van films en series gaat echter gepaard met verschillende gevaren. Dat heeft vooral te maken met de manier waarop deze worden aangeboden. Wat je bijvoorbeeld heel vaak ziet is dat je een archiefbestand in de vorm van een rar- of zip-bestand moet downloaden en deze moet uitpakken. Soms zijn die bestanden beveiligd met een wachtwoord, die je dan terugvindt in het forumbericht waar de film of serie werd aangeboden.

Het feit dat er een wachtwoord op zit, is eigenlijk al een slecht teken. Waarom? Een goed beveiligingspakket scant altijd alle inhoud van archiefbestanden, maar omdat te doen, pakt zo'n pakket op de achtergrond alle bestanden in het archief uit naar een beveiligde locatie, om zo de afzonderlijke bestanden te controleren op de aanwezigheid van malware. Wanneer zo'n zipbestand echter is beveiligd met een wachtwoord, kan een beveiligingsprogramma dat bestand niet uitpakken, omdat het wachtwoord niet bekend is.

Realtime beveiliging

Een malafide uploader kan op deze manier heel makkelijk malware verspreiden, omdat er een extra beveiligingscontrole ontbreekt. Soms zie je ook dat je eerst een exe-bestand moet uitvoeren om 'zogenaamd' een ander bestand weer uit te pakken, maar ook dat is geen goed idee.

Je beschermt je computer en je smartphone - want ook op die manier wordt steeds vaker gedownload - dan ook het beste met een realtime beveiligingspakket. Niet alleen wordt malware direct herkend en tegengehouden, maar ook worden downloads al geblokkeerd voordat ze überhaupt zijn begonnen, puur door de url van de bezochte website te checken.

Bitdefender biedt met Ultimate Security voor iedere gebruiker de beste oplossing als het aankomt op die realtime beveiliging. Je krijgt met deze versie bescherming voor al je apparaten, of het nu Android, Windows, Mac of iOS is. Bovendien krijg je naast de bekende malware- en virusscanner ook extra beveiliging voor al je bankzaken, een uitgebreid spamfilter, VPN-toegang (handig om zo anoniem te kunnen downloaden) en digitale identiteitsbescherming. En het AI-gestuurde Scam Copilot kan je helpen tegen oplichting op internet.