DMA, DSA, AI Act: wat betekenen deze EU-wetten voor jou als gebruiker?
De invoering van de AVG is voor de EU slechts het begin van een reeks alomvattende regelgevingen voor het afdwingen van een veilige, eerlijke en transparante digitale omgeving. We bespreken kort wat er de laatste tijd gerealiseerd is en bekijken wat de impact op ons als gebruiker is.
Dit artikel behandelt de belangrijkste nieuwe EU-verordeningen: DMA, DSA, DGA en AI Act. We bespreken wat elke verordening inhoudt en gaan de impact na die je als gebruiker kunt (gaan) ervaren bij enkele bekende diensten.
De AVG (Algemene verordening gegevensbescherming, ook bekend als GDPR) is inmiddels al zes jaar van kracht binnen de hele EU. Deze wetgeving beschermt de persoonlijke gegevens en privacy van EU-burgers en regelt hoe bedrijven en instanties deze gegevens moeten behandelen, zelfs buiten de EU. Het kernprincipe van de AVG is dat er toestemming nodig is voor het verzamelen of verwerken van persoonlijke gegevens. Gebruikers hebben het recht om te weten welke data van hen worden bewaard en gebruikt, en moeten de mogelijkheid hebben om hun gegevens te verplaatsen naar een andere serviceprovider (dataportabiliteit). Ze kunnen bovendien eisen dat hun gegevens worden gewist, wat bekend staat als het recht om vergeten te worden. Organisaties die deze regels overtreden kunnen hoge boetes krijgen, zo kreeg het Chinese bedrijf ByteDance (TikTok) in 2024 een boete van 345 miljoen euro voor het schenden van de privacy van kinderen.
Een minder prettig uitvloeisel van deze wetgeving is de verschijning van pop-ups die gebruikers bij het bezoeken van websites vragen naar hun cookievoorkeuren.
De AVG-regelgeving sluit naadloos aan bij de EU-strategie om gebruikersrechten te beschermen, marktmonopolies te bestrijden, innovatie te stimuleren en ethische normen te stellen voor het gebruik van gegevens en inmiddels ook van kunstmatige intelligentie. Recent zijn er extra regelgevingen aangenomen die deze strategie verder uitbouwen. We bespreken de belangrijkste verordeningen: DMA, DSA, DGA en AI Act.
©mixmagic
Digital Markets Act
De Digital Markets Act (DMA), ook bekend als de Verordening inzake digitale markten, werd in september 2022 door het Europees Parlement en de Europese Raad vastgesteld en is sinds mei 2023 van toepassing. De DMA streeft naar een gelijkwaardiger speelveld in de digitale sector door het marktmonopolie van techgiganten te doorbreken en zo meer competitie tussen online bedrijven te bevorderen.
Vooral grote digitale platformen die kernplatformdiensten als messenger-diensten, online zoekmachines en appstores aanbieden, vallen onder deze regelgeving. Zij worden poortwachters (gatekeepers) genoemd en de bedrijven Alphabet (Google), Amazon, ByteDance, Apple, Meta en Microsoft behoren hier in ieder geval toe. De toewijzing van deze status gebeurt op basis van de gegenereerde omzet binnen en buiten de EU, maar de wetgever kan ook zelf bedrijven aanwijzen als poortwachters, op basis van hun marktpositie en de impact op de interne markt. Aangezien deze criteria niet strikt meetbaar zijn, leven sommige grote techbedrijven ongetwijfeld in onzekerheid over hun status als poortwachter. Immers, specifiek voor poortwachters legt de DMA verplichtingen en verboden op, met mogelijk fikse boetes tot tien procent van de wereldwijde jaaromzet voor overtredingen.
De DMA kent enkele verplichtingen. Zo moeten zakelijke gebruikers buiten het platform om hun producten kunnen promoten, moeten adverteerders de beschikking krijgen over tools om hun advertentiecampagnes onafhankelijk te kunnen beoordelen en moet er toegang zijn tot de data die op het platform worden gegenereerd. Ook zijn er expliciete verboden. De eigen diensten mogen in rangschikkingen niet voorgetrokken worden, vooraf geïnstalleerde software moet verwijderd kunnen worden, er moeten links naar externe diensten toegevoegd kunnen worden, en er mag niet meer zonder toestemming tracking ingezet worden voor gerichte advertenties buiten het eigen platform.
Deze maatregelen zullen vermoedelijk leiden tot een strategische verandering van fabrikanten en merken die minder afhankelijk willen zijn van één enkel online platform en hun activiteiten willen spreiden over meerdere kanalen en aanbieders.
©Europese Commissie
Koppelingen tussen diensten
De DMA heeft al zichtbare gevolgen voor gewone gebruikers zoals jij en ik, hoewel de wet nog niet lang van kracht is. Mogelijk heb je al meldingen gekregen van poortwachters waarin gevraagd wordt of je de koppelingen tussen hun verschillende internetdiensten wilt behouden of opheffen. Deze koppelingen bieden praktische voordelen, zoals het gebruik van één account en dezelfde inloggegevens om informatie te delen tussen verschillende diensten. Met één Apple ID kun je bijvoorbeeld inloggen bij iCloud, Apple Music, App Store en FaceTime; een voorbeeld van single sign-on. Dit geldt ook voor de ecosystemen van Google, met diensten als Gmail, Google Drive, Google Foto’s en YouTube, en eveneens voor Meta en Microsoft.
Deze koppelingen zijn niet alleen handig voor de gebruikers, maar bieden natuurlijk ook voordelen voor de bedrijven zelf, aangezien ze hierdoor jouw gegevens kunnen delen voor gerichte advertenties. Wil je je eigen koppelingen en instellingen nagaan, ga dan voor Google naar het onderdeel Gegevens en privacy in je account en scrol tot je bij Gekoppelde Google-services komt. Klik daar op de link Gekoppelde services beheren. Bij Meta vind je vergelijkbare opties en bij Microsoft onder Privacy / Privacyinstellingen in onze producten.
Gevolgen van de DMA
De DMA heeft nog andere duidelijke gevolgen voor Google, zo moet de zoekmachine nu prioriteit geven aan prijsvergelijkingssites, waardoor je minder aanbiedingen van Googles eigen verkooppartners ziet. Ook op Android moet Google gebruikers de vrijheid geven om hun voorkeursbrowser en zoekmachine te kiezen.
Apple ondergaat eveneens significante veranderingen. Vanaf iOS 17.4 is het mogelijk om apps buiten de officiële App Store om te installeren, via (binnenkort beschikbare) online winkels als Mobivention App Marketplace, AltStore en Setapp for Mobile. Verder moet het besturingssysteem betere ondersteuning bieden voor niet-WebKit-browsers, daarom krijg je bij de installatie van iOS nu een keuzescherm te zien waarin je voor een browser kunt kiezen. Ook moet de NFC-chip toegankelijk zijn voor andere aanbieders, zodat niet alleen Apple Pay contactloos betalen ondersteunt.
Bij Meta zie je de invloed van de DMA in de optie voor een advertentievrij abonnement voor Facebook en Instagram. Meta is ook bezig met het implementeren van cross-app messaging voor WhatsApp, wat communicatie met gebruikers van bijvoorbeeld Signal en Telegram mogelijk maakt. Deze functie bevindt zich op het moment van dit schrijven nog in bèta. Binnenkort zal er dus minder behoefte zijn aan software als Beeper, een universele chat-app waarmee je vanuit één interface verschillende chatnetwerken kunt gebruiken.
Ook Microsoft ontsnapt niet aan de DMA-regelgeving. Windows Zoeken mag bijvoorbeeld niet meer automatisch Bing-resultaten tonen en andere bedrijven mogen voortaan ook hun diensten aan de widgets toevoegen.
Digital Services Act
De Digital Services Act (DSA, ook wel Verordening inzake digitale diensten) is de langverwachte opvolger van de e-commerce richtlijn uit 2000 en vormt samen met de DMA het DSA Package. Terwijl de DMA streeft naar een eerlijke en competitieve digitale economie, richt de DSA zich vooral op het waarborgen van de consumentenbescherming.
Vanaf augustus 2023 is de DSA van toepassing op de grootste digitale diensten, en vanaf februari 2024 moeten alle online services en dienstenplatforms eraan voldoen. De DSA richt zich specifiek op het voorkomen van illegaal gebruik van online diensten en het verantwoord en transparant aanbieden ervan. Platformen moeten effectieve maatregelen treffen om de inhoud te modereren, desinformatie te bestrijden, de gebruikersrechten te beschermen, en opruiende taal, terroristische propaganda en kindermisbruik voorkomen. Gebruikers moeten tevens ongepaste content snel kunnen melden en laten verwijderen.
Bedrijven zijn verder verplicht om de algoritmen die ze gebruiken en hun inhoudelijke beslissingen te verantwoorden, en hun data beschikbaar te stellen voor specifieke onderzoeksinstanties. Daarnaast is het aanbieden van gepersonaliseerde advertenties zonder toestemming niet langer toegestaan. Voor de grootste diensten zijn er extra regels, zoals de verplichting van regelmatige audits op algoritmes en systemen voor crisisrespons.
Grote online platformen
De DSA is dus merkbaar strenger voor de allergrootste diensten en platformen, maar welke diensten vallen hier precies onder? Volgens de DSA worden platformen en zoekmachines met meer dan 45 miljoen gebruikers per maand in de Europese Unie beschouwd als zeer grote online platformen (VLOPs; Very Large Online Platforms) of zeer grote online zoekmachines (VLOSEs; Very Large Online Search Engines). Deze indeling is gebaseerd op gegevens van 30 april 2024, maar bedrijven moeten deze om de zes maanden bijwerken. Op dit moment zijn er 23 VLOPs en VLOSEs. Even je geheugen trainen: kun je raden om welke techgiganten het zoal gaat?
Wat VLOSEs betreft, gaat het om Bing en Google Search. De 21 VLOPs zijn, in alfabetische volgorde: Alibaba AliExpress, Amazon Store, Apple App Store, Booking.com, Facebook, Google Maps, Google Play, Google Shopping, Instagram, LinkedIn, Pinterest, Pornhub, Shein, Snapchat, StripChat, TikTok, Wikipedia, X, XVideos, YouTube en Zalando.
©gguy - stock.adobe.com
Meer transparantie
De DSA heeft een significante impact op grote online bedrijven, al is het minder direct merkbaar voor gewone gebruikers. Een van de praktijken die wel specifiek wordt aangepakt door de DSA-regelgeving is dark patterning, waarbij websites en apps manipulatieve ontwerptechnieken gebruiken om gebruikers te misleiden of tot acties te verleiden die ze anders niet zouden uitvoeren. Dit kan onder meer misleidende interface-elementen omvatten, verborgen kosten of psychologische druk om impulsaankopen te doen, zoals de frase ‘Nog maar 2 items beschikbaar!’.
Bedrijven moeten ook transparanter zijn over hun advertentiebeleid. Een mooi voorbeeld hiervan is het Google Centrum voor Advertentietransparantie. Hier krijgen gebruikers binnen de Europese Unie gedetailleerde informatie over waarom ze een specifieke advertentie te zien krijgen. Google heeft tevens een nieuw Transparantiecentrum gelanceerd waar gebruikers meer informatie kunnen vinden over het beleid zelf, inclusief links naar rapportagetools en openbare rapporten.
Data Governance Act
Ook de Data Governance Act (DGA), van kracht sinds september 2023, sluit goed aan bij de filosofie van de EU. Het is een regelgevend kader dat is ontworpen om het delen van gegevens tussen bedrijven en overheden in de EU te bevorderen en te reguleren, en om gegevens gemakkelijker toegankelijk te maken. De DGA wil gebruikers meer vertrouwen geven bij het delen van hun gegevens, door middel van strikte maatregelen die het datagebruik streng reguleren. Tegelijkertijd wil de verordening het juist gemakkelijker maken gegevens te delen. Hierdoor kunnen innovatieve (databemiddelings)diensten en producten die afhankelijk zijn van gegevensstromen, zoals in de sectoren gezondheid, mobiliteit, milieu en landbouw, sneller worden ontwikkeld.
©dmutrojarmolinua - stock.adobe.com
AI Act
Ongeveer drie jaar geleden lanceerde de Europese Commissie de AI Act, ook wel bekend als AI-verordening. Deze wet is nu in de laatste fase van onderhandeling en goedkeuring. De verordening richt zich vooral op de veiligheid en de fundamentele rechten van gebruikers binnen de ontwikkeling en het gebruik van kunstmatige intelligentie. Met deze uitgebreide AI-wetgeving loopt de EU wereldwijd voorop.
Door de snelle evolutie van AI zal het je niet verbazen dat er al diverse aanpassingen in het huidige akkoord zijn aangebracht ten opzichte van het oorspronkelijke voorstel. Je kunt de ontwikkelingen volgen op www.artificialintelligenceact.eu. Deze site bevat tevens een tool (AI Act Explorer) waarmee je de wet snel op specifieke onderdelen kunt doorzoeken.
Risico’s AI
Het basisprincipe van de AI Act blijft zoals het is: AI-toepassingen worden ingedeeld in risiconiveaus van laag naar hoog, wat de EU helpt burgers te beschermen zonder de economische groei te hinderen. De categorie Minimaal risico betreft veilige AI-systemen, zoals spamfilters, die vrijwel geen risico op schade vormen en daarom nauwelijks of geen impact van de wet ervaren. Systemen met Beperkt risico, zoals chatbots voor klantenservice moeten in elk geval duidelijk maken dat ze op AI draaien. Hoog risico-systemen zijn systemen die ingrijpend kunnen zijn voor individuele rechten of maatschappelijke waarden. Voorbeelden zijn AI voor examenbeoordelingen of sollicitaties, voor het beheer van infrastructuur, rechtshandhaving, grenscontroles en biometrie in de publieke ruimte. Zij moeten strenge eisen rond transparantie, datakwaliteit en toezicht naleven. Krijgt een toepassing het niveau Onacceptabel risico, dan worden fundamentele EU-waarden geschonden. Deze toepassingen zijn hoe dan ook verboden in de EU. Voorbeelden zijn AI voor sociale scores (onder meer toegepast in China), het overbrengen van verborgen boodschappen (subliminale technieken), predictive policing (voorspellen in hoeverre iemand crimineel gedrag zal vertonen) en emotieherkenning. Via www.artificialintelligenceact.eu/high-level-summary vind je meer informatie over de hoogste risicocategorieën.
Ook voor generatieve AI
Toen de EU volop bezig was met de risicoanalyse, werden plots generatieve AI-tools als ChatGPT en Midjourney met enorm succes gelanceerd. Deze tools pasten niet goed in de systematiek van de AI Act, want die richtte zich vooral op AI-toepassingen voor een specifiek doel, vaak opgenomen in producten of commerciële diensten. Generatieve AI daarentegen bleek zeer breed inzetbaar en bereikte de EU-burger bovendien (gratis) vanuit een regio, de Verenigde Staten, die zich weinig aantrok van EU-rechtsbeginselen. Daarom werd er een extra hoofdstuk aan de AI Act toegevoegd, zodat ook GPAI (General Purpose AI, oftewel AI voor algemene doeleinden) gereguleerd kon worden. Dit bleek lastiger dan verwacht, aangezien LLMs (grote taalmodellen als GPT-4, BERT of Claude) en beeldgeneratoren als DALL-E en Stable Diffusion op diverse risiconiveaus kunnen worden ingezet, van het gezellige keuvelen (Minimaal) tot het verwerken van sollicitaties (Hoog) en het manipuleren van emoties (Onacceptabel).
Lees ook: Dall-E of SDXL: wie maakt betere plaatjes?
Op zich zijn de basisregels voor GPAI wel duidelijk: er geldt een transparantieverplichting, de output moet op een of andere manier, zoals met een onzichtbaar en niet te verwijderen watermerk, aangeven dat het AI-output is, en er moet voldoende technische documentatie zijn, inclusief een lijst van de gebruikte brondata. Bij opensource GPAI vervallen echter de meeste van deze verplichtingen. Anderzijds, als de Europese Commissie oordeelt dat de GPAI systemische risico’s inhoudt en schade kan berokkenen aan basisprocessen of -behoeftes in de samenleving, gelden er strengere regels.
Hoe dan ook, AI-bedrijven hebben nog veel werk voor de boeg om aan de AI Act te voldoen zodra deze volledig van kracht is. Onder meer auteursrechthebbenden volgen de ontwikkelingen met argusogen.
