ID.nl logo
Nieuwe AI-wet van Europese Unie moet jou beter gaan beschermen
© Limitless Visions - stock.adobe.com
Huis

Nieuwe AI-wet van Europese Unie moet jou beter gaan beschermen

Het gebruik van AI kan voor verbeteringen op allerlei vlakken (gaan) zorgen: van betere gezondheidszorg, veiliger en schoner vervoer, efficiëntere productie en goedkopere en duurzamere energie. Maar er zitten ook risico’s aan. De Europese Unie wil nu door middel van wetgeving grip krijgen op AI, waardoor gebruikers en consumenten beter beschermd worden.

In april 2021 stelde de Europese Commissie het eerste EU-regelgevingskader voor AI voor. Dit kader stelt dat AI-systemen die in verschillende toepassingen kunnen worden gebruikt, worden geanalyseerd en geclassificeerd op basis van het risico dat ze vormen voor gebruikers. Afhankelijk van het risiconiveau zal er meer of minder regulering zijn. Eenmaal goedgekeurd, zullen dit de eerste wereldwijde regels voor AI zijn.

Het Europees Parlement wil ervoor zorgen dat AI-systemen die in de EU worden gebruikt veilig, transparant, traceerbaar, niet-discriminerend en milieuvriendelijk zijn. AI-systemen moeten worden gecontroleerd door mensen, niet door automatisering, om schadelijke resultaten te voorkomen. Het Parlement wil ook een technologie-neutrale, uniforme definitie voor AI vaststellen die kan worden toegepast op toekomstige AI-systemen.

De nieuwe regels stellen verplichtingen in voor aanbieders en gebruikers, afhankelijk van het risiconiveau van kunstmatige intelligentie. Daarvoor moeten de systemen beoordeeld worden.

❗ Beperkt risico: transparantie-eisen

AI-systemen met een beperkt risico moeten voldoen aan minimale transparantie-eisen die gebruikers in staat stellen geïnformeerde beslissingen te nemen. Het moet voor gebruikers duidelijk zijn wanneer ze interactie hebben met AI, zodat ze zelf kunnen beslissen of ze de betreffende applicatie willen blijven gebruiken, Dit omvat AI-systemen die beeld-, audio- of video-inhoud genereren of manipuleren, bijvoorbeeld deepfakes.

Hoe zit het met ChatGPT? Generatieve AI, zoals ChatGPT, moet voldoen aan transparantie-eisen. Zo moet duidelijk zijn dat content door AI is gegenereerd, moet het systeem zó ontwerpen worden dat het niet mogelijk is om illegale content te genereren, en moet publiek worden gemaakt welke auteursrechtelijk beschermde gegevens er voor de training van het systeem is gebruikt. Lees ook: Is ChatGPT wel veilig? Dit zijn de privacy- en beveiligingsrisico’s

❗❗ Hoog risico: vooraf beoordeeld en doorlopend gemonitord

AI-systemen die een negatieve impact hebben op de veiligheid of fundamentele rechten, worden als hoog risico beschouwd. Deze systemen zullen worden onderverdeeld in twee categorieën:

1) AI-systemen die worden gebruikt in producten die vallen onder de productveiligheidswetgeving van de EU. Dit omvat speelgoed, luchtvaart, auto's, medische apparaten en liften.

2) AI-systemen die vallen onder acht specifieke gebieden die geregistreerd moeten worden in een EU-database:

• Biometrische identificatie en categorisatie van natuurlijke personen
• Beheer en bediening van kritieke infrastructuur
• Onderwijs en beroepsopleiding
• Werkgelegenheid, werknemersbeheer en toegang tot zelfstandig ondernemerschap
• Toegang tot en gebruik van essentiële particuliere diensten en openbare diensten en voordelen
• Rechtshandhaving
• Migratie, asiel en grenscontrolebeheer
• Assistentie bij juridische interpretatie en toepassing van de wet.

Alle hoogrisico AI-systemen zullen worden beoordeeld voordat ze op de markt worden gebracht en ook gedurende hun levenscyclus.

❗❗❗ Onaanvaardbaar risico: verboden

AI-systemen die een onaanvaardbaar risico vormen, worden beschouwd als een bedreiging voor mensen en zullen worden verboden. Dit omvat bijvoorbeeld speelgoed dat geactiveerd wordt door spraak en gevaarlijk gedrag bij kinderen aanmoedigt, sociale scoring en real-time en op afstand biometrische identificatiesystemen, zoals gezichtsherkenning.

Wat is social scoring? Sociale scoring is een methode waarbij individuen worden beoordeeld en geclassificeerd op basis van hun gedrag, socio-economische status of persoonlijke kenmerken. Dit kan een breed scala aan factoren omvatten, zoals financiële geschiedenis, sociale media-activiteit, gezondheidsgeschiedenis, en zelfs de kenmerken of het gedrag van vrienden en familie. Een bekend voorbeeld van een sociaal scoresysteem is het 'sociaal kredietsysteem' van China, dat de reputatie van burgers en bedrijven beoordeelt op basis van hun economisch en sociaal gedrag.

En nu?

Op woensdag 14 juni heeft het Europees Parlement zijn onderhandelingspositie over de AI Act aangenomen met 499 stemmen voor, 28 tegen en 93 onthoudingen. De onderhandelingspositie verwijst naar de standpunten en prioriteiten die het Parlement heeft vastgesteld met betrekking tot een bepaalde kwestie of wetgeving en wordt gebruikt als basis voor onderhandelingen en gesprekken. Die gesprekken, over de definitieve vorm van de wet, gaan gevoerd worden met EU-lidstaten en starten ook op 14 juni.


▼ Volgende artikel
Super Mario-medley wint een Grammy
Huis

Super Mario-medley wint een Grammy

Een medley gebaseerd op soundtracks uit Super Mario-games van het Jazzorkest 8-Bit Big Band heeft afgelopen zondagnacht een Grammy gewonnen.

De medley ‘Super Mario Praise Break’ won een Grammy Award voor beste arrangement (instrumentaal of a capella). In de medley zijn nummers als Gusty Garden Galaxy uit Super Mario Galaxy en Bomb-Omb Battlefield uit Super Mario 64 te horen.

De 9-Bit Big Band is afkomstig uit New York en heeft al eens eerder een Grammy gewonnen voor gamemuziek. In 2022 won het orkest een Grammy voor het nummer Meta’s Knight’s Revenge uit de SNES-game Kirby Superstar.

View post on X

De Grammy Awards

De Grammy Awards worden al sinds 1959 georganiseerd en worden gezien als een van de belangrijkste prijzen voor muziek ter wereld. Ze worden vaak vergeleken met de Oscars, die worden uitgereikt aan films. Dit jaar won Bad Bunny de prijs van album van het jaar, en ging Billie Eilish er vandoor met een Grammy voor nummer van het jaar. Overigens won Austin Wintory een Grammy in de categorie beste gamesoundtrack voor de soundtrack van Sword of the Sea.

De Super Mario-reeks van Nintendo valt op diverse spelcomputers van het bedrijf te spelen, waaronder de Nintendo Switch 2 en Nintendo Switch. Onder de meest recente grote hoofddelen vallen Super Mario Wonder en Super Mario Odyssey.

Nieuw op ID: het complete plaatje

Misschien valt het je op dat er vanaf nu ook berichten over games, films en series op onze site verschijnen. Dat is een bewuste stap. Wij geloven dat technologie niet stopt bij hardware; het gaat uiteindelijk om wat je ermee beleeft. Daarom combineren we onze expertise in tech nu met het laatste nieuws over entertainment. Dat doen we met de gezichten die mensen kennen van Power Unlimited, dé experts op het gebied van gaming en streaming. Zo helpen we je niet alleen aan de beste tv, smartphone of laptop, maar vertellen we je ook direct wat je erop moet kijken of spelen. Je vindt hier dus voortaan de ideale mix van hardware én content.

▼ Volgende artikel
Column: De PlayStation 6 mag nog jaren op zich laten wachten
Huis

Column: De PlayStation 6 mag nog jaren op zich laten wachten

De PlayStation 6 zou wel eens pas ergens na 2028 uit kunnen komen, zo claimde een analist onlangs. Dat betekent dat we minstens acht jaar met de PlayStation 5 opgescheept zitten. Maar niet getreurd: dat is juist goed nieuws voor de gemiddelde gameliefhebber.

Dat de PlayStation 6 in ontwikkeling is bij Sony, mag voor zich spreken. Nadat een nieuwe spelcomputer is uitgekomen, beginnen consolebedrijven vaak al snel met de research voor diens opvolger. Onderzoek naar de juiste specificaties en features van consoles beslaat vaak meerdere jaren, om nog maar te zwijgen over het maken van afspraken met bedrijven die de componenten daadwerkelijk leveren, en natuurlijk het produceren ervan.

Het is dan ook waarschijnlijk dat de specificaties van de PlayStation 6 al geruime tijd vastliggen, en dat Sony intern ook een schatting heeft gemaakt voor een releaseperiode voor de langverwachte console. Misschien was het bedrijf er zelfs van overtuigd dat het de console volgend jaar uit zou kunnen brengen.

Watch on YouTube

Verlengde levenscyclus

Onlangs meldde MST Financial-analist David Gibson dat Sony nu echter overweegt om de PS6 pas ergens na 2028 te leveren. “Sony verwacht dat de levenscyclus van de PlayStation 5 wordt verlengd, en dat de PlayStation 6-release langer op zich laat wachten dan de meesten voorspellen.” Dat zou betekenen dat de PS6 misschien pas ergens in 2029 of zelfs later in de winkels ligt.

De eerdere voorspellingen van ingewijden mikten voorheen vooral op eind 2027 of in de loop van 2028, op basis van wanneer de productie oorspronkelijk zou beginnen. De PlayStation 5 kwam in het najaar van 2020 uit, dus dat zou de console al een levenscyclus van ruim zeven jaar geven voordat de opvolger op de markt komt. Dat is in principe een zeer ruime levensloop voor een spelcomputer, en een release in 2027 of 2028 zou dan ook volkomen logisch zijn.

©PXimport

Stijgende RAM-prijzen

Maar de wereld houdt geen rekening met consolereleases, en gezien de huidige ontwikkelingen is de komst van een PlayStation 6 in 2027 of 2028 helemaal niet zo logisch meer. Dat heeft voor een groot deel te maken met de prijzen van RAM (Random Access Memory), die steeds hoger oplopen. RAM is namelijk in grote getale nodig om de alsmaar populairder wordende AI-assistenten als ChatGPT en Gemini draaiende te houden.

Als gevolg daarvan wordt RAM steeds schaarser en dus duurder, en laten spelcomputers nu ook net RAM nodig hebben. In deze periode een nieuwe spelcomputer uitbrengen zou dan ook betekenen dat de prijs van de console mogelijk erg hoog komt te liggen, wat de verkoop niet bepaalt stimuleert. Een dergelijke ‘valse’ start van de levenscyclus van een spelcomputer is iets dat veel bedrijven willen vermijden.

Ook de importheffingen die de Amerikaanse president Donald Trump op producten die buiten de Verenigde Staten worden gemaakt doorvoert, zorgen voor veel onzekerheid. Eerder moesten de prijzen van diverse spelcomputers, waaronder de PlayStation 5, al stijgen om dit op te vangen. Trump is – unieke politieke ontwikkelingen buiten beschouwing gelaten – de komende jaren nog aan de macht, dus ook dat maakt het uitbrengen van een nieuwe console bepaald geen veilige onderneming. De komende jaren een console lanceren is kortom dus een gigantisch risico, dat Sony volgensgeruchten zo klein mogelijk wil houden.

Trage consolegeneratie

Sony hoopt wellicht dat de economie eind dit decennium kalmeert. Dat zou echter wel betekenen dat we nog meerdere jaren op de komst van de PlayStation 6 moeten wachten. Wat mij betreft is dat niet iets om over te treuren, maar juist goed nieuws. Het geeft ontwikkelaars namelijk de kans om echt alles uit de PlayStation 5 te halen. Een kans die ze hopelijk met beide handen aangrijpen.

Hoewel de PS5 in november van 2020 uitkwam – ruim vijf jaar geleden – heb ik nog altijd het gevoel dat deze consolegeneratie nog maar net is begonnen. De generatie kwam sowieso vrij traag op gang, omdat deze middenin de coronapandemie viel. Dat was ook voor spelontwikkelaars een ingewikkelde tijd waarin halsoverkop naar thuiswerkmogelijkheden gekeken moest worden, waardoor veel games die in ontwikkeling waren vertraging op liepen.

Sony’s eigen game-line-up is de afgelopen vijf jaar ook wat karig geweest. Dat heeft deels te maken met een focus op liveservicegames, waarbij diverse projecten die bij Sony’s meest prominente studio’s in ontwikkeling waren uiteindelijk werden geannuleerd. Denk bijvoorbeeld aan de The Last of Us-multiplayergame die na jaren productie in de prullenbak werd gegooid.

Daarbij is de ‘cross-generation’-periode van deze generatie uitzonderlijk lang. Nog altijd komen diverse games niet alleen op PlayStation 5, maar ook op PlayStation 4 uit. Nu is dat iets wat in de toekomst alleen maar vaker voor zal komen – de grenzen tussen consolegeneraties vervagen en daarmee is het ook makkelijker om de prestaties van games terug of juist op te schalen.

Toch zorgt het er ook voor dat er onder gamers een gevoel groeit dat nog lang niet het uiterste uit de PS5 is gehaald. Er is méér met dat apparaat mogelijk, vooral met de bestaande PS5 Pro in het achterhoofd. Een verlengde levenscyclus voor de console geeft ontwikkelaars de kans om een aantal schitterende spellen af te leveren in de laatste jaren van de spelcomputer – de ontwikkeltijd van games wordt immers ook steeds langer. Met toppers als Grand Theft Auto 6, The Witcher 4 en Intergalactic: The Heretic Prophet nog in het verschiet, is er meer dan genoeg potentie om het de komende jaren uit te zingen met de PS5.

Niet zonder risico’s

Natuurlijk brengt het uitstellen van een consolelancering ook risico’s met zich mee, zowel voor Sony als voor de consument. Het is namelijk helemaal niet zeker dat de wereldeconomie er eind dit decennium beter voor staat. Daarnaast zet het Sony voor een moeilijke keuze: gooit het jaren aan research voor de PS6 weg om de console eind dit decennium met moderne specificaties uit te kunnen brengen, of behoudt het simpelweg de huidige specs zodat deze op release mogelijk al deels zijn verouderd?

De eventuele keuze om de PlayStation 6 uit te stellen zal dan ook niet over één nacht ijs gaan. Het is aan de goedbetaalde mensen in topposities binnen het bedrijf om die knoop door te hakken. Maar puur vanuit mijn eigen, egoïstische liefde voor games gezien, heb ik er totaal geen moeite mee om nog een jaar of drie, vier op de PlayStation 5 te spelen. Laat maar eens zien wat die console nog kan, en blaas ons in 2029 of 2030 weg met een nieuwe consolegeneratie die écht een flinke technologische stap zet!