Het gebruik van AI kan voor verbeteringen op allerlei vlakken (gaan) zorgen: van betere gezondheidszorg, veiliger en schoner vervoer, efficiëntere productie en goedkopere en duurzamere energie. Maar er zitten ook risico’s aan. De Europese Unie wil nu door middel van wetgeving grip krijgen op AI, waardoor gebruikers en consumenten beter beschermd worden.

In april 2021 stelde de Europese Commissie het eerste EU-regelgevingskader voor AI voor. Dit kader stelt dat AI-systemen die in verschillende toepassingen kunnen worden gebruikt, worden geanalyseerd en geclassificeerd op basis van het risico dat ze vormen voor gebruikers. Afhankelijk van het risiconiveau zal er meer of minder regulering zijn. Eenmaal goedgekeurd, zullen dit de eerste wereldwijde regels voor AI zijn.

Het Europees Parlement wil ervoor zorgen dat AI-systemen die in de EU worden gebruikt veilig, transparant, traceerbaar, niet-discriminerend en milieuvriendelijk zijn. AI-systemen moeten worden gecontroleerd door mensen, niet door automatisering, om schadelijke resultaten te voorkomen. Het Parlement wil ook een technologie-neutrale, uniforme definitie voor AI vaststellen die kan worden toegepast op toekomstige AI-systemen.

De nieuwe regels stellen verplichtingen in voor aanbieders en gebruikers, afhankelijk van het risiconiveau van kunstmatige intelligentie. Daarvoor moeten de systemen beoordeeld worden.

❗ Beperkt risico: transparantie-eisen

AI-systemen met een beperkt risico moeten voldoen aan minimale transparantie-eisen die gebruikers in staat stellen geïnformeerde beslissingen te nemen. Het moet voor gebruikers duidelijk zijn wanneer ze interactie hebben met AI, zodat ze zelf kunnen beslissen of ze de betreffende applicatie willen blijven gebruiken, Dit omvat AI-systemen die beeld-, audio- of video-inhoud genereren of manipuleren, bijvoorbeeld deepfakes.

❗❗ Hoog risico: vooraf beoordeeld en doorlopend gemonitord

AI-systemen die een negatieve impact hebben op de veiligheid of fundamentele rechten, worden als hoog risico beschouwd. Deze systemen zullen worden onderverdeeld in twee categorieën:

1) AI-systemen die worden gebruikt in producten die vallen onder de productveiligheidswetgeving van de EU. Dit omvat speelgoed, luchtvaart, auto's, medische apparaten en liften.

2) AI-systemen die vallen onder acht specifieke gebieden die geregistreerd moeten worden in een EU-database:

• Biometrische identificatie en categorisatie van natuurlijke personen
• Beheer en bediening van kritieke infrastructuur
• Onderwijs en beroepsopleiding
• Werkgelegenheid, werknemersbeheer en toegang tot zelfstandig ondernemerschap
• Toegang tot en gebruik van essentiële particuliere diensten en openbare diensten en voordelen
• Rechtshandhaving
• Migratie, asiel en grenscontrolebeheer
• Assistentie bij juridische interpretatie en toepassing van de wet.

Alle hoogrisico AI-systemen zullen worden beoordeeld voordat ze op de markt worden gebracht en ook gedurende hun levenscyclus.

❗❗❗ Onaanvaardbaar risico: verboden

AI-systemen die een onaanvaardbaar risico vormen, worden beschouwd als een bedreiging voor mensen en zullen worden verboden. Dit omvat bijvoorbeeld speelgoed dat geactiveerd wordt door spraak en gevaarlijk gedrag bij kinderen aanmoedigt, sociale scoring en real-time en op afstand biometrische identificatiesystemen, zoals gezichtsherkenning.

En nu?

Op woensdag 14 juni heeft het Europees Parlement zijn onderhandelingspositie over de AI Act aangenomen met 499 stemmen voor, 28 tegen en 93 onthoudingen. De onderhandelingspositie verwijst naar de standpunten en prioriteiten die het Parlement heeft vastgesteld met betrekking tot een bepaalde kwestie of wetgeving en wordt gebruikt als basis voor onderhandelingen en gesprekken. Die gesprekken, over de definitieve vorm van de wet, gaan gevoerd worden met EU-lidstaten en starten ook op 14 juni.

Ubisoft heeft bevestigd dat er ongeveer veertig werknemers van diens studio in Toronto, Canada worden ontslagen. Wel benadrukt het bedrijf dat de Splinter Cell-remake nog altijd in ontwikkeling is.

De veertig ontslagen werknemers beslaan ongeveer acht procent van de complete Ubisoft Toronto-studio. Dat is een van de grotere Ubisoft-studio's. "Dit besluit is niet lichtzinnig gemaakt en zegt niets over het talent, de motivatie en bijdrage van de individuen", zo stelde een woordvoerder.

Ubisoft Toronto heeft odner andere Far Cry 6, Splinter Cell: Blacklist en Watch Dogs Legion ontwikkeld. Ook werkt het al geruime tijd aan een remake van Splinter Cell. Ubisoft heeft benadrukt dat die remake in ontwikkeling blijft bij de studio.

Remake van Splinter Cell

In 2021 werd de remake van de klassieke stealthgame Splinter Cell aangekondigd. Sindsdien is er maar mondjesmaat informatie over de game naar buiten gekomen. Kort na de aankondiging werd gemeld dat het verhaal wordt herschreven voor een moderner publiek.

Eind vorig jaar bleek dat David Grivel terugkeerde naar Ubisoft Toronto om aan het spel te werken. Hij nam de regie van de remake oorspronkelijk op zich, maar vertrok in 2022. Inmiddels is hij dus weer terug op het oude nest en werkt hij weer aan het spel.

Reorganisatie van Ubisoft

Afgelopen januari kondigde de Franse uitgever en ontwikkelaar Ubisoft al een grootschalige reorganisatie van het bedrijf aan, waarbij ook zes games werden geannuleerd - waaronder de remake van Prince of Persia: The Sands of Time.

Ubisoft noemde de reorganisatie een "grote organisatorische, operationele en portfolio-reset". Daarbij wil het bedrijf nog meer letten op de kwaliteit die het uitgeeft. Ubisofts nieuwe model gaat zich richten op verschillende 'creatieve huizen' die zich elk met andere soorten games bezighouden. Een daarvan is Vantage Studios, de vorig jaar met Tencent opgerichte dochteronderneming waar Assassin's Creed, Far Cry en Rainbow Six nu onder vallen.

Ubisoft heeft daarnaast aangekondigd dat het thuiswerken niet meer toelaat en dat alle werknemers worden geacht om fulltime op kantoor aanwezig te zijn. Wel krijgen werknemers een "een jaarlijkse toelage bestaande uit thuiswerkdagen". Twee studio's van Ubisoft sloten daarnaast hun deuren: de studio's in Halifax en Stockholm. Gedurende de volgende twee jaren wil het bedrijf nog eens 200 miljoen euro besparen.

Ubisoft heeft de laatste jaren wisselend succes met zijn games. Zo viel de verkoop van het miljoenenproject Star Wars Outlaws tegen. Zover bekend is het begin vorig jaar uitgekomen Assassin's Creed Shadows wel een verkoopsucces.

Na een korte teaser vorig najaar is deze week de eerste volledige trailer van de aankomende animatiefilm Toy Story 5 uitgebracht.

In het vijfde deel van de uiterst succesvolle Pixar-animatiefilmreeks maakt het levende speelgoed kennis met de Lilypad. Dat is een tablet waar alle aandacht naar uit gaat en dus een bedreiging vormt voor het speelgoed.

Met dat concept speelt de film slim in op de hedendaagse tijd. Tablets en smartphones zijn immers niet meer weg te denken uit de hedendaagse maatschappij, ook onder de jeugd. Lilypad luistert zelfs altijd mee, een duidelijke referentie naar de vrees dat onze smartphones ook alles wat we doen vastleggen.

Woody, Buzz en het andere speelgoed dat we nog kennen uit de vorige vier Toy Story-films zal er in ieder geval een stokje voor proberen te steken. Hoe dat afloopt, is vanaf 19 juni in de Amerikaanse bioscopen. Vaak is de Nederlandse premièredatum een dagje eerder op donderdag - in dit geval 18 juni - en waarschijnlijk geldt dat ook voor Toy Story 5.