Het gebruik van AI kan voor verbeteringen op allerlei vlakken (gaan) zorgen: van betere gezondheidszorg, veiliger en schoner vervoer, efficiëntere productie en goedkopere en duurzamere energie. Maar er zitten ook risico’s aan. De Europese Unie wil nu door middel van wetgeving grip krijgen op AI, waardoor gebruikers en consumenten beter beschermd worden.

In april 2021 stelde de Europese Commissie het eerste EU-regelgevingskader voor AI voor. Dit kader stelt dat AI-systemen die in verschillende toepassingen kunnen worden gebruikt, worden geanalyseerd en geclassificeerd op basis van het risico dat ze vormen voor gebruikers. Afhankelijk van het risiconiveau zal er meer of minder regulering zijn. Eenmaal goedgekeurd, zullen dit de eerste wereldwijde regels voor AI zijn.

Het Europees Parlement wil ervoor zorgen dat AI-systemen die in de EU worden gebruikt veilig, transparant, traceerbaar, niet-discriminerend en milieuvriendelijk zijn. AI-systemen moeten worden gecontroleerd door mensen, niet door automatisering, om schadelijke resultaten te voorkomen. Het Parlement wil ook een technologie-neutrale, uniforme definitie voor AI vaststellen die kan worden toegepast op toekomstige AI-systemen.

De nieuwe regels stellen verplichtingen in voor aanbieders en gebruikers, afhankelijk van het risiconiveau van kunstmatige intelligentie. Daarvoor moeten de systemen beoordeeld worden.

❗ Beperkt risico: transparantie-eisen

AI-systemen met een beperkt risico moeten voldoen aan minimale transparantie-eisen die gebruikers in staat stellen geïnformeerde beslissingen te nemen. Het moet voor gebruikers duidelijk zijn wanneer ze interactie hebben met AI, zodat ze zelf kunnen beslissen of ze de betreffende applicatie willen blijven gebruiken, Dit omvat AI-systemen die beeld-, audio- of video-inhoud genereren of manipuleren, bijvoorbeeld deepfakes.

❗❗ Hoog risico: vooraf beoordeeld en doorlopend gemonitord

AI-systemen die een negatieve impact hebben op de veiligheid of fundamentele rechten, worden als hoog risico beschouwd. Deze systemen zullen worden onderverdeeld in twee categorieën:

1) AI-systemen die worden gebruikt in producten die vallen onder de productveiligheidswetgeving van de EU. Dit omvat speelgoed, luchtvaart, auto's, medische apparaten en liften.

2) AI-systemen die vallen onder acht specifieke gebieden die geregistreerd moeten worden in een EU-database:

• Biometrische identificatie en categorisatie van natuurlijke personen
• Beheer en bediening van kritieke infrastructuur
• Onderwijs en beroepsopleiding
• Werkgelegenheid, werknemersbeheer en toegang tot zelfstandig ondernemerschap
• Toegang tot en gebruik van essentiële particuliere diensten en openbare diensten en voordelen
• Rechtshandhaving
• Migratie, asiel en grenscontrolebeheer
• Assistentie bij juridische interpretatie en toepassing van de wet.

Alle hoogrisico AI-systemen zullen worden beoordeeld voordat ze op de markt worden gebracht en ook gedurende hun levenscyclus.

❗❗❗ Onaanvaardbaar risico: verboden

AI-systemen die een onaanvaardbaar risico vormen, worden beschouwd als een bedreiging voor mensen en zullen worden verboden. Dit omvat bijvoorbeeld speelgoed dat geactiveerd wordt door spraak en gevaarlijk gedrag bij kinderen aanmoedigt, sociale scoring en real-time en op afstand biometrische identificatiesystemen, zoals gezichtsherkenning.

En nu?

Op woensdag 14 juni heeft het Europees Parlement zijn onderhandelingspositie over de AI Act aangenomen met 499 stemmen voor, 28 tegen en 93 onthoudingen. De onderhandelingspositie verwijst naar de standpunten en prioriteiten die het Parlement heeft vastgesteld met betrekking tot een bepaalde kwestie of wetgeving en wordt gebruikt als basis voor onderhandelingen en gesprekken. Die gesprekken, over de definitieve vorm van de wet, gaan gevoerd worden met EU-lidstaten en starten ook op 14 juni.

Hazelight Studios, de ontwikkelaar van de succesvolle coöperatieve games It Takes Two en Split Fiction, heeft een nieuwe game in ontwikkeling en is op dit moment bezig met de opnames ervoor.

Enige tijd geleden gaf regisseur Josef Fares al aan dat er een nieuwe game in ontwikkeling was bij de studio, maar nu heeft hij op social media een foto geplaatst waarop Fares te zien is met drie acteurs in motion capturing-pakken. Daarmee wordt dus duidelijk gemaakt dat de opnames voor de game in ieder geval al in volle gang zijn.

Overigens is de identiteit van de acteurs niet bekend. Fares houdt zijn arm voor de gezichten van de acteurs. Mogelijk zijn het dus bekende acteurs en wil hij dat nog verhullen, al is dat speculatie. Over speculatie gesproken: het feit dat er drie acteurs te zien zijn, doet sommige fans vermoeden dat de nieuwe game van Hazelight mogelijk met drie spelers tegelijk te spelen valt in plaats van twee, maar ook dat is nog alles behalve bevestigd.

Over de games van Hazelight Studios

Hazelight Studios is gespecialiseerd in het creëren van games die coöperatief doorlopen moeten worden. No Way Out, It Takes Two en Split Fiction vergen allen twee spelers. Daarbij draait het om samenwerken, wat hun games een populaire bezigheid maakt voor gamende koppels en vrienden.

It Takes Two bleek een grote hit voor de studio. In het spel spreekt een dochter van een ruziënd stel een vloek over het tweetal uit, waardoor ze minuscuul worden. Ze zullen moeten leren communiceren en samenwerken om zich uit deze hachelijke situatie te redden, terwijl ze als kleine poppen door een uitvergrote versie van hun huis en tuin reizen.

Na het succes van It Takes Two bracht Hazelight het conceptueel vergelijkbare Split Fiction uit. Die game draait om twee schrijvers, Mio en Zoe, die worden ingehuurd om verhalen te creëren voor een technologie die deze verhalen levensecht kan simuleren. De vrouwen worden door het bedrijf achter de technologie echter gevangen in een simulatie, en in de game wordt er constant tussen de twee verhalen van Mio en Zoe geschakeld. Dat levert zowel fantasievolle als futuristische settings op.

Zowel It Takes Two als Split Fiction komen met een Friend Pass. Dat houdt in dat maar één speler de game hoeft te kopen, en de tweede speler gratis online mee kan spelen. De games zijn ook via splitscreen samen op de bank speelbaar.

Apple heeft de volledige rechten op de Apple TV-serie Severance overgenomen, en gaat de serie voortaan binnenshuis produceren.

De eerste twee seizoenen van Severance staan al op Apple TV, maar de serie werd geproduceerd door Fifth Season. Apple Studios was alleen de distributeur. Daar is nu verandering gekomen: Apple heeft iets minder dan 70 miljoen dollar betaald voor de volledige rechten op de serie.

Dat betekent dat het bedrijf de productie van de serie voortaan ook zelf gaat doen, al zal Fifth Season wel als executive producer aangesteld blijven. Ook showrunner Dan Erickson en uitvoerden producent Ben Stiller (die we natuurlijk ook kunnen van vele comedyfilms) blijven hun rollen bekleden, dus aan de kwaliteit van de serie verandert als het goed is niets.

Financiële stabiliteit

Volgens Deadline zou de overname mogelijk gedaan zijn om de productie van de show financieel stabiel te houden. In het tweede seizoen waren de productiekosten naar het schijnt zo'n 20 miljoen dollar per aflevering, en Apple kan door zijn formaat dit beter dragen.

Het plan is dat Severance in totaal vier seizoenen krijgt - al worden een vijfde seizoen en een spin-off ook niet uitgesloten. De opnames van het langverwachte derde seizoen moet aankomende zomer starten. De makers van de serie willen eerst de scripts zover mogelijk afkrijgen, zodat ze bij schrijfwerk van de laatste afleveringen van het seizoen nog relatief goedkoop terug kunnen gaan naar scripts van eerdere afleveringen om wijzigingen aan te brengen waar nodig.

Over Severance

De Apple TV-serie Severance draait om Mark S., die een opmerkelijke kantoorbaan bij het bedrijf Lumon Industries heeft: zodra hij op kantoor komt, weet hij niets van zijn leven buiten kantoor. Wanneer hij klaar is en weer naar huis gaat, weet hij niets van zijn werk. Dat komt door een speciale procedure waardoor de herinneringen van de werkplek in het privéleven gescheiden worden.

Dit concept is de voedingsbodem voor een ingewikkelde en verrassende serie waarin Mark samen met zijn collega's langzaam maar zeker probeert te achterhalen hoe de vork precies in de steel steekt bij Lumon. Zoals gezegd zijn er inmiddels twee seizoenen uitgekomen, die beiden op streamingdienst Apple TV te zien zijn.