Inzet AI aan banden met Europese AI-Act

De AI-Act is een wetgevend kader van de Europese Commissie rond Kunstmatige intelligentie (AI)  met als doel om regels vast te stellen voor het gebruik ervan binnen de Europese Unie. De wet richt zich voornamelijk op AI-systemen die een hoog risico met zich meebrengen, en stelt eisen om ervoor te zorgen dat deze systemen geen schade toebrengen aan de maatschappij of fundamentele rechten.

Meerdere keren per dag helpt kunstmatige intelligentie  ons bij de dingen die we doen.  Of het nu gaat om slimme assistenten zoals Siri en Alexa, gezichtsherkenningstechnologie, of om complexe AI-systemen in de gezondheidszorg. En het is vrijwel zeker dat AI een nog veel grotere rol gaat spelen in ons leven. Met deze groeiende invloed komt de behoefte aan regels om ervoor te zorgen dat AI veilig, transparant en ethisch wordt ingezet. Daarom heeft de Europese Unie de AI-Act (Artificial Intelligence Act) aangenomen. Deze wet, ook wel de AI-verordening genoemd, is op 1 augustus 2024 officieel in werking getreden. In deze blog leggen we op een begrijpelijke manier uit wat deze wet inhoudt en wat dit voor jou kan betekenen.

Belangrijkste punten uit de AI-Act

1. Risicogebaseerde aanpak

De AI-Act classificeert AI-systemen op basis van het risico dat ze vormen voor de samenleving:

– Onaanvaardbaar risico: AI-systemen die een groot gevaar vormen voor fundamentele rechten worden verboden. Denk hierbij aan systemen die mensen beoordelen op basis van hun gedrag, zoals sociale scoring in China. In Europa is een systeem dat burgers punten geeft voor gehoorzaamheid of gedrag, verboden.

– Hoog risico: Dit zijn systemen die een aanzienlijke impact kunnen hebben op veiligheid of fundamentele rechten. Een voorbeeld hiervan is het gebruik van AI in de gezondheidszorg voor het stellen van diagnoses. Stel je voor dat een AI-systeem beslissingen neemt over medische behandelingen of operaties. Dit kan grote gevolgen hebben voor de patiënt. Daarom moeten dergelijke systemen aan strenge eisen voldoen, zoals een uitgebreide risicobeoordeling en transparantie. Ook AI die wordt gebruikt door de politie, bijvoorbeeld voor gezichtsherkenning op drukke plaatsen, valt in deze categorie.

– Beperkt risico: Voor systemen die minder risico’s met zich meebrengen, gelden lichtere regels. Een voorbeeld hiervan is een chatbot op een website die klanten helpt bij eenvoudige vragen. Gebruikers moeten wel geïnformeerd worden dat ze met een AI-systeem praten en niet met een mens.

– Minimaal risico: Dit zijn systemen zoals spamfilters in je e-mail of aanbevelingssystemen voor muziek en films, zoals op Spotify of Netflix. Deze toepassingen worden nauwelijks gereguleerd omdat ze weinig risico vormen.

2. Transparantie en toezicht

Transparantie is een belangrijk onderdeel van de AI-Act. Bedrijven moeten duidelijk maken wanneer en hoe AI wordt gebruikt. Stel je voor dat een bedrijf gezichtsherkenning gebruikt in een winkelcentrum om het gedrag van klanten te analyseren. Volgens de AI-Act moet het bedrijf de klanten hiervan op de hoogte stellen, zodat ze weten dat hun gegevens worden verzameld en geanalyseerd.

Daarnaast komt er een toezichthoudende instantie die controleert of de regels worden nageleefd. De AI-Act gaat uit van een nationale toezichthoudende autoriteit die in samenwerking met nationale bevoegde autoriteiten toeziet op de naleving van de AI-Act. Bijvoorbeeld, als een AI-systeem in de gezondheidszorg onterecht mensen uitsluit van bepaalde behandelingen, kan de toezichthouder ingrijpen.

3. Aansprakelijkheid en sancties

Bedrijven die zich niet aan de regels houden, kunnen te maken krijgen met zware boetes. De AI-Act stelt hoge boetes in voor overtreders: tot 35 miljoen euro per overtreding of 7% van de wereldwijde omzet van het concern. Voor kleinere administratieve overtredingen is dit tot 7,5 miljoen euro of 1,5%. Stel je voor dat een bedrijf een hoogrisico AI-systeem gebruikt zonder de verplichte risicobeoordeling te doen. Dit kan dus leiden tot boetes die oplopen tot miljoenen euro’s. De gedachte hierachter is dat organisaties gestimuleerd worden om AI op een verantwoorde manier te ontwikkelen en in te zetten.

4. Innovatie en ondersteuning

Hoewel de AI-Act strenge regels stelt, is er ook aandacht voor innovatie. De wet erkent dat strikte regels innovatie kunnen remmen, vooral voor start-ups en kleine bedrijven. Daarom zijn er speciale regelingen om hen te ondersteunen. Denk bijvoorbeeld aan een start-up die werkt aan een AI-systeem voor duurzame energie. Zij kunnen gebruikmaken van vereenvoudigde procedures om hun innovatie snel op de markt te brengen, zonder dat ze vastlopen in bureaucratie.

Conclusie

Met de inwerkingtreding van de AI-verordening op 1 augustus 2024 is een belangrijke stap gezet in het reguleren van kunstmatige intelligentie binnen Europa. De wet biedt duidelijke richtlijnen om ervoor te zorgen dat AI veilig, ethisch en transparant wordt ingezet. Voor bedrijven en organisaties die AI gebruiken, is het essentieel om nu al actie te ondernemen en ervoor te zorgen dat hun systemen aan de nieuwe regels voldoen.

Hulp bij verantwoorde inzet van AI?

Heb je vragen over hoe de AI-Act jouw organisatie kan beïnvloeden, of wil je weten welke stappen je moet nemen om aan de eisen te voldoen? Neem dan contact met ons op. We helpen je graag verder met het navigeren door deze nieuwe wetgeving en zorgen ervoor dat je AI op een verantwoorde manier kunt inzetten. Wat zijn de specifieke uitdagingen en kansen die de AI-Act voor jouw organisatie met zich meebrengt? Laten we er samen over praten!

Daniels Huisman Advocaten
mr. Laurens (L.) Bezoen
E-mail: 
Telefoon: (053) 760 0860

Deze blog is met aandacht en zorgvuldigheid geschreven, maar bevat informatie van algemene en informatieve aard. De informatie in de blog kan, afhankelijk van de omstandigheden van uw specifieke geval, niet of verminderd van toepassing zijn. De informatie in de blog dient derhalve niet als juridisch advies te worden beschouwd. Daniels Huisman aanvaardt dan ook geen enkele aansprakelijkheid voor de gevolgen van het gebruik van de informatie uit de blog.