Framework Convention on Artificial Intelligence
De Raad van Europa heeft op 17 mei 2024 samen met een aantal partnerlanden zoals Japan, de Verenigde Staten en Mexico een internationaal verdrag goedgekeurd: ‘Framework Convention on Artificial Intelligence and human rights, democracy and the rule of law’. Dit is het allereerste juridisch bindende internationale verdrag op dit gebied. Het heeft als doel ervoor te zorgen dat activiteiten van AI-diensten volledig in overeenstemming zijn met mensenrechten, democratie en de rechtsstaat, en tegelijkertijd bevorderlijk zijn voor technologische vooruitgang en innovatie.
Het verdrag vormt een aanvulling op de reeds bestaande internationale normen op het gebied van mensenrechten, democratie en de rechtsstaat en is bedoeld om eventuele juridische leemten op dit gebied op te vullen die zijn ontstaan als gevolg van de snelle technologische vooruitgang..
De ondertekenaars hebben de verplichting ervoor te zorgen dat AI-diensten niet worden gebruikt om democratische instellingen of de toegang tot de rechtspraak te ondermijnen. Gedupeerden van AI-diensten moeten altijd de mogelijkheid hebben om een rechter in te schakelen. Het doel is dat door deze afspraken in zoveel mogelijk landen wereldwijd de verdere ontwikkeling van AI gepaard gaat met respect voor mensenrechten, de rechtsstaat en de democratie.
De AI Act
Op 21 mei 2024 heeft de Europese Raad de AI Act (ook wel: de AI-verordening) goedgekeurd. Dit is een belangrijke mijlpaal, omdat deze wet een wereldwijde norm kan stellen voor de regulering van AI.
De AI Act gaat uit van een gelaagde, risico gebaseerde structuur. Per AI-systeem wordt bekeken wat het risico is en op basis daarvan worden bepaalde eisen gesteld. De AI Act onderscheidt vier verschillende risicoklassen: onaanvaardbaar risico, hoog risico, beperkt risico en laag risico. AI-diensten met een beperkt risico krijgen te maken met lichte transparantieverplichtingen, terwijl AI-diensten met een hoog risico eisen en verplichtingen krijgen voor toegang tot de EU-markt. Het is ook de bedoeling dat er een registratiebank komt voor AI-diensten met een hoog risico. Bij een onaanvaardbaar risico zullen AI-diensten moeten worden geweerd. Hierbij valt te denken aan cognitieve gedragsmanipulatie en sociale scoring. Verder verbiedt de verordening ook het gebruik van AI voor politiewerk op basis van profilering.
Om de handhaving te regelen dient er een aantal nieuwe bestuursorganen te worden opgericht, zoals een AI-bureau om de gemeenschappelijke regels in de hele EU te handhaven en een wetenschappelijk panel van onafhankelijke deskundigen ter ondersteuning van de handhaving.
De verordening zal rond de zomer in 2026 van toepassing worden, waardoor partijen die onder de AI Act vallen nog geruime tijd hebben om zich hierop voor te bereiden.
