Bits of Freedom is niet blij met de AI-verordening die door het Europees Parlement nu definitief is aangenomen. Afgelopen maandag werd hier voor de laatste keer over gestemd. Het beschermen van mensenrechten was een van de hoofddoelen van de wet. De mens moest centraal worden gesteld bij de inzet van AI en er moest een ‘ecosysteem van vertrouwen’ worden gecreëerd. De Europese Commissie sprak dit in 2021 al uit. Volgens Bits of Freedom zijn die doelen anno 2024 niet behaald.
Aangezien de bescherming van mensenrechten bij de ontwikkeling en het gebruik van AI alles behalve vanzelfsprekend is, heeft Bits of Freedom zich met vele andere organisaties ingezet om de rechten van mensen te prioriteren.
Een van de regels uit de wet is bijvoorbeeld dat AI-toepassingen die een te groot risico vormen voor de rechten van mensen worden verboden. Denk daarbij aan het voorspellen wie de criminaliteit ingaat (zogenoemde *predictive policing*), real-time biometrische identificatie in de publieke ruimte en social scoring (waarmee mensen met hun gedrag plus of minpunten krijgen). In eerste instantie klinkt dit misschien goed, maar BOF ziet hier dat de verboden behoorlijk nauw zijn geformuleerd. Dit terwijl de uitzonderingen weer heel breed zijn.
Verder zijn transparantieverplichtingen in de wet opgenomen. De verplichtingen houden in dat er een Europese database komt waarin aanbieders moeten aangeven wat het doel van het gebruik van een AI-toepassing is, zodat mensen op een toegankelijke manier op de hoogte kunnen worden gesteld. Ook moeten aanbieders hier de uitkomsten van zowel een Fundamentele Rechten Impact Assessment (FRIA) als een Privacy Impact Assessment (PIA) delen. In eerste instantie klinkt dit weer positief, maar private bedrijven worden níet verplicht AI-systemen die ze gebruiken te registreren.
Bovendien zijn in de wet beperkte rechtsmiddelen opgenomen wat betreft de rechten van burgers én is er een hele brede uitzondering opgenomen voor ‘nationale veiligheid. Als een AI-toepassing in dit kader wordt ingezet, dan geldt de AI-verordening niet. Maar wat precies onder nationale veiligheid valt, wordt uit de wet niet duidelijk. Daarmee wordt er dus een enorme maas in de wet gecreëerd waarmee een soort ‘digitale vrije zone’ ontstaat.
De wet zal in verschillende fases geïmplementeerd worden, met termijnen variërend tussen zes maanden en een twee jaar. Benaissa: “Wij zullen ons ook tijdens de implementatiefase blijven inzetten voor maximale bescherming van mensenrechten bij de ontwikkeling en het gebruik van AI.”
emerce
26-04-2024 11:00