Verboden AI-praktijken worden voortaan geregeld door de Europese AI-verordening, van kracht sinds augustus 2024.
Verordening (EU) 2024/1689 (AI-verordening), van kracht sinds augustus 2024, legt een strikt kader op voor systemen voor kunstmatige intelligentie in Europa. Een van de belangrijkste maatregelen is artikel 5, dat AI-praktijken verbiedt die onaanvaardbaar worden geacht vanwege de grote risico’s die zij vormen voor de grondrechten en de veiligheid.
Verboden AI-praktijken volgens artikel 5 van de AI-verordening
💡 Welke praktijken zijn verboden?
➡ Manipulatie en uitbuiting van kwetsbaarheden
Systemen die subliminale, manipulatieve of misleidende technieken gebruiken om het gedrag en de besluitvorming van personen te beïnvloeden, met name door zwakheden in verband met leeftijd, handicap of sociaaleconomische kwetsbaarheid uit te buiten.
➡ Sociale scoring
De beoordeling van personen op basis van hun sociaal gedrag of persoonlijke kenmerken die leidt tot een ongerechtvaardigde of onevenredige behandeling.
➡ Voorspelling van crimineel risico
Systemen die de waarschijnlijkheid beoordelen dat een persoon een strafbaar feit zal plegen, uitsluitend op basis van profilering of persoonlijke kenmerken.
➡ Massale scraping van gezichtsafbeeldingen
Het aanleggen van databanken voor gezichtsherkenning door geautomatiseerde verzameling van afbeeldingen van internet of videobewaking.
➡ Emotieherkenning op het werk en op school
De analyse van emoties van werknemers en studenten, behalve om medische of veiligheidsredenen.
➡ Biometrische categorisering op basis van gevoelige criteria
Het gebruik van biometrische gegevens om ras, politieke opvattingen, religieuze overtuigingen of seksuele geaardheid af te leiden.
➡ Biometrische identificatie op afstand in realtime
Het gebruik van systemen voor biometrische identificatie op afstand in openbare ruimten voor rechtshandhavingsdoeleinden, behoudens strikt gereguleerde uitzonderingen.
🔎 Wat zijn de risico’s?
Bedrijven en organisaties die deze verboden overtreden, riskeren sancties tot 35 miljoen euro of 7% van de wereldwijde jaaromzet. Markttoezichtautoriteiten zullen verantwoordelijk zijn voor de handhaving van deze regels.
💬 Welke gevolgen voor AI-actoren?
Dit kader vereist verhoogde waakzaamheid van ontwikkelaars en gebruikers van AI-systemen. Het versterkt de verantwoordelijkheid van aanbieders en gebruiksverantwoordelijken gedurende de volledige levenscyclus van AI, terwijl innovatie met eerbiediging van de grondrechten wordt gewaarborgd.
🌍 Verantwoorde AI is voortaan een wettelijke verplichting in Europa!
Bedrijven, bent u klaar om de conformiteit van uw AI-systemen te waarborgen? 🤖⚖️
Meer weten:
https://lawgitech.eu/category/intelligence-artificielle/
Hier zijn de richtsnoeren:
Définition du système d’intelligence artificielle (IA) selon l’AI Act