Les pratiques interdites IA sont désormais encadrées par l’AI Act européen, en vigueur depuis août 2024.
Le Règlement (UE) 2024/1689 (AI Act), en vigueur depuis août 2024, impose un cadre strict sur les systèmes d’intelligence artificielle en Europe. Parmi les mesures phares, l’article 5 interdit les pratiques d’IA jugées inacceptables en raison des risques majeurs qu’elles posent pour les droits fondamentaux et la sécurité.
Les pratiques interdites IA selon l’article 5 de l’AI Act
💡 Quelles sont les pratiques interdites ?
➡ Manipulation et exploitation de vulnérabilités
Les systèmes utilisant des techniques subliminales, manipulatrices ou trompeuses pour altérer le comportement des individus et leur prise de décision, notamment en exploitant des faiblesses liées à l’âge, au handicap ou à la précarité socio-économique.
➡ Social scoring (notation sociale)
L’évaluation des individus en fonction de leur comportement social ou de caractéristiques personnelles menant à un traitement injustifié ou disproportionné.
➡ Prédiction du risque criminel
Les systèmes évaluant la probabilité qu’une personne commette une infraction, basés uniquement sur le profilage ou des caractéristiques personnelles.
➡ Scraping massif d’images faciales
La création de bases de données de reconnaissance faciale par collecte automatisée d’images issues d’Internet ou de la vidéosurveillance.
➡ Reconnaissance des émotions au travail et à l’école
L’analyse des émotions des employés et des étudiants, sauf pour des raisons médicales ou de sécurité.
➡ Catégorisation biométrique basée sur des critères sensibles
L’utilisation de données biométriques pour déduire la race, les opinions politiques, les croyances religieuses ou l’orientation sexuelle.
➡ Identification biométrique à distance en temps réel
L’utilisation de systèmes d’identification biométrique à distance dans des espaces publics à des fins d’application de la loi, sauf exceptions strictement encadrées.
🔎 Quels sont les risques ?
Les entreprises et organismes qui violent ces interdictions encourent des sanctions allant jusqu’à 35 millions d’euros ou 7 % du chiffre d’affaires mondial. Des autorités de surveillance du marché seront responsables de l’application de ces règles.
💬 Quels impacts pour les acteurs de l’IA ?
Ce cadre impose une vigilance accrue aux développeurs et utilisateurs de systèmes d’IA. Il renforce la responsabilité des fournisseurs et des déployeurs dans le cycle de vie des IA, tout en garantissant une innovation respectueuse des droits fondamentaux.
🌍 L’IA responsable est désormais une obligation légale en Europe !
Entreprises, êtes-vous prêtes à garantir la conformité de vos systèmes d’IA ? 🤖⚖️
Envie d’en savoir plus :
https://lawgitech.eu/category/intelligence-artificielle/
Voici les guidelines :
Définition du système d’intelligence artificielle (IA) selon l’AI Act