Artificial Intelligence Act : Que faut-il savoir ?

Classification des systèmes en fonction des risques  

• Interdiction des systèmes d'IA présentant des risques intolérables (article 5). 

• Obligations accrues pour les systèmes d'IA à haut risque. 

•  Obligations moins étendues pour les systèmes d'IA à usage général qui ne présentent pas de risques systémiques et pour les systèmes interagissant avec les êtres humains. 

•  Réalisation d'analyses d'impact sur les droits fondamentaux pour certains systèmes à haut risque. 

Responsabilité des fournisseurs et des déployeurs 

• Les déployeurs sont désormais responsables de l'utilisation des systèmes d'IA : ils doivent mettre en place une surveillance humaine pour s'assurer que le système est utilisé de manière responsable et résoudre les problèmes éventuels. Les données utilisées par le système doivent être pertinentes et à jour.   

•  Les fournisseurs doivent s'assurer que leurs systèmes d'IA sont conformes aux exigences de la loi sur l'IA, telles que la tenue d'une documentation technique détaillée et la fourniture d'informations claires sur les capacités, les limites et les performances du système.  

Harmonisation du marché intérieur 

• Création d'un office européen de l'IA et d'autorités nationales de contrôle pour garantir la sécurité juridique en vérifiant la mise en œuvre effective de la réglementation et en sanctionnant les mauvaises pratiques.   

•  Enregistrement des systèmes d'IA à haut risque dans une base de données européenne. 

•  L'obtention d'un marquage CE sera nécessaire avant la mise sur le marché d'un système d'IA à haut risque.    

Bacs à sable réglementaires 

• Les autorités nationales peuvent mettre en place des « bacs à sable » réglementaires qui offrent un environnement contrôlé pour tester des technologies innovantes pendant une durée limitée. Ces bacs à sable sont basés sur un plan d'essai convenu avec les autorités compétentes afin de garantir la conformité du système d'IA innovant et d'accélérer l'accès au marché. Les PME et les start-ups peuvent y avoir accès en priorité. 

Pratiques interdites en matière d'intelligence artificielle 

Les systèmes d'IA qui contreviennent aux valeurs de l'Union européenne en violant les droits fondamentaux sont interdits : 

• La manipulation inconsciente du comportement ; 

• L'exploitation des vulnérabilités de certains groupes pour fausser leur comportement ; 

• La notation sociale basée sur l'IA à des fins générales par les autorités publiques ; 

• L'utilisation de systèmes d'identification biométrique à distance « en temps réel » dans des espaces accessibles au public pour l'application de la loi (avec des exceptions) ; 

• L'évaluation sociale, l'IA de type « dark pattern ».  

Systèmes à haut risque (définis et répertoriés par la Commission européenne) 

Les entreprises sont soumises à plusieurs obligations liées à la documentation, aux systèmes de gestion des risques, à la gouvernance, à la transparence ou à la sécurité, en fonction de leur statut (fournisseur, utilisateur, distributeur et autres tiers). Ces systèmes doivent également être déclarés à l'UE et porter un marquage CE.  

Systèmes à risques spécifiques 

Il s'agit des systèmes qui (i) interagissent avec les humains, (ii) sont utilisés pour détecter des émotions ou déterminer l'association avec des catégories (sociales) sur la base de données biométriques, ou (iii) génèrent ou manipulent du contenu (« deep fakes »). Pour ces systèmes, il existe une obligation de divulguer si le contenu est généré par des moyens automatisés ou non. 

Systèmes à risque non élevé 

Création et application volontaires d'un code de conduite qui peut inclure des engagements en matière de durabilité environnementale, d'accessibilité pour les personnes handicapées, de participation des parties prenantes à la conception et au développement des systèmes d'IA et de diversité des équipes de développement. 

Les systèmes d'IA à usage général sont des systèmes d'IA qui ont un large éventail d'utilisations possibles, à la fois pour une utilisation directe et pour l'intégration dans d'autres systèmes d'IA. Ils peuvent être appliqués à de nombreuses tâches différentes dans des domaines variés, souvent sans modification ni ajustement substantiels. Contrairement à l'IA étroite, qui est spécialisée dans des tâches spécifiques, l'IA polyvalente peut apprendre, s'adapter et appliquer des connaissances à de nouvelles situations, faisant preuve de polyvalence, d'autonomie et de capacité à généraliser à partir d'expériences passées.  

Impact de la loi sur l'IA sur les systèmes d'intelligence artificielle à usage général :   

• Des codes de conduite seront établis au niveau de l'Union européenne pour guider les fournisseurs dans l'application des règles relatives aux modèles d'intelligence artificielle à usage général (GPAI).    

• Risque systémique : Un modèle GPAI représente un risque systémique s'il s'avère qu'il possède des capacités à fort impact sur la base d'outils techniques et de méthodologies appropriés, y compris des indicateurs et des critères de référence.    

• Obligations spécifiques concernant les risques systémiques : 

  • Notifier la Commission européenne en cas de risque systémique et atténuer ces risques dans la mesure du possible. 

  • Effectuer l'évaluation des modèles conformément aux protocoles et outils normalisés. 

  • Signaler les incidents graves aux autorités nationales et à l'Office AI.

  • Protection de la cybersécurité. 

• Obligations des prestataires :  

  • Élaborer et tenir à jour la documentation technique du modèle et la partager avec d'autres fournisseurs s'ils souhaitent intégrer le modèle GPAI dans d'autres systèmes.  

  • Établir une politique pour se conformer à la législation de l'UE en matière de droits d'auteur.  

  • Publier un résumé détaillé du contenu utilisé pour la formation au modèle GPAI (sur la base du modèle fourni par l'Office AI).

Nous nous appuyons sur des équipes d'experts très complémentaires pour vous proposer une conformité robuste, fiable et efficace, en adéquation avec vos objectifs stratégiques, votre utilisation de l'IA, vos processus internes et votre gouvernance. Nos consultants s'engagent à vous aider à gérer vos risques et à créer des synergies dans le cadre de vos projets d'IA.  

• Spécialistes de la conformité  

• Scientifiques des données   

• Experts en cybersécurité   

Nous avons construit au fil des années des facilitateurs clés qui permettront d'accélérer le projet : cadre modulaire de gouvernance de l'IA, benchmark des meilleures pratiques du marché, modèles de cartographie des systèmes, automatisations d'évaluation du code, modules de formation matures, solutions personnalisées fonctionnelles au PoC, politiques, chartes et procédures standard, etc. 

Grâce à notre vaste expérience dans l'accompagnement de nos clients en matière de gouvernance de l'IA et d'évaluation des risques liés à l'IA, notre équipe sera en mesure de s'approprier rapidement vos besoins spécifiques et de gagner du temps en interagissant efficacement avec vos data scientists.