Le Parlement européen a adopté, par 499 voix contre 28 et 93 abstentions, sa position de négociation sur la loi relative à l'intelligence artificielle, rapprochant ainsi l'Union européenne du premier cadre législatif global au monde encadrant l'intelligence artificielle et imposant de nouvelles obligations à la nouvelle génération de systèmes, en pleine expansion, qui sous-tendent ChatGPT et les outils similaires. Ce vote du 14 juin fixe la position du Parlement dans le cadre des négociations avec le Conseil de l'Union européenne, qui a adopté sa propre approche en décembre.
L'annonce du Parlement indique que les législateurs souhaitent que les systèmes d'IA opérant en Europe soient sûrs, transparents, traçables, non discriminatoires et respectueux de l'environnement. Les amendements adoptés conservent l'architecture fondée sur les risques de la Commission, mais étendent les interdictions et créent des exigences de transparence spécifiques pour les systèmes à usage général et les systèmes génératifs. Il ne s'agit pas d'une loi définitive ; le texte final est ouvert aux négociations interinstitutionnelles.
Une loi fondée sur les risques s'étend pour prendre en compte l'IA générative
La Commission européenne a initialement proposé le règlement sur l'IA en avril 2021, avant que la vague actuelle de systèmes d'IA génératifs publics ne fasse des grands modèles de langage une technologie courante. La proposition s'articulait autour de catégories de risques. Certaines utilisations seraient interdites, les systèmes à haut risque seraient soumis à des exigences obligatoires et les applications à faible risque seraient soumises à des obligations de transparence allégées.
Le Parlement a conservé cette structure de base tout en l'adaptant à un marché qui a évolué rapidement au cours du processus législatif. Conformément à la position adoptée, les fournisseurs de modèles de base devront évaluer et atténuer les risques prévisibles, respecter les exigences de conception et de documentation et enregistrer les modèles admissibles dans une base de données européenne. Les systèmes génératifs devront indiquer que le contenu a été généré par une IA, concevoir le modèle de manière à empêcher la diffusion de contenu illicite et publier des résumés des œuvres protégées par le droit d'auteur utilisées pour l'entraînement.
Ces dispositions reflètent la difficulté de réglementer des technologies utilisables dans de nombreuses applications en aval. Un modèle entraîné pour la génération de texte général peut ensuite être intégré au service client, à l'éducation, au développement logiciel, à la gestion des soins de santé ou à d'autres contextes présentant des profils de risque très différents. L'approche du Parlement impose donc certaines obligations au niveau du modèle, tout en maintenant des règles plus strictes lorsqu'un système est déployé dans un contexte d'utilisation à haut risque.
surveillance biométrique et pratiques interdites
Le Parlement a également élargi la liste des pratiques qu'il souhaite interdire. Le texte restreindrait l'identification biométrique à distance dans les espaces publics et interdirait certaines formes de catégorisation biométrique utilisant des caractéristiques sensibles. Il interdirait également la collecte indiscriminée de données biométriques sur Internet ou à partir d'images de vidéosurveillance pour créer des bases de données de reconnaissance faciale, une technique qui suscite l'inquiétude des organisations de défense de la vie privée et des libertés civiles.
Les législateurs ont également ciblé les systèmes destinés à déduire les émotions dans les forces de l'ordre, la gestion des frontières, les lieux de travail et les établissements scolaires, ainsi que les applications exploitant des failles de sécurité ou utilisant certaines techniques d'évaluation sociale. Ces dispositions vont au-delà des interdictions plus limitées de la proposition initiale de la Commission et figureront probablement parmi les points les plus âprement négociés avec les États membres.
L’ approche générale du Conseil de décembre 2022 a également approuvé un régime fondé sur les risques, mais a modifié les définitions et le traitement de l’IA à usage général. Le Conseil a indiqué que son objectif était de garantir la sécurité des systèmes mis sur le marché de l’UE et le respect des droits fondamentaux, tout en encourageant l’investissement et l’innovation. Les divergences entre les deux institutions définissent désormais l’espace de négociation.
Les systèmes à haut risque font l'objet d'une documentation et d'une surveillance
Le cœur de la législation demeure sa catégorie à haut risque. Les systèmes utilisés dans des domaines tels que les infrastructures critiques, l'éducation, l'emploi, les services essentiels, l'application de la loi, les migrations et l'administration de la justice peuvent être soumis à des exigences en matière de gestion des risques, de qualité des données, de documentation technique, de tenue des registres, de contrôle humain, d'exactitude et de cybersécurité. Le Parlement souhaite également que les utilisateurs puissent déposer des plaintes et obtenir des explications dans certains cas où les systèmes à haut risque les affectent de manière significative.
Ce cadre est important car bon nombre des exigences s'appliquent avant ou au moment de l'entrée des systèmes sur le marché européen, et non seulement après la survenance d'un préjudice. Il crée des obligations de conformité pour les développeurs et les déployeurs et fournit aux autorités de réglementation une base pour examiner la documentation des modèles, la gouvernance des données et la surveillance. Pour les entreprises technologiques, les questions pratiques portent notamment sur la classification des systèmes, les responsabilités de chacun au sein de la chaîne d'approvisionnement et l'application des règles lorsque des modèles génériques sont adaptés par des tiers.
Un article récent du Washington Post soulignait que ce vote intervenait alors que les gouvernements du monde entier intensifiaient leurs efforts pour comprendre et encadrer les systèmes d'IA en constante évolution. Le processus de l'UE est exceptionnellement avancé car il a débuté plusieurs années avant l'essor actuel de l'IA générative. Cette avance a permis aux législateurs de passer de principes généraux à des obligations contraignantes, tandis que d'autres juridictions privilégient encore les engagements volontaires, les pouvoirs des agences et les législations exploratoires.
Les négociations détermineront le solde final
L'étape suivante est le trilogue entre le Parlement, le Conseil et la Commission européenne. Chaque institution intervient avec un texte et des orientations politiques différents. Le règlement final doit concilier les restrictions plus strictes du Parlement avec la position des États membres et régler les questions techniques relatives aux modèles d'établissement, aux désignations de haut risque, aux exceptions pour les forces de l'ordre et à leur application.
Le compte rendu de la réunion du Conseil de décembre montre que les États membres s'étaient déjà entendus sur un mandat de négociation avant même que le Parlement n'ait achevé ses travaux. Le processus législatif compte donc désormais deux positions formelles prêtes à entamer les négociations finales. Un accord politique pourrait encore nécessiter plusieurs mois, suivis de la rédaction du texte de loi et d'une période de transition avant que la plupart des obligations ne s'appliquent.
Cette législation a également des répercussions au-delà de l'Europe. Les entreprises qui développent ou vendent des systèmes d'IA sur le marché de l'UE pourraient devoir mettre en place des procédures de conformité susceptibles d'influencer les produits proposés ailleurs. L'Europe a déjà utilisé le droit de l'accès au marché et le droit de la protection des données pour encadrer les pratiques des entreprises à l'échelle mondiale ; les partisans de la loi sur l'IA espèrent qu'un effet similaire permettra d'établir des normes minimales en matière de documentation, de transparence et de gestion des risques.
Parallèlement, l'efficacité de la loi dépendra de définitions qui demeurent techniquement complexes. L'intelligence artificielle englobe un large éventail de systèmes statistiques et logiciels, tandis que les modèles de base peuvent évoluer rapidement et être réutilisés après leur publication. Des règles trop restrictives risquent de devenir obsolètes ; des règles trop générales pourraient contraindre des logiciels ordinaires à se conformer à des structures coûteuses. Le texte du Parlement tente de gérer cette tension grâce à une hiérarchie des risques et à des obligations spécifiques pour les modèles généralistes performants.
L'article du magazine TIME qualifiait le vote du Parlement d'étape majeure vers une réglementation complète de l'IA, notamment parce que les systèmes génératifs avaient contraint les législateurs à revoir une proposition élaborée avant la publication de ChatGPT. La question centrale n'est plus de savoir si l'Europe réglementera l'IA, mais plutôt de définir les contours précis du régime définitif.
Le vote, par 499 voix contre 28, confère au Parlement un mandat de négociation solide. S'il ne règle pas tous les différends techniques ou politiques, il propose néanmoins un modèle réglementaire concret : interdire un nombre limité d'utilisations inacceptables, imposer des contrôles sur les systèmes à haut risque, exiger la transparence des modèles génératifs et créer un dispositif de contrôle capable d'atteindre les entreprises tout au long de la chaîne d'approvisionnement de l'IA. Les négociations à venir détermineront quelle part de ce dispositif sera intégrée à la législation.