Le Parlement européen a approuvé mercredi, par 523 voix contre 46 et 49 abstentions, la loi sur l'intelligence artificielle, faisant ainsi franchir une étape décisive dans l'adoption de ce que les législateurs qualifient de premier cadre juridique global au monde encadrant l'intelligence artificielle par une approche fondée sur les risques. Cette législation imposerait des obligations différentes selon l'utilisation des systèmes d'IA, interdirait certaines applications jugées inacceptables et créerait de nouvelles obligations de transparence et de sécurité pour les modèles généralistes performants.

Dans son annonce du 13 mars, le Parlement a déclaré que la loi vise à protéger les droits fondamentaux, la démocratie, l'État de droit et la durabilité environnementale, tout en favorisant l'innovation. Ce vote fait suite à des années de négociations entamées avant l'essor public de l'intelligence artificielle générative et profondément remaniées après que des systèmes tels que ChatGPT ont démontré la rapidité avec laquelle les modèles à usage général pouvaient se diffuser dans différents secteurs.

Une hiérarchie des risques remplace la réglementation uniforme en matière d'IA

La structure centrale de la loi sur l'IA repose sur une hiérarchie des risques. Les systèmes considérés comme présentant des risques inacceptables seraient interdits, tandis que ceux classés à haut risque seraient soumis à des exigences strictes avant leur déploiement et pendant leur exploitation. Les catégories à haut risque comprennent les utilisations dans les infrastructures critiques, l'éducation, l'emploi, les services essentiels, les forces de l'ordre et d'autres domaines où les décisions automatisées peuvent avoir une incidence significative sur les droits ou les perspectives des personnes.

Reuters a indiqué que les développeurs à haut risque devront prendre en compte la gestion des risques, la qualité des données, la documentation technique, la tenue des registres, le contrôle humain et l'exactitude des informations. La législation limite également l'identification biométrique à distance en temps réel par les forces de l'ordre, sauf exceptions liées à des crimes graves et des menaces strictement définis.

Certaines utilisations de l'IA seraient purement et simplement interdites. Le résumé du Parlement inclut la notation sociale, certaines formes d'IA manipulatrice, l'exploitation des vulnérabilités, le prélèvement non ciblé d'images faciales pour constituer des bases de données de reconnaissance, la reconnaissance des émotions sur les lieux de travail et dans les écoles, ainsi que certaines formes de police prédictive fondées uniquement sur le profilage ou les caractéristiques personnelles.

L'IA générative a contraint les législateurs à réécrire le cadre

La proposition initiale de la Commission européenne a été introduite en 2021, avant que les grands modèles de langage ne deviennent des produits grand public. L'essor de ChatGPT, GPT-4, Gemini et de systèmes similaires a créé un problème de réglementation, car un modèle à usage général peut être intégré à des milliers d'applications en aval au lieu de se limiter à un seul cas d'utilisation précis.

Le compromis politique final crée un cadre distinct pour l'IA à usage général. L' Associated Press a rapporté que les fournisseurs de modèles performants seront soumis à des obligations de transparence, notamment la documentation relative à leur entraînement et au respect des règles européennes en matière de droit d'auteur, tandis que les modèles jugés susceptibles de créer un risque systémique feront l'objet d'évaluations supplémentaires et d'exigences accrues en matière d'atténuation des risques.

Cette structure vise à répartir les responsabilités entre le développeur du modèle et l'entreprise qui déploie l'IA dans un contexte spécifique à haut risque. Un modèle à usage général peut présenter un faible risque dans une application donnée et devenir un élément d'un système à haut risque lorsqu'il est utilisé pour le recrutement, les décisions médicales ou les infrastructures critiques. Les autorités réglementaires ont donc besoin que l'information circule tout au long de la chaîne d'approvisionnement et ne s'arrête pas au fournisseur initial du modèle.

La biométrie et les droits fondamentaux restent parmi les dispositions les plus contestées

La loi encadre strictement l'identification et la catégorisation biométriques, mais n'interdit pas formellement l'utilisation de systèmes biométriques à distance par la police. Certaines utilisations restent possibles sous certaines conditions, un compromis qui a suscité des critiques de la part des organisations de défense des libertés civiles, tandis que les gouvernements ont fait valoir que les enquêtes criminelles graves exigent des exceptions limitées.

Euronews a rapporté que les deux principaux négociateurs du Parlement ont qualifié le vote d'étape historique vers une IA « sûre et centrée sur l'humain ». La législation confère également aux citoyens le droit de porter plainte et, dans certains cas, d'obtenir des explications sur les décisions prises par des systèmes à haut risque.

Ce règlement vise à s'appliquer non seulement aux entreprises dont le siège social est en Europe, mais aussi aux fournisseurs situés hors de l'UE, dès lors que leurs systèmes sont mis sur le marché européen ou que leurs résultats sont utilisés au sein de l'Union. Cet effet extraterritorial explique en partie pourquoi les entreprises technologiques américaines suivent de près sa mise en œuvre.

L'industrie soutient un cadre commun, mais met en garde contre sa mise en œuvre

Les entreprises technologiques et les groupements d'entreprises reconnaissent largement la nécessité d'une gouvernance de l'IA, tout en soulignant que la complexité de la mise en conformité ne doit pas freiner le déploiement européen par rapport aux États-Unis et à la Chine. Suite au vote de mercredi, la BSA | The Software Alliance a qualifié la loi d'étape importante et a insisté sur la nécessité de poursuivre la collaboration entre les décideurs politiques et l'industrie lors de l'élaboration de réglementations et de lignes directrices complémentaires.

D'autres acteurs du secteur se montrent plus prudents. Ars Technica a rapporté les inquiétudes de la Computer & Communications Industry Association, selon lesquelles certaines obligations pourraient freiner l'innovation ou soumettre des systèmes à faible risque à des exigences excessives. L'impact concret dépendra en grande partie des normes, des définitions et des décisions d'application qui restent à définir.

La législation prévoit des sanctions financières importantes. Les infractions graves peuvent entraîner des amendes se chiffrant en dizaines de millions d'euros ou en pourcentage du chiffre d'affaires annuel mondial, avec des plafonds variables selon la nature de l'infraction. Ce barème vise à garantir que les coûts de mise en conformité ne soient pas considérés comme négligeables par les plus grands développeurs d'IA.

Les créateurs et les éditeurs se sont battus pour l'inclusion de dispositions encadrant les relations entre l'IA généraliste et les ressources pédagogiques protégées par le droit d'auteur. Une coalition d'organisations créatives européennes a déclaré le 13 mars que la loi obligera les fournisseurs de modèles généralistes à mettre en place des politiques de respect du droit d'auteur et à fournir des résumés suffisamment détaillés des contenus utilisés pour l'entraînement de leurs systèmes.

Ces dispositions ne règlent pas tous les litiges en matière de droits d'auteur. Les tribunaux et les organismes de réglementation devront toujours déterminer comment le droit d'auteur existant s'applique à l'entraînement, à la concession de licences et aux résultats des modèles. Cependant, la loi sur l'IA instaure des obligations de documentation et de transparence qui pourraient faciliter la compréhension, par les titulaires de droits, du développement des modèles et leur permettre d'engager des poursuites lorsqu'ils estiment qu'une œuvre protégée a été utilisée illégalement.

Le travail décisif passe de la négociation à la mise en œuvre

Le vote du Parlement mercredi ne constitue pas la dernière étape de la procédure. Le Conseil de l'Union européenne doit encore adopter formellement le texte convenu avant sa publication et son entrée en vigueur. Une fois cette étape franchie, les obligations s'appliqueront progressivement, et non simultanément. Les pratiques interdites devraient s'appliquer en premier, suivies des règles relatives aux modèles à usage général, puis du cadre complet applicable aux modèles à haut risque.

Le calendrier de mise en œuvre instaure une nouvelle course entre les régulateurs et les technologies. Les organismes de normalisation, les autorités nationales et le nouveau bureau de l'IA de la Commission européenne doivent définir comment les entreprises démontrent leur conformité, tandis que les capacités des modèles continuent d'évoluer rapidement. Ce défi est particulièrement aigu pour l'IA généraliste, où les mesures du risque systémique, de la puissance de calcul, de l'évaluation et des applications en aval restent techniquement sujettes à controverse.

Dès samedi, la tendance politique est claire. Avec 523 voix contre 46, la loi sur l'IA bénéficie d'un soutien parlementaire massif, et l'Europe s'apprête à passer de principes volontaires en matière d'IA à des obligations juridiques contraignantes. La question est maintenant de savoir si un cadre fondé sur les risques peut protéger les utilisateurs et limiter les applications dangereuses sans figer les choix techniques dans un domaine dont les capacités évoluent plus vite que le processus législatif qui a abouti à cette loi.