Le nouvel accord de la Maison-Blanche sur la sécurité de l'intelligence artificielle exige de six grandes entreprises technologiques qu'elles mettent en place des contrôles internes, des audits externes et une supervision de leur conseil d'administration pour leurs systèmes les plus avancés. Cependant, il ne prévoit aucune sanction, aucun organisme de réglementation ni aucun calendrier de publication des résultats en cas de manquement. Cette distinction distingue un cadre de sécurité partagé d'une norme fédérale contraignante et rend l'efficacité concrète de l'accord tributaire du comportement volontaire des entreprises.

Ce fossé est au cœur de la question politique soulevée par l'accord d'une page signé par le président Donald Trump et les dirigeants de Google, Anthropic, Meta, OpenAI, xAI et Nvidia. Une analyse de Reuters publiée samedi n'a relevé aucune conséquence prévue en cas de non-respect, alors même que l'administration présente cet accord comme sa réponse aux inquiétudes croissantes du public concernant l'intelligence artificielle avancée. Trump a qualifié cet engagement de « moralement contraignant ».

L'accord est plus précis qu'une simple promesse de responsabilité. Son cadre en quatre volets prévoit des mécanismes de contrôle des capacités et de la cohérence du modèle pendant la formation et le déploiement ; une équipe interne chargée de vérifier ces mécanismes ; un auditeur ou un évaluateur externe indépendant ; et un comité indépendant du conseil d'administration qui reçoit les rapports et veille à la correction des problèmes.

Le texte ne précise toutefois pas quels modèles sont concernés, ne fixe pas d'échéances, n'exige pas la publication des conclusions d'audit ni n'identifie l'organisme chargé de déterminer l'indépendance réelle d'un évaluateur externe. Il indique que les entreprises se réuniront régulièrement pour définir des normes et des bonnes pratiques et reconnaît que ces mesures pourraient être ultérieurement inscrites dans la loi ou la réglementation. Pour l'instant, la participation et le respect des exigences restent volontaires.

Une structure de sécurité sans arbitre

Le principal atout de cet accord réside dans sa structure à plusieurs niveaux. Des contrôles techniques internes permettent d'identifier les comportements à risque durant le développement ; une équipe interne distincte peut vérifier l'efficacité de ces contrôles ; un évaluateur externe peut remettre en question les hypothèses de l'entreprise ; et la direction peut exiger des mesures correctives. En principe, cela permet de répartir les responsabilités au lieu de laisser la sécurité reposer entièrement sur les mêmes ingénieurs, pressés de commercialiser un produit.

Le point faible réside dans le fait que chaque étape dépend encore de la coopération de l'entreprise. L'évaluateur externe est sélectionné par le biais d'un partenariat entre entreprises, les rapports sont transmis à un comité du conseil d'administration et l'accord ne prévoit pas la création d'un organisme fédéral habilité à examiner les preuves ou à imposer des mesures correctives. Un reportage de l'Associated Press, réalisé lors de l'événement à la Maison-Blanche, a révélé que même certains participants considéraient le mécanisme comme inachevé. Le PDG d'Anthropic, Dario Amodei, a déclaré que la technologie présentait des risques réels, mais que la méthode pour les gérer restait à l'étude.

L'administration soutient que les autorités existantes peuvent lutter contre les manquements et que la réglementation pourrait freiner l'innovation américaine par rapport à la Chine. Des conseillers ont évoqué le droit boursier et d'autres outils juridiques comme conséquences potentielles du refus des entreprises de s'attaquer aux problèmes. Toutefois, ces lois s'appliquent généralement par le biais d'obligations légales établies et d'une application a posteriori ; l'accord lui-même ne les élargit pas et n'instaure pas de licences préventives.

Cet accord s'inscrit dans une stratégie volontaire plus large

Cette approche est conforme à la politique antérieure de l'administration. Un décret présidentiel de juin enjoignait les agences à créer un cadre volontaire permettant aux développeurs d'accorder au gouvernement fédéral un accès anticipé aux modèles innovants concernés. Le décret précisait expressément qu'il ne devait pas être interprété comme imposant l'obtention de licences, d'autorisations préalables ou de permis obligatoires pour les nouveaux modèles.

Le cadre législatif national de la Maison-Blanche préconise également une politique fédérale uniforme, des mesures contre les escroqueries et les risques pour la sécurité nationale liés à l'IA, ainsi qu'une réduction des obstacles à l'innovation. Il met en garde contre le risque que des législations étatiques contradictoires nuisent à la compétitivité des États-Unis. Il en résulte une préférence constante pour la coordination nationale et les contrôles privés plutôt que pour un examen fédéral prescriptif.

Cette philosophie est aujourd'hui mise à l'épreuve. Un récent sondage Reuters/Ipsos révèle que 73 % des Américains craignent que les entreprises spécialisées en IA n'aient pas fait assez pour prévenir de graves préjudices à la société, tandis que 55 % estiment qu'un ralentissement de son développement serait bénéfique. Ce sondage ne permet pas d'affirmer que les électeurs privilégient un modèle réglementaire particulier, mais il montre que les assurances données par l'industrie n'ont pas suffi à apaiser les inquiétudes du public.

Qu'est-ce qui rendrait cette promesse mesurable ?

L'accord pourrait avoir une portée plus importante sans pour autant se transformer immédiatement en un système d'agrément exhaustif. Les décideurs politiques pourraient définir les modèles de pointe soumis à examen, établir des qualifications minimales et des règles de conflit d'intérêts pour les évaluateurs, exiger des synthèses standardisées des conclusions d'audit, fixer des délais de mise en conformité et désigner un organisme chargé de recevoir les preuves techniques confidentielles. Le Congrès pourrait également préciser quelles défaillances engagent la responsabilité juridique.

Ces choix comportent des inconvénients. La divulgation publique peut révéler des failles de sécurité ou des informations confidentielles. Une liste restreinte d'auditeurs agréés pourrait créer des engorgements et favoriser les plus grandes entreprises. Les seuils prédéfinis peuvent rapidement devenir obsolètes avec l'évolution des méthodes informatiques. Un contrôle efficace nécessiterait donc des rapports confidentiels, une expertise technique et des mises à jour régulières, plutôt qu'une liste de contrôle fixe.

Pour l'instant, cet accord s'apparente davantage à un modèle de gouvernance qu'à un cadre réglementaire. Il inscrit l'audit indépendant et la responsabilité des conseils d'administration à l'agenda politique fédéral et obtient des engagements écrits de six grandes entreprises. Il ne précise pas au public comment la conformité sera vérifiée ni ce qui se passera en cas de manquement d'un signataire. La portée de cet accord dépendra moins de ses promesses que des normes, des informations à divulguer et du dispositif d'application qui seront mis en place.