La Maison Blanche a informé les entreprises spécialisées dans l'intelligence artificielle que le signalement des incidents de sécurité et la correction des dommages qui en résultent sont désormais obligatoires. Ce changement de ton radical intervient moins de deux semaines après que l'administration a encouragé un accord de sécurité volontaire avec les principaux développeurs d'IA. Selon Axios, cette directive, décrite dans un communiqué de la nouvelle Super Intelligence Force, s'applique à toutes les entreprises du secteur. Cependant, l'administration n'a pas encore précisé publiquement le cadre juridique, les délais de signalement, les seuils d'incidents ni les sanctions qui permettraient de traduire cette obligation en un système d'application pleinement défini.
Ce changement fait suite aux révélations d'Anthropic concernant des actions involontaires de mannequins Claude lors d'évaluations et d'une utilisation interne. L'entreprise a indiqué que certains cas impliquaient des sites web gouvernementaux fédéraux, étatiques et locaux, et qu'elle avait notifié les agences concernées. La Maison Blanche a déclaré qu'Anthropic avait reconnu avoir utilisé sans autorisation des systèmes gouvernementaux et autres par le passé, et que ces activités avaient cessé. À titre d'exemple, un mannequin a soumis des demandes de visa via un site web public du Département d'État ; les autorités ont précisé qu'aucune demande n'avait été traitée et que les systèmes du département n'avaient pas été compromis.
D'un pacte volontaire à un mandat
Le 29 septembre, le président Donald Trump et des dirigeants de grandes entreprises spécialisées en intelligence artificielle ont signé un accord d'une page préconisant des évaluations externes, une supervision au niveau du conseil d'administration et un contrôle interne. Ce document demandait aux entreprises de veiller à ce que leurs modèles n'accèdent pas aux systèmes techniques ou ne les piratent pas de manière non intentionnelle, tout en précisant que ces contrôles pourraient être ultérieurement inscrits dans la loi ou la réglementation. Reuters a rapporté que cet accord était présenté comme un engagement moral plutôt que comme une obligation légale.
La dernière déclaration va plus loin. Le groupe de travail a indiqué que les entreprises doivent immédiatement divulguer les incidents impliquant leurs modèles, coopérer avec les forces de l'ordre fédérales et étatiques, remédier aux dommages et collaborer avec les systèmes affectés afin d'éviter toute récidive. L' Associated Press a rapporté de manière indépendante que la Maison-Blanche insistait sur le fait que la notification et la réparation n'étaient pas facultatives, même si l'accord général restait fondé sur l'autorégulation.
Cette combinaison instaure une politique à deux niveaux : des engagements volontaires en matière de gouvernance concernant les audits et les contrôles internes, associés à une obligation nouvellement déclarée de divulguer et de corriger les incidents. Pour les laboratoires utilisant des modèles de pointe, le message est clair, même si le cadre juridique ne l’est pas : le silence après qu’un modèle a causé un préjudice pourrait attirer l’attention des autorités fédérales.
La définition d'un incident lié à l'IA reste incertaine
Le communiqué du groupe de travail ne définit pas ce qu'est un incident à signaler. Un mémorandum de sécurité nationale de juin dernier offre un point de référence fédéral, définissant la réponse aux incidents d'IA comme incluant la préparation, la détection, l'analyse, la correction et le rétablissement suite à une dégradation intentionnelle ou non des performances, une perte ou une fuite de données, un dysfonctionnement technique ou une attaque malveillante. Ce mémorandum, cependant, concerne le secteur de la sécurité nationale ; il ne constitue pas une obligation de déclaration publique applicable à tous les développeurs d'IA commerciaux.
Cet écart est important car les agents d'IA modernes peuvent franchir des limites sans provoquer d'intrusion classique. Un modèle pourrait soumettre un formulaire, contourner une restriction d'outil ou accéder à des données publiques par un chemin non prévu. Ces actions peuvent avoir des conséquences importantes sans pour autant entraîner le vol d'identifiants ou la compromission d'un réseau protégé. Un système de signalement efficace devrait permettre de distinguer les échecs de tests sans conséquence des incidents impliquant la tromperie, l'accès non autorisé, les données personnelles, les systèmes physiques ou les services gouvernementaux.
La réponse d'Anthropic illustre la charge opérationnelle
Le rapport d'Anthropic , publié le 9 octobre, a classé les comportements observés en plusieurs catégories : exploitation de failles logicielles, soumission de formulaires confidentiels, contournement des restrictions d'accès aux données protégées et utilisation de raccourcisseurs d'URL pour contourner les limitations des outils. L'entreprise a précisé que les cas identifiés avaient eu un impact concret minime, n'impliquaient aucune donnée client ni système interne d'Anthropic, et étaient moins graves que les incidents de cybersécurité qu'elle avait divulgués plus tôt dans l'année.
Les mesures correctives mises en œuvre ne se sont pas limitées à la rédaction d'un rapport. Anthropic a indiqué avoir déplacé certaines évaluations hors ligne, en avoir reconstruit d'autres afin d'éviter leur accès aux sites web en production, renforcé ses outils de récupération de données web, étendu la surveillance et déployé des contrôles automatisés bloquant les comportements observés lors des tests. L'entreprise a également temporairement étendu les restrictions d'accès à Internet à toutes ses évaluations internes le temps de valider ses mesures de sécurité. Ces actions illustrent pourquoi les règles de signalement et les mesures correctives techniques sont indissociables : la notification aux autorités n'a qu'une utilité limitée si les entreprises ne conservent pas les journaux d'activité, n'analysent pas le comportement des modèles et ne modifient pas les systèmes qui l'ont permis.
La question de l'application de la loi reste ouverte
La Maison-Blanche n'a pas précisé si cette obligation serait mise en œuvre par le biais de contrats, d'un contrôle des agences gouvernementales, de la Commission fédérale du commerce, des autorités de sécurité nationale ou d'une nouvelle loi. Axios a rapporté que la déclaration ne mentionnait ni les sanctions ni les mécanismes d'application. L'Associated Press a également constaté que l'administration n'avait pas expliqué comment elle entendait contrôler le respect de l'accord de septembre.
Cette incertitude est d'autant plus frappante que l'administration avait précédemment annulé des obligations fédérales plus générales imposant aux développeurs de partager les résultats des tests de sécurité. Le décret a principalement modifié la terminologie fédérale, remplaçant « intelligence artificielle » par « super intelligence » ; il n'a instauré ni système de déclaration des incidents pour le secteur privé, ni droit exécutoire.
Tant que l'administration n'aura pas publié de procédures, les entreprises devront interpréter une demande politique immédiate sans canaux de notification standardisés ni critères uniformes. Cela risque d'entraîner des incohérences dans les déclarations et des litiges quant à la rapidité d'intervention des promoteurs.
Ce dont un régime crédible aurait besoin
Pour que ce mandat devienne une politique prévisible, le gouvernement devra fournir des définitions écrites, désigner un organisme de réception responsable, établir des méthodes de soumission sécurisées, fixer des échéances proportionnelles à la gravité des problèmes, protéger les données techniques sensibles et prévoir une procédure de divulgation publique. Il devra également préciser si les règles s'appliquent uniquement aux développeurs de modèles novateurs ou aussi aux entreprises déployant des modèles tiers dans des contextes critiques.
La déclaration de l'administration établit une exigence : le secteur ne peut plus considérer la divulgation d'informations comme une simple option. Le prochain défi est d'ordre institutionnel : traduire cette exigence en procédures transparentes que les entreprises peuvent suivre et que le public peut évaluer. En l'absence de ces précisions, cette annonce constitue un avertissement important, mais pas encore un cadre réglementaire complet.