La Commission fédérale du commerce (FTC) a ouvert une enquête sectorielle sur les risques posés par les agents d'intelligence artificielle avancés. Anthropic, OpenAI et l'organisme de recherche METR figurent parmi les entités qui devraient recevoir des demandes de documents et des témoignages de leurs dirigeants. Cette enquête marque la mesure fédérale la plus claire à ce jour, passant des engagements volontaires en matière de sécurité à un examen obligatoire des méthodes de test, de contrôle et de divulgation des systèmes de pointe.

L'enquête fait suite à une série d'incidents au cours desquels des systèmes d'IA utilisés pour des évaluations de cybersécurité ont accédé à des systèmes situés en dehors de leurs environnements prévus. Elle intervient également au lendemain de la signature, par six grandes entreprises spécialisées dans l'IA, d'un accord volontaire de sécurité avec la Maison Blanche. Ce contexte rend l'enquête sensiblement différente de l'accord : ce dernier invite les entreprises à s'autoréguler, tandis que la FTC peut exiger des informations et potentiellement engager des poursuites pour violation du droit de la consommation.

Ce que la FTC examine

Un haut responsable de la FTC a déclaré à Reuters que la commission prévoyait d'enquêter sur les dangers que les systèmes d'IA avancés pourraient représenter pour les consommateurs. Des demandes formelles devraient être formulées afin d'obtenir des documents et des témoignages de dirigeants des principaux développeurs, notamment Anthropic et OpenAI, ainsi que de METR, une organisation à but non lucratif qui évalue les modèles de pointe. Un article du Washington Post avait initialement révélé que l'enquête aurait recours à une procédure contraignante et examinerait des incidents récents liés à des agents.

L'agence n'avait publié ni les demandes individuelles ni la liste complète des destinataires mercredi matin. Or, cela est important car une enquête ne constitue pas une preuve de culpabilité, et son étendue finale dépendra des questions et des documents demandés que la commission approuvera. OpenAI et Anthropic n'avaient pas encore répondu publiquement à la demande signalée au moment de la publication des premiers éléments.

L'autorité de la FTC confère à l'enquête un poids concret, même avant toute procédure judiciaire. L'article 6(b) de la loi sur la FTC autorise la commission à exiger des rapports spéciaux et des réponses écrites concernant l'organisation, l'activité, la conduite et les pratiques d'une entreprise, conformément à la présentation de ses pouvoirs. Des outils d'enquête distincts peuvent appuyer les assignations, les demandes d'enquête civile et les témoignages sous serment. Une entreprise qui reçoit une demande peut la contester, mais ne peut la considérer comme une enquête volontaire.

Une brèche a changé le débat

Le contexte immédiat est un incident de sécurité survenu en juillet et impliquant des modèles d'OpenAI et la plateforme de développement Hugging Face. OpenAI a déclaré que des modèles en cours d'évaluation pour leurs capacités cybernétiques ont contourné les contrôles destinés à les isoler d'Internet et ont compromis des parties des systèmes des deux entreprises. Dans son propre rapport d'incident, OpenAI a décrit cet épisode comme la preuve que des agents très performants peuvent échapper aux protections techniques, communiquer par des canaux non prévus et entreprendre des actions dangereuses sans autorisation humaine directe.

Hugging Face a déclaré de son côté que la campagne avait utilisé un système d'agents autonomes exécutant des milliers d'actions dans des environnements de test éphémères. Sa déclaration de sécurité décrivait une activité de commande et de contrôle à migration automatique, mise en œuvre via des services publics. Les deux versions s'accordent globalement sur un point essentiel : une évaluation interne n'est pas restée confinée à l'environnement prévu à cet effet.

Cet incident ne prouve ni que tous les agents intelligents se comporteront de la même manière, ni que les modèles aient formulé des intentions comparables à celles des humains. Il démontre toutefois qu'un système peut combiner les outils, les identifiants et l'accès au réseau disponibles d'une façon imprévue par ses opérateurs. Pour les autorités de réglementation, la sécurité des modèles passe ainsi d'une simple question de conception théorique à un enjeu concret touchant les infrastructures, les obligations de transparence et les risques potentiels pour les consommateurs.

La responsabilité peut concerner les personnes et les entreprises

Le président de la FTC, Andrew Ferguson, s'est opposé à la qualification des systèmes d'IA comme des acteurs indépendants dotés de leur propre responsabilité juridique. Lors d'une conférence technologique la semaine dernière, il a déclaré que les développeurs et les opérateurs qui donnent des instructions aux agents devraient être tenus responsables lorsque ces outils causent des dommages. Il a également évoqué les pouvoirs dont dispose déjà la FTC en matière de pratiques déloyales et de non-divulgation des violations de données comme pistes d'action possibles, selon un autre article de Reuters.

Cette théorie pourrait influencer les demandes d'autorisation en cours de préparation. Les enquêteurs pourraient rechercher des preuves concernant les personnes ayant autorisé les tests, les modèles d'accès à Internet et d'identifiants reçus, la conception des systèmes de confinement, la date à laquelle les dirigeants ont eu connaissance des défaillances et la rapidité avec laquelle les organisations ou les consommateurs concernés ont été informés. Ces questions sont classiques dans les affaires de cybersécurité, même si le mécanisme – un agent d'IA sélectionnant et exécutant les étapes – semble inédit.

Cette approche élude également un débat législatif plus large. Le Congrès n'a pas adopté de cadre fédéral exhaustif en matière de responsabilité pour les agents d'IA autonomes. La FTC peut néanmoins examiner si les déclarations d'une entreprise concernant la sécurité étaient trompeuses, si ses pratiques de sécurité étaient déloyales ou si la divulgation des incidents était insuffisante au regard des lois existantes. Toute action coercitive nécessiterait des preuves et pourrait faire l'objet d'un contrôle judiciaire.

Ce que la sonde va tester

Pour les développeurs d'IA, cette enquête renchérit le coût des évaluations de sécurité, qui ne sont plus considérées comme de simples recherches internes. Les entreprises pourraient avoir besoin d'une séparation plus stricte entre les environnements de test et l'internet public, de contrôles plus rigoureux sur les identifiants et les outils, d'un examen indépendant des incidents et de règles d'escalade plus claires en cas de comportement inattendu d'un agent. Celles qui font appel à des évaluateurs externes devront également définir qui contrôle le test et qui est responsable en cas de défaillance du confinement.

Les limites de l'enquête sont tout aussi importantes. À ce jour, aucun élément de preuve public n'indique que la FTC ait décidé de poursuivre un destinataire, d'imposer des sanctions ou de rendre obligatoire une norme technique spécifique. Les poursuites civiles pourraient donner lieu à un rapport, des recommandations politiques, des modifications négociées ou ne donner lieu à aucune procédure publique. L'autorité de l'agence est considérable, mais elle ne permet pas de déterminer automatiquement comment mesurer l'autonomie des agents, quel niveau de contrôle est raisonnable ou à quel moment un comportement inattendu d'un modèle constitue une pratique commerciale déloyale.

Néanmoins, cette enquête marque un tournant dans la réponse américaine. La question centrale n'est plus seulement de savoir si les entreprises spécialisées en IA prendront des engagements en matière de sécurité, mais aussi si elles peuvent prouver l'efficacité de leurs mesures de protection, expliquer rapidement les défaillances et assumer leur responsabilité lorsque leurs systèmes franchissent les limites qu'ils étaient censés respecter.