L'autorité italienne de protection des données a imposé vendredi une limitation temporaire immédiate du traitement par OpenAI des données personnelles des utilisateurs italiens via ChatGPT, créant ainsi l'intervention réglementaire la plus importante à ce jour contre ce service d'intelligence artificielle générative en pleine croissance.

L'autorité italienne de protection des données, la Garante, a indiqué dans son arrêté du 31 mars avoir ouvert une enquête suite à des problèmes concernant les mentions d'information sur la protection des données, le fondement juridique de la collecte massive de données personnelles utilisées pour l'entraînement des algorithmes, l'inexactitude des données personnelles produites par le système et l'absence de mécanisme efficace de vérification de l'âge des utilisateurs. Elle a également fait état d'un incident de sécurité survenu le 20 mars, ayant exposé les titres des conversations de certains utilisateurs ainsi que des informations de paiement limitées.

Les données d'entraînement se retrouvent au cœur du débat sur l'IA

Cette décision va au-delà des simples aspects d'une fuite de données. La Garante a déclaré qu'il ne semblait exister aucun fondement juridique justifiant la « collecte et le traitement massifs » de données personnelles utilisées pour entraîner les algorithmes sous-jacents de ChatGPT. Cette contestation soulève une question fondamentale pour l'intelligence artificielle générative moderne : l'ingestion massive d'informations à l'échelle d'Internet peut-elle satisfaire aux exigences européennes en matière de traitement licite, transparent et proportionné ?.

OpenAI décrit ses modèles comme des systèmes entraînés à partir d'une combinaison d'informations publiques, de ressources sous licence et de données créées par des formateurs humains, mais l'entreprise ne publie pas de liste exhaustive des documents d'entraînement. L'intervention du régulateur pourrait contraindre à une explication plus précise des données personnelles utilisées, de la légalité de leur traitement et des droits des personnes lorsque les résultats des modèles contiennent des informations inexactes les concernant.

Cette décision intervient à peine deux semaines après la publication par OpenAI de GPT-4, un modèle plus performant capable de traiter des images et du texte en entrée, et dont l'entreprise affirme qu'il surpasse nettement les systèmes précédents sur de nombreux tests de performance professionnels et académiques. Ce lancement a intensifié l'intérêt commercial et la surveillance de la fiabilité de ces systèmes.

Une brèche survenue le 20 mars a accentué l'urgence

OpenAI a révélé qu'un bug logiciel avait provoqué l'indisponibilité de ChatGPT le 20 mars, certains utilisateurs pouvant consulter les titres des conversations d'autres utilisateurs. Dans un rapport d'incident, l'entreprise a indiqué que ce même bug aurait pu exposer des informations de paiement pour 1,2 % des abonnés ChatGPT Plus actifs pendant une période de neuf heures, notamment leurs noms, adresses électroniques, adresses de paiement, dates d'expiration et les quatre derniers chiffres de leurs cartes bancaires.

L'incident n'a pas permis de divulguer l'intégralité des numéros de carte bancaire, et OpenAI a indiqué avoir contacté les utilisateurs concernés. Il a néanmoins fourni un exemple concret des risques liés à la protection de la vie privée associés à un service utilisé par des millions de personnes pour écrire, programmer, faire de la recherche et mener des conversations de plus en plus sensibles.

L’action du Garante combine donc deux questions réglementaires distinctes : les obligations classiques de cybersécurité liées à une violation de données et des questions plus larges sur la capacité des systèmes d’IA générative à collecter, déduire et reproduire légalement des informations personnelles à grande échelle.

L'Italie devient le premier grand cas test occidental

Le Guardian a rapporté vendredi que l'Italie avait restreint l'accès à ChatGPT pendant l'enquête du régulateur, devenant ainsi le premier pays occidental à prendre une mesure aussi directe contre ce service. OpenAI a réagi en désactivant l'accès en Italie et a déclaré être en conformité avec la législation sur la protection des données.

Euronews a rapporté qu'OpenAI disposait de 20 jours pour communiquer les mesures prises afin de se conformer au Règlement général sur la protection des données (RGPD) européen. Les violations peuvent entraîner des sanctions pouvant atteindre 20 millions d'euros ou 4 % du chiffre d'affaires annuel mondial, selon les dispositions et les circonstances.

Cette mesure réglementaire soulève également une question complexe d'application. ChatGPT est un service cloud déployé à l'échelle mondiale, tandis que le droit à la protection de la vie privée est territorial et fondé sur les droits. OpenAI peut restreindre l'accès en fonction de la géographie, mais la résolution des problèmes sous-jacents pourrait nécessiter des modifications de la gouvernance des données, des notifications, des contrôles d'âge, du développement des modèles ou des procédures de correction des informations – et non un simple blocage géographique.

La pression sur l'IA avancée s'étend

La décision de l'Italie s'inscrit dans un débat plus large sur le rythme de déploiement des systèmes d'IA avancés. Plus d'un millier de chercheurs et de dirigeants du secteur technologique ont signé une lettre ouverte demandant une suspension de six mois de l'entraînement des systèmes plus puissants que GPT-4, le temps d'élaborer des normes de sécurité. Cette lettre n'a aucune valeur réglementaire et la suspension proposée est volontaire, mais elle illustre l'inquiétude croissante face à la lenteur de la gouvernance par rapport aux progrès techniques.

Dans le même temps, la concurrence commerciale s'intensifie. Microsoft intègre la technologie OpenAI à ses logiciels de recherche et de productivité, Google développe ses propres systèmes conversationnels et des start-ups créent des applications s'appuyant sur de vastes modèles de langage. L'incitation économique est à un déploiement rapide ; or, les autorités chargées de la protection de la vie privée et de la sécurité démontrent désormais que ce déploiement peut engendrer des obligations avant même que des normes sectorielles ne soient établies.

Le rapport de TechCrunch, publié à l'époque, soulignait que la décision italienne remettait en question non seulement la transparence, mais aussi l'exactitude des données personnelles générées par ChatGPT. Ce point est particulièrement important pour les modèles génératifs, car ils n'accèdent pas aux faits de la même manière qu'une base de données classique. Ils génèrent un langage statistiquement probable et peuvent produire des affirmations péremptoires mais erronées.

un article de Reuters relayé par Investing.com, la réaction italienne a été immédiate, le temps que le régulateur mène son enquête. D'autres autorités européennes de protection des données suivront probablement l'affaire de près, car le RGPD s'applique dans toute l'Union européenne, même si son application relève de la compétence des autorités nationales.

Ce résultat pourrait servir de modèle pour l'application du droit à la vie privée à l'intelligence artificielle générative. Les questions centrales ne sont plus théoriques : quelles données peuvent être utilisées pour entraîner un modèle ? Quelles informations doivent être communiquées aux utilisateurs ? Comment exclure ou protéger les mineurs ? Comment corriger les informations personnelles inexactes ? Qui est responsable lorsqu'un modèle les produit ? L'Italie a désormais intégré ces questions dans un processus réglementaire formel, faisant de ChatGPT non seulement un phénomène technologique, mais aussi un test permettant de vérifier si le droit à la vie privée existant peut encadrer une nouvelle catégorie de systèmes d'apprentissage automatique.