Cette semaine, la Cour suprême s'est penchée sur les fondements juridiques de l'internet social moderne, en examinant la question de savoir si l'article 230 du Communications Decency Act protège Google lorsque les systèmes de recommandation de YouTube suggèrent automatiquement des vidéos aux utilisateurs. Dans cette affaire, Gonzalez contre Google, la Cour se penche pour la première fois sur la portée de la loi de 1996 qui encadre la responsabilité des plateformes en ligne depuis plus de vingt-cinq ans.

Le litige fait suite aux attentats de l'État islamique à Paris en 2015, au cours desquels Nohemi Gonzalez, une étudiante américaine de 23 ans, a trouvé la mort. Sa famille soutient que les algorithmes de recommandation de YouTube ne se contentaient pas d'héberger du contenu tiers, mais orientaient activement les utilisateurs vers des vidéos de l'État islamique. Google, quant à lui, affirme que les recommandations relèvent des fonctions éditoriales ordinaires protégées par l'article 230. La transcription des plaidoiries devant révèle que les juges ont examiné à plusieurs reprises la frontière juridiquement pertinente entre l'organisation et la création de contenu.

Une loi rédigée avant les flux algorithmiques

L'article 230 stipule généralement qu'un service informatique interactif ne peut être considéré comme l'éditeur ou l'auteur d'informations fournies par un autre fournisseur de contenu. Le Congrès l'a adopté en 1996, bien avant que les moteurs de recommandation ne deviennent essentiels aux réseaux sociaux et aux plateformes vidéo. Le dossier Gonzalez contient de nombreux mémoires argumentant sur la question de savoir si le classement algorithmique est simplement la version contemporaine de la sélection éditoriale ou une fonction produit distincte pouvant échapper au champ d'application de la loi.

Lors des plaidoiries de mardi, les juges ont exprimé leur inquiétude quant aux conséquences que les propositions des deux parties pourraient avoir bien au-delà de YouTube. Les moteurs de recherche, les plateformes de vente en ligne, les réseaux sociaux, les flux d'actualités et même les menus de base des sites web utilisent des systèmes automatisés pour trier ou recommander du contenu. Une règle qui supprimerait la protection de l'article 230 pourrait exposer les plateformes à un nombre beaucoup plus important de litiges dès lors qu'un contenu tiers contribue à un préjudice allégué.

Le gouvernement fédéral a adopté une position intermédiaire. Dans son mémoire d'amicus curiae, le ministère de la Justice a fait valoir que l'article 230 ne protège pas systématiquement toute recommandation du seul fait qu'elle concerne un contenu tiers, mais il a également rejeté une règle qui rendrait automatiquement illégal le tri ou la recommandation de contenu ordinaire. Le gouvernement a exhorté la Cour à faire la distinction entre les actions visant à engager la responsabilité d'une plateforme en tant qu'éditeur et celles visant la conduite même de la plateforme.

La question de l'algorithme s'avère difficile

La difficulté pratique est apparue clairement lorsque les juges ont interrogé les avocats sur des exemples concrets. Une plateforme doit utiliser un mécanisme pour déterminer l'ordre d'affichage, le regroupement des contenus et la suite de l'affichage pour l'utilisateur. Les listes alphabétiques, les flux chronologiques et le classement personnalisé impliquent tous des règles de présentation de l'information. La question est de savoir si une recommandation personnalisée communique une information propre à la plateforme ou si elle se contente d'afficher des contenus tiers selon un processus éditorial automatisé.

L'enregistrement audio des débats de la Cour révèle une prudence notable de la part des juges. Plusieurs d'entre eux se sont interrogés sur la possibilité de limiter la thèse des plaignants aux seuls contenus terroristes préjudiciables, plutôt que de l'étendre à l'ensemble d'Internet. D'autres ont remis en question la position de Google selon laquelle les recommandations sont systématiquement protégées dès lors que le contenu initial a été créé par un tiers.

Cette affaire est suivie de près car les juridictions inférieures ont généralement interprété l'article 230 de manière extensive, rejetant souvent les plaintes visant à engager la responsabilité des plateformes pour l'hébergement, l'organisation ou la recommandation de contenus générés par les utilisateurs. Une interprétation plus restrictive par la Cour suprême ne trancherait pas en soi la question de la responsabilité de Google dans les attentats de Paris, mais elle pourrait permettre à davantage de plaintes de franchir l'étape de la requête en irrecevabilité et d'entrer dans la phase d'instruction.

Une deuxième affaire attire l'attention sur le droit antiterroriste

Le lendemain de l'affaire Gonzalez, la Cour a examiné l'affaire Twitter contre Taamneh, un litige connexe susceptible de déterminer s'il convient de se prononcer sur la question de l'article 230. L' argumentation dans l'affaire Taamneh porte sur la loi antiterroriste et sur la question de savoir si les entreprises de médias sociaux peuvent être tenues responsables de complicité de terrorisme du fait que des organisations terroristes ont utilisé leurs services largement accessibles.

L' affaire Taamneh soulève une question préliminaire différente : que signifie pour une entreprise le fait de fournir « sciemment » une « assistance substantielle » à un acte de terrorisme international lorsque la même plateforme est proposée à des milliards d'utilisateurs ? Si la Cour conclut que les plaignants n'ont pas suffisamment démontré leur complicité au sens de la loi antiterroriste, elle pourrait clore le litige sans pour autant adopter une interprétation extensive de l'article 230.

L'ordre des audiences est important. La Cour a inscrit les deux litiges à son calendrieret les juges ont fait référence à plusieurs reprises aux deux affaires. Ce regroupement offre à la Cour une voie potentiellement restreinte : trancher d'abord la question de l'immunité des plateformes, puis déterminer s'il est nécessaire de se prononcer plus largement sur ce sujet.

Conséquences potentielles pour l'industrie technologique

Pour les entreprises technologiques, les enjeux sont à la fois opérationnels et juridiques. Le classement personnalisé est une fonctionnalité essentielle des produits numériques modernes. Les systèmes de recommandation déterminent les vidéos, publications, produits et publicités que les utilisateurs voient, et les entreprises les optimisent en permanence grâce aux signaux d'engagement et aux modèles d'apprentissage automatique. Si les recommandations peuvent engendrer une responsabilité directe distincte de celle liée au contenu lui-même, les plateformes devront peut-être revoir leurs pratiques de modération, de classement et de documentation afin de se prémunir contre ce nouveau risque de litige.

Dans le même temps, les plaignants et leurs soutiens affirment que l'immunité étendue dont bénéficient les plateformes leur permet de se soustraire à toute responsabilité quant aux choix de leurs produits. Leur argumentation ne porte pas sur la simple existence de propos préjudiciables tenus par des tiers, mais sur les logiciels qui sélectionnent et diffusent ces propos auprès d'utilisateurs spécifiques. Cette distinction est importante sur le plan technologique, même si la frontière juridique demeure difficile à définir.

La Cour n'a pas indiqué quand elle rendra sa décision. Son calendrier des plaidoiries place ces affaires au sein d'une session déjà marquée par des litiges majeurs concernant le pouvoir réglementaire fédéral. Pour le secteur technologique, cependant, peu de questions sont aussi fondamentales. L'article 230 a contribué à créer un cadre juridique permettant aux plateformes de se développer sans encourir la même responsabilité qu'un éditeur pour chaque contenu publié par les utilisateurs. Les juges doivent désormais déterminer comment ce cadre s'applique à un internet de plus en plus organisé non plus par des pages statiques, mais par des algorithmes effectuant des milliards de recommandations en temps réel.