Facebook a entamé cette semaine en tant que l'une des entreprises technologiques les plus puissantes au monde et se retrouve confrontée à deux défis exceptionnellement directs à cette puissance : une panne mondiale de six heures qui a paralysé Facebook, Instagram, WhatsApp et Messenger, et le témoignage sous serment devant le Sénat d'un ancien employé alléguant que les incitations internes de l'entreprise privilégiaient systématiquement la croissance et l'engagement au détriment de la sécurité des utilisateurs.

La panne a débuté lundi et s'est propagée à l'ensemble de l'infrastructure mondiale de Facebook. L'entreprise a indiqué qu'une modification de la configuration des routeurs centraux reliant ses centres de données avait involontairement interrompu les communications entre ses installations. Dans un premier communiqué technique, Facebook a déclaré qu'aucun élément ne prouvait une activité malveillante ou une compromission des données utilisateur. Un compte rendu technique a révélé qu'une commande de maintenance avait déconnecté les centres de données de Facebook les uns des autres et d'Internet, un bug dans un outil d'audit interne n'ayant pas empêché son exécution.

Une panne au sein du réseau est devenue un événement de communication mondial

Cette panne technique a révélé à quel point les communications courantes dépendent désormais d'un petit nombre de plateformes privées. Les ingénieurs de Facebook ont ​​décrit un problème en cascade : une fois le réseau principal déconnecté, l'infrastructure DNS de l'entreprise a cessé de diffuser des routes vers ses serveurs, de nombreux outils internes sont devenus inaccessibles et les ingénieurs ont eu des difficultés à accéder aux centres de données physiques nécessaires au rétablissement du service.

Cette architecture a transformé une opération de maintenance de routine en une panne mondiale. Les utilisateurs ont temporairement migré vers des services concurrents, les entreprises ont perdu l'accès à leurs canaux clients et les communautés qui dépendent fortement de WhatsApp pour leurs communications quotidiennes ont été complètement isolées. Le Washington Post a rapporté que le service de suivi des pannes Downdetector a reçu environ 14 millions de signalements, les services de Facebook étant restés inaccessibles pendant des heures.

Cette interruption a également mis en évidence les risques liés à la dépendance des applications grand public, des systèmes publicitaires, des services d'identité et de l'infrastructure interne de l'entreprise sur un même réseau sous-jacent. Facebook a indiqué que ses systèmes sont conçus avec plusieurs niveaux de sécurité physique et technique, mais que ces protections ont ralenti le rétablissement du service, les ingénieurs n'ayant pas pu utiliser les canaux d'accès à distance habituels après la panne de réseau.

La crise de l'ingénierie a été immédiatement suivie d'une crise de gouvernance

Le lendemain de la panne, Frances Haugen, ancienne chef de produit chez Facebook, a témoigné devant la sous-commission de la protection des consommateurs du Comité du commerce du Sénat. L' audition du 5 octobre portait sur une étude interne de Facebook concernant les enfants, le classement des contenus et l'impact des plateformes de l'entreprise sur les utilisateurs.

Dans son témoignage écrit, Haugen a déclaré avoir travaillé sur la désinformation civique et le contre-espionnage et avoir constaté des conflits récurrents entre les objectifs commerciaux et la sécurité. Elle a soutenu que les systèmes de classement de l'entreprise pouvaient amplifier les contenus clivants ou nuisibles, car les contenus suscitant de vives réactions génèrent souvent davantage d'engagement.

Le témoignage de Haugen faisait suite à une audition, le 30 septembre, au cours de laquelle Antigone Davis, responsable mondiale de la sécurité chez Facebook, avait défendu la politique de l'entreprise vis-à-vis des jeunes utilisateurs. Cette précédente audition au Sénat avait porté sur une étude interne concernant Instagram et la santé mentale des adolescents. La présidente de la commission, Maria Cantwell, et le président de la sous-commission, Richard Blumenthal, ont tous deux manifesté leur intérêt pour un renforcement des règles en matière de confidentialité, de transparence et de protection de l'enfance.

La question centrale n'est plus de savoir si Facebook peut tout modérer

Le débat politique actuel se déplace des décisions isolées concernant le contenu vers la conception même des systèmes de Facebook. Selon Haugen, les choix importants interviennent avant même la validation de chaque publication : les algorithmes de recommandation déterminent la visibilité des contenus, les systèmes de classement décident de leur ordre d’affichage et les incitations offertes par les produits récompensent certains comportements.

Cette distinction est importante car Facebook a toujours justifié sa taille en mettant l'accent sur ses investissements dans la détection automatisée, la modération des contenus et les équipes de sécurité. De plus en plus de critiques s'interrogent sur la capacité de l'architecture d'engagement de la plateforme à générer des préjudices plus rapidement que les systèmes en aval ne peuvent les corriger. La déclaration du comité a notamment évoqué la possibilité d'un renforcement de la protection fédérale des données des enfants et d'une nouvelle modification de la loi sur la protection de la vie privée des enfants en ligne (COPPA).

Facebook conteste la conclusion générale selon laquelle son activité tire profit des contenus préjudiciables et affirme que ses objectifs sont de garantir la satisfaction des utilisateurs et des annonceurs sur le long terme. Cependant, les événements de cette semaine ont placé les processus décisionnels internes de l'entreprise au cœur d'une enquête parlementaire, et non plus seulement d'une question de politique d'entreprise.

L'envergure est désormais à la fois l'atout et la faiblesse de Facebook

La panne de lundi et le témoignage de mardi concernent des problèmes différents, mais ils mettent en lumière un même fait structurel : l’envergure de Facebook amplifie les conséquences des décisions techniques et stratégiques. Une commande de routeur malencontreuse peut interrompre les communications de milliards d’utilisateurs. Une modification du classement peut altérer ce que voient des populations entières. La conception d’un produit visant à accroître l’engagement peut influencer les comportements sociaux bien au-delà du siège de l’entreprise.

L'entreprise a déjà fait face à des critiques concernant la protection de la vie privée, l'intégrité des élections et la modération des contenus, notamment lors d'une enquête sénatoriale plus large sur la sécurité des enfants en ligne en début d'année. Une audition de la commission du commerce a examiné les pratiques de manipulation des données et de conception sur les principales plateformes technologiques. La nouveauté réside dans la combinaison de documents internes et d'une défaillance d'infrastructure majeure survenue à quelques heures d'intervalle.

Pour les décideurs politiques, les questions immédiates concernent la transparence, l'accès à la recherche indépendante, la protection des mineurs et la responsabilité des systèmes de recommandation. Pour les ingénieurs, cette panne soulève d'autres questions relatives à la segmentation du réseau, aux mesures de sécurité opérationnelles et aux procédures de rétablissement. Pour Facebook, ces deux défis surviennent à un moment où ses services sont profondément ancrés dans le commerce, les médias et les communications privées à travers le monde.

L'entreprise a rétabli son réseau. Rétablir la confiance dans les systèmes qui reposent dessus sera plus complexe.