Apple a annoncé jeudi un nouveau système de protection de l'enfance qui comparera les photos destinées à iCloud Photos aux empreintes cryptographiques de contenus pédopornographiques connus avant que les images ne quittent l'appareil de l'utilisateur. Ce changement technique, selon l'entreprise, permet d'identifier les contenus illégaux tout en préservant la vie privée, mais il a immédiatement alarmé les chercheurs en sécurité et les défenseurs des libertés civiles.
Le système prévu est l'une des trois protections qu'Apple compte intégrer dans ses mises à jour logicielles plus tard cette année. L'entreprise ajoutera également une analyse sur l'appareil des images à caractère sexuel envoyées ou reçues par les comptes enfants dans Messages et améliorera les réponses de Siri et de la Recherche orientant les utilisateurs vers des ressources de sécurité pour enfants. Selon un article de MacRumors relatant l'annonce, ces fonctionnalités devraient être déployées en premier lieu aux États-Unis avec iOS 15, iPadOS 15 et macOS Monterey.
NeuralHash déplace la correspondance de contenu sur l'appareil
La fonctionnalité la plus importante concerne iCloud Photos. Apple indique que son système utilisera une technologie de hachage perceptuel appelée NeuralHash pour créer une représentation numérique d'une image. Avant qu'une photo ne soit enregistrée dans iCloud Photos, l'appareil comparera son hachage à une base de données illisible, constituée à partir des hachages de contenus pédopornographiques connus, fournis par le Centre national pour les enfants disparus et exploités et d'autres organismes de protection de l'enfance.
Le résumé technique d'Apple décrit une combinaison de NeuralHash, d'intersection d'ensembles privés et de partage de secret à seuil, conçue pour empêcher Apple d'accéder aux photos ordinaires ou aux correspondances isolées. Lorsqu'une image correspond à un hachage CSAM connu, l'appareil crée un bon de sécurité chiffré qui accompagne l'image sur iCloud. Apple précise qu'elle ne peut interpréter ces bons que si un compte dépasse un certain nombre de correspondances.
Ce n'est qu'après avoir franchi ce seuil qu'Apple déchiffre les informations associées aux images correspondantes, procède à une vérification humaine, désactive le compte si le contenu est confirmé et le signale au NCMEC. Apple affirme que cette architecture réduit considérablement la probabilité qu'un compte soit signalé par erreur et préserve davantage la confidentialité que l'analyse systématique de chaque fichier après son arrivée sur un serveur cloud.
L'explication technique de TechCrunch souligne une limitation importante : le système est lié à iCloud Photos. Les utilisateurs qui ne chargent pas leurs photos sur ce service ne sont pas concernés par le processus de correspondance CSAM pour les images stockées uniquement sur leur appareil.
Le kit de sécurité enfant contient deux systèmes de numérisation distincts
Le système iCloud se distingue d'une autre fonctionnalité de Messages. Pour les comptes enfants du Partage familial iCloud, Apple prévoit d'utiliser l'apprentissage automatique embarqué pour identifier les images à caractère sexuel. L'image peut être floutée et l'enfant averti avant de la consulter ou de l'envoyer ; dans certains cas impliquant de jeunes enfants, un parent peut être averti si l'enfant choisit de poursuivre.
Un article de 9to5Mac publié souligne qu'Apple affirme qu'iMessage restera chiffré de bout en bout, car le traitement des images est effectué sur l'appareil et non sur les serveurs d'Apple. L'entreprise renforce également les fonctionnalités de Siri et de la Recherche lorsque les utilisateurs consultent des contenus ou des informations liés à l'exploitation d'enfants.
Il s'agit de systèmes techniquement distincts, aux objectifs différents : l'un compare les photos stockées sur iCloud aux empreintes numériques de contenus illégaux déjà identifiés, tandis que l'autre classe les images potentiellement explicites dans les communications impliquant des enfants. Leur annonce simultanée a toutefois suscité des discussions les présentant comme un changement plus global dans les capacités d'analyse locale des appareils Apple.
Les défenseurs de la vie privée craignent que ce mécanisme puisse être détourné de son usage initial
La critique la plus virulente ne porte pas sur l'intention d'Apple de rechercher des contenus pédopornographiques, mais plutôt sur le fait que la mise en place d'un mécanisme de comparaison de contenus sur les appareils personnels pourrait établir un cadre que les gouvernements ou les futures politiques de l'entreprise pourraient chercher à étendre.
L'Electronic Frontier Foundation (EFF) a avancé, dans une analyse, que l'inspection côté client compromet la promesse concrète de communications privées, même si le chiffrement continue de protéger les messages en transit. L'EFF craint que, dès lors qu'un logiciel est capable d'évaluer le contenu par rapport à une base de données ou à un classificateur avant chiffrement ou stockage dans le nuage, ce même mécanisme puisse théoriquement être appliqué à d'autres catégories de données.
Apple affirme que sa base de données CSAM est strictement définie, que la correspondance utilise des hachages provenant d'organismes reconnus de protection de l'enfance, que les utilisateurs ne peuvent être ciblés individuellement par le biais d'instructions serveur ordinaires et qu'une vérification humaine constitue une garantie supplémentaire avant le signalement d'un compte. L'entreprise présente ces contrôles comme des barrières techniques contre l'extension de mission redoutée par ses détracteurs.
Mais les chercheurs en sécurité s'interrogent sur une question de gouvernance plus générale : une protection conçue et contrôlée par une seule entreprise peut-elle rester limitée si les gouvernements exigent des modifications ? Un article d'AppleInsider décrit comment l'entreprise tente de préserver la confidentialité des utilisateurs grâce à la mise en correspondance des données sur l'appareil et à des bons d'achat chiffrés, tout en reconnaissant que cette architecture suscite déjà des inquiétudes quant à une surveillance future.
Apple défend son système avant même sa commercialisation
La polémique a éclaté presque immédiatement après la révélation des détails. Dès vendredi, une note interne d'Apple, obtenue par 9to5Mac, reconnaissait que certaines personnes s'inquiétaient des implications et indiquait que l'entreprise continuerait d'expliquer le fonctionnement des protections. La note présentait le projet comme une initiative visant à protéger les enfants sans renoncer à l'engagement d'Apple en matière de confidentialité.
Les critiques ne se font pas attendre pour le déploiement. Une lettre ouverte, diffusée dès vendredi et décrite par AppleInsider, exhorte Apple à suspendre le projet, arguant que même un système bien intentionné crée une faille susceptible de compromettre la protection de la vie privée. La polémique a rapidement suscité un débat entre experts en technologies, organisations de défense des libertés civiles et personnalités publiques sur la frontière entre les dispositifs de sécurité et la surveillance au niveau de l'appareil.
Cette décision pourrait redéfinir les domaines où l'on peut faire confiance aux systèmes cryptés
La portée technique de cette solution dépasse le cadre d'Apple. Depuis des années, le débat central sur le chiffrement porte sur la question de savoir si les gouvernements doivent bénéficier d'un accès exceptionnel aux communications après chiffrement. La solution proposée par Apple aborde le problème sous un angle différent : évaluer certains contenus avant leur protection par le stockage cloud ou pendant qu'ils sont encore accessibles aux logiciels installés sur le terminal.
Cette distinction pourrait s'avérer cruciale. Apple affirme que sa conception permet d'atteindre un objectif de sécurité précis sans exposer largement les données privées. Les critiques, quant à eux, soutiennent que l'inspection des terminaux peut compromettre la confidentialité, même lorsque l'algorithme de chiffrement reste mathématiquement intact.
Le système n'est pas encore disponible et ses mécanismes de sécurité n'ont pas été testés à grande échelle. Apple doit donc relever deux défis techniques avant son lancement : démontrer que le système de correspondance et de seuil fonctionne avec la précision annoncée et convaincre les utilisateurs que le mécanisme ne peut être détourné au-delà de la catégorie précise pour laquelle il a été conçu.
L'entreprise a bâti une grande partie de son image de marque moderne sur l'idée que la protection de la vie privée est une caractéristique intrinsèque du produit. L'annonce de cette semaine met cette promesse à rude épreuve. Apple tente de prouver qu'un appareil peut contribuer à identifier des contenus pédopornographiques connus sans pour autant devenir un système d'inspection généralisé. L'acceptation ou non de cette distinction par les utilisateurs et les experts en sécurité pourrait influencer non seulement la réception d'iOS 15, mais aussi le débat plus large sur les limites de la vie privée sur un appareil suffisamment puissant pour analyser les données de son propriétaire avant même que quiconque puisse y accéder.