Apple a précisé que les applications facilitant le trafic d'êtres humains ou l'exploitation d'enfants seront retirées de l'App Store et bloquées sur toute autre plateforme de distribution. Ces modifications, publiées le 16 octobre, renforcent également les mesures de protection contre la diffusion d'images intimes non consensuelles et les applications dissimulant leur véritable fonctionnement. L'ensemble de ces révisions définit les conséquences des contenus préjudiciables et des tentatives de contournement du processus de vérification d'Apple.

Apple décrit cette disposition relative au trafic d'êtres humains comme une clarification d'une interdiction existante. Dans une autre explication, l'entreprise a indiqué que son App Store a toujours interdit les applications facilitant le trafic d'êtres humains ou l'exploitation d'enfants, y compris la diffusion de contenu pédopornographique. L'annonce ne mentionne aucune nouvelle catégorie d'applications incriminées et ne précise pas le nombre d'applications supprimées suite à cette mise à jour.

Restrictions au-delà de l'App Store

Conformément à l'article 5, Apple indique que les autorités compétentes seront informées dans ces cas extrêmes. Le blocage de la distribution ne se limite pas à la suppression de l'application de l'App Store. Apple précise que les contenus pédopornographiques sont concernés par son interdiction actuelle.

La distribution alternative s'effectue dans le cadre d'un système d'approbation distinct de celui d'Apple. Le guide de notarisation explique que les développeurs peuvent soumettre leurs applications à une évaluation selon un sous-ensemble de ses directives d'examen afin de les rendre éligibles à une distribution via d'autres canaux, notamment les plateformes tierces et, au sein de l'Union européenne, leurs propres sites web. L'ensemble de ces documents établit que le retrait de l'App Store ne constitue pas une exemption aux restrictions du système de distribution d'Apple ; ils ne prévoient pas le pouvoir de supprimer une application ou un service d'Internet.

L'imagerie par IA entraîne des obligations explicites

La nouvelle formulation des règles de modération vise spécifiquement les images intimes créées sans le consentement de la personne concernée, y compris les contenus générés par intelligence artificielle. Apple indique que les développeurs doivent prévenir proactivement la production de tels contenus et les supprimer dès leur apparition. Comme The Verge , des mesures de protection insuffisantes ou le défaut de remédier aux infractions après notification peuvent compromettre la disponibilité continue d'une application.

Le texte de la directive 1.2 couvre expressément les réseaux sociaux, les plateformes hébergeant des contributions d'utilisateurs et les applications de création de contenu par IA. Ses exigences comprennent le filtrage des contenus inappropriés, la mise en place d'un mécanisme de signalement avec des réponses rapides, la possibilité pour les utilisateurs de bloquer les comptes abusifs et la publication des coordonnées. Les développeurs restent responsables de la suppression des contenus qui enfreignent la directive ou leurs propres normes.

Les fonctionnalités cachées peuvent coûter cher à un développeur

Apple a également consacré une disposition spécifique à son interdiction des fonctionnalités dissimulées : la directive 2.5.19. le journal des modifications , cette directive réaffirme une politique de longue date déjà traitée dans la directive 2.3.1. Le problème réside dans le fait qu’une application présente un ensemble de fonctions lors de l’examen, puis révèle des fonctionnalités différentes et non divulguées après approbation.

La nouvelle disposition prévoit que toute tentative de dissimulation de fonctionnalités non documentées, notamment par l'obfuscation du code, constitue un motif de suppression de l'application et de résiliation du compte du développeur. 9to5Mac a noté que l'interdiction sous-jacente existait déjà, mais que la formulation révisée explicite davantage les conséquences et les méthodes de dissimulation. Dans son explication, Apple cite en exemple les applications qui ne révèlent leurs capacités abusives de génération d'images qu'après validation.

L'application de la loi demeure le test pratique

La procédure de mise en application des règles d'Apple prévoit la demande de retrait de contenu et l'exigence d'un plan de mise en conformité. Une application peut être retirée en attendant des améliorations. Les manquements graves ou répétés peuvent entraîner le retrait immédiat de l'application de l'App Store et l'exclusion du programme développeur d'Apple ; il s'agit de dispositions réglementaires, et non d'une preuve de leur application dans un cas particulier.

Cette mise à jour plus générale ajoute une règle concernant les ressources créatives et remanie le texte relatif aux liens d'achat externes. Les développeurs peuvent désormais consulter les directives révisées en anglais, Apple s'engageant à les traduire d'ici un mois. Concernant les modifications apportées à la sécurité, des décisions d'application documentées seront nécessaires pour évaluer la mise en œuvre des règles clarifiées.