Le ministère de la Santé et des Services sociaux a publié cette semaine une réglementation de grande envergure sur les technologies de l'information en santé, qui instaure les premières exigences de transparence spécifiques du gouvernement fédéral pour l'intelligence artificielle et autres algorithmes prédictifs intégrés aux systèmes informatiques de santé certifiés, imposant ainsi de nouvelles obligations aux technologies qui soutiennent les soins dans la plupart des hôpitaux et cabinets médicaux américains.
La version finale du règlement HTI-1 du Bureau du coordonnateur national des technologies de l'information en santé est parue au Journal officiel fédéral le 9 janvier. Ce règlement final révise le programme de certification des technologies de l'information en santé de l'ONC, met à jour les normes d'interopérabilité, modifie les dispositions relatives au blocage de l'information et crée un nouveau cadre de certification pour les « interventions d'aide à la décision », y compris les modèles prédictifs qui apprennent les relations à partir des données d'entraînement.
L'ONC décrit les dispositions relatives aux algorithmes comme des exigences de transparence inédites. Leur portée est potentiellement vaste : selon l'agence, les technologies de l'information en santé certifiées par l'ONC sont utilisées dans plus de 96 % des hôpitaux américains et par 78 % des médecins exerçant en cabinet.
Cette règle met l'accent sur la visibilité plutôt que sur l'approbation fédérale des algorithmes
HTI-1 ne crée pas un système d'autorisation de mise sur le marché similaire à celui de la FDA pour chaque algorithme clinique. Il exige plutôt que les technologies de l'information en santé certifiées mettent à disposition des informations de base afin que les utilisateurs puissent comprendre comment les interventions d'aide à la décision prédictive ont été conçues, développées, entraînées et évaluées.
La réglementation définit un système d'information prédictif (SIP) au sens large comme une technologie d'aide à la décision grâce à des algorithmes ou des modèles qui établissent des relations à partir de données d'apprentissage et produisent une prédiction, une classification, une recommandation, une évaluation ou une analyse. Cette définition vise à englober des méthodes allant des modèles statistiques classiques à l'apprentissage automatique et aux systèmes d'intelligence artificielle plus complexes, lorsqu'ils sont utilisés dans le cadre de technologies de l'information en santé certifiées.
Une analyse du HIPAA Journal du 9 janvier indique que les exigences de transparence visent à aider les utilisateurs cliniques à évaluer si les algorithmes sont équitables, appropriés, valides, efficaces et sûrs. Ce cadre s'attaque à un problème récurrent en intelligence artificielle dans le domaine de la santé : un modèle peut influencer les soins prodigués à un patient même lorsque le clinicien qui l'utilise dispose d'informations limitées concernant sa population d'entraînement, sa validation, son utilisation prévue ou ses limitations connues.
Les développeurs doivent exposer les attributs de la source et les informations de gestion des risques
Les nouveaux critères de certification exigent que les développeurs de technologies de l'information en santé prennent en charge l'accès à des « attributs sources » spécifiques pour les interventions d'aide à la décision. Ces attributs peuvent inclure des informations sur l'objectif de l'intervention, ses utilisateurs cibles, son développement et sa validation, les jeux de données, ses performances et d'autres caractéristiques pertinentes pour évaluer l'utilisation appropriée du modèle.
La réglementation exige également que les développeurs de systèmes d'information de santé certifiés prenant en charge les indicateurs de sécurité prédictifs mettent en œuvre des pratiques de gestion des risques et rendent publiques les informations relatives à ces pratiques. Le texte du Federal Register identifie des domaines tels que la validité, la fiabilité, la robustesse, l'équité, l'intelligibilité, la sûreté, la sécurité et la confidentialité.
Le cabinet d'avocats Mintz a déclaré dans une analyse que cette règle représente le premier changement substantiel apporté aux exigences de certification des systèmes d'aide à la décision clinique de l'ONC depuis 2012. L'objectif n'est pas de garantir la haute qualité de chaque modèle, mais de mettre à la disposition des organismes de soins de santé et des cliniciens suffisamment d'informations cohérentes pour leur permettre de porter des jugements plus éclairés.
Cette règle intervient alors que l'IA générative accélère le déploiement dans le secteur de la santé
Ce contexte est particulièrement significatif. Les hôpitaux, les fournisseurs de dossiers médicaux électroniques et les entreprises technologiques intègrent rapidement des capacités d'apprentissage automatique et d'intelligence artificielle générative dans leurs processus cliniques et administratifs. Ces outils permettent de synthétiser les dossiers, de prioriser les patients, de prédire les résultats ou de recommander des actions, mais leurs performances peuvent varier selon les populations étudiées.
Akin Gump a décrit HTI-1 comme une avancée fédérale majeure dans la réglementation de l'IA, grâce à l'autorité déjà en place au sein de l'ONC sur les technologies de l'information en santé certifiées. Cette réglementation s'appuie sur la certification plutôt que de tenter de réglementer directement chaque algorithme de soins de santé.
Cette distinction définit également les limites de la règle. Un algorithme extérieur à l'écosystème certifié des technologies de l'information en santé peut ne pas être concerné par ces critères de certification. Les hôpitaux et les cliniciens conservent également leurs propres responsabilités en matière de gouvernance, de validation locale et d'évaluation de la pertinence des résultats du modèle pour chaque patient.
Des modifications d'interopérabilité accompagnent les dispositions relatives à l'IA
La norme HTI-1 va au-delà de la simple transparence des algorithmes. Elle adopte le référentiel US Core Data for Interoperability version 3 comme base de certification future, en ajoutant et en affinant des éléments de données destinés à soutenir la santé publique, l'équité en santé et des échanges plus standardisés. Elle met également à jour les exigences relatives à la déclaration électronique des cas et aux interfaces de programmation d'applications (API).
Ce texte modifie la réglementation relative au blocage de l'information et introduit des changements visant à faciliter les échanges sécurisés dans le cadre du Trusted Exchange Framework et de l'accord commun. Healthcare Finance News , le département de la Santé et des Services sociaux (HHS) prévoit que l'association de politiques d'interopérabilité et de transparence permettra aux cliniciens de mieux comprendre les outils algorithmiques, tout en poursuivant les réformes plus larges en matière de partage de données prévues par la loi « 21st Century Cures Act ».
Les organismes de santé sont donc confrontés à des questions de mise en œuvre qui se chevauchent : que doivent divulguer leurs fournisseurs de dossiers médicaux électroniques, comment les outils prédictifs sont inventoriés, comment la gouvernance des modèles locaux utilisera les nouvelles informations et comment les normes d’interopérabilité mises à jour affectent les interfaces et les flux de travail existants.
La transparence s'intègre désormais à l'infrastructure de sécurité clinique
Cette règle reflète une décision politique selon laquelle l'opacité algorithmique constitue en elle-même un risque pour la santé. Un modèle peut produire un score de risque numérique ou une recommandation d'apparence précise, tout en dissimulant des informations importantes sur les personnes représentées dans ses données d'entraînement, la fréquence de ses erreurs ou les différences de performance selon les groupes de patients.
Hooper Lundy a souligné que les prestataires devront comprendre les nouvelles dispositions relatives à la transparence de l'IA, même si les obligations de certification incombent principalement aux développeurs de technologies de l'information en santé. En définitive, ce sont les utilisateurs cliniques qui sont responsables de l'intégration des informations d'aide à la décision dans les soins.
La publication au Journal officiel fédéral (Federal Register) indique le 8 février comme date d'entrée en vigueur de la règle, tandis que les dispositions relatives à la certification et aux normes individuelles ont leurs propres échéances de mise en conformité qui s'étendent au-delà de cette date. La transition ne consiste donc pas en un changement unique, mais en une série de modifications progressives touchant les produits certifiés et les développeurs.
La norme HTI-1 ne tranche pas le débat plus large sur la réglementation de l'intelligence artificielle en médecine. Elle établit toutefois une exigence nationale concrète dans l'un des domaines technologiques les plus omniprésents des soins de santé. Dans un système de dossier médical électronique (DME) certifié, utilisé par la quasi-totalité des hôpitaux du pays, les algorithmes prédictifs ne peuvent plus être considérés comme de simples fonctions propriétaires invisibles. Le cadre de certification fédéral exige désormais que les cliniciens et les établissements reçoivent suffisamment d'informations pour pouvoir s'interroger sur l'équité, la pertinence, la validité, l'efficacité et la sécurité de ces algorithmes.