Le Connecticut exigera une intervention humaine avant que l'intelligence artificielle puisse prendre des décisions défavorables concernant la couverture santé de plus de 270 000 employés du secteur public, retraités et employés municipaux participants. Ces mesures de protection, annoncées le 16 septembre par le contrôleur Sean Scanlon, s'appliquent au régime d'assurance maladie des employés de l'État et au régime de partenariat du Connecticut et entreront en vigueur le 1er janvier 2027, conformément à la politique de l'État et à un rapport indépendant du CT Mirror .
La règle centrale est simple : aucune décision défavorable ne peut être prise uniquement par un système d’IA. Elle doit être examinée par une personne. Les assureurs ne peuvent pas non plus utiliser l’IA ou des modèles prédictifs seuls pour déclasser une demande de remboursement, réduire le paiement d’un prestataire ou modifier un code de facturation. Cette politique ne supprime pas l’automatisation de la gestion courante des demandes de remboursement ; elle préserve les processus contractuels et automatisés autorisés tout en instaurant un contrôle humain sur les décisions susceptibles de réduire les soins ou le paiement.
Cette distinction est importante car l'État réglemente ses propres relations d'achat plutôt que d'interdire une technologie sur l'ensemble du marché de l'assurance du Connecticut. Les régimes publics font appel à plusieurs gestionnaires : Anthem gère les prestations médicales des actifs, Cigna administre la couverture dentaire, Aetna gère le régime Medicare Advantage des retraités et Caremark est le gestionnaire des prestations pharmaceutiques, selon les informations disponibles. Scanlon a indiqué que les gestionnaires avaient accepté les nouvelles exigences après des négociations.
Confidentialité, divulgation et audits
Cette politique interdit également l'utilisation des données des membres pour entraîner, développer ou soutenir d'autres modèles d'IA. Les assureurs et les prestataires doivent informer leurs membres lorsque l'IA contribue de manière significative à la fourniture d'une prestation ou d'un service de santé, y participe directement ou la recommande. Les systèmes d'IA doivent être testés à l'aide de données historiques afin d'en vérifier l'exactitude, la cohérence et l'équité, et les assureurs doivent communiquer leurs procédures de gouvernance et d'audit au contrôleur. Un reportage de la radio publique WSHU a confirmé de manière indépendante les exigences en matière de vérification humaine, de confidentialité, de transparence et d'audit.
Pour les patients, cela se traduit concrètement par un droit à une intervention humaine lorsqu'un algorithme contribue à une décision de prise en charge défavorable dans le cadre de ces régimes d'assurance maladie. Pour les professionnels de santé, le même principe s'applique lorsque des outils automatisés entraînent une réduction du remboursement ou une modification de la codification. La politique ne garantit pas qu'un examinateur humain reviendra sur une recommandation initiale, mais elle empêche qu'une décision issue d'une IA soit définitive. Elle instaure également une traçabilité en exigeant des administrateurs qu'ils documentent la gouvernance et le contrôle de leurs systèmes.
La portée est importante, mais pas universelle. Les règles concernent les deux régimes supervisés par le contrôleur, et non tous les résidents du Connecticut. M. Scanlon a indiqué qu'il demanderait aux législateurs, lors de la session de 2027, d'étendre des protections comparables à tous les régimes de santé réglementés par l'État. Environ 220 000 personnes bénéficient d'une couverture par le biais de ce marché, tandis que de nombreux régimes autofinancés par les grandes entreprises restent sous la juridiction fédérale et non étatique, selon le CT Mirror.
L’Ordre des médecins du Connecticut a soutenu cette mesure, arguant que les refus automatisés et la sous-codification ne devraient pas se substituer au jugement clinique. Un rapport sectoriel distinct, publié par Becker’s, a confirmé que cette politique concerne plus de 270 000 membres et maintient les protocoles de facturation automatisés autorisés. Elle sert donc de règle d’achat à court terme et de modèle pour un débat législatif plus large l’année prochaine.