Google maintient hors ligne la capacité de Gemini à générer des images de personnes après une semaine de critiques concernant des résultats historiquement inexacts et biaisés. Ce problème de qualité produit se transforme ainsi en un test plus large de la rapidité avec laquelle les grandes entreprises technologiques peuvent déployer l'IA générative sans perdre le contrôle des systèmes de sécurité qui s'appuient sur leurs modèles. Le PDG, Sundar Pichai, a déclaré mardi aux employés que certaines réponses de Gemini étaient « totalement inacceptables » et a indiqué que l'entreprise procéderait à des changements structurels avant de rétablir la fonctionnalité.

La polémique a éclaté après que des utilisateurs ont publié des exemples où Gemini produisait des représentations raciales et de genre invraisemblables pour des sujets historiques. Google a reconnu le problème et a suspendu la génération d'images de personnes le 22 février. Dans une explication détaillée de l'entreprise, Prabhakar Raghavan, vice-président senior de Google, a déclaré que le système avait surcompensé la diversité dans certains sujets tout en devenant excessivement prudent dans d'autres.

Un réglage de sécurité a entraîné une défaillance en matière de précision historique

Les systèmes de génération d'images sont généralement conçus pour réduire les productions stéréotypées ou excluantes. Google a déclaré que les mécanismes de protection de Gemini visaient à éviter la reproduction des biais observés dans les systèmes de génération d'images précédents, mais leur mise en œuvre a produit l'effet inverse dans certains contextes historiques. Le modèle a généré des personnes ne correspondant pas à l'époque ou à la consigne et, dans d'autres cas, a refusé des demandes pourtant anodines.

L' Associated Press a rapporté que Google avait temporairement suspendu la fonctionnalité après la diffusion massive d'exemples en ligne. L'entreprise a indiqué qu'elle améliorerait la précision avant de réactiver la génération d'images de personnes. Cette décision est importante car Gemini n'est pas une simple démonstration de recherche expérimentale ; Google l'a positionnée comme l'identité grand public de ses produits d'IA générative les plus importants.

Un article de Reuters, repris par Yahoo Finance, souligne que cette pause intervient quelques semaines seulement après le lancement par Google de son service de génération d'images via Gemini, et peu après le changement de nom de Bard en Gemini. Ce calendrier serré illustre la forte pression concurrentielle à laquelle Google est confronté dans sa lutte contre Microsoft et OpenAI sur les plateformes d'assistants personnels, d'IA d'entreprise et de développement.

Pichai promet des changements aux processus de lancement et d'évaluation

Dans une note interne publiée par Semafor, Pichai a déclaré que les réponses textuelles et visuelles problématiques avaient offensé les utilisateurs et révélé un parti pris. Il a indiqué que les équipes travaillaient sans relâche et a présenté un ensemble de mesures comprenant des changements structurels, la mise à jour des directives produit, l'amélioration des processus de lancement, des évaluations plus rigoureuses, un renforcement des tests d'intrusion et des recommandations techniques.

Cette liste est importante car elle situe l'incident au-delà d'un simple défaut de modélisation d'image. Pichai indique que la défaillance pourrait être liée à la manière dont Google traduit les capacités des modèles en produits destinés aux consommateurs : interprétation rapide, couches de politiques, filtres de sécurité, couverture des tests et gouvernance des mises en production. Autrement dit, corriger le problème pourrait nécessiter une modification du processus qui a permis sa mise en production.

L'entreprise n'a pas communiqué de date précise pour le rétablissement de la génération d'images de personnes. Sundar Pichai a indiqué que Google prévoyait des améliorations dans les semaines à venir, mais la fonctionnalité restait désactivée samedi. Il s'agit d'un net recul pour une entreprise qui a passé le mois de février à accélérer le déploiement public de Gemini.

Cette pause survient au milieu d'une expansion des Gémeaux exceptionnellement agressive

Le 8 février, Google a officiellement remplacé Bard par Gemini et a lancé Gemini Advanced, basé sur Ultra 1.0, ainsi qu'une application Android dédiée. Lors de cette annonce, Sundar Pichai a décrit Gemini comme un écosystème englobant des produits grand public, des API, des services cloud et des outils de développement, et non comme un simple chatbot.

Une semaine plus tard, Google annonçait Gemini 1.5, mettant en avant une fenêtre de contexte capable de traiter un million de jetons en version préliminaire et de gérer des documents longs, des vidéos, des fichiers audio et des bases de code volumineuses. Ces avancées techniques démontrent que la stratégie produit sous-jacente se poursuit malgré la suspension temporaire d'une fonctionnalité visible pour le grand public.

Cette tension est devenue centrale dans le secteur de l'IA : les capacités des modèles progressent rapidement, tandis que la sécurité des produits reste difficile à calibrer. Un système peut être très performant en matière de raisonnement, de codage ou d'analyse multimodale et pourtant échouer si le paramétrage des politiques ou les interventions de sécurité faussent certains résultats.

La confiance devient une exigence du produit, et non un problème de communication

Le problème de Google est particulièrement délicat car son activité principale repose sur la recherche d'informations et la confiance des utilisateurs. Gemini est intégré à des produits susceptibles d'influencer à terme la recherche, la productivité, la publicité et l'informatique mobile. Si les utilisateurs estiment que le système est politiquement ou culturellement biaisé, ou tout simplement peu fiable pour répondre à des questions historiques fondamentales, le problème pourrait avoir des répercussions bien au-delà de la simple gestion des images.

L'explication même de l'entreprise reconnaît que l'IA générative continuera de commettre des erreurs. Raghavan a écrit que les hallucinations et les résultats imparfaits demeurent des défis connus et a mis en garde les utilisateurs contre le fait de se fier à Gemini pour obtenir des informations en temps réel ou sur des sujets sensibles sans vérification préalable. Cet aveu est réaliste, mais il souligne également le décalage entre la nature probabiliste de cette technologie et les attentes placées en un produit d'information estampillé Google.

L'objectif technique immédiat est de restaurer la génération d'images de personnes sans reproduire de stéréotypes ni produire de scènes historiques invraisemblables. L'objectif plus global est plus complexe : concevoir un processus de diffusion capable de détecter lorsqu'une intervention de sécurité, pourtant bien intentionnée, engendre une autre forme de distorsion. Alors que Google continue d'intégrer Gemini à l'ensemble de sa gamme de produits, la pause de cette semaine nous rappelle que la compétition ne se résume pas à des modèles plus grands et à des fenêtres contextuelles plus longues. Il s'agit aussi de savoir si les entreprises peuvent concevoir des systèmes suffisamment prévisibles pour mériter la confiance nécessaire à une utilisation à grande échelle.