Cette semaine, OpenAI a transformé ChatGPT d'une simple destination en une infrastructure, en publiant des interfaces de programmation d'applications pour son modèle conversationnel et son système de reconnaissance vocale Whisper, et en fixant un prix agressif de 0,002 $ pour 1 000 jetons pour le nouveau modèle gpt-3.5-turbo.

L' annonce du 1er mars offre aux développeurs un moyen direct d'intégrer des interactions similaires à ChatGPT dans leurs propres produits, sans avoir à rediriger les utilisateurs vers le site web d'OpenAI. OpenAI précise que la même famille de modèles utilisée dans ChatGPT peut désormais alimenter des applications via un format de conversation structuré, tandis que l'API Whisper propose la transcription et la traduction vocales à 0,006 $ la minute.

De l'application virale à la plateforme de développement

Le lancement public de ChatGPT en novembre a suscité un intérêt considérable auprès des consommateurs, mais une API modifie le rôle économique de cette technologie. Au lieu de se limiter à une interface contrôlée par OpenAI, le modèle peut désormais s'intégrer aux logiciels éducatifs, aux applications commerciales, aux réseaux sociaux, aux systèmes de service client et aux outils internes des entreprises. Un article de TechCrunch soulignait qu'OpenAI propose également des ressources dédiées aux clients souhaitant des performances plus prévisibles et un meilleur contrôle de la disponibilité du modèle.

Ce prix est remarquable car il réduit considérablement le coût des expérimentations en intelligence artificielle générative. OpenAI affirme que gpt-3.5-turbo offre des performances équivalentes à celles de ChatGPT via son API, pour un coût dix fois inférieur à celui de ses précédents modèles GPT-3.5. Cela ouvre un marché potentiel beaucoup plus vaste pour les applications susceptibles de nécessiter des milliers, voire des millions, d'échanges conversationnels.

L'API est conçue autour d'une série de messages avec des rôles tels que système, utilisateur et assistant. Cette structure permet aux développeurs de fournir au modèle des instructions persistantes, de transmettre l'historique des conversations et de façonner le comportement d'un service sans avoir à concevoir chaque interaction sous forme d'une longue invite de texte. Elle facilite également l'intégration du modèle dans les architectures logicielles classiques.

Les premiers produits démontrent l'étendue des cas d'utilisation

OpenAI a identifié Snap, Quizlet, Instacart et Shopify parmi les premiers utilisateurs. Snap utilise la technologie OpenAI pour « My AI », une fonctionnalité conversationnelle intégrée à Snapchat. Un article d'Ars Technica indiquait que le bot était initialement disponible pour les abonnés Snapchat+ et soulignait l'avertissement de Snap concernant le risque de réponses incorrectes ou trompeuses des systèmes génératifs.

un article de Reuters , Snap prévoyait de positionner le chatbot comme un assistant mobile capable de suggérer des cadeaux, des idées de repas, des suggestions de voyage et d'autres informations du quotidien. Ce lancement illustre à la fois les opportunités et les risques pour les plateformes grand public : l'IA générative peut créer un nouvel espace d'interaction, mais l'entreprise qui la déploie est responsable de la manière dont les utilisateurs interprètent ses réponses.

Quizlet, de son côté, a annoncé un tuteur IA nommé Q-Chat. Sa version précisait que le système utiliserait l'API OpenAI pour guider les étudiants à travers des questions adaptatives, au lieu de simplement leur fournir les réponses. Ce cas d'utilisation illustre l'importance technique de l'interface de chat : le logiciel peut ainsi préserver le contexte des échanges et réagir aux réponses précédentes de l'étudiant.

Whisper transforme la parole en une autre entrée programmable

Le second lancement, Whisper, étend la plateforme d'OpenAI au-delà de la génération de texte. Whisper est un modèle de reconnaissance vocale entraîné sur de vastes quantités d'enregistrements audio multilingues. La nouvelle API peut transcrire la parole dans sa langue d'origine ou traduire les contenus vocaux compatibles en anglais. Un article distinct de TechCrunch décrit ce service comme une version hébergée du modèle open source Whisper, dispensant ainsi les développeurs de gérer eux-mêmes l'infrastructure de calcul.

Cela pourrait simplifier l'intégration d'interfaces vocales aux outils de réunion, aux systèmes de centres d'appels, aux flux de travail multimédias, aux produits d'accessibilité et aux applications mobiles. Le coût (0,006 $ par minute) rend également la transcription automatique accessible pour des cas d'utilisation qui nécessitaient auparavant des prestataires spécialisés ou un traitement local.

Ensemble, ces deux API suggèrent une architecture plus large permettant à une application de recevoir la parole, de la convertir en texte, de raisonner ou de générer du contenu via un modèle conversationnel et de renvoyer une réponse sans que le développeur ait à entraîner un modèle d'IA de A à Z. La valeur ajoutée se déplace progressivement du modèle seul vers l'orchestration des modèles, des données propriétaires et des flux de travail logiciels.

La fiabilité et le contrôle deviennent des questions relatives au produit

L'ouverture de ChatGPT via une API ne résout pas les limitations connues du modèle. Les documents de lancement d'OpenAI reconnaissent que les résultats du modèle peuvent être erronés et que les développeurs doivent tenir compte de son évolution. L'entreprise introduit des versions du modèle afin que les clients puissent lier leurs applications à une version spécifique au lieu de recevoir automatiquement chaque mise à jour.

OpenAI précise également qu'elle n'utilisera pas les données soumises via l'API pour améliorer ses services sans l'accord explicite des clients. Cette modification de politique vise à rassurer les organisations soucieuses de la confidentialité de leurs informations confidentielles. Un communiqué , publié en même temps que le lancement, met l'accent sur le retour d'information opérationnel, la stabilité du modèle et la transition des applications existantes vers ce nouveau format de conversation.

L'importance stratégique dépasse le cadre d'une simple intégration. ChatGPT a démontré que l'IA générative conversationnelle peut séduire un large public. L'API teste désormais la possibilité d'intégrer cette technologie à un logiciel générique. Si les développeurs parviennent à créer des produits fiables aux prix annoncés, le produit le plus important d'OpenAI ne sera peut-être pas ChatGPT lui-même, mais le modèle programmable qui sous-tend des milliers d'autres applications.