Le fondateur de Meta expose une philosophie de gouvernance pour la superintelligence, promettant des agents d'IA personnels gratuits, une supervision par le conseil d'administration des autorisations de diffusion de modèles et un nouveau fonds pour les communautés de centres de données.
🎧 Écoutez cet article.
Mark Zuckerberg a publié un long essai philosophique intitulé « L'avenir est pour tous : la voie vers un avenir positif pour l'IA », exposant la vision de Meta quant au développement et à la diffusion de la superintelligence artificielle. Cet essai établit une nette distinction entre son approche et celle des laboratoires d'IA concurrents.
Argument principal : répartissez le pouvoir, ne le concentrez pas
Zuckerberg articule son essai autour de ce qu'il appelle la « question fondamentale » de l'ère de l'IA : la superintelligence sera-t-elle centralisée entre les mains de quelques institutions, ou distribuée comme un outil d'émancipation pour tous ? Il réfute l'idée que la sécurité exige de concentrer le pouvoir de l'IA entre les mains d'un petit nombre d'acteurs « éclairés », arguant que l'histoire montre qu'un pouvoir concentré et sans contrôle produit rarement de bons résultats. Il propose plutôt une philosophie en trois volets : l'émancipation individuelle comme source de prospérité, l'invention (et non l'automatisation) comme finalité première de l'IA, et un « équilibre des pouvoirs » compétitif, semblable aux freins et contrepoids démocratiques, comme véritable fondement de la sécurité.
Il critique ouvertement la rhétorique alarmiste courante chez les autres développeurs d'IA, affirmant qu'il est incohérent de mettre en garde contre la destruction des emplois et la perte de pertinence humaine tout en s'efforçant de la développer, et qualifie d'« intrinsèquement problématique » l'idée selon laquelle la sécurité de l'IA exige une concentration extrême du pouvoir
Ce que Meta construit réellement
L'essai énumère plusieurs engagements concrets que Meta affirme poursuivre :
• Un agent IA personnel pour tous : un assistant disponible 24 h/24 et 7 j/7 qui comprend vos objectifs, gère votre santé, votre carrière, vos finances, vos relations et vos loisirs, avec une protection renforcée de la vie privée de bout en bout (comparable au chiffrement de WhatsApp) afin que même Meta ne puisse pas accéder à vos données. Il serait utilisable sur tous les appareils, y compris les lunettes connectées.
• Des outils de création pour tous : Zuckerberg cite l’exemple de sa fille de 8 ans qui code et produit des vidéos qui nécessitaient autrefois des compétences professionnelles, qualifiant cela de « superpouvoirs d’invention » accessibles à tous.
• Une économie plus entrepreneuriale : grâce à l’IA qui réduit le coût de création d’entreprise, il prédit une augmentation du nombre d’entreprises, une croissance économique plus forte et, contrairement aux craintes, une hausse de l’emploi à terme.
• Un tutorat personnalisé gratuit de niveau doctorat pour tous, visant à égaliser les chances entre les élèves issus de familles aisées et ceux issus de familles modestes.
• Accélération scientifique, notamment grâce à des modèles biologiques open source du Chan Zuckerberg Biohub destinés à la découverte de médicaments, Zuckerberg réaffirmant son objectif et celui de Priscilla Chan de contribuer à « guérir ou prévenir toutes les maladies de ce siècle ».
• Accès gratuit ou à faible coût, avec un système d'enchères dynamiques visant à garantir le prix le plus bas possible pour l'accès payant aux ressources de calcul.
S'attaquer de front aux risques
Plutôt que d'esquiver les dangers de l'IA, Zuckerberg s'attaque de front à plusieurs d'entre eux :
• Emploi : Il soutient qu'il n'existe aucune règle stipulant que l'automatisation doive nécessairement dépasser la progression des compétences humaines et prédit l'émergence de nouvelles catégories professionnelles (telles que « biologistes personnels » ou « bâtisseurs de mondes »), à l'instar des transitions technologiques passées.
• Centres de données et communautés : Meta lance un « Fonds pour un avenir partagé » lié à un modèle de « Pacte communautaire ». À titre d'exemple, il cite la paroisse de Richland, en Louisiane, où les enseignants auraient reçu cette année des primes de 50 000 $ provenant des recettes fiscales liées à un centre de données Meta, ainsi qu'un nouveau programme de formation, « Académie de la main-d'œuvre américaine », destiné aux ouvriers qualifiés. Meta s'engage également à construire sa propre infrastructure énergétique et à atteindre l'équilibre hydrique, c'est-à-dire à restituer plus d'eau qu'elle n'en consomme, d'ici 2030.
• Cybersécurité et bioterrorisme : Il affirme que la large diffusion des capacités d'IA défensive renforce la sécurité globale des systèmes et propose que les laboratoires de pointe partagent les points de contrôle intermédiaires de l'entraînement des modèles avec le gouvernement américain afin que les autorités puissent sécuriser les infrastructures critiques dès le début, sans attendre leur publication.
• Abus de pouvoir gouvernemental : Il promet un mode entièrement privé pour les agents d’IA personnels, auquel même Meta ne pourra pas accéder, présenté comme une garantie contre la surveillance et la tyrannie.
• Concurrence États-Unis/Chine : Zuckerberg qualifie l’IA de « probablement le secteur le plus compétitif de l’histoire », prévient qu’un retard d’un mois seulement dans les lancements pourrait donner l’avantage à ses rivaux géopolitiques et affirme que les États-Unis doivent accélérer le développement de leurs capacités énergétiques et de centres de données (notant que la Chine mettrait en service plus d’un gigawatt de capacité nucléaire toutes les deux semaines) tout en maintenant les contrôles à l’exportation des puces vers les laboratoires étrangers.
• Risque existentiel/de superintelligence : Il s’oppose à toute « superintelligence bienveillante » unique et préconise plutôt la mise en place de nombreux systèmes d’IA concurrents, alignés sur les objectifs individuels des utilisateurs et non sur les valeurs d’une entreprise ou d’un gouvernement, comme véritable rempart.
Un engagement en matière de gouvernance
Il est à noter que Zuckerberg affirme que Meta confiera à son conseil d'administration indépendant le pouvoir d'approuver les critères de sécurité pour la diffusion des modèles d'IA et de vérifier leur conformité, ce qui constitue un contrepoids à son autorité de PDG fondateur. Il confirme également que Meta reprendra « prochainement » la diffusion de modèles d'IA open source, maintenant que Meta Superintelligence Labs est opérationnel, soulignant ainsi le rôle essentiel de l'open source pour éviter la concentration du pouvoir en matière d'IA entre les mains d'une poignée d'entreprises ou de gouvernements.