Le Secrétaire général de l'ONU, António Guterres, a ouvert lundi à Genève le premier Dialogue mondial sur la gouvernance de l'IA, déclarant aux 193 États membres que l'intelligence artificielle progresse plus vite que les institutions ne peuvent la gouverner. Guterres a averti que le déploiement de l'IA dépasse même les développeurs qui la construisent, décrivant la trajectoire actuelle comme « une expérience sur elle-même sans plan, et sans consentement ». Ce sommet marque la première initiative multilatérale visant à établir une gouvernance internationale de l'IA sous le mandat de l'ONU créé par le Pacte numérique mondial de 2024.
Guterres met en garde contre l'approche « vibe coding » pour la gouvernance de l'IA
Guterres a emprunté le terme « vibe coding » — inventé par Andrej Karpathy, membre fondateur d'OpenAI et ancien directeur de l'IA chez Tesla — pour décrire la pratique qui consiste à laisser l'IA écrire des logiciels sans contrôle humain étroit. Cette expression, récemment ajoutée au dictionnaire Merriam-Webster, désigne une programmation par ressenti : dites à l'IA ce que vous voulez, laissez-la gérer le reste, ne regardez pas trop de près.
« Le "vibe coding" peut faire des merveilles », a reconnu Guterres, alors que de plus en plus de personnes font confiance aux produits construits par l'IA. « Mais nous ne pouvons pas "vibe-coder" la vérité. Nous ne pouvons pas "vibe-coder" l'avenir de l'humanité. »
Il a indiqué aux participants que l'IA avait atteint un milliard d'utilisateurs en deux ans, contre quinze ans pour Internet. « Les systèmes actuels ne sont plus des outils qui attendent des instructions — ils écrivent du code, agissent en ligne et prennent des décisions avec de moins en moins de contrôle humain », a-t-il déclaré. « Nos institutions ont été construites pour gouverner des machines qui suivent des commandes. Elles ne sont pas prêtes pour des machines qui décident. »
Le chef de l'ONU identifie trois risques majeurs de l'IA : rapidité, puissance et vérité
Guterres a tiré trois mises en garde du rapport préliminaire du Groupe scientifique international indépendant sur l'intelligence artificielle, publié la semaine dernière par quarante scientifiques de cent quarante pays. Le groupe a constaté que personne ne peut actuellement garantir que l'IA ne causera pas de dommages catastrophiques.
Le premier avertissement concernait la rapidité : « Une technologie qui peut remodeler les économies, transformer le monde du travail, influencer les élections et faire pencher la balance sécuritaire est déployée plus vite que quiconque — y compris ceux qui la construisent — ne peut suivre », a déclaré Guterres dans son discours d'ouverture.
Le deuxième concernait le pouvoir : les capacités de calcul, les données et les talents sont concentrés dans une poignée d'entreprises et de pays, excluant la majeure partie du monde des décisions qui le façonnent déjà.
Le troisième concernait la vérité. Guterres a affirmé qu'un mensonge généré par machine persuade désormais aussi efficacement qu'un fait vérifié, érodant progressivement « l'intégrité de notre écosystème informationnel ».
Guterres lance un engagement pour la sécurité des enfants face à l'IA et appelle à une interdiction des armes
Guterres a annoncé un Engagement pour la sécurité des enfants face à l'IA, exigeant que les entreprises prouvent la sécurité par des tests indépendants avant que toute IA n'atteigne les enfants. Cet engagement impose une tolérance zéro pour la génération d'images d'abus sexuels sur enfants et exige que les enfants en détresse soient mis en contact avec un véritable soutien humain, plutôt que laissés seuls avec un chatbot. « Aucun enfant ne devrait être un cobaye pour une IA non réglementée », a-t-il déclaré.
Il a également qualifié les armes autonomes létales — des machines qui sélectionnent et tuent une cible sans jugement humain — de « moralement répugnantes » et a exigé une interdiction par le droit international. Les États sont déjà à la table des discussions, a noté Guterres, et il n'a pas suggéré qu'ils prennent leur temps.
L'ONU prévoit un deuxième dialogue sur l'IA à New York en 2027
Le Dialogue mondial sur la gouvernance de l'IA se réunira à nouveau à New York en 2027. Guterres a également appelé l'Assemblée générale à créer un Fonds mondial pour l'IA axé sur l'accès informatique pour les pays en développement. Il a mis au défi chaque grande entreprise d'IA d'alimenter tous ses centres de données en énergie renouvelable d'ici 2030 — année où, selon ses estimations, ces installations dépasseront la consommation d'électricité de tous les pays sauf cinq.
FAQ
Qu'a mis en garde le Secrétaire général de l'ONU, Guterres, concernant la gouvernance de l'IA lors du sommet de Genève ?
Guterres a averti que l'intelligence artificielle progresse plus vite que les institutions ne peuvent la gouverner, décrivant le déploiement actuel de l'IA comme « une expérience sur elle-même sans plan, et sans consentement ». Il a utilisé le terme « vibe coding » — laisser l'IA écrire des logiciels sans contrôle humain étroit — comme métaphore d'une gouvernance dangereusement passive, déclarant : « Nous ne pouvons pas "vibe-coder" l'avenir de l'humanité. »
Quelles propositions concrètes Guterres a-t-il faites lors du sommet sur la gouvernance de l'IA ?
Guterres a lancé un Engagement pour la sécurité des enfants face à l'IA, exigeant que les entreprises prouvent leur sécurité par des tests indépendants avant que l'IA n'atteigne les enfants, qu'elles aient une tolérance zéro pour la génération d'images d'abus sexuels sur enfants et qu'elles mettent les enfants en détresse en contact avec un véritable soutien humain. Il a également exigé une interdiction par le droit international des armes autonomes létales et appelé à la création d'un Fonds mondial pour l'IA visant à offrir un accès informatique aux pays en développement. En outre, il a mis au défi les grandes entreprises d'IA d'alimenter tous leurs centres de données en énergie renouvelable d'ici 2030.
Quand l'ONU organisera-t-elle son prochain dialogue sur la gouvernance de l'IA ?
Le deuxième Dialogue mondial sur la gouvernance de l'IA doit se réunir à New York en 2027.
