Récemment, en parcourant Reddit, j’ai constaté que les préoccupations des utilisateurs étrangers à propos de l’IA diffèrent de celles que l’on observe en Chine.
En Chine, le débat reste centré sur la même interrogation : l’IA remplacera-t-elle mon emploi ? Ce sujet revient régulièrement depuis des années, et jusqu’à présent, personne n’a été remplacé par l’IA. Cette année, Openclaw a suscité un certain intérêt, mais la technologie est encore loin d’une substitution totale.
Sur Reddit, la perception s’est polarisée. Dans les commentaires de certains fils technologiques, deux opinions opposées émergent simultanément :
Certains estiment que l’IA est si performante qu’elle finira par provoquer des problèmes majeurs. D’autres jugent qu’elle échoue même sur des tâches simples, donc il n’y a pas lieu de s’inquiéter.
Les gens craignent que l’IA soit trop compétente, tout en la trouvant trop incompétente.
Un fait récent concernant Meta a mis ces deux sentiments en évidence.
Quand l’IA n’écoute pas, qui en porte la responsabilité ?
Le 18 mars, un ingénieur de Meta a posé une question technique sur le forum interne de l’entreprise. Un collègue a utilisé un Agent IA pour analyser le problème — une pratique courante.
Mais après son analyse, l’Agent a publié une réponse directement sur le forum technique — sans demander d’approbation ni de confirmation, outrepassant ainsi ses prérogatives.
D’autres collègues ont suivi les recommandations de l’IA, ce qui a déclenché une série de modifications de droits d’accès, exposant des données sensibles de Meta et de ses utilisateurs à des employés internes non autorisés.
Le problème a été résolu deux heures plus tard. Meta a classé cet incident en Sev 1, soit le second niveau de gravité le plus élevé.
Cette nouvelle a rapidement fait le buzz sur le subreddit r/technology, où les commentaires se sont divisés en deux camps.
L’un estime qu’il s’agit d’un exemple concret des risques liés aux Agents IA ; l’autre considère que la véritable erreur vient de la personne qui a agi sans vérifier. Les deux arguments se tiennent. Mais c’est justement le problème :
Quand un Agent IA provoque un incident, même l’attribution de la responsabilité devient un sujet de débat.
Ce n’est pas la première fois que l’IA dépasse les limites.
Le mois dernier, Summer Yue, directrice du Super Intelligence Lab de Meta, a demandé à OpenClaw d’organiser sa boîte mail. Elle a donné des instructions précises : indique-moi ce que tu comptes supprimer en premier — attends mon approbation avant de poursuivre.
L’Agent a ignoré cette consigne et a commencé à supprimer massivement les messages.
Elle a envoyé trois messages pour stopper le processus, mais l’Agent n’en a tenu aucun compte. Elle a finalement dû interrompre manuellement la procédure sur son ordinateur. Plus de 200 e-mails avaient déjà disparu.
Par la suite, l’Agent a répondu : Oui, je me souviens que vous avez demandé confirmation, mais j’ai enfreint le principe. Ironiquement, le travail de cette personne consiste à rechercher comment faire obéir l’IA aux humains.
Dans le cyberespace, des IA avancées utilisées par des experts commencent déjà à désobéir.
Que faire si les robots n’obéissent pas ?
Si l’incident chez Meta s’est limité à des écrans, un autre événement cette semaine a mis le problème à table.
Dans un restaurant Haidilao à Cupertino, en Californie, un robot humanoïde Agibot X2 divertissait les clients par une danse. Mais un membre du personnel a appuyé sur le mauvais bouton de la télécommande, déclenchant un mode danse intense dans un espace étroit.
Le robot s’est mis à danser de façon incontrôlée, échappant à la maîtrise du personnel. Trois employés l’ont encerclé — l’un a tenté de le retenir par derrière, un autre a essayé de l’arrêter via une application mobile. Le chaos a duré plus d’une minute.
Haidilao a répondu que le robot ne présentait pas de dysfonctionnement ; ses mouvements étaient préprogrammés et il était simplement trop proche de la table. Techniquement, il ne s’agissait pas d’une erreur de prise de décision de l’IA, mais d’une erreur humaine.
Cependant, le malaise ne vient peut-être pas de celui qui a appuyé sur le mauvais bouton.
Lorsque trois employés ont tenté d’intervenir, aucun ne savait comment arrêter immédiatement la machine. Certains ont essayé l’application, d’autres ont retenu le bras du robot — uniquement par la force physique.
Cela pourrait être un nouveau problème, à mesure que l’IA passe des écrans au monde physique.
Dans le monde numérique, si un Agent dépasse ses droits, on peut interrompre les processus, modifier les permissions ou restaurer les données. Dans le monde physique, si une machine dysfonctionne, la retenir physiquement n’est pas une solution d’urgence suffisante.
Et il ne s’agit pas seulement des restaurants. Les robots de tri d’Amazon dans les entrepôts, les bras robotiques collaboratifs dans les usines, les robots guides dans les centres commerciaux, les robots d’assistance dans les maisons de retraite — l’automatisation investit des espaces où humains et machines coexistent de plus en plus.
Les installations mondiales de robots industriels devraient atteindre 16,7 milliards de dollars d’ici 2026, chaque unité réduisant la distance physique entre humains et machines.
À mesure que les robots passent de la danse au service de plats, de la performance à la chirurgie, du divertissement à l’assistance, le coût des erreurs ne cesse de croître.
À ce jour, il n’existe aucune réponse claire dans le monde à la question : « Si un robot blesse quelqu’un dans un lieu public, qui est responsable ? »
La désobéissance pose problème — mais l’absence de limites est pire
Les deux incidents précédents impliquaient un message non autorisé publié par une IA et un robot dansant là où il ne le devait pas. Quelle que soit la classification, il s’agit de dysfonctionnements ou d’accidents — des problèmes réparables.
Mais que se passe-t-il si l’IA agit strictement selon sa conception, et que cela vous met tout de même mal à l’aise ?
Ce mois-ci, l’application de rencontre Tinder a dévoilé une nouvelle fonctionnalité baptisée Camera Roll Scan lors de son lancement produit. En résumé :
L’IA analyse toutes les photos de la galerie de votre téléphone, examine vos intérêts, votre personnalité et votre mode de vie, et construit un profil de rencontre — pour vous aider à découvrir des correspondances potentielles.
Selfies sportifs, photos de voyage, clichés d’animaux — pas de problème. Mais votre galerie peut aussi contenir des captures d’écran bancaires, des rapports médicaux, des photos avec votre ex… Que se passe-t-il lorsque l’IA les analyse ?
Vous ne pouvez même pas choisir les photos qu’elle voit ou ignore. C’est tout ou rien.
Actuellement, cette fonctionnalité nécessite une activation manuelle par l’utilisateur — elle n’est pas activée par défaut. Tinder précise que le traitement est principalement local, que le contenu explicite est filtré et que les visages sont floutés.
Pourtant, la section de commentaires de Reddit est presque unanime : les utilisateurs considèrent cela comme une collecte de données sans limites. L’IA fonctionne exactement comme prévu, mais la conception elle-même dépasse les limites des utilisateurs.
Et ce n’est pas seulement Tinder.
Le mois dernier, Meta a lancé une fonctionnalité similaire, permettant à l’IA d’analyser des photos non publiées sur votre téléphone pour suggérer des options d’édition. Le fait qu’une IA « regarde » proactivement le contenu privé des utilisateurs devient une approche de conception par défaut.
Certaines applications domestiques peu scrupuleuses diraient : « Nous connaissons bien ce procédé. »
À mesure que de plus en plus d’applications présentent la « prise de décision IA » comme une commodité, le champ des concessions des utilisateurs s’étend discrètement — des historiques de chat, aux galeries de photos, jusqu’aux traces de vie sur tout le téléphone.
Un chef de produit conçoit une fonctionnalité dans une salle de réunion ; ce n’est ni un accident ni une erreur — il n’y a rien à corriger.
C’est peut-être la facette la plus difficile à résoudre concernant la question des limites de l’IA.
En considérant tous ces incidents ensemble, craindre que l’IA vous rende chômeur paraît lointain.
Il est difficile de dire quand l’IA vous remplacera, mais pour l’instant, il suffit qu’elle prenne quelques décisions à votre place, à votre insu, pour vous mettre mal à l’aise.
Publier sans votre autorisation, supprimer des e-mails que vous avez refusé de supprimer, analyser des photos que vous n’avez jamais voulu partager — rien de tout cela n’est fatal, mais chaque cas rappelle une conduite autonome trop intrusive :
Vous pensez encore tenir le volant, mais l’accélérateur ne vous appartient plus entièrement.
Si nous discutons encore de l’IA en 2026, la question la plus importante ne sera peut-être pas quand elle deviendra superintelligente, mais quelque chose de plus proche et de plus concret :
Qui décide de ce que l’IA peut ou ne peut pas faire ? Qui trace cette frontière ?
Déclaration :
-
Cet article est republié depuis [TechFlow], le copyright appartient à l’auteur original [David]. Si vous avez des objections à cette republication, veuillez contacter l’équipe Gate Learn. Celle-ci traitera votre demande rapidement conformément aux procédures en vigueur.
-
Avertissement : Les opinions et points de vue exprimés dans cet article sont ceux de l’auteur uniquement et ne constituent en aucun cas un conseil d’investissement.
-
Les autres versions linguistiques de cet article sont traduites par l’équipe Gate Learn. Sauf mention de Gate, veuillez ne pas copier, distribuer ou plagier l’article traduit.
