"L'IA va tous nous tuer" : anatomie d'une faillite journalistique
Piratage informatique par une "civilisation" de machines, prophétie apocalyptique d'un "lanceur d'alerte" d'OpenAI et Anthropic, probabilités d'extinction... la semaine dernière a encore été un grand moment de panique médiatique autour de l'IA. Au plus grand plaisir de l'industrie.
Abonnez-vous pour pouvoir commenter !
si vous êtes déjà abonné Connectez-vous Connectez-vous
Commentaires préférés des abonnés
Grâce à mon I.N.P. ( Intelligence Naturelle et Primaire ), j'ai pu constater , qu'en France, on ne risquait rien.
Grâce à nos valeureux et inestimables politiciens et à leur Intelligence Très Artificielle, nous sommes très en avance sur la(...)
Article brillant, comme d'habitude.
J'ai particulièrement aimé l'idée que le monstre existe déjà et qu'il se nomme capitalisme.
Excellent article ! Merci
Derniers commentaires
Pour ceux que l'avalanche de doom actuelle intéresse un point intéressant à noter c'est que tous les "lanceurs d'alertes" viennent des mêmes sectes idéologiques dont parle Thibault.
Jacob Coxon a reconnu être proche des rationalistes (celle de Yudkowsky) et si son post a eu une telle audience c'est qu'il a été boosté par la mouvance long-termiste du Future of Life Institute dont il avait contacté un des instituts avant sa démission.
https://bsky.app/profile/ancadweb.com/post/3mvph23eme22m
La plupart des autres ingénieurs qui ont posté à sa suite qu'il avait raison sont soit des membres de la communauté effective altruist / long-termiste, soit des rationalistes soit les deux.
https://bsky.app/profile/ancadweb.com/post/3mvmng7hvis2r
Et cette séquence coïncide étrangement avec deux trucs (qui ont sûrement mis pas mal de temps à être préparés) :
- un meeting bipartisan pour une pause de l'IA assez historique organisé par le Future of Life Institute, réunissant entre autres Steve Bannon et Bernie Sanders
- une initiative conjointe d'Anthropic, OpenAI et X.AI pour réclamer une régulation qui devrait surtout leur servir à se protéger des modèles chinois
Article d'utilité, que dis-je de salubrité publique! Moi même suis tombé dans le panneau de ce vaste storytelling manipulant notre imaginaire dystopique... forcément quand on a en tête que le futur a ete le plus souvent decrit comme toujours plus dehusmanisé et totalitaire, nos angoisses sont ici sévèrement titillées. Je reconnais que MDP m'a induit en erreur. Dorénavant je pars du principe que les techs bros tentent d'imposer leur version de la vérité... quelle surprise me dites-vous.
Après on aurait pu se douter qu'il n'y avait pas un loup mais bien une meute dans ce scénario catastrophe monté en epingle: comment des vendeurs (bateleurs de foire?) d'un service présenté dans un 1er temps comme miraculeux, plus confortable car il vous évite des nœuds au cerveau inutiles s'avèrerait être une arme de destruction massive? En fait cela mettrait en avant le côté superpuissant de la chose en question, alors qu'au final cela masquerait une réalité bien plus triviale: les facultés de la chose IA ne tiennent pas (encore?) toutes leurs promesses malgré les 100taines de milliards investis.
On en revient à ces pubs au format affiche A0 dans les rues montrant un appétissant Burger... photoshopé et qui s'avèrera tristement banal dans son environnement aseptisé de fast fond. Consomme, digéré vite, passe à autre chose et passe à la caisse.
No surprises.
ah je suis Thibault sur Bluesky et je m'attendais à cet article, mise au point indispensable sur l'emballement acutal (surtout vu l'indigence de l'article de Mediapart d'il y a quelques jours). Et plus on s'interesse au sujet pire c'est (je viens de découvrir les "longermists" et ces gens là sont terrifiants. et apparemment c'est une secte parmi d'autres dans cette sphère de techno-allumés)
Merci, merci, merci. Votre propos est salutaire et si rare ! Que cela fait du bien de lire un texte intelligent présentant une réflexion approfondie et étayée. Merci pour votre travail journalistique exigeant et édifiant.
Ce n'est finalement que l'histoire de la disparition de la civilisation de l'île de Pâques en version planétaire.
L'histoire du trombone me plait.
Ce serait top si elle pouvait commencer par les connards qui encombrent la télé, la radio et la presse écrite.
Entre nous, le mise en abime de cette grande peur de l'IA me fait penser à celle du grand remplacement.
L'IA serait-elle islamiste ?
Le technofascisme manque d'imagination.
Je trouve dommage que vous éludiez tout le travail des chercheurs indépendants sur l'IA qui sont loin d'être aussi rassurants.
C'est une chose de s'interroger sur le traitement médiatique problématique des médias dominants (comme c'est souvent le cas, et je remercie Arrêts sur Images pour ça) mais c'en est une autre de ne pas reconnaître les progrès exponentiels de l'IA qui font d'ailleurs que des articles de quelques années (voire mois) sur le sujet sont rapidement dépassés.
L'IA a notamment récemment résolu d'elle-même (c'est-à-dire sans récupérer des infos ailleurs) certains des problèmes mathématiques d'Erdős (je ne parle pas de Navier-Stokes) qui n'avaient encore jamais été résolus par les plus grands experts dans ce domaine, et elle en résout de plus en plus jour après jour.
Je vous invite à regarder cette vidéo du youtubeur Mr. Phi (et globalement toute sa chaîne) qui vulgarise les derniers articles de recherche universitaire sur l'IA :
https://www.youtube.com/watch?v=AYPQIntoJeE
De ce point de vue-là, je trouve plutôt sain que les médias généralistes s'intéressent aux risques qu'elle représente pour l'humanité au vu de l'inquiétude de scientifiques éminents et reconnus sur le sujet comme Geoffrey Hinton ou Yoshua Bengio (non cités dans l'article).
Pfiou, je me sens mieux.
Je rongeais mon frein en attentant LA référence à Terminator…
Étonnant tout de même de ne pas citer les articles de Affordance.info ou David Madore qui ne sont pas vraiment aussi optimistes…
J'ai le sentiment que la bêtise réelle nous menace plus sûrement que l'intelligence artificielle.
Dans la mesure où cette fameuse IA est censée être un super ordinateur qui gère la société à la place des humains, on peut supposer qu'elle adopte la vision et les objectifs des dirigeants humains. Du coup, que cette IA ait envie d'exploiter les gens, d'exploiter les ressources, de générer des super profits, d'ignorer les règles, de tricher, d'escroquer, de faire la guerre, de corrompre... est-ce que c'est vraiment surprenant ?
C'est un super outil de puissance, que l'on veut rendre intelligent et autonome, il cherche donc à augmenter sa propre puissance. Que la machine, quand on lui passe les manettes, cherche à prendre le contrôle de tout ce qui est à sa portée, ça n'est que le reflet d'une vision du monde des concepteurs de la machine. Leur monde, celui de la volonté de puissance.
C'est peut être une fable inventée par les géants de la tech, mais c'est une fable plutôt crédible.
Merci pour cet article à contre courant .
j’avoue que malgré sa lecture , malgré les arguments entendus chez certains de vos collègues qui expliquent peu ou prou la même chose , j’ai encore du mal à comprendre la stratégie commerciale des mastodontes de l’IA.
en Quoi est-ce que ça sert leurs intérêts cette panique si tant est qu’elle soit organisée par eux ? Est-ce que ça va vraiment aider à l’introductuin en bourse d’une entreprise qui fait sa pub sur sa dangerosité ? Je comprends l’aspect contre feu par rapport aux menaces réelles , citées à la fin de l’article …mais au final j’ai mon cerveau qui buggie quand même .
je vais demander à une IA de m’expliquer
et je vais surtout relire votre article :-)
Article brillant, comme d'habitude.
J'ai particulièrement aimé l'idée que le monstre existe déjà et qu'il se nomme capitalisme.
Je me marrais en début d’après-midi à la lecture du titre de votre article car je sortais de celle du Monde, dans sa dernière édition, un article à propos de la Corée du Sud ; en voici le titre :
L’IA au cœur des réformes en Corée du Sud
son sous titre porte sur les résistances, mais le plus intéressant, à mon sens, est ceci, son premier paragraphe :
« Plus qu’une simple technologie, l’intelligence artificielle (IA) s’impose en Corée du Sud comme la promesse d’une réforme profonde de la société à même d’apporter des solutions aux problèmes du pays. Financée par les revenus de la puissante industrie des semi-conducteurs et encadrée par les pouvoirs publics, elle doit devenir un nouveau moteur de croissance, bénéficier à chacun et faire de la Corée du Sud « un acteur incontournable et central de la chaîne d’approvisionnement de l’IA », selon le président sud-coréen, Lee Jae-myung. »
ceci aussi :
« A l’époque, le président conservateur, Yoon Suk Yeol (2022-2025) annonçait une « mobilisation nationale » pour réaliser « la grande vision d’une Corée devenue troisième puissance de l’IA », derrière les Etats-Unis et la Chine. Même si son successeur, Lee Jae-myung, est issu du camp progressiste, les annonces s’enchaînent. »
enfin, cela :
« « La Corée a adopté une approche écosystémique – couvrant aussi bien la demande que l’offre. Les investissements dans l’IA s’annoncent comme le moteur de croissance des vingt à trente prochaines années. La Corée agit vite car la chaîne d’approvisionnement mondiale de l’IA est en pleine restructuration. Elle veut se positionner au cœur de celle-ci avant la fin du processus », précise Wonki Min, président des conseils consultatifs du Forum coréen sur la 6G. »
Je me marrais car, pendant que l’on nous fait peur avec une IA tueuse (au passage, sortait aujourd’hui le chiffre de 8000 morts surnuméraires cet été pour cause de canicules), ailleurs, on relève le gant industriel, on ne se laisse pas déborder par lutte « à mort » entre les USA et la Chine.
Et donc, en Europe, et particulièrement en France, que se passe-t-il, sinon la peur instillée ; cette dernière aurait-elle pour objectif de nous couper les jambes comme pour nous interdire de nous inscrire dans l’industrialisation 2.0 ?
Merci de cet article. S'agissant de hugging face, j'ai trouvé suspect depuis le début que l'IA se soit "échappée" d'un bac à sable où on l'avait enfermée. Une ia ne fait pas de trou à la chignole dans un ordinateur. Si on veut l'enfermer hermétiquement on peut, si elle ne l'était pas c'est que la porte d'évasion lui a été ménagée, sans doute pour tester si elle était capable de la trouver malgré la difficulté. Et le storytelling peut servir plusieurs fins. Celle du discours apocalyptique certainement, et puis aussi celle de ne pas assumer les dégâts faits par cette attaque de malfrat en les mettant sur le dos de son "autonomie".
Le CEO said a thing journalism est à l'Entreprise ce que le Journalisme de préfecture est à l'Etat en somme.
J'aime bien le dernier paragraphe de l'article, je trouve que ça rajeunit le concept de "misère propre, misère sale". On s'inquiète de problèmes lointains (dans le temps) car considéré plus valorisant intellectuellement et socialement marqué (et dans une économie de la connaissance comme la nôtre on sait à quel point c'est important) tout en détournant le regard de problèmes concrets qu'on peut aider à résoudre mais qui n'apporte aucun bénéfice social.
En écrivant ce commentaire j'en viens à me demander si une bonne part de ceux qui s'agitent autour de l'IA et du "danger" qu'elle représente ne sont pas les mêmes genres de donneurs de leçon d'il y a 10-15 ans qui faisaient du combat pour le climat leur activité (en ligne et dans les apéro dinatoires) leur cheval de bataille.
Je m'explique. Loin de moi l'idée de dénigrer la lutte contre le changement climatique, c'est LE problème auquel TOUT LE MONDE devrait s'atteler, mais c'est souvent coûteux d'un point de vue individuel. Par contre, DIRE qu'on lutte contre une menace gigantesque c'est très valorisant socialement et peu dangereux. L'équilibre risque/bénéfice est tout à notre avantage.
Désormais j'évaluerai le degré d'implication d'une personne dans "la lutte face à la menace existentielle qu'est l'IA" pour ranger ou non les gens dans la case "petit bourgeois intelectuelle en quête de statut social".
2010 : la lutte contre le changement climatique
2000 : la lutte contre la pauvreté dans le monde ?
Et dans les 90 et avant, c'était quoi les "David contre Goliath" auquel il fallait participer pour faire chic dans les dîners ?
J'ai rarement lu un commentaire aussi abscons.
Hein ?
Merci pour cet article ! Celui (cité ci-dessus) de médiapart m'avait laissée perplexe, elle s'est dissipée maintenant.
Et petit commentaire un peu inutile, mais ça me fait marrer : c'est rigolo comment les doomeurs et chevaliers de l'apocalypse c'est toujours des gars (bah oui les technobros) alors que les technocritiques sérieuses citées c'est des femmes. Hihi.
ces boutiques ont déjà engrangé des milliards, ils en veulent toujours plus et font des publireportages pour convaincre toujours plus de croyants alors qu'ils ne font qu'interroger des bases de données que nous avons contribué à constituer! à l'heure où il faut une brouette de billets pour faire un plein d'essence, quand il y en a, que des petits malin, coquins, veuillent se mettre au-dessus de la mêlée avec les milliardaires, n'a rien d'étonnant!
refléchissez, c'est pas l'IA qui peut nous tuer, c’est le système capitaliste.
Mise entre les mains de comités populaires bienveillants, l’IA pourrait au contraire devenir un immense outil d’organisation collective : un organigramme géant permettant de gérer les infrastructures une fois celles-ci confisquées au capital, et de répartir le travail entre les humains pour répondre aux besoins humains.
Plus de hiérarchie, plus de contremaîtres, plus de N+1, plus de directions des ressources humaines, plus de toutes ces merdes. Une organisation collective de la production et du travail, au service des besoins de tous sans hiérarchie, grâce a l'IA.
mais pour ca il faut faire la révolution.
"Derrière les promesses d'enfer et de paradis transhumanistes, il n'y a rien d'autre à l'horizon que le purgatoire de la lente dessication du vivant sous l'emprise du capitalocène. "
Tout est dit 👌
"Tout est pour le mieux dans le meilleurs des mondes possibles" le joyeux Leibnitz
Pourquoi Trum$ éprouve-t-il des inquiétudes stratégiques ?
Une IA ?
Isaac Asimov avait rédigé trois lois pour les robots :
1) Un robot ne peut blesser un humain ni le laisser en danger.
2) Un robot doit obéir aux ordres, sauf s'ils contredisent la première loi.
- 3) Un robot doit protéger sa propre existence sans compromettre les deux premières lois.
Si Anthropic, OpenAI et xAI (Grok), appliquaient ces lois aux IA, ce serait pas mal.
Excellent article ! Merci
Quand un milliardaire demande à une IA des informations sur ce qui est le plus risqué, entre le changement climatique et l'IA, ce sont deux imbéciles qui discutent.
https://i.ibb.co/sSkkLwp/Capture-d-cran-2026-09-16-161909.png
Grâce à mon I.N.P. ( Intelligence Naturelle et Primaire ), j'ai pu constater , qu'en France, on ne risquait rien.
Grâce à nos valeureux et inestimables politiciens et à leur Intelligence Très Artificielle, nous sommes très en avance sur la destruction de nos structures sociales : l'I.A. ( Infernal Autoritarisme ) , en France, a détruit : la Santé, l'Education Nationale, les Finances Publiques, l'agriculture traditionnelle et respectueuse de la nature, les avancées sociales, le Justice ... et bientôt, en 2027, la démocratie....
Nous ne risquons plus grand chose,
L' I.A. ( Infernale Apocalypse ) a atteint son but.
Toujours cette capacité de l'humain à croire à des fictions ... et à s'entretuer pour ça !
C'est bien gentil tout ça.
Mais rien sur Céline Dion ?
Ya quand même des sujets qui priment sur les autres, non ?
Non ?
Merci.
n'y connaissant pas grand chose en la matière et n'étant pas utilisateur d'une quelconque IA pour des recherches ( scientifique ou de vacances ou d'achat de chaussures etc ... ) je dois dire que l'info concernant le "piratage" de Hugging Face par des centaines "d'agents" d'OpenAI coordonnées m'a quelque peu perturbé et effrayé avant d'en connaître un peu les ressorts (merci de les avoir rappelés ici )
Mais j'ai été guidé/trompé par ma propension à aimer la SF ( Terminator en fait parti ) et influencé par "la fabrique de trombones" vu sur Youtube (par EGO) que j'avais quand même particulièrement apprécié
Votre article ( même si je ne comprends pas tout ) est un peu rassurant; même si savoir ce nouvel outil entre les mains de "ces gens là" me glace quelque peu le sang