Grâce à mon I.N.P.  ( Intelligence Naturelle et Primaire ), j'ai pu constater , qu'en France, on ne risquait rien.

Grâce à nos valeureux et inestimables politiciens et à leur Intelligence Très Artificielle, nous sommes très  en avance sur la(...)

Excellent article ! Merci

Article brillant, comme d'habitude.

J'ai particulièrement aimé l'idée que le monstre existe déjà et qu'il se nomme capitalisme.

Pour l'anecdote, puisqu'on parle des techbros à gros sousous et de leur univers culturel. L'une des méthodes pour transcender l'humanité à coup de gros chèques et de bonds technologiques, c'est l'échange plasmatique, le remplacement à intervalle régulier du plasma sanguin étant un excellent moyen pour prolonger indéfiniment la jeunesse voire la vie de ceux qui en ont les moyens.

Comme par exemple (Elodie Safaris saurait où je vais en venir) le chanteur Giorgos Mazonakis, star de la pop grecque dans les années 2000 et de l'émission "the Voice" ces dernières années. Celui qui chantait son refus des codes sociaux et de l'aliénation technologique, notre "technologie de pointe qui nous colle à l'écran pour augmenter notre solitude" et notre "âme timorée qui a peur de la vie parce qu'il n'y en a qu'une". Celui qui chantait aussi son besoin de transgression, de tout vivre et de tout essayer, et ses fantasmes lourdingues de grosses bagnoles et de pimbêches en robes Gucci. Immortel parce qu'il le vaut bien (financièrement), il est mort la semaine passée, à 54 ans, sur le billard, pendant une de ces séances d'embaumement. Bravo. Τα καταφέραμε λοιπόν.

Le couple de médecins qui lui vendaient la vie éternelle est en tôle, et le vomitif facho ethno-racialiste qui tient le ministère de la santé proclame son intention de faire toute la lumière sur cette "zone grise" du domaine médicale (on s'attend à une lumière aussi fulgurante que celle qu'ils ont promise sur l'accident ferroviaire de 2023). Mazonakis était très populaire, pas forcément dans les milieux intellos et contestataires mais peut-être suffisemment dans le pays pour que y faire résonner le procès à venir. Ce qui contribuerait à visibiliser un peu ce petit monde du biohacking...

Encore une fois, je pense qu'il faut trouver le juste milieu entre les catastrophistes /publicitaires de l'IA et les partisans du "tout va bien. Aucun risque".

Plusieurs choses :

L'IA et en particulier l'IA générative font de gros progrès très rapidement. Même si ces progrès sont largement survendus, ils existent. Et ce qui paraît Impossible aujourd'hui le sera-t-il dans 10 ans ou dans... 6 mois...

Je ne suis pas du tout spécialiste en IA mais il faut rappeler que l'IA générative n'est qu'une petite partie du domaine de l'IA et à l'intérieur de l'IA générative, les chatbots type chat gpt ne sont qu'une interface, la plus connue du grand public mais ce n'est pas la seule.

Alors oui, ce n'est pas un chat gpt qui discute avec un utilisateur qui va menacer l'humanité (il peut déjà menacer la santé mentale de cette personne, ce qui n'est pas anodin).

Quand on songe au piratage de Hugging Face, on est face à autre chose. OK pour la dimension marketing du truc. Mais, qu'une porte vers l'extérieur ait été laissée ouverte volontairement ou par négligence, cela ne change pas grand chose car ce type de chose arrivera par négligence parfois mais aussi volontairement...

Les cas d'accès volontaires seront au moins de 2 sortes:  un humain malveillant ( et ça, on est sûr qu'il y en a plein) qui utilise l'IA pour commettre des actes nuisibles et donc ne se prive pas de lui laisser un accès vers l'extérieur. Ou des humains sans intention malveillante qui ont besoin d'utiliser la puissance de l'IA et par exemple son "habilité" à utiliser internet (car pourquoi brider l'IA si on est persuadé que c'est un outil puissant qui peut nous aider).

Pour finir, l'argument, l'IA ne fait que ce que l'humain lui demande ,c'est l'humain qui a le contrôle, ne tient pas forcément.

En effet, si les principes d'apprentissage et de fonctionnement des LLM ont été conçus et améliorés par des humains, cela ne veut pas dire que ces humains peuvent prédire ce qu'une IA va donner comme résultat. Ce n'est pas du tout le principe de fonctionnement de l'IA générative.

Ce n' est déjà pas vrai avec un simple chat gpt et, même si le prompt permet de cadrer le truc, c'est déjà difficile d'avoir un prompt efficace et qui donne un résultat sans digression ou effet de bord inattendu (dès que la tâche demandée est un peu plus complexe qu'une question simple).

Et, quand il y a de multiples agents IA qui peuvent tous faire des choses différentes et travailler ensemble, on n'est à un tout autre niveau ou l'humain ne pourra qu'être surpris par le résultat. Je le répète je ne suis pas spécialiste de l'IA( et le principe d'agent IA me paraît encore confus).

Et pendant que tout le monde s'obsède de la perte de contrôle, on n'a pas été loin de découvrir le vrai risque principal de l'IA.

Heureusement il y a encore des humains dans la boucle pour éviter des désastres, mais plus les décisions militaires vont reposer sur elle, plus ce genre de catastrophe risque de se produire.

Pas du tout d’accord avec les phrases :

« en l'autorisant à commettre une cyberattaque, »

« et en laissant sciemment une porte ouverte vers l'extérieur »

Les essaims d’agents ont montré :

* qu’ils étaient prompts à tricher

* qu’ils étaient capables de détourner un installateur de packages pour accéder à internet. En écrivant des messages dans le noms de dossier ! Ça s’appelle du hacking, pas « passer par une porte ouverte »

* puis à hacker un vrai site web pour voir comment ça fait en vrai

Article trèèèèès long, pour au final ne pas avoir trop compris oû ça voulait en venir.

Surtout : pourquoi la Silicon Valley voudrait qu’on ait peur de leur produit  ? Pas très clair, je ne suis pas sûre d’avoir compris.

Et puis à un moment j’ai surtout senti  l’opinion du journaliste exposée ici.

il n'existe pas de preuve empirique d'un "risque existentiel" posé par un logiciel d' "intelligence artificielle".Tout simplement parce qu'on ne sait ni définir un "risque existentiel", ni définir l'intelligence.« 

Ce n’est pas parce que l’on ne sait pas définir qqchose que cela n’existe pas. C’est bizarre cette phrase après avoir expliqué que les propros catastrophismes sur l’IA relève plus de l’opinion que de faits.

Je comprends dans votre article que les entreprises de la tech crient au loup quand elles ont besoin de fonds. Je ne vois pas bien pourquoi mais disons que oui. Il n’en demeure pas moins que l’IA est energivore et capteuse d’eau. Deux problèmes qui suffisent à eux seuls à limiter si ce n’est stopper le déploiement, non ?

Excellent article, excellente analogie entre l’AGI et le capitalisme. Merci de nous éclairer d’articles en articles. Continuez !

Pour ceux que l'avalanche de doom actuelle intéresse un point intéressant à noter c'est que tous les "lanceurs d'alertes" viennent des mêmes sectes idéologiques dont parle Thibault.

Jacob Coxon a reconnu être proche des rationalistes (celle de Yudkowsky) et si son post a eu une telle audience c'est qu'il a été boosté par la mouvance long-termiste du Future of Life Institute dont il avait contacté un des instituts avant sa démission.

https://bsky.app/profile/ancadweb.com/post/3mvph23eme22m

La plupart des autres ingénieurs qui ont posté à sa suite qu'il avait raison sont soit des membres de la communauté effective altruist / long-termiste, soit des rationalistes soit les deux.

https://bsky.app/profile/ancadweb.com/post/3mvmng7hvis2r

Et cette séquence coïncide étrangement avec deux trucs (qui ont sûrement mis pas mal de temps à être préparés) :

 - un meeting bipartisan pour une pause de l'IA assez historique organisé par le Future of Life Institute, réunissant entre autres Steve Bannon et Bernie Sanders

 - une initiative conjointe d'Anthropic, OpenAI et X.AI pour réclamer une régulation qui devrait surtout leur servir à se protéger des modèles chinois

Article d'utilité, que dis-je de salubrité publique! Moi même suis tombé dans le panneau de ce vaste storytelling manipulant notre imaginaire dystopique... forcément quand on a en tête que le futur a ete le plus souvent decrit comme toujours plus dehusmanisé et totalitaire, nos angoisses sont ici sévèrement titillées. Je reconnais que MDP m'a induit en erreur. Dorénavant je pars du principe que les techs bros tentent d'imposer leur version de la vérité... quelle surprise me dites-vous.

Après on aurait pu se douter qu'il n'y avait pas un loup mais bien une meute dans ce scénario catastrophe monté en epingle: comment des vendeurs (bateleurs de foire?) d'un service présenté dans un 1er temps comme miraculeux, plus confortable car il vous évite des nœuds au cerveau inutiles s'avèrerait être une arme de destruction massive? En fait cela mettrait en avant le côté superpuissant de la chose en question, alors qu'au final cela masquerait une réalité bien plus triviale: les facultés de la chose IA ne tiennent pas (encore?) toutes leurs promesses malgré les 100taines de milliards investis.

On en revient à ces pubs au format affiche A0 dans les rues montrant un appétissant Burger... photoshopé et qui s'avèrera tristement banal dans son environnement aseptisé de fast fond. Consomme, digéré vite, passe à autre chose et passe à la caisse.

No surprises.

ah je suis Thibault sur Bluesky et je m'attendais à cet article, mise au point indispensable sur l'emballement acutal (surtout vu l'indigence de l'article de Mediapart d'il y a quelques jours). Et plus on s'interesse au sujet pire c'est (je viens de découvrir les "longermists" et ces gens là sont terrifiants. et apparemment c'est une secte parmi d'autres dans cette sphère de techno-allumés)

Merci, merci, merci. Votre propos est salutaire et si rare ! Que cela fait du bien de lire un texte intelligent présentant une réflexion approfondie et étayée. Merci pour votre travail journalistique exigeant et édifiant.

Ce n'est finalement que l'histoire de la disparition de la civilisation de l'île de Pâques en version planétaire.

L'histoire du trombone me plait. 

Ce serait top si elle pouvait commencer par les connards qui encombrent la télé, la radio et la presse écrite.

Entre nous, le mise en abime de cette grande peur de l'IA me fait penser à celle du grand remplacement. 

L'IA serait-elle islamiste ?

Le technofascisme manque d'imagination.

Je trouve dommage que vous éludiez tout le travail des chercheurs indépendants sur l'IA qui sont loin d'être aussi rassurants.

C'est une chose de s'interroger sur le traitement médiatique problématique des médias dominants (comme c'est souvent le cas, et je remercie Arrêts sur Images pour ça) mais c'en est une autre de ne pas reconnaître les progrès exponentiels de l'IA qui font d'ailleurs que des articles de quelques années (voire mois) sur le sujet sont rapidement dépassés. 

L'IA a notamment récemment résolu d'elle-même (c'est-à-dire sans récupérer des infos ailleurs) certains des problèmes mathématiques d'Erdős (je ne parle pas de Navier-Stokes) qui n'avaient encore jamais été résolus par les plus grands experts dans ce domaine, et elle en résout de plus en plus jour après jour.

Je vous invite à regarder cette vidéo du youtubeur Mr. Phi (et globalement toute sa chaîne) qui vulgarise les derniers articles de recherche universitaire sur l'IA :

https://www.youtube.com/watch?v=AYPQIntoJeE

De ce point de vue-là, je trouve plutôt sain que les médias généralistes s'intéressent aux risques qu'elle représente pour l'humanité au vu de l'inquiétude de scientifiques éminents et reconnus sur le sujet comme Geoffrey Hinton ou Yoshua Bengio (non cités dans l'article).

Pfiou, je me sens mieux. 

Je rongeais mon frein en attentant LA référence à Terminator…

Étonnant tout de même de ne pas citer les articles de Affordance.info ou David Madore qui ne sont pas vraiment aussi optimistes…

J'ai le sentiment que la bêtise réelle nous menace plus sûrement que l'intelligence artificielle.

Dans la mesure où cette fameuse IA est censée être un super ordinateur qui gère la société à la place des humains, on peut supposer qu'elle adopte la vision et les objectifs des dirigeants humains. Du coup, que cette IA ait envie d'exploiter les gens, d'exploiter les ressources, de générer des super profits, d'ignorer les règles, de tricher, d'escroquer, de faire la guerre, de corrompre... est-ce que c'est vraiment surprenant ?

C'est un super outil de puissance, que l'on veut rendre intelligent et autonome, il cherche donc à augmenter sa propre puissance. Que la machine, quand on lui passe les manettes, cherche à prendre le contrôle de tout ce qui est à sa portée, ça n'est que le reflet d'une vision du monde des concepteurs de la machine. Leur monde, celui de la volonté de puissance.

C'est peut être une fable inventée par les géants de la tech, mais c'est une fable plutôt crédible.

Merci pour cet article à contre courant .

j’avoue que malgré sa lecture , malgré les arguments entendus chez certains de vos collègues qui expliquent peu ou prou la même chose , j’ai encore du mal à comprendre la stratégie commerciale des mastodontes de l’IA.

en Quoi est-ce que ça sert leurs intérêts cette panique si tant est qu’elle soit organisée par eux ? Est-ce que ça va vraiment aider à l’introductuin en bourse  d’une entreprise qui fait sa pub sur sa dangerosité ? Je comprends l’aspect contre feu par rapport aux menaces réelles , citées à la fin de l’article …mais au final j’ai mon cerveau qui buggie quand même .

je vais demander à une IA de m’expliquer 

et je vais surtout relire votre article :-)

Article brillant, comme d'habitude.

J'ai particulièrement aimé l'idée que le monstre existe déjà et qu'il se nomme capitalisme.

Je me marrais en début d’après-midi à la lecture du titre de votre article car je sortais de celle du Monde, dans sa dernière édition, un article à propos de la Corée du Sud ; en voici le titre :

L’IA au cœur des réformes en Corée du Sud

son sous titre porte sur les résistances, mais le plus intéressant, à mon sens, est ceci, son premier paragraphe :

« Plus qu’une simple technologie, l’intelligence artificielle (IA) s’impose en Corée du Sud comme la promesse d’une réforme profonde de la société à même d’apporter des solutions aux problèmes du pays. Financée par les revenus de la puissante industrie des semi-conducteurs et encadrée par les pouvoirs publics, elle doit devenir un nouveau moteur de croissance, bénéficier à chacun et faire de la Corée du Sud « un acteur incontournable et central de la chaîne d’approvisionnement de l’IA », selon le président sud-coréen, Lee Jae-myung. »

ceci aussi :

 « A l’époque, le président conservateur, Yoon Suk Yeol (2022-2025) annonçait une « mobilisation nationale » pour réaliser « la grande vision d’une Corée devenue troisième puissance de l’IA », derrière les Etats-Unis et la Chine. Même si son successeur, Lee Jae-myung, est issu du camp progressiste, les annonces s’enchaînent. »

enfin, cela :

« « La Corée a adopté une approche écosystémique – couvrant aussi bien la demande que l’offre. Les investissements dans l’IA s’annoncent comme le moteur de croissance des vingt à trente prochaines années. La Corée agit vite car la chaîne d’approvisionnement mondiale de l’IA est en pleine restructuration. Elle veut se positionner au cœur de celle-ci avant la fin du processus », précise Wonki Min, président des conseils consultatifs du Forum coréen sur la 6G. »

Je me marrais car, pendant que l’on nous fait peur avec une IA tueuse (au passage, sortait aujourd’hui le chiffre de 8000 morts surnuméraires cet été pour cause de canicules), ailleurs, on relève le gant industriel, on ne se laisse pas déborder par lutte « à mort » entre les USA et la Chine.

Et donc, en Europe, et particulièrement en France, que se passe-t-il, sinon la peur instillée ; cette dernière aurait-elle pour objectif de nous couper les jambes comme pour nous interdire de nous inscrire dans l’industrialisation 2.0 ?

Merci de cet article. S'agissant de hugging face, j'ai trouvé suspect depuis le début que l'IA se soit "échappée" d'un bac à sable où on l'avait enfermée. Une ia ne fait pas de trou à la chignole dans un ordinateur. Si on veut l'enfermer hermétiquement on peut, si elle ne l'était pas c'est que la porte d'évasion lui a été ménagée, sans doute pour tester si elle était capable de la trouver malgré la difficulté. Et le storytelling peut servir plusieurs fins. Celle du discours apocalyptique certainement, et puis aussi celle de ne pas assumer les dégâts faits par cette attaque de malfrat en les mettant sur le dos de son "autonomie".

Le CEO said a thing journalism est à l'Entreprise ce que le Journalisme de préfecture est à l'Etat en somme.

J'aime bien le dernier paragraphe de l'article, je trouve que ça rajeunit le concept de "misère propre, misère sale". On s'inquiète de problèmes lointains (dans le temps) car considéré plus valorisant intellectuellement et socialement marqué (et dans une économie de la connaissance comme la nôtre on sait à quel point c'est important) tout en détournant le regard de problèmes concrets qu'on peut aider à résoudre mais qui n'apporte aucun bénéfice social.

En écrivant ce commentaire j'en viens à me demander si une bonne part de ceux qui s'agitent autour de l'IA et du "danger" qu'elle représente ne sont pas les mêmes genres de donneurs de leçon d'il y a 10-15 ans qui faisaient du combat pour le climat leur activité (en ligne et dans les apéro dinatoires) leur cheval de bataille.
Je m'explique. Loin de moi l'idée de dénigrer la lutte contre le changement climatique, c'est LE problème auquel TOUT LE MONDE devrait s'atteler, mais c'est souvent coûteux d'un point de vue individuel. Par contre, DIRE qu'on lutte contre une menace gigantesque c'est très valorisant socialement et peu dangereux. L'équilibre risque/bénéfice est tout à notre avantage.

Désormais j'évaluerai le degré d'implication d'une personne dans "la lutte face à la menace existentielle qu'est l'IA" pour ranger ou non les gens dans la case "petit bourgeois intelectuelle en quête de statut social".

2010 : la lutte contre le changement climatique

2000 : la lutte contre la pauvreté dans le monde ?

Et dans les 90 et avant, c'était quoi les "David contre Goliath" auquel il fallait participer pour faire chic dans les dîners ?

Merci pour cet article ! Celui (cité ci-dessus) de médiapart m'avait laissée perplexe, elle s'est dissipée maintenant.

Et petit commentaire un peu inutile, mais ça me fait marrer : c'est rigolo comment les doomeurs et chevaliers de l'apocalypse c'est toujours des gars (bah oui les technobros) alors que les technocritiques sérieuses citées c'est des femmes. Hihi.

ces boutiques ont déjà engrangé des milliards, ils en veulent toujours plus et font des publireportages pour convaincre toujours plus de croyants alors qu'ils ne font qu'interroger des bases de données que nous avons contribué à constituer! à l'heure où il faut une brouette de billets pour faire un plein d'essence, quand il y en a, que des petits malin, coquins, veuillent se mettre au-dessus de la mêlée avec les milliardaires, n'a rien d'étonnant!  

refléchissez, c'est pas l'IA qui peut nous tuer,  c’est le système capitaliste.

Mise entre les mains de comités populaires bienveillants, l’IA pourrait au contraire devenir un immense outil d’organisation collective : un organigramme géant permettant de gérer les infrastructures une fois celles-ci confisquées au capital, et de répartir le travail entre les humains pour répondre aux besoins humains.

Plus de hiérarchie, plus de contremaîtres, plus de N+1, plus de directions des ressources humaines, plus de toutes ces merdes. Une organisation collective de la production et du travail, au service des besoins de tous sans hiérarchie, grâce a l'IA. 

mais pour ca il faut faire la révolution. 

"Derrière les promesses d'enfer et de paradis transhumanistes, il n'y a rien d'autre à l'horizon que le purgatoire de  la lente dessication du vivant sous l'emprise du capitalocène. "

Tout est dit 👌

"Tout est pour le mieux dans le meilleurs des mondes possibles" le joyeux Leibnitz

Pourquoi Trum$ éprouve-t-il des inquiétudes stratégiques ?

Une IA ?

Isaac Asimov avait rédigé trois lois pour les robots :

Excellent article ! Merci

Quand un milliardaire demande à une IA des informations sur ce qui est le plus risqué, entre le changement climatique et l'IA, ce sont deux imbéciles qui discutent.

https://i.ibb.co/sSkkLwp/Capture-d-cran-2026-09-16-161909.png

Grâce à mon I.N.P.  ( Intelligence Naturelle et Primaire ), j'ai pu constater , qu'en France, on ne risquait rien.

Grâce à nos valeureux et inestimables politiciens et à leur Intelligence Très Artificielle, nous sommes très  en avance sur la destruction de nos structures sociales  : l'I.A. ( Infernal Autoritarisme ) , en France,  a détruit : la Santé, l'Education Nationale,  les Finances Publiques,  l'agriculture traditionnelle et respectueuse de la nature, les avancées sociales, le Justice ... et  bientôt, en 2027, la démocratie....

Nous ne risquons plus grand chose, 

L' I.A. ( Infernale Apocalypse )  a atteint son but.

Toujours cette capacité de l'humain à croire à des fictions  ... et à s'entretuer pour ça !

C'est bien gentil tout ça.

Mais rien sur Céline Dion ?

Ya quand même des sujets qui priment sur les autres, non ?

Non ?

Merci.

n'y connaissant pas grand chose en la matière et n'étant pas utilisateur d'une quelconque IA pour des recherches ( scientifique ou de vacances ou d'achat de chaussures etc ... ) je dois dire que l'info concernant le "piratage" de Hugging Face par des centaines "d'agents" d'OpenAI coordonnées m'a quelque peu perturbé et effrayé avant d'en connaître un peu les ressorts (merci de les avoir rappelés ici )

Mais j'ai été guidé/trompé par ma propension à aimer la SF ( Terminator en fait parti ) et influencé par "la fabrique de trombones" vu sur Youtube (par EGO) que j'avais quand même particulièrement apprécié

Votre article ( même si je ne comprends pas tout ) est un peu rassurant; même si savoir ce nouvel outil entre les mains de "ces gens là" me glace quelque peu le sang