34
Commentaires

ONU, Israël, Gaza : le simulacre des simulations

À court d'influence diplomatique, l'ONU a mandaté une start-up d'IA pour simuler Israël et la Palestine et tester des solutions. En miroir, Israël collecte lui aussi des données pour optimiser son massacre. IA de paix, IA de guerre : un même processus de déshumanisation.

Commentaires préférés des abonnés

Peut être celui là :



Merci pour ce papier très clair et rigoureusement détaillé. Encore un signal de technofeodalisme

Derniers commentaires

"l'IA est le dispositif d'évasion parfait à placer entre soi et ses responsabilités" - tout est dit...

Juste une remarque, en français on dit plutôt "lever les yeux au ciel" (rouler des/les yeux étant plutôt un calque de l'anglais). Signé : une traductrice

Ou bien encore, les programmeurs de l'époque antique résumaient cela par l'acronyme GIGO : "Garbage In, Garbage Out"... En français de maintenant : "Si t'input de la m..., t'auras un output de m..."

Pour avoir eu l'occasion de travailler pendant quelques mois dans un laboratoire de recherche en IA il y a une vingtaine d'années, je pense avoir un avis relativement éclairé sur le sujet.


Le choix des sources de données vont totalement façonner le résultat prédictif final. C'est donc juste un moyen de valider une option politique déjà inscrite dans le choix initial, en lui mettant un vernis de "magie IA", ce qui revient à une nouvelle forme d'argument d'autorité, pour l'instant difficile à contester pour beaucoup de gens qui n'y connaissent rien. Le résultat final est déjà inscrit dans le choix des informations dont on va, ou pas, nourrir l'IA.

Encore une application de la stratégie du choc documentée par Naomi Klein : certains savent profiter des pires crises pour, non seulement faire du busyness, mais surtout imposer un modèle néo-libéral, ici techno-solutionniste, mais ça n'en est qu'un énième rejeton.

Une fois de plus, un article passionné de Thibault Prévost (TP), dont la méthode est toujours d'écrire les opinions qu'il a sur un sujet, de les exagérer au point qu'il finit par écrire des conneries et de citer des sources qui racontent parfois un peu n'importe quoi mais comme ça va dans le ses des idées de TP, on les cite sans se poser de question. Car s'il y a beaucoup de bullshit dans les entreprises qui promettent des miracles "grâce à l'IA", les arguments de TP manquent tellement de nuance que ça en devient embarrassant. Sans compter la mauvaise foi de TP, qui m’agace prodigieusement.


Prenons donc l'exemple de CulturePulse. Si TP pointe a raison le côté "vernis humanitaire pour mieux faire oublier le business model de l'entreprise", les arguments de TP pour attaquer son modèle IA laissent à désirer. Quelques exemples d'arguments pourris:


- "Les deux chercheurs n'ont pas eu accès à la bande de Gaza, c'est ballot. Pas de problème : les données de terrain sont jugées suffisantes pour commencer à travailler à la résolution du conflit " : vu le type de données mentionnées dans le modèle, il est très probable qu'ils s'appuient sur des statistiques préexistantes (ou des études précédentes en sociologie et psychologie). TP fait comme si  CulturePulse devait tout recueillir eux-même. Le bon argument aurait été de se demander sur quelles statistiques/études précédentes CulturePulse s'appuie, plutôt que d'ironiser sur le peu de temps passé sur le terrain.

- "Voilà. Le mot est lâché : jouer. On simule Israël et les Territoires palestiniens occupés sur un ordinateur, et on modifie les variables pour voir ce que ça donne. On fait de l'A/B testing diplomatique. Sim City 3 000, édition bande de Gaza.  " Bravo pour l'ironie, mais on attend l'argument qui discréditerait cette simulation. Si c'est le simple emploi du mot "jouer", cela montre que TP ignore tout de la théorie des jeux, qui est une branche des mathématiques tout à fait sérieuse.

- " Que produit invariablement cette double opération de réduction et d'abstraction ? Une paraphrase du réel. Un archétype. La production d'un regard. La carte n'est jamais le territoire, et certainement pas lorsque les cartographes n'y passent qu'une semaine et n'en visitent que la moitié. " Là, TP montre toute l'étendue de son inculture scientifique. Les scientifiques travaillent toujours avec des modèles, qui sont toujours une réduction et une abstraction de la réalité. Et ça marche. Après, il est possible (et même probable) que le modèle de CulturePulse soit complètement bidon, mais TP rejette complètement la démarche, avec toujours l'argument crétin de "seulement une semaine sur place" qui ne tient pas la route comme je l'ai dit plus tôt

- "Les hommes, femmes et enfants analysés et simulés deviennent des graphes, une constellation de points de données. Ils sortent du périmètre de l'espèce biologique. " Et TP n'a visiblement jamais entendu parlé du travail des démographes, ces déshumanisateurs de l'extrême (selon lui)

- "Simuler la colonisation d'un territoire, c'est risquer de voir par les yeux du colonisateur, de parler par sa bouche, de décrire l'Autre par ses mots. Dans le contexte israélo-palestinien, cela revient à épouser la rhétorique de l'état hébreu," mais bien sur que non ! C'est un contresens total, vu que le but de la démarche est justement de comprendre les points de vue de chacun. Y compris le point de vue des Palestiniens. On peut douter du résultat obtenu, mais de là à écrire un contresens aussi grossier, c'est la grosse honte pour TP.



Une dernière chose, qui est un peu annexe dans le texte mais qui est symptomatique des erreurs de TP qui prétend connaître " et les bases philosophiques de l'informatique ". Il se trouve que je connais bien le sujet, et donc ça m'énerve de laisser passer une connerie grosse comme ça. Le texte cité parle des idées de Charles Babbage, qui, avec sa "machine analytique" est effectivement un précurseur de l'informatique. Tout comme l'était Blaise Pascal avec sa pascaline. Donc,

pourquoi considérer que les idées de Charles Babbage sont "les bases philosophiques de l'informatique" plus que les Pensées de Pascal ? Les deux étaient des précurseurs. Les deux avaient des idées bien arrêtées sur le monde. Pourquoi en privilégier l'un plutôt que l'autre ?


Surtout que, en vérité, les "les bases philosophiques de l'informatique" ne sont ni les idées de Charles Babbage, ni celles de Blaise Pascal. Les ordinateurs actuels ne sont pas basés sur la "machine analytique" de Babbage, ni sur la Pascaline, mais sur "l'architecture de von Neumann", qui est elle-même basée sur le modèle théorique des Machines de Turing qu'Alan Turing a imaginé lorsqu'il reformulait les théorèmes d'incomplétudes de Gödel, qui eux-même répondaient à la question (philosophique / mathématique) formulée par David Hilbert : "Est-ce que tout ce qui est vrai est prouvable ?" C'est ça, les fondements philosophique de l'informatique: une question épistémologique. Merci à Thibault Prévost d'en prendre note.



" À court d'influence diplomatique, l'ONU  ... " Georges W Bush, Obama, Trump, Sarkozy, Cameron y ont beaucoup oeuvré en la court-circuitant, voir la méprisant, comme le droit international sur lequel ils se sont vulgairement assis.

“La mort d'un homme est une tragédie. La mort d'un million d'hommes est une statistique.”  Au moins Joseph Staline était conscient de ce qu'il disait, de ce que cela impliquait. Ici, cette boucherie sera déléguée à des IA pour la tranquilité d'âmes des dirigeants.

Encore un très bon article, si je pense par contre que (en dehors de la question du cas particulier du prestataire choisi, de ses arguments publicitaires, manière de bâcler le travail, etc.) ça me semble plutôt une très bonne idée (et quelque soit ma détestation des "IAs" d'habitude) que l'ONU ou autres organisations internationales/humanitaires cherchent à se doter de systèmes de simulation informatiques les plus pointus possibles, et d'autant plus que les acteurs mal intentionnés ne peuvent que s'en doter eux mêmes, et que les détenteurs de pouvoir à influencer ne jurent que par eux (là où l'expertise purement humaine, surtout non basée sur de la donnée statistique, n'a pas grande chance de les impressionner).


Enfin il y a beaucoup d'objections de principes, qu'elles soient idéalistes, idéologiques ou sentimentales à ce genre d'idée, et l'article les énumère bien, mais dans un monde réel où il n'est pas besoin de ce genre d'outils pour prédire qu'un triomphe prochain des opprimés (ou même de gens pensant autrement que les dirigeants actuels du monde en général) soit totalement improbable, ça me semble plutôt une idée brillante, pour exploiter le biais technophile des dominants dans le bon sens. 


Si ce genre d'outil pouvait donner le poids d'une scientificité reconnue aux mises en garde ou suggestions qu'émet l'ONU, ou même juste permettre aux agences qui se chargeront de les gérer de prédire avec un % décent d'exactitude des crises humanitaires découlant d'engrenages politiques complexes, ça me semblerait plutôt un énorme gain pour l'humanité.

Ce message a été supprimé suite à la suppression du compte de son auteur

Excellent article (comme d'habitude).


Bon, au début de l'article, j'ai lu à un moment "techno-sionisme" au lieu de "techno-solutionnisme"... Il faut que je me repose un peu, je crois (ou en tout cas que j'arrête de lire ou regarder ce qui concerne le conflit israelo-palestinien).


Sinon, l'article m'a fait penser à la psycho-histoire du cycle des Fondations d'Asimov, une "science" qu'on n'explique pas vraiment mais qui prédit le devenir des civilisations, à l'échelle de l'univers quand même. Dans les livres, ça marche pas mal mais il y a parfois des "bugs" (un événement imprévu qui a un effet démesuré sur l'histoire). Bref... C'est de la (bonne) science-fiction.

Passionnant article , voté. Peut on dater le "début" de ces substitutions à l'introduction des drones ?

Bravo pour cet article clair tout en étant fidèle à la complexité du sujet 

Heureusement qu'il y a la chronique "Clic gauche", sinon il y a longtemps que j'aurais résilié mon abonnement à ASI.

Ce message a été supprimé suite à la suppression du compte de son auteur

Merci pour ce papier très clair et rigoureusement détaillé. Encore un signal de technofeodalisme

DÉCOUVRIR NOS FORMULES D'ABONNEMENT SANS ENGAGEMENT

(Conditions générales d'utilisation et de vente)
Pourquoi s'abonner ?
  • Accès illimité à tous nos articles, chroniques et émissions
  • Téléchargement des émissions en MP3 ou MP4
  • Partage d'un contenu à ses proches gratuitement chaque semaine
  • Vote pour choisir les contenus en accès gratuit chaque jeudi
  • Sans engagement
Offre spéciale
3 mois pour 3 € puis 5 € par mois

ou 50 € par an (avec 3 mois offerts la première année)

Sans engagement
Devenir
Asinaute

5 € / mois
ou 50 € / an

Je m'abonne
Asinaute
Généreux

10 € / mois
ou 100 € / an

Je m'abonne
Asinaute
en galère

2 € / mois
ou 22 € / an

Je m'abonne
Abonnement
« cadeau »


50 € / an

J'offre ASI

Professionnels et collectivités, retrouvez vos offres dédiées ici

Abonnez-vous

En vous abonnant, vous contribuez à une information sur les médias indépendante et sans pub.