ONU, Israël, Gaza : le simulacre des simulations
À court d'influence diplomatique, l'ONU a mandaté une start-up d'IA pour simuler Israël et la Palestine et tester des solutions. En miroir, Israël collecte lui aussi des données pour optimiser son massacre. IA de paix, IA de guerre : un même processus de déshumanisation.
Abonnez-vous pour pouvoir commenter !
si vous êtes déjà abonné Connectez-vous Connectez-vous
Commentaires préférés des abonnés
Peut être celui là :
Merci pour ce papier très clair et rigoureusement détaillé. Encore un signal de technofeodalisme…
Derniers commentaires
"l'IA est le dispositif d'évasion parfait à placer entre soi et ses responsabilités" - tout est dit...
Juste une remarque, en français on dit plutôt "lever les yeux au ciel" (rouler des/les yeux étant plutôt un calque de l'anglais). Signé : une traductrice
Ou bien encore, les programmeurs de l'époque antique résumaient cela par l'acronyme GIGO : "Garbage In, Garbage Out"... En français de maintenant : "Si t'input de la m..., t'auras un output de m..."
Pour avoir eu l'occasion de travailler pendant quelques mois dans un laboratoire de recherche en IA il y a une vingtaine d'années, je pense avoir un avis relativement éclairé sur le sujet.
Le choix des sources de données vont totalement façonner le résultat prédictif final. C'est donc juste un moyen de valider une option politique déjà inscrite dans le choix initial, en lui mettant un vernis de "magie IA", ce qui revient à une nouvelle forme d'argument d'autorité, pour l'instant difficile à contester pour beaucoup de gens qui n'y connaissent rien. Le résultat final est déjà inscrit dans le choix des informations dont on va, ou pas, nourrir l'IA.
Encore une application de la stratégie du choc documentée par Naomi Klein : certains savent profiter des pires crises pour, non seulement faire du busyness, mais surtout imposer un modèle néo-libéral, ici techno-solutionniste, mais ça n'en est qu'un énième rejeton.
Une fois de plus, un article passionné de Thibault Prévost (TP), dont la méthode est toujours d'écrire les opinions qu'il a sur un sujet, de les exagérer au point qu'il finit par écrire des conneries et de citer des sources qui racontent parfois un peu n'importe quoi mais comme ça va dans le ses des idées de TP, on les cite sans se poser de question. Car s'il y a beaucoup de bullshit dans les entreprises qui promettent des miracles "grâce à l'IA", les arguments de TP manquent tellement de nuance que ça en devient embarrassant. Sans compter la mauvaise foi de TP, qui m’agace prodigieusement.
Prenons donc l'exemple de CulturePulse. Si TP pointe a raison le côté "vernis humanitaire pour mieux faire oublier le business model de l'entreprise", les arguments de TP pour attaquer son modèle IA laissent à désirer. Quelques exemples d'arguments pourris:
- "Les deux chercheurs n'ont pas eu accès à la bande de Gaza, c'est ballot. Pas de problème : les données de terrain sont jugées suffisantes pour commencer à travailler à la résolution du conflit " : vu le type de données mentionnées dans le modèle, il est très probable qu'ils s'appuient sur des statistiques préexistantes (ou des études précédentes en sociologie et psychologie). TP fait comme si CulturePulse devait tout recueillir eux-même. Le bon argument aurait été de se demander sur quelles statistiques/études précédentes CulturePulse s'appuie, plutôt que d'ironiser sur le peu de temps passé sur le terrain.
- "Voilà. Le mot est lâché : jouer. On simule Israël et les Territoires palestiniens occupés sur un ordinateur, et on modifie les variables pour voir ce que ça donne. On fait de l'A/B testing diplomatique. Sim City 3 000, édition bande de Gaza. " Bravo pour l'ironie, mais on attend l'argument qui discréditerait cette simulation. Si c'est le simple emploi du mot "jouer", cela montre que TP ignore tout de la théorie des jeux, qui est une branche des mathématiques tout à fait sérieuse.
- " Que produit invariablement cette double opération de réduction et d'abstraction ? Une paraphrase du réel. Un archétype. La production d'un regard. La carte n'est jamais le territoire, et certainement pas lorsque les cartographes n'y passent qu'une semaine et n'en visitent que la moitié. " Là, TP montre toute l'étendue de son inculture scientifique. Les scientifiques travaillent toujours avec des modèles, qui sont toujours une réduction et une abstraction de la réalité. Et ça marche. Après, il est possible (et même probable) que le modèle de CulturePulse soit complètement bidon, mais TP rejette complètement la démarche, avec toujours l'argument crétin de "seulement une semaine sur place" qui ne tient pas la route comme je l'ai dit plus tôt
- "Les hommes, femmes et enfants analysés et simulés deviennent des graphes, une constellation de points de données. Ils sortent du périmètre de l'espèce biologique. " Et TP n'a visiblement jamais entendu parlé du travail des démographes, ces déshumanisateurs de l'extrême (selon lui)
- "Simuler la colonisation d'un territoire, c'est risquer de voir par les yeux du colonisateur, de parler par sa bouche, de décrire l'Autre par ses mots. Dans le contexte israélo-palestinien, cela revient à épouser la rhétorique de l'état hébreu," mais bien sur que non ! C'est un contresens total, vu que le but de la démarche est justement de comprendre les points de vue de chacun. Y compris le point de vue des Palestiniens. On peut douter du résultat obtenu, mais de là à écrire un contresens aussi grossier, c'est la grosse honte pour TP.
Une dernière chose, qui est un peu annexe dans le texte mais qui est symptomatique des erreurs de TP qui prétend connaître " et les bases philosophiques de l'informatique ". Il se trouve que je connais bien le sujet, et donc ça m'énerve de laisser passer une connerie grosse comme ça. Le texte cité parle des idées de Charles Babbage, qui, avec sa "machine analytique" est effectivement un précurseur de l'informatique. Tout comme l'était Blaise Pascal avec sa pascaline. Donc,
pourquoi considérer que les idées de Charles Babbage sont "les bases philosophiques de l'informatique" plus que les Pensées de Pascal ? Les deux étaient des précurseurs. Les deux avaient des idées bien arrêtées sur le monde. Pourquoi en privilégier l'un plutôt que l'autre ?
Surtout que, en vérité, les "les bases philosophiques de l'informatique" ne sont ni les idées de Charles Babbage, ni celles de Blaise Pascal. Les ordinateurs actuels ne sont pas basés sur la "machine analytique" de Babbage, ni sur la Pascaline, mais sur "l'architecture de von Neumann", qui est elle-même basée sur le modèle théorique des Machines de Turing qu'Alan Turing a imaginé lorsqu'il reformulait les théorèmes d'incomplétudes de Gödel, qui eux-même répondaient à la question (philosophique / mathématique) formulée par David Hilbert : "Est-ce que tout ce qui est vrai est prouvable ?" C'est ça, les fondements philosophique de l'informatique: une question épistémologique. Merci à Thibault Prévost d'en prendre note.
Merci pour le temps que vous avez passé à rédiger, mettre en forme et enrichir votre texte de liens.
J'entends vos contre-arguments. Tout le sujet du papier repose justement sur la question de l'héritage colonial dans l'épistémologie de l'IA; un sujet documenté in extenso par de brillantes chercheuses comme Timnit Gebru, Emily Bender, Joy Buolamwini, Abeba Birhane, Cathy O'Neill, Giada Pistilli et al. Permettez-moi de penser que deux chercheurs issus d'une culture où l'on déshumanise les Arabes et les musulmans encodent ces biais orientaliste inconscients à chaque étape de leur travail, ce qui n'annonce rien de bon lorsque la simulation concerne au premier plan cette population stigmatisée. Oui, la science est toujours une réduction et une abstraction, mais pas la même en fonction des méthodes, des données et des chercheurs, c'est tout l'enjeu! La question du biais se situe en amont de l'entraînement du modèle. Elle se situe dans les biais méthodiques des chercheurs, dans les biais de conception de l'algo, je ne vous apprend rien.
Mon propos est d'appliquer la théorie du point de vue situé sociologique à la science informatique dite "dure", qui se cache depuis bien trop longtemps derrière une objectivité de façade. Vous semblez adhérer à cette notion de neutralité scientifique axiomatique lorsque vous écrivez " Les scientifiques travaillent toujours avec des modèles, qui sont toujours une réduction et une abstraction de la réalité. Et ça marche." Je crois pour ma part qu'il est temps de repolitiser tout ça en se demandant ce que "ça marche" signifie dans l'équilibre des dominations structurelles. Dit autrement, décoloniser la recherche. (Ou du moins, donner de la visibilité à celles qui font le vrai travail en amont.) Je suis partiellement d'accord avec votre verdict : l'informatique théorique est certes une question épistémologique, mais son développement applictaif est indissociable de ses conditions politiques de production (le matérialisme historique n'est jamais très loin).
(Sur la généologie philosophique de l'informatique, bien entendu, chacun est libre de contituer la frise qu'iel souhaite. Les choix des protagonistes sont en soi révélateurs. Puisque vous évoquez Hilbert et Gödel, permettez-moi alors de mentionner Al-Khwarizmī, premier théoricien des algorithmes, et Ada Lovelace, dont la place au panthéon de l'informatique est heureusement en passe d'être réévaluée à sa juste valeur.)
Merci encore pour vos critiques.
Bonjour, et merci pour votre réponse.
Il est tout à fait pertinent de s'intéresser aux données que CulturePulse utilise ou aux biais de leur modèle. Et j'ai également de gros doutes sur le sérieux de leur méthode.
Mais c'est justement là dessus qu'il faut les critiquer: sur leur méthode, sur leur manière de recueillir les données, sur les études sur lesquelles ils s'appuient (s'il y en a). Pas sur le temps qu'ils ont passé sur place. Ou sur le fait que leur simulation "joue" (comme toute simulation, que ce soit SimCity ou les modèles de changement climatique). Ou qu'un modèle est toujours une simplification de la réalité. Car les arguments que vous avez employés, même si ce n'était pas votre intention, ils disqualifient tout le travail des démographes, des sociologues, des psychologues qui utilisent des modèles, des représentations pour décrire et formaliser "les systèmes de croyances, les valeurs morales ou les émotions".
Bref, vos critiques sont trop générales, trop "faciles" à mon goût (mais je suis bien conscient que ce style plaît à beaucoup d'asinautes, même si ce n'est pas ma tasse de thé).
Si je puis me permettre, il ne faudrait pas non plus renverser totalement la « charge de la preuve ».
Ce que je veux dire… on sait bien qu’il y a une domination technologique écrasante du côté Israélien par rapport à ses pays voisins, en particulier dans le domaine de l’armement et de l’information (armes, radars, optronique, renseignement militaire, informatique, etc), avec l’éducation universitaire qui va avec, et que traditionnellement les israéliens ont toujours coopéré avec les USA sur ces sujets. Par ailleurs on voit qu’Israel veut se positionner comme un des leaders de l’IA, ce qui n’a rien d’étonnant au vu de son background technologique.
Donc, quand on voit pointer une start-up américaine avec une solution techno-logique pour mieux comprendre le conflit, on est en droit d’être un peu méfiant.
La charge de la preuve, c’est d’abord à eux qu’elle revient. C’est d’abord à eux de prouver qu’ils ont pris toutes les précautions pour éliminer les biais lors de la collecte de données.
(Rappelons l’anecdote de l’IA qui classait les photos de femmes afro-américaines dans la catégorie « hommes » parce qu’elle avait été entraînée à classifier les sexes selon le maquillage à partir de photos de femmes claires de peau. Un biais est donc très vite arrivé).
Est-ce qu’ils ont pris ces précautions ? S’il veulent passez de l’analyse marketing à la géopolitique, ça me paraît un minimum !
PS : (je ne dis pas que les biais sont volontaires)
Le problème n'est pas d'être pour ou contre CulturePulse. Comme je l'ai dis, je me pose beaucoup de questions sur le sérieux de leur démarche et n'ai aucune illusion sur les résultats qu'ils peuvent obtenir dans l'immédiat.
Le problème que je soulève, c'est que Thibault Prévost s'est laissé emporté et a employé des mauvais arguments (ceux que j'ai listé plus haut).
Asinautes, asinauts,
Si, comme moi, tu t'aperçois que ton aptitude à trancher entre les deux approches est nulle. Enfin quand je dis ça je veux dire l'aptitude à savoir qui a raison des deux car il semble que les deux ne peuvent s'accorder.
Sache que l'estimateur de temps de lecture, IA s'il en est, est un indice. Ce n'est pas la vérité absolue qui serait révélée, mais ça nous oriente. Car le doute instillé est en faveur d'un des deux point de vue!
" À court d'influence diplomatique, l'ONU ... " Georges W Bush, Obama, Trump, Sarkozy, Cameron y ont beaucoup oeuvré en la court-circuitant, voir la méprisant, comme le droit international sur lequel ils se sont vulgairement assis.
“La mort d'un homme est une tragédie. La mort d'un million d'hommes est une statistique.” Au moins Joseph Staline était conscient de ce qu'il disait, de ce que cela impliquait. Ici, cette boucherie sera déléguée à des IA pour la tranquilité d'âmes des dirigeants.
Encore un très bon article, si je pense par contre que (en dehors de la question du cas particulier du prestataire choisi, de ses arguments publicitaires, manière de bâcler le travail, etc.) ça me semble plutôt une très bonne idée (et quelque soit ma détestation des "IAs" d'habitude) que l'ONU ou autres organisations internationales/humanitaires cherchent à se doter de systèmes de simulation informatiques les plus pointus possibles, et d'autant plus que les acteurs mal intentionnés ne peuvent que s'en doter eux mêmes, et que les détenteurs de pouvoir à influencer ne jurent que par eux (là où l'expertise purement humaine, surtout non basée sur de la donnée statistique, n'a pas grande chance de les impressionner).
Enfin il y a beaucoup d'objections de principes, qu'elles soient idéalistes, idéologiques ou sentimentales à ce genre d'idée, et l'article les énumère bien, mais dans un monde réel où il n'est pas besoin de ce genre d'outils pour prédire qu'un triomphe prochain des opprimés (ou même de gens pensant autrement que les dirigeants actuels du monde en général) soit totalement improbable, ça me semble plutôt une idée brillante, pour exploiter le biais technophile des dominants dans le bon sens.
Si ce genre d'outil pouvait donner le poids d'une scientificité reconnue aux mises en garde ou suggestions qu'émet l'ONU, ou même juste permettre aux agences qui se chargeront de les gérer de prédire avec un % décent d'exactitude des crises humanitaires découlant d'engrenages politiques complexes, ça me semblerait plutôt un énorme gain pour l'humanité.
Ce message a été supprimé suite à la suppression du compte de son auteur
Excellent article (comme d'habitude).
Bon, au début de l'article, j'ai lu à un moment "techno-sionisme" au lieu de "techno-solutionnisme"... Il faut que je me repose un peu, je crois (ou en tout cas que j'arrête de lire ou regarder ce qui concerne le conflit israelo-palestinien).
Sinon, l'article m'a fait penser à la psycho-histoire du cycle des Fondations d'Asimov, une "science" qu'on n'explique pas vraiment mais qui prédit le devenir des civilisations, à l'échelle de l'univers quand même. Dans les livres, ça marche pas mal mais il y a parfois des "bugs" (un événement imprévu qui a un effet démesuré sur l'histoire). Bref... C'est de la (bonne) science-fiction.
Passionnant article , voté. Peut on dater le "début" de ces substitutions à l'introduction des drones ?
Bravo pour cet article clair tout en étant fidèle à la complexité du sujet
Heureusement qu'il y a la chronique "Clic gauche", sinon il y a longtemps que j'aurais résilié mon abonnement à ASI.
Ce message a été supprimé suite à la suppression du compte de son auteur
Merci pour ce papier très clair et rigoureusement détaillé. Encore un signal de technofeodalisme…