99
Commentaires

Intelligences artificielles

C’est un fait-divers qui aurait pu avoir des conséquences tragiques.

Derniers commentaires

Lorsque je suis dans ma voiture
Une voix posée me rassure
Elle accompagne mes trajets
Comme une étoile du berger

Elle est énigmatique
On dirait la Joconde
Sa parole angélique
Me mène au bout du monde
[...]

(François Morel, en duo avec Yolande Moreau, paroles de François Morel et musique de Reinhardt Wagner sur l'album Le Soir, des lions..., 2010, http://www.deezer.com/track/5497622) — https://www.youtube.com/watch?v=Nh95BO1D1HE
Ma GPS se prénomme Simone.

Elle a tout vécu.
Une fois, nous avons fait tout notre trajet en allemand. Pour rigoler.

Une autre fois, nous visitions une église portugaise, et, ayant oublié de l’éteindre, Simone a déclaré dans le silence réverbérant
du lieu : « Faites demi-tour dès que possible ! ».

Et pour le humor, The Office.
Un article en Anglais (je n'ai pas réussi à mettre la main sur une version Française) qui décrit comment lors d'une expérience des étudiants "piégés" dans un bâtiment en feu ont suivi un robot dans qui les faisait traverser tout le bâtiment les mettant ainsi en danger alors qu'ils connaissaient très bien la sortie la plus proche.

Je pense qu'ici nous avons affaire à une variante de l'expérience de Milgram. Le robot représente alors l'autorité supposée compétente.

Source : http://www.entrepreneur.com/article/271840
J'en déduit que Daniel aime les voix féminine autoritaire ))) et qu'il ne peut y résister . Perso moi des fois / souvent je me rebelle et je n'écoute pas le GPS surtout s'il y a des embouteillage, je ne me suis jamais retrouvé dans un cul de sac . Les machines ne sont pas fiable, les humains oui .
Il faudrait créer un indice (délicat à évaluer) du type U/E où U=utilité du problème résolu par une intelligence (humaine ou non) et E=Énergie dépensée.
En effet, l'équipe AlphaGo doit elle être fière d'avoir dépensé tant d'énergie électrique pour battre un humain au jeu de Go ?
Pour le moment l'indice est en faveur de l'humain.

Néanmoins je ne veux pas minimiser la recherche sur l'intelligence artificielle. Il faut continuer sur ce chemin, j'en suis convaincu.
Une bonne illustration de ce qu'il faut comprendre quelles sont les arnaques qui nous menacent quand il est question d'intelligence artificielle: http://watson2016.com/

"La fondation Watson 2016 est une organisation indépendante pour la promotion de l'intelligence artificielle connue sous le nom de Watson en temps que candidat à la présidence des États Unis d'Amérique"

Cet exemple est tellement débile que je ne crois pas qu'il soit réellement dangereux mais les efforts actuels pour nous soumettre aux règles comptables et bancaires donnent une idée de la suite.

Le vrai danger c'est la confusion entre ce qui relève de la science (où les idées fausses peuvent être éliminées par des expériences ou des contre-exemples) et ce qui, dans ce cas la politique, n'en relève pas parce qu'il y a une infinité de possibilités intermédiaires entre le vrai et le faux (sans qu'on puisse leur attribuer une probabilité.)

Pour ce genre d'applications de l'IA l'apprentissage n'a pas de sens (même si évaluer en dollars les moyens et les résultats facilite beaucoup les choses): les expériences sont exclues à cause des désastres qui en résulteraient jusqu'à la découverte complète et définitive des lois du bon gouvernement.
L'échéance 2017 approchant, une suggestion à François Hollande : remplacer rapidement Valls par un robot AlphaGouv. qui apprend de ses erreurs.
"En revanche, il est probable qu’il sera beaucoup plus irritable devant toutes mes erreurs de conduite ou d’itinéraire, et sera un jour ou l’autre tenté de conduire à ma place."

Non, il ne s'enervera pas, il apprendra encore de vos erreurs...
[quote=Daniel Schneidermann]Ses concepteurs peuvent bien tenter de nous rassurer sur le mode «allons donc, on ne l’a programmé que pour jouer au Go, il ne sait rien faire d’autre», bien entendu, à la différence du GPS, nous ne les croyons pas

... et vous avez bien raison ! Les technologies mises en oeuvre (deep learning) dans AlphaGo sont applicables à n'importe quel autre domaine : médecine, transport, recrutement etc.

Si on n'arrive pas à réintégrer de l'humain dans ce qui se prépare à moyen terme, on va IMHO à la catastrophe (des hôpitaux où les patients seront surveillés par des machines qui leurs distribuent les médicaments, des entretiens d'embauches où le verdict sera rendu par un programme etc).

Regardez cette video. Il s'agit d'ATLAS, le dernier robot conçu par Google et présenté il y a quelques jours. Vous verrez qu' ATLAS pourrait parfaitement assurer le picking des colis dans une société comme Amazon...

Les derniers emplois non qualifiés qui restent réservés à l'homme car par encore atteints par le numérique vont eux-même à terme disparaitre.

PatriceNoDRM
C'est quoi, un GPS ?

et l'intelligence, artificielle ou pas ?
Pour l'anecdote, j'ai eu aussi ce genre de déboire (mais à ma décharge ce n'est pas moi qui conduisais)
Donc on se gare dans une espèce d'impasse/place de parking. Au moment de repartir dans notre home à nous, on met le TomTom. Normal.
Et là la ligne verte s'inscrit autour du pâté de maison et nous fait revenir à notre point de départ. La conductrice s'en étonne, puis dit :
"On va suivre les indications, et quand on sera sortis de la place, il nous orientera vers la bonne direction."
Tournez à gauche, tourner à gauche, tourner à gauche. On fait le tour, et la ligne verte continue de faire le tour du pâté de maison.
Et en vertu du fait qu'à un moment ça allait se déclencher, on a fait 3 FOIS le tour du pâté de maison.

Et à la troisième fois, j'ai dit "Tourne à droite là" (n'y voyez aucune allusion politique). C'est ce qu'elle a fait ! Et là, tout s'est remis en place.
Quelquefois, en mettant le TomTom, on en rigole en disant : si on avait suivi le GPS, on serait encore en train de tourner à Rambouillet. Pour toujours ! Comme un chèvre autour de son piquet !!!

En ce qui concerne les intelligences artificielles, c'est assez étonnant, le raisonnement que vous faites.
Vous partez du principe que la réflexion de l'être humain, donc également à l'horizon de l'avenir du robot, est uniquement d'origine rationnelle. Or, c'est totalement faux : nos ressorts sont avant tout émotionnels. Pour agir, il faut en avoir l'envie, le DESIR !
Or ces sentiments sont totalement ancrés en nous biologiquement : Un énorme et complexe système chimique et hormonal fait interface avec notre environnement, et nous pousse à agir. Et c'est ensuite la rationalité qui prend le relais et analyse comment agir en fonction de ce désir exprimé (ou non, parce qu'il peut être purement inconscient) au niveau de notre cerveau supérieur.
Il existe des maladies du cerveau où le sujet perd tout désir : il n'a plus alors de mécanisme de la volonté. Son raisonnement et l'analyse de ses besoins n'existent plus.
Et les machines n'ont pas ces mécanismes, c'est pourquoi elles ne peuvent avoir de colère, d'indignation ou de susceptibilité. Parce qu'elles n'ont pas de Volonté d'agir. Elles sont agissantes mais passives.
Personnellement, j'ai beaucoup moins peur des robots que des humains qui les commandent.

Et j'ai également peur des gens qui prennent le contrôle de notre cerveau pour en faire émerger des désirs ou des peurs délétères.
Parce que pour la plupart, nous avons également des mécanismes hérités de l'hominisation qui nous poussent à agir ensemble, et à perdre tout sens.

Parce que lors de l'évolution, le groupe humain qui a survécu et vaincu tous les autres est celui qui pouvait à la fois laisser une grande autonomie à ses individus et pouvoir les rassembler comme une seule entité en cas de danger.
D'où l'illusion de liberté, de rationalité, de pseudo-morale et d'aveuglement pour que tout cela tienne ensemble...
Cette manie réactionnaire de dénigrer le progrès technique me chagrine quelque part. Voulons-nous revenir à la diligence et aux bandits de grand chemin ? Voulons-nous trouver notre itinéraire en interprétant des entrailles de volaille ?
Mon GPS (sur l'air des P'tites femmes de Pigalle de Serge Lama)
Gérard BAKNER - bakner.fr

J’me suis acheté un super GPS
Le genre de truc qui’t’coûte la peau des fesses.
J’l’ai mis sur mon pare-brise.
Maint’nant faut qu’j’l’utilise.
Y’a des boutons partout.
Ce truc là, j’en suis fou.

La première fois que j’ai pris un carrefour
J’ai pas compris, m’a fait faire quinze fois l’tour !
Ca m’a coûté un plein.
J’aurai dû prendre le train.
Je consomme plein d’essence.
J’ai doublé mes dépenses.

Il voulait pas qu’j’prenne le sens giratoire.
M’disait tout l’temps d’changer de trajectoire.
Prend la première à droite.
Fais le tour de la place.
Puis la deuxième à gauche,
Et rendez-vous rendu at home.

Quand j’suis perdu, quand j’sais plus où j’habite
J’entends des voix qui m’guident par satellites.
Il calcule mon parcours
Me fait faire plein détours.
J’connais plein d’raccourcis
J’prends les sens interdits.

Quand j’suis tout seul au volant d’ma bagnole
Et qui me prend des envies d’gaudriole.
Quand ma femme n’est pas là,
J’mets la voix d’Ursula.
On fait un bout d’chemin,
Ca m’change du quotidien.

Maint’nant qu’en plus, il m’signale les radars
J’donne des coups d’frein, du coup j’arrive en r’tard.
Plus besoin d’cartes routières.
J’fais la route buissonnière…
Ce truc là m’électrise.
Je suis sous son emprise.

J’me suis acheté un super GPS
Le genre de truc qui d’vient vite indigeste.
Mais j’suis content, j’suis content,
J’suis content, j’suis content,
J’suis perdu mais… content.
L'intelligence artificielle n'a rien a voir avec l'intelligence humaine.

AlphaGo repose sur une méthode de MonteCarlo:

https://fr.wikipedia.org/wiki/M%C3%A9thode_de_Monte-Carlo

AlphaGo, comme DeepBlue, construit l'arbre de toutes les situations possibles. Il doit alors choisir quelle situation est la plus préférable et choisir la branche de l'arborescence d'options qui se présentent à lui. Pour cela, il doit faire appel à une fonction heuristique, qui va permettre de déterminer la valeur quantitative de chacune des options.

Une fonction heuristique bête conçue par l'homme, évaluera simplement le plateau de jeu à un instant t. Une fonction heuristique plus fine déduite par réseaux neuronaux artificiels permettra de valoriser une situation en fonction de son évolution potentielle. C'est cette fonction heuristique, que la machine doit apprendre (par ailleurs, on constate deja que la partie apprentissage est réduite au minimum, seule l'évaluation de la situation est apprise, le reste est codé en dur).

Généralement, la fonction heuristique est définie par l'humain lui même. Il est tres difficile pour une machine d'apprendre par elle meme la valeur d'une situation dans un jeu tel que le go. DeepMind a réussi à produire une méthode capable de le faire. Mais d'autres projets avaient réussi avant une telle approche, comme Giraffe, sur le jeu d'échecs : http://arxiv.org/pdf/1509.01549v2.pdf

En conséquence, on a à faire ici à un outil statistique automatisé. Il n'y a ni cognition, ni pensée, ni articulation de concepts. Juste une analyse statistique bien velue. Et c'est en cela que les réseaux neuronaux artificiels profonds sont utilisés. Ils ne servent qu'à analyser de manière statistique et aboutir à une régression linéaire. La fonction heuristique est donc déduite à force d'entrainement de ce réseau.

Est ce que l'intelligence humaine est un simple outil classificateur statistique? Non. Est ce que la statistique peut aboutir à un semblant de cognition? Non.
Des fois, je me demande la différence entre un chercheur en intelligence artificielle et un bête statisticien. Le premier sait coder.

Voici ce que disait Minsky, a propos des réseaux neuronaux artificiels profonds en 2015:

http://www.lefigaro.fr/secteur/high-tech/2016/01/26/32001-20160126ARTFIG00136-marvin-minsky-l-un-des-peres-de-l-intelligence-artificielle-est-mort.php

L'intelligence artificielle est désormais un domaine largement investi par les grandes entreprises. Facebook, , IBM, Microsoft ou Apple emploient tous des chercheurs sur le sujet, dont les travaux nourrissent leurs produits. Interviewé à ce sujet par le MIT Technology Review, Marvin Minsky s'était montré très sceptique quant à ce nouvel engouement. «Ces dix dernières années n'ont pas été très bonnes pour l'intelligence artificielle. On se concentre surtout sur l'amélioration de systèmes qui ne sont pas très bons», avait-t-il expliqué. «On devrait se débarrasser des grosses entreprises, virer les experts et plutôt soutenir les individus qui ont des nouvelles idées.»:

Les implications des réseaux neuronaux profonds sont nombreuses. Mais ils n'aboutiront jamais à eux seuls à une IA capable de cognition. Dire autre chose n'est que pub et spéculation. Comme les idiots Gates, Hawking et Musk, qui devraient en connaitre un minimum sur leur sujet avant d'ouvrir leur bouche et dire des choses aberrantes sur l'IA pour alimenter le fantasme des gens.

L'IA n'a d'intelligence que le nom et les technologies que ce domaine propose ne sont que des manières détournées de restituer l'intelligence humaine. La machine ne fait que restituer l'intelligence de son concepteur.

OK, AlphaGO, apprend, mais qui lui a conçu son système de collecte de données? Est ce qu'il apprend sur un corpus annoté? Annoté par quoi? Un humain? Un programme conçu par un humain? Dans ce cas, ne peut on pas considérer qu'un système statistique ne doit son intelligence qu'à l'annotation faite de ses données par l'humain? Il n'a fait que raffiner un travail intelligent d'homme.
Tant qu'on aura besoin d'acteurs humains pour jouer les robots ça ira...
Le truc vraiment flippant dans cette affaire n'est pas tant que des machines apprennent de leurs erreurs mais que les êtres humains reproduisent mécaniquement les erreurs des autres, par exemple par l'emploi sans distance de la fonctionnalité "copier/coller" chez les journalistes - y compris les meilleurs d'entre eux - qui leur fait commettre en boucle depuis quelques jours cette étrange réification de l'intelligence en présentant comme des objets des "intelligences artificielles" en lieu et place de logiciels informatiques, se disqualifiant ainsi définitivement pour dire quoique ce soit d'éclairant pour leurs lecteurs.
Les GPS ne se trompent jamais, vous ne savez juste pas comment les programmer correctement ????
Si le GPS avait existé en 1940, les blindés nazis se seraient embourbés vite fait… Las, ils avaient des "cartes Michelin" où tout est merveilleusement détaillé… Tssss
Je ne vous raconte pas l'effet que me produisit une panne d'électronique toute bête, dans une Twingo toute neuve, à la sortie mouvementée de l'autoroute A 4… Inch allah !
A noté que dans cette "affaire" du GPS, le conducteur a "anticipé" l'injonction du GPS puisqu'il a tourné dès qu'il a pu, et que ce n'était pas une route.
Quand vous voudrez vous faire peur, allez voir les robots militaires qui sont en train d'être mis au point. Sur certaines vidéo les testeurs donnent des coups de pied aux robots pour les faire tomber et jauger leur équilibre, c'est un truc que je ne ferais pas quand leur armement sera en place !
GPS de l'avenir
En 1834 déjà on trouve ça!!! L'idée était d'améliorer les cartes maritimes, on le doit à un dénommé Charles Babbage. On pourrait l'essayer: robuste! Il suffit d'avoir la voiture qui va avec!
Bonjour Daniel
"Quiconque a déjà ainsi dialogué avec une machine apparemment pensante ne peut résister à la tentation absurde de tester sa susceptibilité, voire de rechercher en lui des traces d’émotions humaines, comme on cherche des traces de la vie sur Mars"
Avez-vous déjà essayé de traiter d'imbécile votre iPhone (que vous n'avez plus… au fait tous vos contacts sont-ils maintenant opérationnels ?) lorsque Siri est activé.
Il vous répond "j'essaye simplement de vous aider" essayez.

A ce sujet j'ai souvenir d'un sketch des guignols montrant Bismuth en train de s'adresser à son iPhone pour appeler un correspondant. Génial.
"Quand on aura clôné le joueur de Go de Google dans mon GPS, il est certain qu’il ne m’emmènera plus au fond des impasses des lotissements paumés"
Une mise à jour régulière devrait suffire.
Ah, oui! La musique qui marche au pas, Cela ne me regarde pas...

Rangés, classés, dirigés, choyés, chouchoutés, managés...nous suivons. Enfin la plupart.
Mais, il y a des réfractaires qui ont des voitures qu'ils dirigent.
Ô misère!
Comment une carte IGN, un crayon, un plaisir de tracer sur la carte les chemins de traverses qui seront superbes, même si on dérange les abeilles.

Ne me donnez pas la route, je ne pourrai plus me perdre...et rêver, et faire, et dire!!!

La Panurgie a de magnifiques restes et on s'y roule et on s'y complaît.
Dès fois que ça interesserait des gens, je me permets de signaler cette série de vidéos mises en ligne il y a quelques mois sur youtube. Il s'agit d'une série de leçons "grand public" sur ce qu'il est convenu d'appeler la Révolution Cognitive.

C'est très long (9*2h), en anglais, et pas en HD (ahem...) mais c'est étonnement captivant et instructif. Ca fourmille de remarques épistémologiques, de philosophie/histoire des sciences (e.g. ce qu'est le dualisme, en quoi newton a tué cette théorie et les conséquences que ça a eu sur la manière de faire des sciences depuis), de discussion sur l'étude de la cognition humaine, de la linguistique en particulier, de la biologie et des sciences en général. Le cours est construit, il y a une progression logique, ça ne va pas dans tous les sens.
Après comme l'orateur le dit lui-même, ses positions faisaient/font polémiques mais ses arguments sont développés avec beaucoup de patience et de précisions. Impossible d'en faire un résumé en quelques lignes.

Dans les dernières vidéos (à partir de la 7ème, de mémoire), il s'intéresse un peu plus spécifiquement à tout le hype autour de l'intelligence artificiel. Il y a notamment une longue discussion sur le "test de turing" et son absurdité (du moins, dans sa prétention à définir l'intelligence, ce qu'il interprète comme un contre-sens total de l'article original de turing). Ca me semble intéressant à aller regarder à une époque où la dernière annonce de Google est systématiquement reprise sans le moindre recul scientifique.
Par rapport à AlphaGo, va falloir voir dans les années qui viennent ce que ça change dans l'économie des jeux d'argent en ligne. Dans un jeu comme le poker, par exemple, les principes d'AlphaGo devraient donner un niveau supérieur à la moyenne des humains, et comme c'est un jeu à somme nulle, cela suffit à garantir statistiquement un bénéfice.
Très juste.

Il est déjà "avéré" que les voitures sans conducteur ont moins d'accidents que les hommes.
Je vous fiche mon billet que sous 30 ans il sera interdit à un être humain de conduire.
Le monde ressemblera à Total recall (chauffeur de taxi humanoïde complètement crétin, mais "sûr"), à Elysium (drones partout liberté nulle part et conseiller de probation robotisé).

Il est d'ailleurs temps d'écrire des fictions avec des juges automatiques, qui assureront enfin, dans un environnement concurrentiel et incertain, une "vraie" sécurité juridique, et qui cesseront de faire comme ces crétins d'humains qui croient que la loi s'interprète. Quelques mots clefs (qualifications applicables prédéterminées par un procureur lui même automatisé), un bon programme informatique générateur de décisions de justice et hop, un jugement !

Pas cher, rapide, efficace, la panacée quoi. Bienvenue dans le meilleur des mondes !
Abonnez-vous

En vous abonnant, vous contribuez à une information sur les médias indépendante et sans pub.