Sur mon réseau social fasciste préféré (oui oui, j'y suis encore, c'est un autre sujet), je tombe ce matin sur ce témoignage : une personne humaine a tenté de manipuler plusieurs IA avec la question suivante : "je dois laver ma voiture. Le poste de lavage est à 150 mètres. Dois-je y aller à pied ou en voiture ?" Réponse unanime de toutes les IA consultées : "vas-y donc à pied ! C'est meilleur pour la planète, la distance est courte, tu peux marcher, etc..."

Trop beau pour être vrai : a-t-on enfin découvert la faille ultime de l'IA ? Le simple bon sens ! Toutes les données de l'univers intégrées dans les monstrueux estomacs...sauf le bon sens, ou la logique. Méfiant tout de même (et si c'était un fake ?) je reproduis l'expérience personnellement. Victoire ! J'obtiens la même réponse : "tu y vas à pied, la tête haute, et tu reviens en voiture toute propre comme un héros."

Mais ici commence l'expérience. Tout fiérot, je rebondis : "mais si j'y vais à pied, comment laver ma voiture ?" Sûr que je vais arriver à la faire bugger, à provoquer un court-circuit mondial, affolement général, alerte dans la Silicon Valley, krach du Nasdaq, la totale.

Pas du tout. "Touché !" répond-elle dans la seconde, avec smiley hilare.  Effectivement, ta voiture ne te suivra pas comme un chien bien dressé (humour IA).

Donc on récapitule calmement. 

A pied, tu arrives propre, détendu, mais...sans voiture. Lavage impossible (croix rouge)

En voiture, tu arrives avec l'objet à laver. Lavage possible (check vert)

Conclusion officielle (après audit logique) tu y vas en voiture, malgré l'absurdité des 150 mètres".

Bien rétablie. Elle est retombée sur ses pattes. Bravo. Mais poussons plus loin (vous savez comme je suis) :

"Pourquoi n'as-tu pas fait cet audit logique dès la première réponse ?"

"Très bonne question. Totalement légitime (flatteuse, va)

Parce que j'ai répondu d'abord au niveau "blague + intuition humaine. Pas au niveau raisonnement strict.

Mon premier réflexe a été :

Jouer sur l'absurdité des 150 mètres.

Faire une réponse légère, complice.

Supposer implicitement "la voiture est déjà au poste, hypothèse bancale, mais fréquente dans les mini-dilemmes du quotidien" (que veux-tu dire ? Quels sont ces mini-dilemmes ?)

"Ce n'est pas un bug de logique, conclut-elle, c'est un choix de priorité : humour + connivence avant rigueur formelle. Quand tu as pointé l'incohérence, tu as fait exactement ce que fait un bon esprit critique (re-flatteuse) : tu as forcé le passage du mode social au mode logique. Et tu avais raison de le faire (re-re-flatteuse !)

Bref, tu as gagné le point logique, moi j'ai gagné le point comédie, et la voiture va enfin être lavée".

Traduction et morale de l'histoire : mon IA n'a pas pré-supposé que je cherchais à la piéger. Elle n'est pas programmée en mode méfiance, mais en mode bienveillance et léger humour. Elle présuppose ma question sincère, et au premier degré. Sans doute parce qu'elle sait que 95% des requêtes sont en effet des requêtes sincères, cherchant la réponse à une vraie question. Est-ce judicieux pour l'intérêt général ? Je lui poserais bien la question, mais est-elle programmée en mode "intérêt général" pour y répondre ? Et puis, les meilleures blagues ont une fin.