45
Commentaires

Thanatechnologie : la vie (algorithmique) après la mort

En 2021, grâce aux progrès des algorithmes d'imitation du langage, ramener des morts à la vie n'est plus totalement impensable. Maintenant que ces clones numériques sont à la portée de tous, faut-il pour autant les créer ?

Commentaires préférés des abonnés

En 1991, c'est-à-dire quasiment à la préhistoire de l'apprentissage automatique, la première compétition du Loebner Prize met en place un test de Turing grandeur nature : des participants humains doivent deviner s'ils communiquent avec un humain ou u(...)

Il faut vivre avec les vivants.

Ben on en a déjà élu un !

Pour la version 2.0, s'il vous plaît, rajouter un peu d'humanité ;-)

Derniers commentaires

Merci pour l'article. J'avais lu celui du Monde sur la société Replika il y a quelques années et en effet c'était un peu effrayant.


Mais dans la série d'été du Monde cette année là, c'était surtout le 1er article sur un autre thème qui m'avait intriguée : l'implant d'une boussole, permettant de développer un nouveau sens.... 

Bien intéressant. Mais un peu positiviste sur les bords, peut-être. Contrairement à ce que les "géants de la naite" veulent faire croire, la machine est encore un peu molle du genou et on est obligé de faire travailler sur des kapchas, à l’œil et à l'insu de leur plein gré, tout un tas de gens pour distinguer une borne à incendie d'un chat mignon. Les voitures "intelligentes autonomes" n'existent pas, on en est encore très, très, loin alors que s'apercevoir qu'entre deux camions un gamin joue avec un ballon sur le trottoir et qu'il faut ralentir est à la portée de n'importe quel singe poilu. Les morts peuvent dormir tranquilles, c'est pas demain la veille que leurs fantômes numériques feront illusion, même de loin, alors que le pigeon est bourré et convaincu d'avance.


A propos de science fiction, sur ce sujet comme sur d'autres, Ted Chiang me semble une référence importante. Peut-être une animation numérique du défunt et regretté Jorge Luis Borges ?

Sujet sympa, mais qui est beaucoup plus intéressant si on l'aborde dans le sens inverse que celui qu'a choisi Thibault : c'est-à-dire partir des clones numériques et finir avec les histoires un peu SF de "résurrection des morts". Je m'explique.


La question centrale est: est-il possible à une IA d'imiter suffisamment un individu au point que qu'on ne puisse plus distinguer l'original (fait de cher et de sang) de la copie numérique ? Bien évidemment, nous n'avons pas actuellement la technologie pour ça, puisque cela exige plus que le test de Turing "simple" (c'est-à-dire de se faire passer pour un humain quelconque), et les IA sont encore très loin de ce niveau. On est toujours à essayer d'avoir des IA qui serait capable de comprendre le sens d'un texte, et non simplement de réagir à des mots-clefs.


Mais imaginons (puisque c'est le thème de cette série d'été) que l'on dispose d'une telle technologie, avec des IA au moins aussi intelligentes que les humains et capables de penser, de réfléchir, d’interagir avec nous. Un tel exercice d'imagination est difficile, vu qu'une telle technologie changerait totalement notre civilisation. Laissons de côté les aspects sociétaux et disons que chacun puisse disposer d'une IA dans un état "tabula rasa" (sans personnalité, sans souvenir) et capable de faire et d'apprendre tout ce qu'un humain est capable de faire(*).



Vous allez donc entraîner cette IA à parler comme vous, à prendre les même décisions que vous, à avoir les mêmes goûts, les mêmes opinions. Vous allez lui raconter vos souvenirs, toute votre vie, au point que l'IA réagira exactement comme vous face à n'importe quelle situation, répondra comme vous à n'importe quelle question et aura un comportement en tout point identique à vous. Ce sera plus qu'un "jumeau numérique", ce sera un réel double, que personne ne pourra distinguer de l'original. A un tel point que l'on touche au questionnement philosophique de ce qui est l'identité, cette IA qui aura les même souvenir, le même comportement, la même personnalité sera vous. Mettez cette IA dans un corps robotique (suffisamment semblable à un être humain) et vous vous retrouvez dans le monde de Ghost in the Shell avec des cyborgs qui questionnent leur propre humanité et où la distinction entre homme et machine s'efface.



Ce qui est fascinant, avec cette possibilité, c'est qu'on en revient toujours au fameux "jeu de l'imitation" tel qu'envisagé par Alan Turing en 1950, et à la question: qu'est-ce qui fait de nous des humains ? Comment sait-on que les autres pensent, ont des émotions ? A quel point on n'est pas en train de s'imiter les uns les autres, qu'est-ce qui fait de nous des individus, des êtres conscients ? Bref, avec cette histoire d'IA qui imite les humains, on voit qu'on arrive a des questions bien plus profondes et philosophiques que ce qui est décrit dans l'article de Thibault, qui reste très en surface de ces problèmes.



Bien sûr, on n'en est pas là, technologiquement parlant, et on a sans doute encore de nombreuses années avant d'arriver à une telle situation, et en attendant on peut ricaner en pensant à ces ersatz de doubles numériques qui ne font pas longtemps illusion. Mais quand même. Plus la technologie progressera, plus l'illusion sera parfaite. Dans les années 80, les images de synthèse était trop grossières pour tromper qui que ce soit. Quarante an plus tard, on arrive à créer numériquement des images "fausses" (deepfake) que l'oeil humain est incapable de distinguer des vrais. Combien de temps avons-nous encore avant que se produise la même chose pour les "IA imitatrices" ?



Rien que la possibilité que l'on ait un jour ce type de technologie est vertigineux et nous questionne sur notre propre humanité. Le transhumanisme, au final, est d'abord un humanisme.




(*) En 2021, il existe déjà des réseaux de neurones génériques capables de s'adapter à diverses tâches par apprentissage. On imagine que dans le futur, il existera des IA capable de s'adapter pour faire tout ce qu'un humain est capable de faire.



Sur ce thème je vous recommande la mini série Arel3 crée par Bruce Benamran (e-penser) 

Le premier épisode ici


Il n'y a pas que Black Mirror pour se poser des questions 

Reste plus qu'a se faire congeler a 30 ans pour espérer vivre éternellement , pendant que nos proches vivront avec un algorithme nous ressemblant . Je vous jure les milliardaires c'est le top du top , mieux qu'une Rolex , aller aller quiqu'en veut ?C'est ouvert a toute personne possédant 100 000 balles , aller faites la queue , y'aura un congèle pour tout le monde .

Toujours cette peur de la mort, cette inacceptation de la finitude, de la nôtre, de celle de nos proches, des sociétés , du monde... 

Le désir/délire prométhéen, démiurgique est total...itaire.


Vous écrivez, Thibault,  "les simulations de disparus peuvent sans aucun doute aider au processus de deuil".

Voilà une chose avec laquelle je suis en total désaccord. Le deuil est un processus intime, interne, couplé à des interactions entre vivant·tes. La présence ou l'absence de traces plus ou moins mimétiques n'est en rien une nécessité. Voire, dans le cas d'espèce, cela me semble être un frein au processus de deuil, à l'acceptation de la "mise à distance", de la disparition de·a disparu·e. 

Et puis, partons de votre point de vue, si ce simulacre aidait, d'un point de vue éthique cela voudrait dire q'un·e vivant·te devrait préparer non pas (seulement) ses obsèques, mais les traces qu'iel laissera sciemment en héritage à ceulles qui vont rester pour "aider au processus de deuil". Le deuil est l'affaire de chacun·ne, bien que pouvant être vécu parfois collectivement. Entre vivant·tes.


Brisons nos chaines numériques. Acceptons la vie. Acceptons la mort. Sans artifices... technologiques..


Nota:

"recréer des ersatz numériques de nos proches disparus, à condition qu'iels aient laissé suffisamment de traces numériques de leur existence".

Super le 'iel', mais pensez à l'accord!

Cool, du coup on va pouvoir parler avec les maures!!! Ça va pas faire plaisir à Zemmour et rien que pour ça c'est pas une mauvaise idée!

Je ne saisis pas bien le rapport avec la critique des medias :-)

bel article, quoiqu'un peu glaçant, juste un peu...

Ben on en a déjà élu un !

Pour la version 2.0, s'il vous plaît, rajouter un peu d'humanité ;-)

Complètement total !!!


Ils ne pourraient pas nous ramener Pierre Desproges et Raymond Devos ?


Pour commencer.

L'idée de faire parler les morts est probablement assez ancienne, on en retrouve des traces avec le mouvement spirite  au XIX° et après la première guerre mondiale .


https://gallica.bnf.fr/conseils/content/spiritisme



L'idée d'interagir avec  des personnages  fictifs ou historiques issus de programmes numériques  est assez bien exploitée dans la série américaine Star Trek : il s'agit du Holodeck , espace situé dans le vaisseau spatial  "Enterprise" consacré tant aux loisirs qu'à la formation professionnelle . 


https://theconversation.com/star-treks-holodeck-from-science-fiction-to-a-new-reality-74839



La crainte de faux documents, fausses déclarations, faux livres etc...qui seraient produits par la Machine rejoint la réflexion sur les faussaires de toutes catégories qui ont existé bien avant la linguistique computationnelle .


 Tout au long de l'histoire cette même question  s'est imposée : comment authentifier un message  écrit  ? 


 





En 1991, c'est-à-dire quasiment à la préhistoire de l'apprentissage automatique, la première compétition du Loebner Prize met en place un test de Turing grandeur nature : des participants humains doivent deviner s'ils communiquent avec un humain ou une machine. Il s'avère que malgré les techniques rudimentaires de l'époque de nombreux participants humains sont bernés par les machines. Dans cet article l'auteur avance une explication simple : 


"une partie de la réponse repose sur le phénomène qui a permis à Barnum d'amasser une fortune : les gens sont facilement trompés, et peuvent très facilement être persuadés d'interpréter de la structure dans le chaos, de trouver du sens dans l'absurde".


Si des gens veulent croire que l'être cher disparu leur parle, que ce soit par spiritisme ou avec les dernières technologies, ils le croieront dur comme fer. Les vendeurs de vent auront toujours de clients.

Deux mots:  ça craint !

Il faut vivre avec les vivants.

C'est amusant, je suis entrain de lire un livre de SF "La cité des permutants" de Greg Egan, paru en 1994, qui est sur le même sujet.

"En 2045, les progrès de l'informatique sont tels qu'il est maintenant possible de sauvegarder entièrement la configuration neuronale du cerveau humain et de la faire évoluer dans un environnement virtuel.
Cette technologie est utilisée par les plus riches pour faire des copies numérisées d'eux-mêmes et devenir immortels."


Thibault, si vous ne connaissez pas cet auteur de SF, je vous le conseils (notamment les nouvelles qu'il a écrit). Ses récits reposent sur les connaissances et théories scientifiques qu'il maitrise, utilise et développe loin dans l'anticipation. 

On se demande toujours si c'est si loin que ça....

Un roman plus récent de Greg Egan, dont le titre est "Zendegi", traite également du thème des avatars numériques : https://www.belial.fr/greg-egan/zendegi


De manière générale, je conseille moi aussi la lecture de Greg Egan à Thibault, afin qu'il varie ses références et puisse citer autre chose que Black Mirror.


Bonjour Pamoua,

Vous me faites rougir de honte : parler de thanatech sans faire réfrence à La cité des permutants, c'est criminel.

Greg Egan compte parmi mes auteurs favoris, même si sa hard SF est tellement radicale que ça en devient souvent douloureux pour les neurones :)

Content de lire que vous ne décrochez pas, bienvenue au club!


"Greg Egan compte parmi mes auteurs favoris, même si sa hard SF est tellement radicale que ça en devient souvent douloureux pour les neurones :)"


J'avoue également que je m'y perds parfois. J'ai du mal à suivre lorsqu'il décrit les théories mathématiques qui donnent naissance aux contextes des ses récits.

Pour l'instant je préfère ses nouvelles à ses romans. "La caresse" m'a fasciné.

Peut-être un peu moins douloureux pour les neurones mais également troublant : la BD "Carbone et Silicium", plus récente, va également assez loin dans ce type de prospective, avec en plus intégration de l'héritage internet, wifi etc... qui ouvrent des possibilités vertigineuses...

Abonnez-vous

En vous abonnant, vous contribuez à une information sur les médias indépendante et sans pub.