@Robert

Or ce ne pourrait être que d'une technologie dont nous ignorons encore même les prémisses (pas celle des ordinateurs actuels en tout cas) que pourrait surgir une intelligence possible que nous ne posséderions pas.

S'il est bien sûr difficile de prévoir quelle technologie permettra d'atteindre une intelligence sur-humaine (à supposer que ce soit possible), il se peut très bien que ce soit avec les ordinateurs actuels. D'un point de vue logique, rien ne s'y oppose. Une même "technologie" peut engendrer des niveau d'intelligence très distinct, et nous en sommes la preuve vivante. En effet, le cerveau humain n'est pas fondamentalement différent du cerveau des autres mammifères: nos neurones fonctionnent de la même manière, c'est la même "technologie". Et pourtant la culture humaine est fondamentalement incompréhensible par les animaux. Aussi on peut imaginer que d'une technologie qui existe actuellement puisse surgir une intelligence qui nous dépasse de la même manière que l'intelligence humaine surpasse celle des autres mammifères.

Après tout, le concept même de singularité implique que celle-ci soit atteinte avec des moyens qui sont compréhensibles par l'homme - c'est ce qui se passe après la singularité qui est incompréhensible.

"singularité ; c'est un ordinateur tellement puissant que.. woila ..en gros...'

Mehdi Belhaj Kacem à 0,48s

Ce que prédisait Victor Vinge en 1993 et qu'il appelait "singularité" est qu'avant 2035 (nous y sommes presque)il deviendrait impossible de prévoir l'évolution de la technologie (ce en quoi il existe beaucoup de prétendus experts). Les progrès indéniables de ce qu'on appelle l'intelligence artificielle ne relèvent pour l'instant (2018) d'aucune technologie révolutionnaire. Or ce ne pourrait être que d'une technologie dont nous ignorons encore même les prémisses (pas celle des ordinateurs actuels en tout cas) que pourrait surgir une intelligence possible que nous ne posséderions pas. Cela est impossible si l'on admet que la raison humaine est le seul arbitre de la validité des idées c'est à dire qu'elle a atteint l'universalité.  Einstein disait que chaque problème a une solution  si on ne la recherche pas seulement avec les concepts et les moyens d'aujourd'hui et aussi que si un problème n'a pas de solution c'est qu'il est mal posé. Affirmer que tout problème bien posé a une solution est affirmer l'universalité de la raison. Une technologie  "universelle" ne pourrait alors qu'égaler l'intelligence humaine ou ne la surpasser qu'en certaines qualités (rapidité, spécialisation, extension..).
N'ayez pas peur !