31
Commentaires

Et s'il y avait de "bons algorithmes" ?

Commentaires préférés des abonnés

Tout le fantasme autour du terme « algorithme » quand t’es programmeur il te fais doucement marrer comme même 🤣


Les algos ne sont des boîtes noires que parce qu’on est dans une logique de propriété intellectuelle privative. En vrai le mec qui conçoit (...)

Sans aller jusqu'au machine learning ce problème peut survenir dans tout algorithme  qui ne va considérer en entrée que les conséquences de ses propres sorties. C'est le cas des algorithmes de proposition de vidéo sur youtube ou d'approvisionnem(...)

Approuvé 5 fois

Tout à fait. Cette volonté d'imposer « algorithme » partout plutôt que « programme informatique » n'est pas sans arrière-pensée. Elle occulte l'existence du programmeur et laisse à penser à une « objectivité » non-humaine, donc « légitime ».


Il est fo(...)

Derniers commentaires

Sans vouloir déverser mon fiel, mais.


Rien que le titre de la rubrique fait frémir. "Et s'il y avait de bons algorithmes ?". 


Un peu comme s'interroger sur la possibilité de "bons" discours politiques, de "bonnes" oraisons funèbres, de "bonnes" déclaration d'amour.


Parce qu'à l'origine, un algorithme, c'est d'abord une production humaine. 


Ne me dites pas que certains algorithmes  ne doivent rien à la production humaine, je le sais. mais ces algorithmes ont été "engendrés" par des algorithmes qui eux mêmes ont été "engendrés" par des algorithmes  qui ont été écrits par des individus de chair et de sang.


Et comme un algorithme c'est d'abord une production humaine, se poser la question de savoir si il y en a des bons ou de mauvais, c'est comment dire, martyriser les drosophiles.


Sans déverser mon fiel, bien sûr.

Vidéo sur un sujet intéressant mais qui me laisse sur ma faim car le sujet mériterait un traitement beaucoup plus approfondi.


Bon, sinon, moi, j'ai entendu parler de la video de Macron avec Mac Fly et Carlito par les médias traditionnels. Et je n'avais jamais entendu parler de Mc Fly et Carlito avant (alors que de Macron un peu :-) )... Bon, je suis un dinosaure de 47 ans (donc né sous Pompidou !). Ceci explique peut-être cela. Disonsqu'en ce qui me concerne, cela aurait plutôt fait de la pub pour Mc Fly et Carlito du coup et pas pour Macron.

Mais, je ne suis pas allé voir la video...

JE m'en contrefiche et cela ne me fera pas voter pour Macron (cela ne me fera pas voter contre lui non plus d'ailleurs bien que je trouve ça désolant).

Quand tu te rends compte que Jean-Lou Fourquet à écrit sa chronique après avoir fait un tour sur

 Saturday Morning Breakfast Cereal 

"il n'y a pas d'algorithme, il n'y a que les décisions de quelqu'un d'autre." A. Casilli

https://hal.archives-ouvertes.fr/hal-01625657/document

bonjour

quelle est votre source qui affirme que basculer en navigation privée permettrait de quitter l'algorithme de recommandation personnalisée de Youtube ??

merci

Allez! On va faire semblant d'y croire... car c'est la fête des pères, et ils veulent généralement le meilleur pour leurs enfants!!!

Tout le fantasme autour du terme « algorithme » quand t’es programmeur il te fais doucement marrer comme même 🤣


Les algos ne sont des boîtes noires que parce qu’on est dans une logique de propriété intellectuelle privative. En vrai le mec qui conçoit l’algorithme il a une assez bonne idée de ce qu’il va faire (s’il est pas complètement à l’ouest évidemment).


Bien sûr il y a les bugs voire les émergences m’enfin un algo ça fait ce qu’on lui dit de faire, et s’il ne le fait pas (ou pas assez bien) on l’améliore voire on en change.


Et of course là normalement t’as un technolâtre du machine learning qui va venir poser son grain de sel mais bon c’est parce que tout le concept du truc fait que ça revient à une gigantesque loterie de est-ce que ton apprentissage va faire à peu près ce que tu veux ou non. Parce que à la base ça reste « faut faire un truc, on va pondre un programme qui va le faire pour nous ». Mais au point de départ y’a une volonté bien humaine et plus ou moins clairement identifiée, sachant que dans le capitalisme, ça se résume généralement à « faire du flouze ».

Sans aller jusqu'au machine learning ce problème peut survenir dans tout algorithme  qui ne va considérer en entrée que les conséquences de ses propres sorties. C'est le cas des algorithmes de proposition de vidéo sur youtube ou d'approvisionnement des rayons d'un magasin par analyse des ventes par exemple. Tant que le critère final est simple et unique, maximiser les clics dans l'exemple des vidéos, alors il n'y a pas de problème algorithmique. Les résultats maximiseront les clics puisque les raisons qui déclenchent le clic n'importent pas.


Par contre, et c'est le sujet de cette vidéo, dès qu'il s'agit d'y adjoindre d'autres critères ou de rendre le résultat plus abstrait (augmenter le nombre des clients d'un magasin en général plutôt que d'augmenter les ventes de produits donnés), il devient très difficile de prévoir les résultats à moyen et long terme car l'algorithme lui même n'a que peu de prise sur ce qui va effectivement déclencher le clic chez l'utilisateur, et donc déterminer ses entrées futures. Il peut apparaître de petites distorsions imprévisibles dans les réactions aux propositions qui par l'effet d'amplification par accumulation peuvent faire diverger les résultats de manière imprévisible au fil du temps. C'est un peu pour un algorithme l'équivalent d'un discours performatif.


Cela ne signifie pas qu'il serait impossible de calculer ce qui se passe par rétro-analyse mais pour des systèmes complexes à pas mal de variables et beaucoup de données c'est parfois très compliqué. Tout ce qui est calculable au sens mathématique ne l'est pas forcément au sens informatique.

Tout dépend donc des règles établies en amont et des différents poids entre elles. Mais même si ces règles sont peu nombreuses et relativement simples, en dehors de la méthode empirique le programmeur a très peu de chance de prévoir l'évolution de tels systèmes sur la simple base de son code, alors quant à la maîtriser ...


Il nous est donc possible de parler de boîte noir pour des algorithmes un peu complexe de ce type comme on parle parfois de hasard dans certaines situations qui ne sont pas physiquement parlant du hasard. c'est juste que ces situations seraient très difficiles à calculer à cause de la multiplicité des paramètres qui interviennent dans le résultat final, de leurs interactions et de leur évolution dans le temps.

Tout à fait. Cette volonté d'imposer « algorithme » partout plutôt que « programme informatique » n'est pas sans arrière-pensée. Elle occulte l'existence du programmeur et laisse à penser à une « objectivité » non-humaine, donc « légitime ».


Il est fondamental de rappeler que l'algorithme ne décide rien qui ne soit prévu par un programmeur.

Ce message a été supprimé suite à la suppression du compte de son auteur

Il peut y avoir ses erreurs, mais heureusement, la plupart du temps, un programme répond de la manière prévue. En tout cas, il n'y a pas de décisions propres à l'algorithme : un résultat correspond à une ou un ensemble de règles programmées.

Quand on programme on a définitivement une démarche bayésienne. Si ton script ne fait pas ce que tu veux ou a un comportement différent des tes attentes prévues ou pas prévues, tu corriges. Comme pour jeu vidéo : oui y'a des erreurs non prévues, mais elles sont corrigées. si tu ne les corriges pas, c'est qu'elles te conviennent.



...donc quoiqu'il se passe, ce que le script fait convient à l'humain qui dirige le truc (programmateur ou décisionnaire). Quand au deep learning ou machine learning (souvent supervisé), ce sont des gros mots dixit leurs inventeurs, pour remettre en rail un truc dont personne ne voulait fin des années 80, qu'on appelait connement réseau de neurones ou chaine d'inférences dont le formalisme date des années 60 ... donc rien de révolutionnaire.

Je pense que c’est plus de l’obfuscation perso. C’est un gros terme qui fait peur (alors que en vrai c’est un terme technique tout bidon).

«Les algos ne sont des boîtes noires que parce qu’on est dans une logique de propriété intellectuelle privative»


Pas seulement. Les algorithmes dont il est question sont les algorithmes de recommandation. Sans révéler le code source, on pourrait révéler les critères et leurs poids respectifs. Si ce n'est pas fait c'est que ça aboutirait à un autre problème: avec des moyens cela rendrait beaucoup plus facile (pour des gens pas très bien intentionnés) de se retrouver en tête de gondole. Il y a donc toujours un jeu de chat et de la souris entre ceux qui cherchent à comprendre l'algorithme et ceux qui cherchent à le rendre opaque. Et il n'y a malheureusement pas de super bonne réponse à cela.


Tournesol, ça part d'une bonne intention, mais au final on a une machine à recommander de la vulgarisation scientifique de certains cercles. Une ou deux personnes pourraient très bien faire cela toutes seules sans aucune automatisation. Et si ce que vous cherchez c'est le LOL, les derniers ragots du monde du foot ou des recettes de desserts vegan, passez votre chemin…

Bonjour.


2 choses dans votre message :

- sur la mystification du mot "algorithme", je suis entièrement d'accord avec vous. On a l'impression qu'un algorithme, c'est forcément un énorme truc opaque qui fait des choses mystérieuses. Donc, déjà, un algorithme peut être très simple : ajouter 1 à la valeur entré, c'est déjà un algorithme, classer des entrées par ordre alphabétique, c'est un algorithme... Et, en plus, un algorithme n'est pas forcément secret. Il peut très bien être public. Je pense qu'encore une fois, cette mystification montre surtout l'ignorance des médias de tout ce qui est scientifique et en particulier l'informatique


- par contre, même si je suis d'accord qu'un algorithme est conçu par des programmeurs qui ont des intentions bien précises, il n'empêche que, comme dit par d'autres commentateurs, dès que le programme est un peu complexe et que les entrées possibles sont variées et nombreuses, il peut y avoir au cours du temps des réponses de l'algorithme inattendues... Alors bien sûr, si on retraçait tous les calculs de l'algorithme à la main, on arriverait au même résultat (en ce sens c'est prévisible). Sauf que dans la réalité, parfois, faire les mêmes calculs à la main prendrait des millions d'année. Donc finalement, on ne le fera pas. Et les résultats de l'algorithme paraissent magiques


Et, bien sûr, "l'intelligence artificielle" amplifie cette tendance même si je déteste ce terme d'intelligence artificielle, qui, là encore, est une belle trouvaille marketing et plaît au médias mais, qui, je trouve est trompeur par rapport à ce qu'il y a réellement derrière...


Bien d’accord avec vos commentaires.

classer des entrées par ordre alphabétique, c'est un algorithme... 


Non, c'est un problème, qui peut être résolu par tout un tas d'algorithmes. ;o)


Lê en source d'une chronique de ASI ! 

LOVE

Abonnez-vous

En vous abonnant, vous contribuez à une information sur les médias indépendante et sans pub.