Voici comment les algorithmes décident pour vous

Voici comment les algorithmes décident pour vous


L’objectif des entreprises de divertissements est de vous garder un maximum sur leurs plateformes. Ainsi, YouTube, Netflix ou encore Facebook, ont développé des algorithmes d’intelligence artificielle qui étudient votre comportement et vos centres d’intérêts pour vous proposer un contenu qui vous correspond. En plus d’être parfois biaisés, ils sont dangereux pour l’humanité. Par exemple, c’est pour cela que nous devenons addicts à ce genre de plateformes.

Voici comment les algorithmes décident pour vous

Algorithmes de suggestions d’amis sur les réseaux sociaux


Les algorithmes influencent notre mode de pensée au quotidien. Ainsi, l’algorithme de suggestions d’amis sur Facebook fonctionne à l’aide d’une intelligence artificielle. Il établit votre profil ainsi que le profil type de vos amis, et vous suggère des profils qui vous correspondent.

Typiquement, ceux avec qui vous avez des amis en communs, ceux qui aiment les mêmes pages que vous ou qui participent aux mêmes événements. Et avec ces informations, l’algorithme construit des clusters d’utilisateurs, grâce à des méthodes de clustering.

Peut-être que dans ce cas ce n’est pas très grave. Car, comme Platon dit, ‘’la similitude engendre l’amitié’’. Donc l’algorithme de Facebook semble n’être qu’une automatisation de quelque chose que nous faisons quotidiennement en sélectionnant nos amis, mais lisez ce qui va suivre…

Algorithmes de proposition de contenus sur YouTube ou Netflix


Le principe de fonctionnement de ces algorithmes est simple. Une fois de plus, les probabilités sont à la base du processus.

Après une éreintante journée de travail, vous êtes enfin installé confortablement sur votre canapé. Vous décidez de lancer YouTube. Au début, l’algorithme vous propose un contenu diversifié. Du sport, de l’actu, des conférences et plein d’autres choses en lien avec vos habitudes.

Pour simplifier, on suppose qu’il y a 2 types de vidéos réparties équitablement : les vidéos rouges et les vidéos bleues. Vous choisissez une première vidéo aléatoirement, la probabilité de prendre une vidéo rouge est de 1/2. À partir de là, l’algorithme commence à travailler, et il vous proposera des vidéos en lien avec votre premier choix. Si vous avez choisi une vidéo rouge, vous verrez une augmentation de la proportion de celles-ci.

On peut imaginer un exercice pour modéliser ce processus. On dispose au début d’une urne composée d’un nombre égal de boules rouges et de boules bleues. À la première étape on tire une boule au hasard, et on ajoute une boule de la même couleur que celle que l’on a tiré, en remettant celle-ci.

Voici un schéma explicatif où je suppose que l’on tire une boule rouge à chaque étape.

Problème de fixation des algorithmes de suggestion de contenu
Illustration du problème de fixation aux vidéos rouges sur YouTube

On voit bien qu’après un certain nombre d’étapes la proportion de boules rouges devient beaucoup trop grande.

Ainsi, à la fin de la première vidéo vous avez plus de chances de choisir une nouvelle vidéo de type rouge, puisque la probabilité aura augmenté. Et ce processus se poursuivra jusqu’à que vous décidiez enfin d’aller vous coucher…

Voici une vidéo qui explique bien ce processus.

Problème de fixation (Science4All)

Problème de fixation


Le problème qui se pose est que plus vous regarderez de vidéos rouges, plus l’algorithme vous en proposera, jusqu’à ce que la proportion de vidéos autres que rouges devienne dérisoire. Vous risquez donc de regarder uniquement des vidéos rouges.

C’est ce qu’on appelle la fixation. Sur le schème ci-dessus on voit qu’une fixation sur la couleur rouge a lieu. Après un grand nombre d’étapes, la probabilité de tirer une boule rouge se rapproche de 1. Celle de tirer une boule bleue tend vers 0.

Ceci pose clairement des problèmes éthiques. Sur le long terme vous ne verrez plus que des vidéos qui vous confortent dans vos opinions. Et même si l’IA n’a, dans ce cas, qu’un rôle de suggestion, elle influence considérablement nos décisions. Ainsi, si vous pensez que les céréales viennent avant le lait, l’IA de YouTube vous proposera du contenu qui vous confortera dans votre position. Et la même chose se produit pour le clan adverse. Ce qui va contribuer à polariser les deux camps et risque de créer des tensions (laissez moi en dehors de tout ça, je ne fais que commenter).


Les algorithmes d’intelligence artificielle sont en train de prendre une très grande importance dans notre quotidien. Lorsque l’on parle du danger des IA, beaucoup pensent aux Terminator et aux robots tueurs misent en scène dans les films de science fiction. Mais le dangers des IA est beaucoup plus subtile que cela…