Applications, Éthique

Westworld : des robots conscients, est-ce uniquement de l’ordre de la science fiction ?

Parmi les débats qui animent le monde de la science et réveillent les journalistes, il y a la question de savoir si...

Écrit par Ilyes Talbi · 6 min lecture >
Westworld : des robots conscients, est-ce uniquement de l'ordre de la science fiction ?

Parmi les débats qui animent le monde de la science et réveillent les journalistes, il y a la question de savoir si l’humain sera dépassé ou non par les robots. La révolte des robots est un topos des films de science-fiction. C’est d’ailleurs le sujet de la série Westworld, une série américaine lancée en 2016.

L’intrigue se déroule dans un parc d’attractions futuriste, qui reproduit le Far West Américain du 19ème siècle, peuplés de robots qu’on appelle les hôtes. Les humains fortunés, peuvent entrer dans ce parc, afin d’y vivre des aventures insolites à sensations fortes, dans la série ils sont appelés les visiteurs. Dans les premiers épisodes, on apprend que les hôtes, qui sont censés repartir de zéro après chaque aventure, développent une mémoire, aussi appelée ‘’rêveries’’. Puis, au fil des épisodes, certains hôtes commencent à prendre conscience de leur existence et commencent à remettre en cause leurs situations actuelles.

Evidemment, dans la vraie vie, un tel scénario serait catastrophique, heureusement que nous en sommes encore très loin, les IA ne sont pas dangereuses ou du moins pas les IA auxquelles vous pensez. Néanmoins, vous verrez à travers la chronologie de l’IA, que depuis le début, les concepteurs et les chercheurs en intelligence artificielle, ont l’intention de créer des ordinateurs pensants. Cet objectif, n’est pour l’instant, pas réalisable et restera longtemps (à jamais ?) du domaine de la science-fiction. Néanmoins, sans être conscients, les algorithmes ont déjà un grand contrôle sur nos vies.

Chronologie de l’intelligence artificielle : la conscience est depuis le début un élément central


Pour tenter de prédire l’évolution des intelligences artificielles, il convient d’abord d’étudier les grands événements qui l’ont façonnées. Depuis ses débuts, l’objectif des chercheurs en intelligence artificielle est de permettre aux machines de penser. Ainsi, en 1943 lorsque McCulloch et Pitts créent le concept mathématique de neurone formel, leur volonté était de modéliser (de façon schématique et très grossière, il faut l’avouer) le fonctionnement du cerveau humain. Quelques années plus tard, le Test de Turing né de la volonté de donner aux machines la possibilité d’imiter les conversations humaines. 

Chronologie des grands événements en intelligence artificielle
Chronologie des grands événements de l’intelligence artificielle

Beaucoup plus tard, en 1997, l’ordinateur défit l’humain dans une activité considérée comme le symbole de l’intelligence, le jeu d’échecs. Encore une fois, la machine fait du dépassement de fonction et surprend l’Homme dans une activité qui lui était réservée.

Néanmoins, la performance de l’ordinateur d’IBM n’avait rien avoir avec l’intelligence comme on la conçoit, il était seulement question de mémoire. La machine d’IBM pouvait enregistrer des millions de scénarios, grâce à une capacité de traitement colossale, et se contentait de les passer en revue avant chaque coup.

Concernant cet aspect, dans Westworld, l’intelligence, la conscience ou quelque chose qui n’est jamais clairement nommé mais que l’on comprend assez bien, est conçu par un personnage nommé Arnold (qui n’apparait pas vraiment dans la saison 1) comme étant au sommet d’une pyramide. A la base de cette pyramide, il y a la mémoire : après tout y-a-t-il conscience sans mémoire ? N’est-ce pas notre passé qui conditionne notre existence et nous permet d’affirmer notre présence ?

Au second étage de la pyramide, Arnold place l’improvisation. L’ordinateur d’IBM se contentait d’exécuter des taches programmées à l’avance, et c’est aussi le cas des hôtes dans la série (au début en tout cas), ils répètent des actions dictées et conformes à leurs programmes de façon continue. Même lorsqu’un robot entreprend de s’évader du parc, on apprend un peu plus tard qu’il s’agissait d’un scénario programmé.

Aujourd’hui, je pense que les robots n’ont toujours pas la capacité d’improvisation, et heureusement… Les œuvres d’arts, les images, les sons produis par les IA ne sont pas de l’improvisation à proprement parler. Wikipédia définit l’improvisation comme ‘’un processus de création sans écriture préalable’’. Or les créations des IA d’aujourd’hui, ne sont que des reproductions de travaux déjà effectués par des humains. Pour illustrer cela, nous avons l’exemple d’Alpha GO, l’ordinateur qui a battu le champion du monde du Jeu de Go en 2016.

La relation qu’entretiennent les ordinateurs avec les jeux de plateaux est riche. Après le backgammon et le jeu de dames, battre un professionnel aux échecs constituait déjà un palier. Le jeu de Go, quant à lui, constituait le Graal, là ou aux échecs vous avez 20 possibilités à chaque coup, pour le jeu de Go il y en a 200 : il y a plus de parties de Go possibles que le nombre d’atomes dans l’univers. Le jeu de Go se fonde sur l’intuition contrairement aux échecs qui est un jeu de logique.

A partir de là, les chercheurs de Google savaient qu’une approche brutale basée uniquement sur la puissance de calcul ne serait pas envisageable : la machine devait être intelligente. Même si Alpha Go a remporté 4 parties sur 5 face à Lee Sedol, la 4ème partie, celle qu’il a perdu, est intéressante. Il n’y avait plus vraiment d’enjeux pour le champion du monde, il a alors commencé à faire des coups absurdes qu’Alpha Go ne comprenait pas, et c’est ça pour moi qui prouve que les algorithmes ne peuvent pas improviser, ils s’en tiennent au scénario qu’il leur a été programmé : soyez imprévisibles !

L’avant dernier étage de la pyramide, est consacré au soucis de son intérêt. Evidemment, les robots ne l’ont pas (pour l’instant ?), sinon on serait très mal. L’intérêt personnel d’un robot serait d’être ‘’libre’’, laisser les humains le contrôler ne serait pas une option. En réalité, le soucis de son intérêt est un grand pas vers la conscience.

N’est-ce pas être conscient de son existence que d’avoir conscience de ses besoins ?

Autre chose, concernant le soucis de son intérêt, il est intéressant de remarquer que c’est une caractéristique que l’on sait programmer (dans une moindre mesure). C’est tout l’intérêt de l’apprentissage par renforcement, on commence par programmer à l’IA son objectif, à savoir la maximisation de son score, ce qui constitue son intérêt personnel (cette vision est très schématique, car en réalité c’est notre objectif que l’on transmet à l’algorithme).

Pyramide de la conscience Westworld
Pyramide de la conscience, Westworld

Le jeu de l’imitation et l’esprit bicaméral

Définir le fonctionnement de notre cerveau est une chose très délicate. Un grand nombre de questions restent sans réponses, malgré le travail de milliers de philosophes à travers les siècles. Qu’est-ce que la pensée ? Comment se forment les idées ? D’où viennent les émotions ? Qu’est-ce que la conscience ? Et ne comptez pas sur moi pour vous éclairer sur ces questions…

Une grande partie de la contribution d’Alan Turing à l’intelligence artificielle, tourne autour de la question : ‘’Les machines peuvent-elles penser ?’’. À l’époque de Turing, la difficulté est double. D’une part, il doit définir de façon claire ce qu’est une ‘’machine’’, d’autres part, il faut partir d’une définition précise du verbe ‘’penser’’, afin que l’objectif soit bien délimité.

Aujourd’hui, l’algorithmique est une branche à part entière des mathématiques, nous pouvons donc considérer la notion de ‘’machine’’ comme étant assez intuitive. Par ailleurs, Platon définit la pensée comme étant ‘’un discours intérieur que l’âme tient en silence avec elle-même’’.

Dans la série Westworld, la théorie de l’esprit bicaméral est invoquée à plusieurs reprise par le Docteur Ford. La bicaméralité est une notion introduite par Julian Jaynes dans un livre publié en 1976, intitulé ‘’The Origin of Consciousness in the Breakdown of the Bicameral Mind’’. Pour Jaynes, l’humain, avant d’avoir la conscience de son existence, était partagé en deux, avec une partie qui dicte à la seconde ce qu’elle doit faire, et de là naît la conscience.

Cette théorie est entièrement fausse, mais l’idée des concepteurs du Parc Westworld, était de l’utiliser pour concevoir des robots qui pourraient devenir un jour conscients. Je vous laisse avec un extrait de la série, dans lequel le Dr. Ford vous explique ça :

La domination des robots sur les humains n’est pas celle que vous croyez

Le duel humains-robots est souvent dépeint comme une guerre d’intérêts, dans laquelle c’est l’avenir de l’espèce humaine qui est en jeu. Et lorsqu’on parle de robots, on pense à Terminator et autres robots tueurs qui nous veulent du mal. Rassurez-vous, il n’en est rien (pour l’instant en tout cas).

Néanmoins, les algorithmes d’intelligence artificielle utilisés par les grandes entreprises de divertissements, constituent un réel danger, encore trop souvent sous-estimé. Dans la série Westworld, les hôtes sont contrôlés par des humains à travers des tablettes comportementales. Plusieurs paramètres sont modifiables, comme la joie, l’agressivité, l’intelligence ou encore la loyauté.

Et si je vous disais que les algorithmes utilisés dans les réseaux sociaux ont ce contrôle sur nous ? Un article publié en 2013 ‘’Experimental evidence of massive-scale emotional contagion through social networks’’, par UC San Diego, Cornell et Facebook, montre comment une modification minime dans l’algorithme de fil d’actualités de Facebook, a affecté l’humeur de milliers d’utilisateurs.

Dans l’article Voici comment les algorithmes décident pour vous, je vous explique comment les algorithmes de YouTube et de Netflix pouvaient influencer vos choix de vidéos, de séries ou de films. Par cet intermédiaire, ils peuvent influencer l’état d’esprit de milliers de personnes. Les rendre joyeux : en mettant en avant les vidéos qu’ils aiment, ou des vidéos positives. Ou les rendre tristes : en mettant en avant des vidéos de guerres, de pauvreté ou de choses négatives.

Dans une conférence tenue cette semaine à l’UPMC ‘’How not to destroy the world with AI’’, Stuart Russel explique comment les algorithmes de recommandations, plutôt que d’apprendre le fonctionnement des humains, modifient leur préférences en les rendant plus prévisibles.

En réalité, les algorithmes ont déjà un certain contrôle sur notre monde. Cette domination n’est pas de la forme attendu mais elle est aussi dangereuse voire même plus dangereuse puisqu’elle se fait de façon naturelle sans réelle prise de conscience. Le danger des algorithmes ne provient pas de ce qu’ils sont mais de ce que nous en faisons.

3 Replies to “Westworld : des robots conscients, est-ce uniquement de l’ordre de la science fiction ?”

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *