Un changement historique perçu par une petite minorité de passionnés
Une récente percée scientifique que nous devons à l’IA a bien été relayée par les média, mais son principal enseignement demeure caché.
Je veux parler de la victoire d’AlphaZero au jeu d’échecs, l’IA de Google initialement programmée pour l’apprentissage du jeu de Go, étendue ensuite aux Echecs et au Shogi.
Certains ont loué la vitesse de l’apprentissage : 4 heures ont suffi à la machine pour devenir un maître de premier plan du jeu d’échecs. Impressionnant certes, mais cela reflète seulement l’extraordinaire puissance des processeurs, non une percée scientifique.
D’autres ont insisté sur le fait qu’AlphaZero a renforcé son niveau en jouant contre lui-même, à partir de connaissances nulles sur le jeu : ni bibliothèque d’ouvertures, ni principes stratégiques. Cette forme moderne du solipsisme vaut effectivement d’être remarquée. Mais elle traduit seulement que le jeu d’échecs, comme tous les jeux de stratégie, est un univers sémantique fermé, quelle que soit sa considérable complexité.
Enfin vient l’exploit principal, la nature de l’adversaire d’AlphaZero : Stockfish, le plus puissant programme de jeu d’échecs basé sur le calcul combinatoire. Le score du match joué sur 100 parties : 28 victoires, 72 parties nulles et aucune défaite. Victoire de l’IA sur la force brute, sachant que Stockfish dépasse déjà largement les meilleurs joueurs humains.
Plus importante que la victoire elle-même est la façon dont elle a été obtenue. Il n’a pas échappé au microcosme des joueurs d’échecs qu’ils vivaient un moment historique, pas seulement pour le jeu d’échecs, mais concernant la nature même de la cognition.
L’IA de Google au jeu d’échecs : une revanche pour l’humanité
Paradoxalement, l’éclatante victoire d’AlphaZero ne signe pas une domination plus écrasante de la machine sur l’homme, mais au contraire le rétablissement de l’esprit humain.
Les humains au jeu d’échecs, même les meilleurs, sont extrêmement loin de la puissance combinatoire de n’importe quelle machine. Nous compensons cette faiblesse en calcul par des raisonnements géométriques, de pièces du même camp gênant leurs propres mouvements, de raisonnements généraux permettant de réduire un très grand nombre de combinaisons à quelques lignes principales.
Lorsque Kasparov affronta Deep Blue, la machine d’IBM fondée sur le calcul brut – même lorsqu’il perdit de peu le deuxième match – il montra que les raisonnements géométriques permettent de faire jeu égal avec la machine même en calculant des milliards de fois moins de combinaisons.
Cette capacité propre à l’humain est aussi celle qui nous permet de créer les mathématiques. Elle confère à la réflexion humaine une certaine beauté, celle de la pureté de la géométrie, rassemblant en quelques lignes d’innombrables cas de figure.
Jusqu’à récemment, les machines à jouer aux échecs étaient fondées sur la force brute combinatoire. Ni stratégie ni conception d’ensemble, le jeu semblait devoir n’être réduit qu’à une énumération. Sous la poussée de ces machines, le jeu devenait « laid » et sans signification, une suite chaotique de combinaisons, non le paradis foisonnant de brillantes conceptions. Et si des artistes du jeu ont bel et bien existé, leur destin serait d’être infailliblement surclassés par la force aveugle du calcul brut.
Or le jeu d’AlphaZero est tout autre. AlphaZero reconstitue les concepts que les maîtres d’échecs ont mis des siècles à forger : domination sur certaines cases, blocage des pièces adverses au prix de sacrifices matériels privilégiant les gains de temps, avantage d’une paire de fous balayant les deux couleurs de cases…
Le miracle est que cette conception l’emporte sur la force brute. L’esprit et le temps l’emportent sur la matière. L’humain est rétabli et justifié dans la beauté de ses raisonnements : ils sont bel et bien les plus efficaces, par surcroit d’être les plus élégants. Le jeu d’échecs recèle bien la beauté intérieure que ses amoureux y trouvent.
La victoire de l’esprit
Pourquoi dans ce cas les humains n’ont-ils pas conservé leur domination sur les machines ? Parce qu’il faut tout de même associer le sens géométrique à une puissance combinatoire hors pair pour que les belles conceptions aient le dernier mot. Les meilleurs humains parviennent à trouver les mêmes lignes géométriques qu’AlphaZero, mais pêchent dans l’exécution. Dès lors que le calcul vient étayer la vision stratégique, celle-ci fait valoir sa supériorité sur la force brute.
Ce retournement de situation pouvait être pressenti. Les meilleurs grands maîtres parviennent à battre les meilleurs ordinateurs s’ils sont assistés eux-mêmes d’un ordinateur qui les déleste de l’exploration analytique. L’homme assisté de la machine bat la machine.
L’analyse des parties d’AlphaZero provoque l’émerveillement. Il se permet dans l’une d’elles de sacrifier une pièce entière et un pion, pour des compensations de simple gêne des pièces adverses entre elles mais qu’aucun humain n’aurait l’audace de tenter face à un monstre analytique tel que Stockfish.
Face à cet adversaire d’un genre nouveau, Stockfish se retrouve dans la même position que les ordinateurs de première génération de jadis, lorsque les grands maîtres les ridiculisaient : son jeu paraît « balourd », sa puissance analytique ne fait que le rendre myope, subissant l’initiative de l’autre sans comprendre son intention. AlphaZero est une sorte de compilation de tout ce que l’ingéniosité humaine a pu trouver dans le jeu d’échecs, prolongée par une conception plus profonde.
L’essence de tous les jeux
Le principe de l’apprentissage d’AlphaZero est aussi dépouillé qu’essentiel. Ce qui a fasciné les amateurs d’échecs ou de go est d’avoir l’impression que l’essence même de leur jeu était extraite devant leurs yeux. Qu’AlphaZero est capable de déterminer la complexité intrinsèque et la logique de n’importe quel jeu formel.
On peut imaginer le champ d’application d’une telle découverte : beaucoup de phénomènes du monde réel, en sciences dures comme en sciences sociales, se modélisent par des jeux. La sociologie des organisations de Michel Crozier par exemple, verrait démontrée avec la sûreté d’un théorème les lois de comportements humains dans l’entreprise. Nous souhaitons toujours savoir à quel jeu nous jouons, dans quelle logique nous sommes embarqués.
L’homme dialogique chasse les fantômes du transhumanisme
Certains s’inquiéteront de cette nouvelle démonstration de la puissance de l’IA : les articles alarmistes sur le transhumanisme ou d’une société de machines nous éliminant petit à petit refont surface.
Si la révolution induite par AlphaZero est impressionnante, elle ne doit pas nous tromper sur la nature des dangers de l’IA.
La différence fondamentale entre l’homme et la machine est que nous savons nous débrouiller dans des univers sémantiquement ouverts. Nous changeons de jeu lorsque cela est nécessaire, voire nous créons celui qui nous semble le plus adapté à la situation et nous savons à quel moment le faire.
Dès lors, la coopération complémentaire entre l’homme et la machine devient naturelle. A nous la navigation entre les différents jeux et le moment d’en changer. A la machine de nous donner les clés essentielles de chaque jeu, mieux que nous ne pourrions le faire.
« L’aide à la décision » n’est pas une confiance aveugle dans le diagnostic de la machine, mais une consultation régulière de son évaluation. Des décisions majeures en économie, en géopolitique ou en organisation pourraient être prises de façon étayée par cette intelligence.
Nous rencontrons bien un « homme augmenté », mais il est le résultat d’un choix, d’un dialogue constant entre lui et les machines joueuses qu’il s’est créé, non une prothèse violant son intégrité biologique. Tout comme l’homme de la renaissance cultivait des arts qui le rendaient plus confiant.
Ne pas avoir peur de sa propre intelligence
Curieusement, c’est toujours un surcroit d’intelligence qui provoque l’effroi et alimente les fantasmes d’une IA éliminant l’homme. Alors que les progrès réalisés par l’IA ne sont qu’une exploration de notre propre intelligence.
Il ne faut pas craindre de rendre les IA de plus en plus intelligentes, sans limitation. Les véritables dangers associés à l’IA proviennent de notre avidité au pouvoir qui nous fait employer de manière totalitaire les données personnelles de chacun. Le danger réside dans le Big Data, si l’IA se met à son service de manière aveugle.
Il ne faut pas croire que de telles tentations ne surviendront que dans des pays non démocratiques. Les dirigeants actuels des démocraties montrent des signes inquiétants de déni d’écoute et d’accaparation du pouvoir personnel. Pas besoin d’IA pour glisser vers le totalitarisme, notre avidité et notre bêtise naturelle y suffisent très bien.
L’exploration sans limites de la cognition n’est nullement un danger. Elle est au contraire l’antidote aux usages déviants de nos technologies. C’est un surcroit d’intelligence qui nous fait développer des méthodes de cryptage préservant notre liberté individuelle, par exemple le cryptage homomorphe permettant d’effectuer du « cloud computing » sans révéler nos données personnelles.
A ceux qui ont peur des fantômes, il faut rappeler deux célèbres phrases. « Si vous pensez que l’intelligence est dangereuse, essayez l’ignorance ». Et la seconde, que nous devons à Douglas Hofstadter : « L’homme ne pourra jamais se passer d’être intelligent, quelle que soit l’intelligence qu’il déploie pour y parvenir ».
This post is also available in: EN (EN)DE (DE)