Quand l’intelligence artificielle oppose l’homme à la machine

Un duel sans précédent a opposé pour la première fois, à San Francisco, une machine à des champions de débats. Doit-on avoir peur de l’intelligence artificielle ?

À l’IBM Watson Center, situé dans le quartier SoMa (ou South Market) au cœur de San Francisco, en Californie, un combat sans précédent dans l’histoire de l’intelligence artificielle a vu s’opposer le 18 juin dernier l’homme à une machine. Devant un public d’une cinquantaine de journalistes, et un universitaire de l’Université de Dundee, en Écosse, le professeur Chris Reed, se sont affrontés deux champions ou spécialistes de débats en direct d’un côté et le système d’intelligence artificielle IBM Project Debater de l’autre.

La compétition s’articulait en deux débats. Les deux parties impliquées dans chaque manche avaient quatre minutes pour exposer leurs idées, quatre autres pour répondre aux arguments adverses et enfin deux autres minutes pour conclure.  Dans le premier débat, le système de l’AI savait face à lui le champion israélien de débat en 2016, Noa Ovadia, pour discuter du thème “Nous devrions subventionner l’exploration spatiale”. Au cours de la deuxième et dernière manche, Project Debater a affronté un autre expert israélien, Dan Zafrir, sur le thème “Nous devrions accroître l’utilisation de la télémédecine”.

Un sondage réalisé auprès du public, à la fin des débats, a donné la victoire à la contrepartie humaine pour la première manche, et à la machine pour la seconde. Selon les téléspectateurs, Project Debater était meilleur que ses adversaires humains pour la richesse des informations fournies mais moins bon dans la présentation de ses idées.

Lire aussi :
L’intelligence est-elle réservée à une élite ?

Des défis en cascade

 Ce n’est pas la première fois que le géant IBM a été protagoniste de ce genre de duel machine contre l’homme. En 1989, Deep Thought d’IBM, spécialisé dans le jeu d’échecs, a battu le champion britannique David Levy, devenant ainsi le premier ordinateur capable de jouer à la hauteur d’un grand joueur humain. La même année, l’ordinateur d’IBM a tenté de battre le champion du monde Garri Kasparov, mais a perdu 2 à 0. Y parviendra en revanche son successeur, Deep Blue, au premier match d’un tournoi de six rencontres, en 1996. Même si le champion du monde en titre a remporté le tournoi 4 à 2, le mur est franchi. L’année suivante, après une « grosse » mise à jour, Deep Blue bat –  non sans polémique – le champion russe 3,5 à 2,5.

Toujours à la recherche de nouveaux défis, IBM fait jouer le système d’intelligence artificielle Watson (du nom du premier président de la société, Thomas J. Watson) au célèbre jeu télévisé américain  Jeopardy! (l’équivalent de notre jeu “Questions pour un champion”), et en février 2011, le superordinateur arrive à battre les champions de toujours Ken Jennings et Brad Rutter.

Lire aussi :
L’intelligence artificielle au service des archives secrètes du Vatican

Project Debater

La même année, à Haïfa, en Israël, le scientifique Noam Slonim du plus grand centre de recherche IBM en dehors du territoire américain, propose Debater, un projet “scientifiquement intéressant et stimulant”, avec une “valeur commerciale”, quelque chose de grand, quelque chose qui “change les choses”.

Alors que Watson est un superordinateur capable de répondre aux questions posées dans un langage naturel, l’idée de Slonim est plutôt de développer un système d’IA capable de tenir de vrais débats, même sur des questions complexes.

Le projet démarre en 2012 à Haïfa sous la direction de Ranit Aharonov. Contrairement à Deep Blue ou Watson, “notre objectif n’est pas de développer un autre système meilleur que les humains pour faire quelque chose”, explique celle-ci. En effet, précise pour sa part le directeur de recherche de l’entreprise IBM, Arvind Krishna, il s’agit de créer un logiciel capable de débattre avec “un être humain suffisamment compétent, mais pas nécessairement un champion du monde”.

Pour être convaincant, un logiciel comme celui de Project Debater doit être bien informé sur les différentes questions qu’il aura à traiter. Pour y parvenir, l’équipe de Ranit Aharonov a chargé dans le cerveau de l’ordinateur des milliards de données provenant de 300 millions d’articles de journaux, de magazines, etc.

Un jugement

Le débat organisé en juin “est le début de quelque chose que nous pouvons explorer pendant de très longues années”, a déclaré Noam Slonim, le créateur de Project Debater. Le professeur Chris Reed, qui faisait partie du public, s’est en effet déclaré impressionné par la performance du système. Professeur d’informatique à l’Université de Dundee, il n’en revient pas. « Alors que nous sommes qu’au début du chemin pour comprendre l’intelligence artificielle, l’ordinateur d’IBM a su produire “un discours de quatre minutes, à la volée, sur un sujet choisi au hasard dans une liste de 40 sujets, sur lequel il n’avait pas été préparé à discuter”.

Mais comme orateur, il a encore beaucoup à apprendre. “Le système n’a que des notions très rudimentaires au plan structurel et argumentaire et s’écarte très souvent du thème principal”, relève Chris Reed. “Il ne prête pas attention à son public, ni à son adversaire, et n’a aucun moyen d’adapter son langage ou d’exploiter les centaines de techniques rhétoriques pleines d’esprit qui aident à conquérir le public”.

Lire aussi :
L’Union européenne veut créer un droit pour les robots

Support au processus décisionnel humain

Pour Chris Reed, la véritable valeur de la technologie ne se verra pas dans les salles de discussion, mais dans des applications ou des situations où les systèmes d’intelligence artificielle peuvent contribuer au processus décisionnel ou à la discussion. Par exemple dans les salles d’opérations des forces de police ou les salles de classe.

Lire aussi :
Ma nounou est un robot

Les développeurs du projet eux-mêmes voient leur propre système d’intelligence artificielle – dont les technologies futures seront commercialisées dans le Cloud d’IBM, comme un support au processus décisionnel humain. Selon le directeur de recherche d’IBM, Arvind Krishna, les organisations de toutes sortes pourraient tirer profit d’un logiciel capable de résumer  les informations et les avantages et inconvénients d’un problème, explique Harry McCracken sur Fastcompany.com. Ce logiciel pourrait même servir d’antidote à la diffusion en ligne d’informations erronées ou trompeuses.

Quelques craintes

Mais l’intelligence artificielle fait peur. En avril dernier, le cofondateur de Google, Sergey Brin, a mis en garde contre les risques liés à l’IA. Dans sa lettre annuelle aux actionnaires de la société faîtière Alphabet, Sergey Brin fait état de « nouveaux problèmes et de (nouvelles) responsabilités » apportés par la révolution de l’IA et d’autres développements technologiques

Des questions “très légitimes et pertinentes sur les implications et l’impact de ces progrès” sont soulevées dans le monde entier, écrit Sergey Brin. Néanmoins, celui-ci se dit “optimiste” quant au potentiel de la haute technologie pour résoudre les grands problèmes du monde. “Nous sommes dans une voie que nous devons suivre avec beaucoup de responsabilité, d’attention et d’humilité”.

Le célèbre astrophysicien, cosmologiste et mathématicien britannique Stephen Hawking, décédé le 14 mars dernier, avait lui aussi mis en garde contre les risques liés à l’IA, estimant son potentiel capable “du meilleur et du pire” pour l’humanité. En automne 2016, à l’ouverture du Leverhulme Centre for the Future of Intelligence (LCFI) à Cambridge, il avait jugé son impact “crucial pour l’avenir de notre civilisation et de notre espèce”.

Lire aussi :
Faut-il avoir peur des intelligences artificielles et des robots ?

Quo vadis homo ?

Dans un article consacré au Project Debater, publié le 15 juillet dans Avvenire, le cybernétique et écrivain italien Giuseppe O. Longo rappelle l’idée de l’homme affecté par la « honte prométhéenne » développée par le philosophe allemand Günther Anders dans le livre Die Antiquiertheit des Menschen (« L’humanité dépassée »), c’est-à-dire le « sentiment d’avilissement et de découragement que l’homme éprouve à l’égard des dispositifs qu’il a lui-même projetés et construits et qui le dépassent sur tous les fronts ».

“Poussés par cet écart de plus en plus large, nous essayons de rivaliser avec les machines, et nous en sortons vaincus et humiliés : qui aura plus de courage, ou l’envie, de jouer aux échecs contre un programme comme Deep Blue ? “, s’interroge Giuseppe O. Longo. Expert en informatique et maître de conférences à l’Université de Trieste, en Italie, il rappelle aussi l’avertissement de Norbert Wiener — le père fondateur de la cybernétique — sur le “caractère irréversible” de certaines innovations.

Pour l’expert italien, c’est un choix anthropologique. À nous maintenant de décider “si nous voulons construire des machines qui pensent (à notre place) ou bien des machines qui nous aident à penser”.

Lire aussi :
Qui a peur des robots ?