Intelligence artificielle et semiosis humaine

Vincent-Olivier Arsenault sur son blog raconte sa soirée lors de la dernière rencontre RSS Meetup.

Sur la défensive, toute la soirée, il expliquait comment il voyait l’intelligence artificielle (AI) devenir une réalité (lointaine -peut-être – mais assurément il allait en faire partie – et de son vivant s’il est chanceux).

Étant présent, je peux vous dire qu’il y a eu un joute oratoire enlevée où Vincent-Olivier Arsenault était à peu près seul à défendre sa vision contre David Baron, Karl Dubost, Lucas Gonze et moi-même.

Karl Dubost, surtout, jouait à l’escrime pour provoquer des étincelles et des ouvertures, mais la conséquence, un mois plus tard, a été mise par écrit : il ne semble plus réceptif à quiconque n’a pas sa vision (quoique son post le dit de façon très positive : aller au fond de ses idées et ne pas se laisser décourager par des ceux qui ont failli).

Dans ce sens, je vais expliquer pourquoi nous avions des réticences à croire en son projet. Ici, il n’est pas plus question de prouver que son projet est desespéré, seulement qu’il est dans la lignée de nombreuses recherches qui remontent très loin:

Boole 1854 « Investigation of the Laws of Thought »;

Frege 1879 « Ideographie: Langue de la pensée pure conçue à l’image des formules de l’arithmétique »;

Russel 1918, « The Philosophiy of Logical Atomism »;

Carnap 1922, « Der logische Aufblau des Welt ».

Ignorer ce passé rend le chercheur condamné a se faire reprocher sa « naïveté », sentiment que Vincent-Olivier a peut-être ressenti ce soir-là, mais, j’espère, sans aucune teinte de méchanceté.

« Unbearable inevitability of discretization », vraiment?

Je ne prétends pas avoir assurément tout saisi la plausibilité et l’ampleur de son projet, tout au plus disons que je l’ai interprété à la lumière de ce qu’il tentait de dire et surtout de ce qu’il a écrit:

« So that leaves us with the real debate, summarized here with 4 questions :

1. Are all the « complex, subtle, nuanced, and very human processes that

go on in our heads » really « complex, subtle, nuanced and lossless »?

2. Are they what we define as « intelligence »? Are they what we want to mimic?

3. Who says « complex », « subtle » and « nuanced » cognition can’t arise from « neat first-order logic statements »?

4. Can technologies like the semantic web actually come up with some « complex », « subtle » and « nuanced » information processing? »

Sur la question de la complexité, la subtilité et la nuance, je vais me référer à Charles Peirce sur ce qu’est la « réalité »:

« [It is] what, sooner or later, information and reasoning would finally result in, and which is therfore independant of the vagaries of me and you… Thus, the very origin of the conception of reality shows that this conception essentially involves the notion of community. »

Le « signe » est le seul élément de communication ou d’interprétation. L’humain (et le AI, donc) consomme les signes pour créer la réalité. Mais le signe ne manifeste pas une réalité « en soi ». Il n’est qu’interprététation.

La communauté (chez Peirce) opère comme un principe qui transcende au-delà des intentions de l’être interprètant, unique, que nous sommes- vous, moi ou le AI). Quand la communauté s’est accordée sur une interprétation donnée, elle « crée » un signifié qui n’est pas à proprement parlé objectif mais bien « intersubjectif ». Ce qui la privilégie PAR RAPPORT A N’IMPORTE QUELLE AUTRE INTERPRÉTATION obtenue.

(Lire à ce propos : Umberto Eco Les limites de l’interprétations – particulièrement le chapitre « Sémiosis illimitée et dérivée »).

Baser un concept d’interprétation sur un signifié définitif, c’est nier la façon que nous (humains) raisonnons. Je ne me rappelle plus, de Russel ou de Husserl, qui a dit que les vérités scientifiques sont des croyances. Dans le sens qu’ils ne sont que des vérités temporaires avant invalidation (comme le monde euclédien qui a laissé sa place au monde newtonien qui a laissé sa place au monde einsteinien et ensuite au monde quantique et demain à celles des cordes).

J’ai une question:

Est-ce que un AI peut interpréter, participer et comprendre le consensus mouvant, la semiosis illimitée, de la communauté (dans le sens d’une « auto-discovery »)?

Sur la question du web sémantique, à moins que ce ne soit sous l’angle extrèmement réduit d’un surper test de Turing (un hyperGoogle qui « interprète par syllogisme » les requêtes malformées et épate le novice), la question a été effectivement posée auparavant, dans d’autres circonstances, et c’est en revisitant des anciens projets utopistes (qui ont échoués) que l’on peut voir les limites ou les faillites possibles d’un tel projet. (Lire à ce propos Umberto Eco La recherche de la langue parfaite dans la culture européenne).

Destutt de Tracy a écrit à propos des langue naturelles:

« nous [en] sommes réduits le plus souvent à des conjonctures, à des inductions, à des approximations ».

A moins de forcer l’humain à discuter avec le AI dans un language robot, c’est plutôt à lui de nous interpréter, dans notre langue naturelle imparfaite. Il rajoute:

« Nous n’avons presque jamais la certitude parfaite que cette idée que nous nous sommes faite sous ce signe par ces moyens, soit exactement et en tout la même que celle à laquelle attachent ce même signe, celui qui nous l’a appris et les autres autres hommes qui s’en servent ».

J’aime cette phrase pour trois raisons:

(1) parce qu’elle résume la problématique que Vincent-Olivier a eu lors de l’échance verbale (parlions-nous de la même chose?);

(2) elle résume le doute que nous avons, humains, de comprendre les choses vraiment;

(3) un AI aurait bien de la difficulté à comprendre cette même phrase (et c’est pourquoi je me permet de la citer ici, intégralement, avec sa tournure de phrase bien particulière).

Il n’y a pas d’univocité absolue dans une langue. Un « langage a priori » est un langage de programmation. Elle peut comporter des éléments univoques mais au détriment d’une latitude d’évocation (la logique formelle est très bien supportée, mais les commentaires dans le code se font toujours dans une langue vernaculaire). Ses limites sont celles que l’humanité a rencontré dans sa préhistoire et qui l’a conduit a développer des états successifs et plus structurés vers les « langues naturelles ».

Ce point est important: prouver la présence d’universaux syntaxiques et sémantiques en les déduisant d’une langue naturelle (ce que doit faire le AI pour « apprendre ») doit supposer la présence d’une métalangue.

L’expérience de Freudenthal et son langage Lincos mérite ici que l’on s’y arrête. Il constitue un modèle « d’auto-discovery ». Prévue pour être communiqué par ondes aux extra-terrestres, Freudenthal a conçu un ensemble de signaux lancés par phase pour être interprétés quantativement.

Exemple : trois impulsions (***) correspond à 3. Quand la répétition régulière du message permet de conclure au constat (trois impulsions = 3), la phase suivante introduit de nouveaux signaux. ***>** ; ***=*** ; ***+**=*****.

Finalement l’apprentissage se fait par répétition du stimulus. Contrairement au dressage d’un animal, qui reconnait immédiatement l’approbation, l’extraterrestre (ou le AI) est conduit à reconnaître l’approbation par des exemples successifs et répétés.

Lincos pousse l’enseignement de concepts de temps (lié à la constance du signal) et même de règles d’interaction conversationnelles. Le projet suppose que l’on peut communiquer « pourquoi », « comment », « si », « savoir », « vouloir » et même « jouer ». Mais au prix de beaucoup d’efforts.

Ce langage présuppose les principes élémentaires d’identité, de non-contradiction et la constance d’une règle. Mais quand il assume implicitement les règles et le caractère pragmatique d’une langue naturelle, elle doit donc, par conséquence, quitter son formalisme pour intégrer des incertitudes et des imprécisions.

Lincos est le premier langage a priori que je connaissance qui démontre, pour avoir atteint cette fouche paradoxale, que COMMUNIQUER ET FORMALISER TENDENT À S’EXCLURE MUTUELLEMENT. Il démontre que quand on formalise un langage, il devient très difficile de communiquer simplement.

Freudenthal a dit « there are different levels of formalization and … in every single case you have to adopt the one that is most adaptable to the particular communication problem; if there is no communication problem, if nothing has to be communicated in the language, you can choose full formalization ».

(À propos de Lincos lireBruno Bassi : Where it perfect, would it be better)

Je ne crois tout simplement pas qu’il ne peut pas y avoir de « problème de communication » pour un AI. Problème qu’un humain peut contourner mais pas un AI. D’où mes réticences à l’endoit de Vincent-Olivier. J’abonde dans le sens de Sébastien Paquet pour ce qui est des prétentions des défendants (d’aujourd’hui) du AI (et je précise que ça ne signifie pas que je mets Vincent-Olivier dans ce que Seb appelle les « AI believers looking to sell it to unsuspecting laypeople ») et de Shirky pour ce que j’appelle une tare théorique des fondements du web sémantique (qui se voudrait universel)

Je souhaite que mon commentaire, non pas paralyse les chercheurs futurs, mais permet au moins de ne pas reproduire ce qui a été produit.