À partir d’une discussion entre Karl et Vincent-Olivier sur le web sémantique, la conversation s’est postée en ligne avec une série de billets sur l’avènement (ou non) de l’intelligence artificielle. Vincent-Olivier insistait sur le fait qu’inéluctablement la méthode de réduction de problème (the unbearable inevitability of discretization) permetterait d’émuler l’intelligence humaine.
Jusqu’ici je posais un scepticisme ferme face à sa certitude. Le formalisme et la communication semblent aller dans des directions opposées et ne permettaient pas à la machine de saisir l’intelligence discursive derrière la sémiosis humaine. Pour suivre le débat entre Vincent-Olivier (VOA) et moi (ML) dans l’ordre:
(VOA)Discretization 1/2,
(ML)sémiosis humaine 1,
(VOA)Discretization 2/2,
(ML)sémiosis humaine 2,
(VOA)Semantic web et le (ML)présent billet
En revenant au web sémantique, Vincent-Olivier a précisé sa pensée en affirmant :
« A semantic web query engine able to identify from free, unstructured, unindexed, markup-less text, poems that have bird as metaphor for freedom is not simply intelligent, but also more intelligent than the vast majority of humans at this very task. »
Il y a une théorie dont j’ai entendu parlé il y a longtemps et qui, je crois, a influencé inconsciemment ma décision d’être sceptique face à l’intelligence artificielle. C’est la théorème de Gödel sur l’incomplétude. Je vais en sortir les grandes lignes et montrer comment elle peut alimenter la discussion.
En 1931, Kurt Gödel a démontré que pour n’importe quelle branche des mathématiques, il y aura toujours des propositions qui ne pourront pas être prouvées vraies ou fausses à l’intérieur de cette même branche. En sortant de cette branche (en sortant de ce système) il est possible d’aboutir à de nouvelles règles et de nouveaux axiomes. Mais ce nouveau système possède lui-aussi des propositions invérifiables sans sortir de nouveau du sytème. D’où le nom de théorème d’incomplétude.
En clair, il démontre, théoriquement, que tout système logique, aussi complexe soit-il, est incomplet. Incomplet dans le sens que le système ne peut prouver toutes les propositions vraies qu’elle contient, sans sortir d’elle-même pour avoir cette preuve.
Nous ne pouvons donc jamais être sûr en utilisant une méthode formelle que certains axiomes arithmétiques ne mènent pas à des contractions. Tout système utilisant la logique formelle est donc « incomplet », c’est à dire qu’elle détiendra toujours plus d’énoncés vraies que d’énoncé vérifiables.
Un système d’intelligence artificielle, s’il veut acquérir de la connaissance, doit pouvoir vérifier lui-même les énoncés vraies. Le théorème de Gödel semble contredire la possibilité que la machine soit plus intelligente que l’Homme à cause de la limite des axiomes qu’elle utilise pour avoir une connaissance du monde, alors que nous sommes capables de découvrir inopinément des vérités.
Je ne suis pas expert en la matière, mais en relisant là-dessus, j’ai pu retrouver au moins la source de mon scepticisme et pourquoi je pensais que l’intelligence discursive est un puissant réquisitoire pour la superiorité insoupçonnée du langage humain contre la machine. En fait j’aurais dû commencer par ce théorème, puisque mes autres arguments reposent implicitement là-dessus. Ce n’est que maintenant que je fais le lien.
Mais ça ne veut pas dire que j’ai raison car je dois maintenant prouver dans quel cas celà s’applique au web sémantique.
1. Gödel a seulement démontrer que « vrai » et « démontrable » divergent. Est-ce que le web sémantique peut s’en passer?
Je crois que l’engin de recherche de Vincent-Olivier qui « découvre » des relations sur le web a besoin de les prouver. Si non, elle se base sur des « vérités données » et nous avons alors non pas « un » mais « des » web sémantiques (un par domaine explicite).
2. Gödel assume que le système en question est cohérent. Est-ce que le web sémantique doit être cohérent?
Je crois que l’engin de Vincent-Olivier doit se baser sur des axiomes pour acquérir de la connaissance (en créant de nouveaux axiomes) donc sur un système cohérent. Si non, comment ferait-il pour résoudre les contractions (ce que le web doit contenir en grande quantité).
3. Le théorème de Gödel présuppose une logique formelle. Est-ce que le web sémantique doit uniquement se baser sur logique formelle?
La méthode de résolution de problème par « discretization » me semble demander une logique formelle (pour briser un problème rencontrée de façon efficace). En utilisant une « mathematical newspeak », qui d’après Vincent-Olivier augmenterait l’efficacité de la communication, on doit être bien obligé de passer par un langage formel.
Encore, ici, ça ne prouve en rien que j’ai raison. Tout au plus, qu’il existe peut-être des pistes pour le web sémantique qui ne marche pas à grande échelle et de façon universelle. Un système qui se baserait sur une logique formelle pour naviguer dans un web de « free, unstructured, unindexed, markup-less text[s] » devrait rencontrer des problèmes fondamentaux qui nous empêcheraient de les appeller « intelligence artificielle » (au sens que je l’entends ici). Mais est-ce que la « discretization » fait partie de ces voies cul-de-sac? Tout dépendrait alors de la méthode employée, donc. Mais en tant que concept il est possiblement une bonne solution.
Une intelligence « partielle » utilisant la « discretization » pourrait être plausible sur le web, à mon avis, avec ces deux points:
a. Un système pourrait arriver à prouver suffisamment d’axiomes à l’intérieur de lui-même pour être autonome (sans prétendre à l’exhaustivité) et interpréter de façon suffisante afin de réussir le test de Turing.
b. Ce qui est prouvé n’a pas besoin de paraître vrai aux yeux des humains.
Mais je ne suis pas sûr que celà ne conduira pas, quand même, à de multiples web sémantiques…
ZEROSECONDE.COM (cc) 2004-2012 Martin Lessard
Contenu protégé selon la licence Paternité – Pas d’utilisation commerciale – Partage des conditions initiales à l’identique 2.0 de Creative Commons
Très intéressant! J’ai hâte d’avoir le temps de pouvoir lire en détail la version de Vincent-Olivier pour pouvoir mieux analyser ses allégations !
Mais au premier coup d’oeil ce n’est pas vraiment la « vraie vie » que peut émuler l’AI, c’est plutot des shémas de chercheurs enfermés dans leur bulles !
Pour poursuivre la discussion. Voir http://www.well.com/~doctorow/metacrap.htm
Il liste quelques problèmes s que l’on pourrait trouver sur un web sémantique basé sur des méta-données:
* People lie
* People are lazy
* People are stupid
* People are lousy observers of their own behaviors
* Schemas aren’t neutral
* Metrics influence results
* There’s more than one way to describe something
C’est ce qui me prouve qu’un « agent intelligent » sur le web sémantique doit se débrouiller tout seul, sans aide des humains. Il faut effectivement une « intelligence artificielle » pour s’y retrouver. Mais, voilà, je crois avoir exprimer des limites à cette intelligence dans mes billets et donc le web sémantique que je défini comme :
« The Semantic Web is a project underway that intends to create a universal medium for the exchange of information by giving meaning, in a manner understandable by machines, to the content of documents on the web » (http://www.wordiq.com/definition/Semantic_Web)
serait irréalisable.
Un débat (touffu) sur le web sémantique a présentement lieu sur Slash dot…
Le théorème de Godel pose en effet une limite aux systèmes intelligents par l’indécidabilité de certains axiomes. Cette limite s’applique autant aux humains qu’aux machines. L’être humain n’est lui-même qu’une machine intelligente d’un type particulier, fruit de l’évolution de la vie. Malgré cette limite, cela n’a pas empêché Andrew Wiles de prouver le dermier théorème de Fermat ou plus récemment Grigori Perelman de prouver la conjecture de Poincaré.
Certains prétendent même que l’humain résoud des problèmes NP complexes!!! Non, l’humain se fatigue et décide sur une intuition acquise par l’expérience, c’est tout! De telles heuristiques peuvent d’ailleurs se programmer. L’IA est un domaine encore très jeune…
Comme pour le calcul arithmétique, les machines pourront compter sur des capacités supérieures au niveau de l’accès aux données, de la mémorisation, de l’inférence et de l’apprentissage. Par dessus tout, les machines bénéficieront d’une durée de vie plus longue.
IA est une science jeune. Par contre, quand on parle de « machine intelligente » versus ‘l’intelligence humaine’, il faut tout de même reconnaître qu’une machine de Turing ne « fonctionne » pas comme un ‘cerveau’. Ce dernier n’a pas livré encore ses secrets, tandis que le premier possède des limites liées à sa structure logique interne. Malgré des analogies structurelles et comportementales, il est faux de dire qu’ils sont « la même chose ».
L’intérêt du débât c’est de permettre de cerner ce petit quelque chose qui permet à notre cerveau de percevoir du sens là o’u la machine ne verrait que du chaos.
Je n’ai pas tout lu même si votre discussion me semble très intéressante. Je voudrais juste ajouter mon grain de sel philosophique. Descartes disait « je pense donc je suis » mais je crois que l’on a bien évoluer depuis. Que l’homme pense cela ne fait aucun doute mais réduire l’homme à cela c’est l’erreur qu’il ne faudrait pas commettre. La différence énorme entre une machine IA ou autres c’est qu’elle ne sait faire que penser alors que l’humain (je ne sais pas ce qu’il en est pour les animaux, donc je n’en jugerai pas) lui peu ne pas penser.
Or ceci est la caractéristique principale de l’humain : quand cesse la pensée et les représentation-évaluations qui vont avec, l’homme est capable d’atteindre l’Etre. Je ne dis pas que j’en suis capable à chaque instant de ma vie et vous pouvez penser que je ne suis qu’un pauvre idiot délirant.
Pourtant l’Etre, ou le Tao ou ce que vous pouvez appelez de tout autre manière et qui lui est vivant et source infini de tout n’a nul besoin de la pensée.
Un être qui pense IA ou humain va du connu au connu (Voir « se libérer du connu » Ed Stock Krishnamurti (rien à voir avec Krishna). Alors que l’humain capable de ne plus penser, voir surgir l’inconnu.
Voilà pourquoi il faut relativiser sur l’importance de la pensée ou de l’intelligence à mon humble avie
Intéressant, David. Je ne sais pas si on peut dire que l’humain peut « arrêter » de penser (peut-être est-ce ce qui se passe devant la télé ;-), mais l’idée possède du charme.
Je crois que la thèse des tenants de l’AI est respectable (conceptuellement, un robot peut simuler la pensée humaine), mais le fait de pouvoir « cesser de penser » me semble toucher le domaine de l’improgrammable, ce détail qui fait dire aux opposants de l’AI que, au contraire l’humain n’est pas un robot.
Mais il faudrait bien cerner la notion de ce que c’est ‘cesser de penser’. Le mérite de votre grain de sel est de proposer une voie qui sort de la pensée rationnelle, du moins de la réduction de l’hunain à la seule pensée (et je crois que nous entrons dans une époque qui doit régler ses comptes avec Descartes…)
Oui, qu’est ce donc que « cesser de penser ». C’est ne plus être à mon avis, marqué par un processus temporel. La pensée est un processus de comparaison entre ce que je sais et ce que je vois et souvent l’on ne voit plus que ce que l’on sait ou croit savoir. C’est un processus marqué par l’accumulation dans le temps de données sur l’observé, processus dans lequel le sujet semble être absent (or l’on sait que l’observateur perturbe l’observé, la science future a forte à faire avec ce problème). Or je pense que hors du domaine de l’action (je me lave, je conduis ma voiture, je serre un boulon) donc dans le domaine de la relation, la pensée peut être totalement absente. Je suis face à l’autre et l’autre est face à moi, je n’ai nul besoin de penser « il est ceci, il dit cela parce qu’il pense cela », je suis un récepteur qui peut grace à l’absence de pensée n’être pas sous influence. Si je me mets à penser : survient le conflit entre l’autre et moi et je me mets à faire des choix difficiles et mon état de récepteur est totalement perturbé par les interférences que je crée avec le discours de l’autre. Vous me direz : mais si vous répondez, vous pensez.
OUI, mais il y a bien eu un moment où je n’ai pas pensé et c’est ce que je voulais prouver.
Quelqu’un qui Est, qui Existe, qui est cette conscience de l’Etre, ne pense pas.
La question est de savoir si une camera IA braqué sur moi qui enregistrerait les mots que je diraient en analysant leur sens, leur validité, leur vérité, ferait autre chose que ça, enregistrer.
Il y a chez les scientifiques un escamotage du sujet pour l’objet observé. La conscience est un obscur objet…. tout comme l’esprit et tout ce qui touche le sacré.
Or certains scientifiques comme Schrödinger dans « l’esprit et la matière » sous tendent qu’il y a bien un état hors espace temps.
C’est cela je crois que ne peut atteindre un être IA
A moins que
« objets inanimés avez vous donc une âme »
Et qu’est ce que l’âme.
selon moin ce qui Est sans nul effort de la pensée
Bon vous m’excuserez pour ma réflexion à l’état d’ébauche et j’espère n’avoir pas trop dévié du sujet original
David