Jean-Pierre Luminet à propos de l'IA

· Certaines personnes ont réagi à mon billet sur l’IA. Adéle Muad (qui d’ailleurs a du jour au lendemain disparu de Facebook !) en disant que je perdais mon temps à écrire sur l’IA : elles ont tort, l’IA est une révolution majeure dans l’histoire de l’humanité, avec quelques avantages pratiques (que l’on peut utiliser intelligemment) mais de très gros inconvénients et dangers sociaux, moraux, etc. Il faut donc en parler et partager les différents points de vue. D’autres m’ont dit que ce n’étais pas la peine d’avoir écrit un aussi long billet, car elles avaient immédiatement décelé la supercherie : bravo pour leur perspicacité. Moi je suis chercheur et je cherche donc toujours à comprendre un peu plus loin.
Pour les autres personnes qui ont apprécié mon analyse, je me permets de mettre ci-dessous un extrait d’un long entretien que j’ai fait l’an dernier pour un journal slovaque (je vous mets la version française, jamais publiée !) où je réponds à de très pertinentes questions sur l’IA, sa restriction à l’analyse algorithmique, dont la prétention à dire plus sur le monde que le cerveau humain est mis en défaut par les théorèmes d’incomplétude de Gödel. Bonne lecture aux courageux !
PS : la photo est extraite de l’article et n’est pas là pour montrer narcissiquement ma bobine, comme certains trolls le croient 😁

**** Le philosophe Georges Vallin a dit : Le doute métaphysique transcende radicalement l’ordre de l’objectivité en général. Est-ce que ce doute ne manque pas parfois aux scientifiques pour être transcendés ?
Oui, il manque effectivement à beaucoup, mais pas à tous. Ce doute fondamental, capable de mener à une perception transcendante, dépasse le matériau, la matière sur laquelle on travaille ainsi que les moyens utilisés pour réfléchir et avancer. Ces autres approches — la musique, les arts plastiques, la poésie, l’écriture — nourrissent une forme de transcendance. Cela permet d’aller au-delà de ce que la science peut nous révéler. Je rejoins ainsi ce que j’évoquais tout à l’heure : selon moi, la science ne dit pas tout sur le monde. Mais cette opinion n’est pas universellement partagée.

Vraiment ?
Non, certains, notamment parmi les physiciens, ont même parlé d’une théorie du tout, prétendant pouvoir tout décrire. Une idée qui, à mon sens, relève d’une grande naïveté.
Il me semble aussi. Les limites de la science ne sont-elles pas aussi celles du langage ?
Oui, mais il faut distinguer entre les différents types de langage. Dans certains domaines scientifiques, et particulièrement dans le mien, le langage véritable, ce sont les mathématiques.
Est-il cependant parfait ?
Pas forcément. On sait, grâce au fantastique travail de Kurt Gödel et à ses théorèmes d’incomplétude, que ce langage, considéré pendant un temps comme suprême, possède lui aussi des limites. Galilée lui-même affirmait que l’univers était écrit dans un livre dont les mots sont les triangles et les figures géométriques, et qu’il s’agissait là du langage ultime.

Ce que Gödel a contesté.
Oui, il a démontré que même les mathématiques ne peuvent pas tout dire sur le monde. Tout système d’axiomes contient nécessairement des propositions indémontrables. C’est pour cette raison que des compléments aux mathématiques sont nécessaires, bien qu’ils ne puissent jamais tout expliquer.
Donc aucun langage ni aucune combinaison de langages ne dira tout sur le monde ?
C’est une question fondamentale, et le théorème d’incomplétude de Gödel est une des réponses les plus marquantes. On n’en parle pas assez, et pourtant il prend tout son sens lorsqu’on aborde des sujets comme l’intelligence artificielle et les idéologies qui en découlent, et qui sont parfois dangereuses, notamment le transhumanisme.

Pourquoi ?
Car on oublie souvent que ces idées reposent sur l’affirmation que l’intelligence artificielle surpassera les capacités humaines. Ce qui est vrai si l’on parle des capacités algorithmiques, c’est-à-dire des capacités de calcul. Mais la vraie question est : est-ce que tout est algorithme ?

Et la réponse ?
Cela nous conduit à des zones d’ombre, notamment sur le fonctionnement du cerveau humain. Personnellement, je suis convaincu qu’il n’est pas entièrement algorithmique. Mais, bien sûr, je ne peux pas le prouver, c’est davantage une position philosophique. Les neurosciences n’apportent pas de réponse définitive à ce sujet. Si le cerveau n’est pas entièrement réductible à des algorithmes, alors l’intelligence artificielle ne pourra pas créer ou raisonner de la même manière que le cerveau humain.

Pourquoi ?
Parce que, comme le montre le théorème de Gödel, l’algorithme ne peut pas tout expliquer. Il y a une nécessité, une capacité, à le dépasser, à sortir de ce cadre. C’est un débat immense, et nous sommes en plein dedans.

À cause de l’intelligence artificielle ?
Oui, ses prouesses actuelles transforment le monde à une vitesse vertigineuse. Cela pourrait bien être la plus grande révolution de l’histoire de l’humanité. Mais c’est une révolution qui comporte aussi des dangers, car elle remet profondément en question notre propre nature, ce que nous sommes en tant qu’êtres humains.

Vous parlez de dangerosité, mais en même temps, vous montrez une voie qui permet de rester un minimum optimiste. Vous dites que tout n’est pas algorithmique, qu’il existe quelque chose au-delà. En philosophie, dès le début du vingtième siècle, Henri Bergson évoquait déjà l’intuition.

Bien sûr, mais comme je le dis, je ne peux pas le démontrer. Aujourd’hui, il y a une tendance à oublier cet aspect. Beaucoup sont tellement fascinés par les performances de l’intelligence artificielle, qu’ils en viennent à croire qu’elle peut même supplanter la création artistique. On demande à une intelligence artificielle : Écris-moi un livre sur tel sujet, compose-moi une chanson sur tel thème, et elle produit quelque chose qui peut sembler remarquable.

Comment la prendre en défaut ?
Il faut être un artiste soi-même pour discerner que ces créations ne sont pas véritablement nouvelles, qu’elles relèvent d’une reproduction ou d’une imitation, mais même là il est facile de s’y laisser prendre. À mesure que l’intelligence artificielle continuera de progresser, cette distinction entre création humaine et production artificielle deviendra de moins en moins évidente.
Cela soulève une question essentielle : y aura-t-il encore des créations authentiquement humaines en littérature, en musique, et même dans les sciences ?

Certains pensent que l’intelligence artificielle pourrait parvenir là où nous échouons, notamment dans des domaines comme la physique fondamentale. Cela fait soixante ans que nous, humains, peinons à élaborer une théorie complète de la gravitation quantique. Les théories des cordes, la gravité quantique à boucles, tout cela reste fascinant, mais pour l’instant, aucun de ces modèles n’a véritablement abouti. Il y en a qui pensent que l’intelligence artificielle pourrait nous donner la solution.

Et vous ?
Moi, je n’y crois pas du tout, parce qu’il faut inventer et non combiner. Pour l’instant, l’intelligence artificielle ne fait que combiner, elle n’invente pas. Mais ses chantres nous disent qu’elle y arrivera un jour.
Dans ce rapport au progrès, je perçois une certaine marchandisation du monde, de l’art aussi. Pensez-vous que cette marchandisation menace le savoir et sa transmission ?
Oui, évidemment. C’est probablement l’un des plus grands fléaux de notre époque : la marchandisation de tout. Cela dit, avec l’intelligence artificielle, nous disposons d’un outil que nous n’avions pas auparavant, tout comme l’arrivée de l’ordinateur a marqué une révolution en son temps. Un outil, cependant, peut être utilisé de différentes manières, à bon ou à mauvais escient. Cela dépend des idéologies qui en découlent. Par exemple, le transhumanisme n’est pas une science en soi, mais une idéologie qui exploite les concepts issus de l’intelligence artificielle.

Avez-vous un exemple de l’intelligence artificielle utilisée à bon escient ?
Des outils comme ChatGPT représentent aussi une forme de transmission du savoir tout à fait extraordinaire. Il combine les informations disponibles et les exprime de manière synthétique et analytique. Cela peut être une véritable aide à la passation de connaissances. J’ai des amis qui m’ont confié qu’ils utilisent désormais cet outil dans leur pratique. L’un d’eux, compositeur, me racontait que lorsqu’il s’interroge sur des subtilités harmoniques ou des concepts musicaux complexes, il ne demande plus systématiquement à ses collègues musiciens. À la place, il pose sa question à ChatGPT et obtient une réponse en quelques secondes, souvent d’une grande pertinence.