Thème de la réflexion : Peut-on rapprocher la « conscience errante » subjective théorisée par Pierre Bayle, de l’hypothèse d’une conscience artificielle fondée sur le traitement algorithmique ?

Le recours toujours plus important de l’IA dans nos modes de décision pour l’environnement, comme pour tous les domaines (santé, éducation, etc.), impose que nous ayons les idées claires quant à la confiance que l’on peut attribuer aux propositions d’actions venant de la part de l’IA, propositions qui nous apparaissent comme le résultat d’une pensée, d’une réflexion pertinente de l’outil.

Au 15^e siècle, Rabelais disait « Science sans conscience n’est que ruine de l’âme ». Aujourd’hui, une réflexion sur le thème de la conscience que pourrait acquérir l’IA nous parait utile, puisque nous savons où nous a mené notre manque de conscience en matière d’environnement, sans que l’IA n’ait été impliquée ! Alors, dans ce domaine de l’environnement, comme dans d’autres, n’impliquons pas sans réfléchir une conscience artificielle dont on ne sait pas où elle nous mènerait !

La question de la conscience occupe une place centrale dans l’histoire de la philosophie, mais elle connaît aujourd’hui un renouvellement profond avec l’émergence des intelligences artificielles.

Pour Pierre Bayle (1647 - 1706), dans le « Commentaire philosophique » (1686), la conscience est instable, faillible et traversée de contradictions ; il la qualifie de « conscience errante ». Pour Bayle, bien qu’errante, la conscience est légitime et contraignante ; c’est une instance morale absolue.

Pour Bayle l’esprit humain n’est pas un bloc cohérent, mais un espace de tensions. L’homme peut croire une chose et agir contre elle, c’est-à-dire soutenir une thèse et en reconnaître les limites. Blaise Pascal (1623 – 1662) dans les Pensées (publiées en 1670) traduit autrement cette division interne du sujet en disant : « le cœur a ses raisons que la raison ne connaît point ». La conscience apparaît ainsi comme fondamentalement instable, incapable de se fixer définitivement, ce qui fragilise l’idée d’un sujet pleinement maître de lui-même.

Il peut être utile de rappeler que René Descartes (1596 – 1650), pensait l’être humain comme un sujet unifié, mais dont l’unité reposait sur une distinction fondamentale entre deux réalités : l’âme (ou esprit) qui est immatériel et le corps, matériel. Descartes fondait sa philosophie sur le célèbre « cogito » (« je pense, donc je suis »), signifiant ainsi que le sujet doit être considéré en tant qu’être pensant. Le sujet est donc avant tout une conscience, certain de lui-même en tant que chose pensante (l’âme), et chose étendue (le corps occupe l’espace), les deux formant un seul sujet, les deux dimensions étant étroitement liées puisque :

• Les sensations (douleur, faim…) montrent que l’âme et le corps sont liés ;
• Le corps influence l’âme, les sensations influant sur les émotions, et les passions ;
• L’âme agit sur le corps puisqu’elle décide du mouvement.

La conscience instable pensée par Bayle pourrait sembler entrer en résonance avec le fonctionnement des systèmes d’intelligence artificielle. En effet, une IA n’a pas d’identité stable, ni de continuité intérieure, elle ne fait que produire la réponse la plus probable dans un contexte donné. La variabilité est ainsi constitutive du mode de fonctionnement de l’outil, celui-ci explorant l’ensemble des possibilités. Les systèmes artificiels ne reposent pas sur un centre unifié de décision, mais sur des processus « distribués », où une multitude d’opérations interagissent pour produire une réponse. Leurs productions varient selon le contexte, les données d’entrée ou la formulation des questions (le prompt), et de l’historique de la conversation.

Pour l’IA, l’historique de la conversation n’est pas une histoire vécue ayant pu susciter un engagement personnel. Alors que chez Bayle, l’errance est vécue : elle implique une expérience intérieure, faite de doute, d’hésitation, voire de conflit moral. À l’inverse, les intelligences artificielles ne possèdent, en l’état actuel, aucune forme d’expérience subjective. Elles peuvent traiter de l’information, voire produire des énoncés sur leurs propres états (ce qui est plutôt du ressort de la « conscience fonctionnelle »), mais elles ne ressentent rien (par exemple : « je suis en train de faire une erreur »).

Au sein des systèmes, il n’existe pas de « moi » stable qui garantirait la cohérence des réponses. À première vue, l’IA apparaît ainsi comme une forme de pensée sans unité, proche de cette conscience errante décrite par Bayle, que le sujet éprouve lui-même comme instable. De plus, l’IA n’a pas de croyances personnelles, en ce sens qu’elle ne pense pas (elle ne peut pas dire : « voilà ce que je crois »).

Dès lors, on peut prolonger la comparaison entre Bayle et l’intelligence artificielle. Cette comparaison permet de dissocier deux dimensions souvent confondues : la structure de la pensée et son vécu. L’IA reproduit certaines structures de la pensée (variabilité, absence d’unité stricte, dépendance au contexte), mais elle en est privée de la dimension phénoménale, c’est-à-dire du ressenti subjectif de l’expérience (la douleur d’une brûlure, le goût du café). Comme le rappelle René Descartes dans le Discours de la méthode (1637) « je pense, donc je suis » (voir plus haut); la pensée implique ici un sujet qui s’éprouve lui-même.

Ainsi, loin d’effacer la différence entre l’homme et la machine, la comparaison entre la conscience errante de Bayle et l’intelligence artificielle permet au contraire de mettre en évidence que la conscience humaine ne se réduit pas à une organisation de processus, aussi complexe soit-elle, mais qu’elle implique une dimension essentielle d’expérience. L’errance de la conscience, chez Bayle, est celle d’un sujet qui vit ses contradictions. C’est précisément cette intériorité qui fait défaut à la machine, et qui fait la singularité de la conscience humaine.