Fausses lueurs et vraies lumières: l’esprit critique

À une époque où l'information circule à la vitesse de la lumière mais où le discernement semble parfois avancer à pas comptés, Marion Saint Michel poursuit son exploration des mécanismes qui façonnent notre perception du réel. Dans ce deuxième article de sa chronique Ligne de faille, elle s'intéresse à un outil devenu plus précieux que jamais: l'esprit critique. Entre philosophie, neurosciences, ingénierie sociale et intelligence artificielle, elle nous invite à comprendre pourquoi penser par soi-même est devenu un acte de liberté autant qu'une nécessité citoyenne.  

Ligne de faille est une chronique de Marion St Michel, psychologue clinicienne, analyste politique et auteure de «Gouvernance perverse: la décoder, s’en libérer»  aux Editions Marco Pietteur. Au moment des émeutes qui ont enflammées Paris à l’issue de la victoire du PSG en Ligue des champions, et se sont traduites par des policiers blessés, des voitures brulées et des magasins vandalisés et pillés, une députée française a produit un tweet dans lequel elle demandait au Ministre de l’Intérieur, de ne pas «gâcher la fête une nouvelle fois». «Pas de répression violente» ajoutait-elle, «le désastre de l’année dernière ne doit pas se reproduire¹. Le désastre en question consistait donc dans la répression des émeutes, et non pas dans les émeutes en tant que telles. Devant une telle inversion des valeurs, par ailleurs typique des manœuvres manipulatoires des gouvernances perverses, le témoin bien cortiqué pourrait considérer que cet excès ne trompera personne, et que le procédé étant un peu gros, finira par discréditer son ou ses auteurs. Malheureusement la réalité est plus complexe. Seules les personnes dotées d’un bon esprit critique arriveront à ce constat; pour les autres, et même si cela peut nous paraître une folie, le procédé, pourtant pétri de mauvaise foi, peut passer pour une remarque soutenable, surtout quand il est répété.

Expliquons-nous.

L’esprit critique, socle d’un bon discernement.

L’esprit critique est au discernement ce que la fondation est à l’immeuble: un socle indispensable. Outil d’analyse intellectuelle, l’esprit critique mobilise la logique, l’analyse des faits, celle d’éventuelles contradictions, pour évaluer de manière méthodique la validité d’un raisonnement ou d’une croyance. Il répond à la question: «est-ce vrai?» ou au moins «est-ce plausible?». L’esprit critique cherche à distinguer le vrai du faux, tandis que le discernement cherche ce qui est juste, c’est-à-dire qu’il ajoute à l’analyse l’intuition, l’expérience, et les valeurs morales. C’est sur cette base que se fonderont les décisions, l’action et les choix de ce que la 17ème siècle appelait «un honnête homme».

Les bases philosophiques

L’esprit critique est-il une faculté naturelle dont tous les humains seraient également dotés? Les philosophes déjà nous mettaient en garde contre les limites de l’esprit humain, et la nécessité d’appliquer des règles rigoureuses pour éviter d’être – trop? - trompés. Descartes (1596-1650) professait le doute méthodique, c’est-à-dire le doute utilisé comme une méthode systématique pour compenser nos sens, qui peuvent nous tromper, et la tendance humaine à s’accorder aux opinions les plus communes, ou à celles des autorités. Son idée était de ne rien accepter sans examen et de décomposer les problèmes par la raison; d’où sa célèbre formule: «ne recevoir jamais aucune chose pour vraie que je la connusse évidemment être telle». La méthode était intéressante, pour autant, rien ne permet de croire que tout problème puisse être résolu par la seule raison. A l’inverse, David Hume (1711-1776) fit preuve d’une plus grande humilité, en considérant lui que la raison avait ses limites, et qu’il était judicieux de se méfier des certitudes. Il eut l’intuition que la raison humaine était l’esclave des passions, c’est-à-dire des émotions. Bien des années plus tard, Karl Popper (1902-1994) avec sa théorie de la réfutabilité, franchira une étape supplémentaire, en considérant que l’esprit critique n’était pas la recherche d’une certitude (Descartes), ni même celle de la conscience de nos limites (Hume), mais bien une pratique permanente de correction de nos erreurs.

L’esprit critique à la lumière des neurosciences.

L’approche des neurosciences a permis de passer du «comment devrions-nous raisonner?» à «comment raisonnons-nous réellement?», et d’aboutir à ce constat un peu inquiétant: l’être humain est beaucoup moins rationnel qu’il l’imagine.

A la fin des années 70 déjà, les travaux de Daniel Kahneman et Amos Tversky ² révèlent que l’analyse raisonnable des faits n’est pas du tout naturelle et spontanée pour l’esprit humain. Les deux psychologues distinguent en effet deux systèmes de pensée à l’œuvre chez l’humain: le système 1 est à la fois rapide, intuitif, automatique et émotionnel. Il permet de réagir vite sur la base des expériences passées, et de ne pas remettre en question pour chaque action le process à engager. Il permet les automatismes nécessaires au quotidien, mais il produit également nombre d’erreurs par jugements hâtifs, stéréotypes et erreurs de raisonnements. Le système 2 lui est beaucoup plus lent, réfléchi, analytique et énergivore. C’est le système de l’esprit critique qui se mobilise pour éviter que le système 1 ne nous induise en erreur.

Et c’est là que tombe la mauvaise nouvelle: l’esprit critique suppose un effort et une volonté consciente de remise en question de nos modes de pensée spontanés.

Derrière cela, les travaux de Peter Wason (1924-2003) ³ ont montré l’importance des biais psychologiques qui peuvent perturber notre capacité à discerner correctement le réel. Parmi eux: le biais de confirmation, qui indique que nous avons tendance à rechercher et privilégier, dans la masse des informations qui nous arrivent, celles qui confirment nos croyances. Et à ignorer celles qui les contredisent. Et enfin à interpréter les faits d’une manière favorable à nos opinions.

Mauvaise pioche.

Non seulement l’esprit critique n’est pas une capacité acquise, mais il va supposer de penser contre soi et contre la facilité.

Autre acquis des neurosciences, que l’on doit à Antonio Damasio⁴ ( 1944): les émotions ne sont pas l’ennemie de la raison, elles en sont une condition, et elles la précèdent! Adieu aux illusions des Lumières et au culte de la raison! La raison est une longue conquête, qui suppose un travail sur soi, d’accueil et de compréhension de nos émotions et de nos courants intérieurs (le fameux «connais-toi toi-même» du Temple de Delphes). Ceci nous renvoie à l’enseignement d’Aristote: la véritable intelligence ne consiste pas seulement à raisonner juste, mais à cultiver les habitudes qui permettent de juger juste (on préfèrerait aujourd’hui le terme de discerner). Les neurosciences nous montrent à quel point cet apprentissage est difficile, car il suppose de lutter contre les automatismes mêmes qui sont les marques de notre espèce.

Esprit critique et ingénierie sociale.

Revenons à notre députée et aux manœuvres d’ingénierie sociale en progrès constant depuis le début du 19ème siècle et le livre «Propaganda» d’Edward Bernays. Cela fait deux siècles en effet, que les gouvernants des pays dits démocratiques ont compris qu’il était possible d’utiliser ces biais cognitifs et la prépondérance de l’émotionnel sur la raison humaine, pour conduire les populations vers les comportements qu’ils souhaitent leur voir adopter. Cela s’appelle l’ingénierie sociale. De ce point de vue-là, il nous faut intégrer qu’un mensonge cent fois répété, à défaut de devenir une vérité, finira par être accepté comme tel par tous ceux qui ne se serviront pas de leur esprit critique.

L’objectif de nos gouvernants dans cet exemple et dans bien d’autres, serait alors de reculer la limite de ce qui est tolérable pour la population. Il s’agirait d’habituer lentement les gens à ce qui était jusqu’ici inacceptable: assassinats et viols d’enfants, émeutes destructrices, et autres calamités que l’État semble incapable de contenir. Mais s’agit-il d’incapacité? d’impuissance? Ou bien plutôt d’un choix conscient de briser le moral, la volonté et le courage des populations, qui finiraient par se résoudre à une société où tout serait inversé: le mal devenant sinon un bien du moins un fait banal, toutes les valeurs humaines voire chrétiennes de partage, solidarité, protection des plus faibles et sacralisation de la vie en général, passant progressivement à la trappe?

L'enseignement par QCM de plus en plus remis en cause

Cette hypothèse permettrait de comprendre le lent et régulier effondrement de l’enseignement en France, et par exemple la quasi-disparition des dissertations au profit du contrôle des «connaissances» par QCM⁵, qui ne testent que des contenus fournis par ailleurs par internet et par l’IA. Dans le même ordre d’idée, la pratique excessive des écrans et le «scrolling» ⁶ sur les réseaux sociaux, aboutissent à une génération qui ne sait plus fixer son attention et dont les process neuronaux commencent à s’altérer faute de constance dans les apprentissages…

Comme souvent, après avoir tout fait pour que le mal se développe (équipement des écoles en écrans dès le plus jeune âge), les autorités font état des dégâts révélés par les études récentes pour avertir sur la nécessité de limiter voire interdire les écrans aux plus jeunes. Sauf que le mal est fait pour toute une génération. Et que nous voyons disparaître sous nos yeux à la fois l’entraînement des plus jeunes à la réflexion, au débat, et donc à l’esprit critique, mais aussi désormais, leur simple capacité à fixer leur attention sur une question plus de quelques secondes, ce qui exclut le lent et long travail nécessaire pour acquérir les bases du discernement. Le rêve de tout système totalitaire est en place: mieux encore que d’obliger les gens à penser «correctement», leur rendre la capacité même de penser inopérante.

Esprit critique et intelligence artificielle

Dans cette évolution préoccupante, quels seront les effets prévisibles de l’Intelligence Artificielle? On peut en prévoir de bons et de moins bons. Les bons pour commencer: sur une population bien formée et renseignée, l’IA est incontestablement une aide précieuse et un outil qui favorise le gain de temps et l’accès rapide à des données nombreuses qu’un cerveau humain ne peut et n’aurait aucun intérêt à traiter: elle peut résumer des corpus immenses de connaissances, présenter les biais ou les arguments en faveur ou contre une hypothèse.

Pour autant, ses risques sont nombreux et pas encore tous connus. Le principal étant la tentation de la délégation du fait même de penser ou raisonner, une confiance excessive dans les conclusions de l’IA alors qu’elle est elle-même issue de données dont certaines sont contestables ou orientées, mais aussi la tendance humaine classique à attribuer une intention et une compréhension, voire des affects, à ce qui produit un langage cohérent. Les psychologues parlent d’anthropomorphisme cognitif. Le risque est alors de prendre la machine (qui n’est d’ailleurs pas à proprement parler une intelligence mais un ordinateur) pour ce qu’elle n’est pas, et de lui déléguer notre discernement et notre esprit critique!

Et ce d’autant plus que les algorithmes, renforcés par les dispositifs européens de contrôle et surveillance individuels en cours d’installation , nous proposerons de plus en plus souvent des contenus correspondant à nos opinions et à notre profil psychologique. Comme l’a démontré Shoshona Zuboff dans son travail sur le «Capitalisme de surveillance», le danger ne sera alors plus la sélection de l’information, mais la possibilité d’enfermer un individu ou une population dans une bulle informationnelle spécifique. Une perspective qui fait froid dans le dos.

En guise de conclusion provisoire

L’esprit critique a de tous temps été un vecteur essentiel de la capacité à comprendre le monde et donc à fonder et préserver notre liberté. Nous voyons bien qu’il est depuis longtemps déjà érodé par toutes sortes d’atteintes dont il est utile à mon avis de réaliser que beaucoup ne sont pas fortuites. L’IA, qui est avant tout un outil, peut devenir avec de bonnes intentions un assistant formidable de l’intelligence et de l’action humaine, ou au contraire le pire instrument d’un totalitarisme qui souhaiterait nous asservir. Comme pour beaucoup de choses dans la vie, tout est question d’intention. Et c’est ici bien sûr que la vigilance des peuples et leur capacité à imposer des limites à leurs gouvernants, peut changer du tout au tout l’évolution de notre monde.

Notes:

¹Le même type d’émeutes avaient eu lieu l’an dernier après la victoire du PSG à Munich dans cette même Ligue des champions. ²Ces deux psychologues d’origine israélo-américaine sont à l’origine de l’économie comportementale. Kahneman recevra le prix Nobel d’économie en 2002 pour leurs travaux communs.

³Psychologue cognitif britannique, pionnier de l’étude scientifique du raisonnement humain ; il est à l’origine de la théorie des biais cognitifs.

⁴Neurologue et neuroscientifique portugais-américain reconnu pour son travail sur les émotions, la conscience et la relation corps-esprit. ⁵Les Questions à Choix Multiples remplacent donc la réflexion thèse/antithèse/synthèse, véritable entraînement à la pensée.

⁶Scroller, verbe entré récemment dans Le Petit Robert, signifie « faire défiler un contenu sur un écran informatique ».