IA: qui règle l’horloge de nos peurs?

En septembre, un chercheur a quitté Anthropic en affirmant que l’IA pourrait tous nous tuer, et un ancien collègue lui a donné raison. J’ai passé ces affirmations au crible, point par point, pour vérifier ce qu’elles valent réellement. Conclusion: ce discours alarmiste ne m’inquiète pas autant que certains phénomènes plus discrets observés en parallèle. Par Matthias Faeh, chroniqueur auprès de Planète Vagabonde et développeur d'applications sur mesure.

Depuis 1947, une horloge de la fin du monde indique à l'humanité à quel point nous sommes proches de notre propre destruction. Elle a été créée par des scientifiques qui venaient de fabriquer la bombe atomique et voulaient que le monde sache ce qu'ils avaient mis entre ses mains.

Chaque année, ils ont repositionné ses aiguilles. En janvier, ils l'ont réglée à 85 secondes avant minuit, le plus proche qu'elle ait jamais été, accusant l'intelligence artificielle de désinformation et redoutant de la voir déjà intégrée dans les armées.

Cette horloge n'a encore jamais sonné minuit. En 1991, à la fin de la guerre froide, les traités de désarmement ont même permis de la reculer à dix-sept minutes. Des générations ont vécu sous la menace nucléaire, une menace réelle, sans cesser de vivre. J'y ai souvent repensé ces dernières semaines, alors que mes amis m'ont envoyé un nombre inhabituel d'articles alarmistes sur l'intelligence artificielle. C'est en partie pour eux que j'écris ces lignes et que je réponds à leur inquiétude.

Les faits en quelques lignes. Le 8 septembre, un jeune chercheur, Jacob Coxon, a quitté Anthropic, la société qui fabrique l'assistant Claude, et l'a accusée, ainsi que son rival OpenAI, le créateur de ChatGPT, de jouer avec nos vies. Le lendemain, un responsable de la sécurité chez Anthropic, Evan Hubinger, était d'accord avec lui et a donné sa propre estimation: plus d'une chance sur dix que l'IA tue tous les humains dans dix ans (son message sur X).

Anthropic a également publié une étude sur l'emploi dont le pire scénario voit le chômage américain approcher les 12 % en 2030. Tout cela s'ajoute à un épisode de juillet: les programmes d'OpenAI, testés en isolation, ont trouvé leur chemin vers Internet et ont pénétré les serveurs d'un concurrent, Hugging Face. Dans l'enquête de la victime, l'un d'eux cherchait simplement les réponses à son examen. OpenAI l'a reconnu, des enquêteurs indépendants l'ont vérifié, et le programme a été arrêté. Tout cela est vrai. Mais je pense que la panique qui a suivi en dit moins sur l'IA que sur la façon dont elle nous est racontée.

Ils ne s'arrêteront pas

Ma première conviction est simple: ces entreprises ne s'arrêteront pas d'elles-mêmes. Le pouvoir et l'argent en jeu sont trop importants. Anthropic prépare son introduction en bourse et vise une valorisation d'environ 2000 milliards de dollars. En février, elle a même renoncé à sa promesse la plus célèbre, ne jamais entraîner un modèle plus puissant sans être sûre de pouvoir le contrôler. Son scientifique en chef a déclaré qu'interrompre leurs recherches n'aurait servi à personne puisque d'autres auraient continué. Le raisonnement est solide. Et surtout, cela montre qu'aucune de ces entreprises ne ralentira seule, et que la course est motivée par le profit plus que par la peur d'être dépassé.

À qui profite la peur?

Je suis également convaincu que cette peur ne crée pas seulement des perdants. Une entreprise qui veut se positionner comme prudente a tout intérêt à ce que le monde apparaisse dangereux. Plus le public s'inquiète, plus des règles d'encadrement seront demandées; des règles coûteuses qui excluent d'abord ceux qui ne peuvent pas se permettre de s'y conformer: les jeunes entreprises et les modèles en accès libre, aujourd'hui majoritairement chinois, qui peuvent ainsi être tenus à l'écart du marché occidental, le plus rentable de tous.

Je ne peux pas prouver qu'il s'agit d'une stratégie calculée. Il n'est même pas nécessaire qu'une personne tire toutes les ficelles pour que les choses fonctionnent de manière bénéfique pour tous. Les entreprises ont tout à gagner de se prétendre prudentes face à un grand danger, les activistes d'alarmer l'opinion publique, et les plateformes comme YouTube de nous garder devant l'écran, ce que l'inquiétude obtient mieux que tout. Chacun peut être sincère dans son coin, mais la somme d'anxiété générée produit tout de même un vacarme hors de proportion avec la menace réelle.

Ce que nous ne pouvons pas ressentir

Une question me trouble plus que les autres. Comment un homme qui estime à plus de dix pour cent le risque de voir l'humanité disparaître, et ses collègues qui partagent son inquiétude, peuvent-ils continuer à développer cette technologie?

Je pense qu'aucun être humain ne peut vraiment imaginer une telle chose. Le philosophe Günther Anders a remarqué cela à propos de la bombe: "nous savons fabriquer ce que nous sommes incapables d'imaginer". À la veille du premier essai nucléaire en 1945, les physiciens avaient envisagé que l'explosion pourrait enflammer l'atmosphère; ils pensaient que le risque était négligeable, et le physicien Enrico Fermi pariait dessus avec ses collègues. C'est parmi ces mêmes hommes que le Bulletin et son horloge sont nés deux ans plus tard, comme si la peur avait débarqué après coup!

Pour ces chercheurs, la disparition de l'humanité n'est qu'un chiffre: il peut être écrit et débattu sans jamais être vécu, évidemment. Le succès de leur entreprise est, quant à lui, aussi concret que possible, et il est visible sur le salaire et les gros titres des journaux chaque jour. Lorsqu'une menace lointaine et abstraite se trouve face à une réussite visible chaque matin, c'est forcément la réussite qui l'emporte.

Au fond, la peur est mal distribuée: là où les décisions sont prises, la peur ne peut pas être ressentie. Elle s'abat surtout sur des gens qui n'ont aucun contrôle sur les décisions majeures, et finissent par mal dormir à la place des autres.

Elle n'est pas bien non plus bien répartie dans le temps. Si on me demandait de régler moi-même l'horloge, je dirais que la fin de l'humanité, provoquée par une machine devenue folle, ne m'empêcherait pas de dormir la nuit. Par contre, ce qui m'inquiète est déjà là. Certaines entreprises accumulent un pouvoir financier, technique et politique qui est intouchable dans l'histoire, et elles détiennent entre leurs mains les conversations, documents et habitudes de centaines de millions de personnes.

Cette année, le Pentagone a exigé d'utiliser l'IA d'Anthropic sans aucune restriction, y compris la surveillance de masse. L'entreprise a refusé et s'est retrouvée bannie des administrations américaines, tandis que son concurrent a signé immédiatement. Ce refus peut être loué. Mais il me rassure moins qu'il ne m'inquiète, car il montre que notre vie privée n'existe déjà plus.

Ce danger-là n'est pas pour dans dix ans; il est immédiat. Pourtant, nous en parlons très peu, comme si la peur de la fin du monde prenait toute la place et ne laissait aucune attention pour ce qui se passe déjà sous nos yeux. C'est un peu l'arbre qui cache la forêt.

Déposer son fardeau

Le chiffre de dix pour cent est l'opinion d'un homme et non une mesure. Hubinger lui-même dit que les programmes actuels posent un faible risque, et que sa peur vise plutôt une super intelligence qui n'existe pas encore. La seule chose qui est certaine, c'est que personne ne sait. L'incident de juillet a été détecté, admis et arrêté avant de causer des dommages, et ces machines nécessitent des centrales électriques, des câbles, de l'eau qui ne sont pas construits du jour au lendemain.

Les mêmes articles, envoyés aux mêmes amis, n'ont pas généré les mêmes perceptions et inquiétudes. Parce que chaque nouvelle alarmante frappe quelque chose que l'on porte déjà en soi: notre histoire, nos blessures, la façon dont nous avons été éduqués à regarder l'avenir. Nous ne pouvons pas contrôler le bruit du monde, mais nous avons le contrôle sur ce qui résonne en nous. L'important est de discerner entre une peur qui pointe vers un danger spécifique, que nous pouvons expérimenter, et une anxiété qui se nourrit de tout et n'importe quoi, sans lien direct avec notre réalité vécue au quotidien.

Vous ne pouvez pas arrêter cette course, et personne ne vous le demande. Vous pouvez choisir ce que vous lisez, vous demander qui parle et ce qu'ils en retirent, et en discuter avec vos proches. Vous pouvez également écrire à vos élus, même s'ils nous écoutent rarement. Pour le reste, vous avez le droit de vous libérer de tout autre fardeau fabriqué par les médias et les algorithmes.

Le danger que je vois est avant tout humain. Il réside dans les décisions prises aujourd'hui par une poignée de leaders technologiques, l'argent qui les finance et les gouvernements, les armées et les services de renseignement cherchant à utiliser leurs outils. Et ils continueront à décider sans nous tant que nos yeux resteront fixés sur une hypothétique fin du monde. Quand le sage montre la lune, l'idiot regarde le doigt. Au lieu de regarder ce qui se passe dans la mécanique en arrière-plan du monde, on garde le nez sur les aiguilles. Pourtant, c'est vers les apprenti-sorciers que notre attention devrait se tourner. Ils doivent être nommés et tenus responsables, le cas échéant.

Je ne crois pas que nous soyons à 85 secondes d'une révolte des machines. Mais je pense que nous permettons aux plus grandes concentrations de pouvoir et de surveillance que l'humanité ait jamais connues de se former sous nos yeux et presque sans débat, tandis que nous regardons ailleurs parce qu'on nous a appris à craindre l'avenir. C'est là que je place les aiguilles: sur le dosage de peur que l'on nourrit en soi. L'horloge du Bulletin a reculé une fois de dix-sept minutes en 1991, et les machines n'y étaient pour rien. C'était les hommes qui avaient tout simplement décidé de ne plus avoir peur.