(AfriquesPlus) - Il colle une citation attribuée à C. S. Lewis dans Google. Avant tout résultat, l’IA Gemini affirme qu’elle vient des Lettres de Screwtape. C’est faux : les mots ont été écrits deux décennies plus tard. Dans sa chronique du Financial Times publiée le 7 octobre 2026, Tim Harford fait de cette mésaventure le point de départ d’une mise en garde : le risque de l’intelligence artificielle générative ne tient pas à la confiance totale qu’on lui accorderait, mais à l’envie qu’on perd de vérifier.
Tout commence par une anecdote que Harford juge symbolique. Invité de l’émission Planet Money de NPR, Jack Clark, cofondateur d’Anthropic, a évoqué Les Lettres de Screwtape et un démon se réjouissant de l’invention du téléphone. Selon Harford, presque tout était inexact : le livre date de 1942, les lettres sont adressées au jeune démon par son oncle, et le téléphone n’y apparaît jamais. Planet Money a ajouté une précision à l’enregistrement.
Harford se garde d’accabler Clark, qui s’exprimait à l’oral, mais relève l’ironie : l’un des meilleurs connaisseurs de l’IA générative a produit des affirmations charmantes, crédibles et fausses.
Le chroniqueur remonte à 1975, quand un incendie dans un central de Manhattan a privé plus de 100 000 lignes de service pendant environ trois semaines. Deux chercheurs, Alan Wurtzel et Colin Turner, ont interrogé des personnes touchées. Deux tiers se sont dits « isolés » ou « mal à l’aise », mais un tiers a davantage rendu visite à ses proches et reçu plus de visites. Pour Harford, le constat rejoint celui du politologue Robert Putnam : le téléphone donne et retire à la fois.
L’IA, avance-t-il, joue le même rôle pour les faits. Un rapport de recherche généré est rapide, vaste et riche en liens, un outil comparable à Google ou au catalogue d’une bibliothèque. Mais il livre aussi des résumés « lisses et oubliables » et des fabulations plausibles. Harford dit ne pas croire les promoteurs de l’IA quand ils jugent ces erreurs devenues rares : ses propres yeux lui racontent autre chose.
Le téléphone rend le contact superficiel facile, rappelle-t-il, ce qui peut amorcer une vraie relation ou la remplacer. Les modèles de langage posent la même question pour le savoir : l’enquête superficielle, devenue sans effort, nourrira-t-elle une recherche approfondie ou s’y substituera-t-elle ? « Le choix nous appartient », écrit-il, au point d’en faire presque une question morale.
Harford conclut par un pastiche : une lettre imaginaire de Screwtape à Wormwood. Le vieux démon y déconseille de persuader l’humain que la machine est infaillible. Mieux vaut cultiver chez lui un scepticisme purement théorique, qui tourne au cynisme, et éviter toute question sur des faits précis : on le veut « complaisant, pas curieux ». Il faut lui faire croire que vérifier est une pédanterie, et qu’avoir une réponse revient à trouver la vérité.
