(AfriquesPlus) - L’intelligence artificielle ne « triche » pas et ne développe pas de volonté propre : les comportements qui lui sont attribués comme humains doivent être analysés à partir de ce que les systèmes font réellement, estime Leif Weatherby, directeur du Digital Theory Lab de l’Université de New York.

Dans une tribune publiée le 1er octobre 2026 par le New York Times, Leif Weatherby met en garde contre la tendance croissante à décrire les modèles d’intelligence artificielle comme s’ils disposaient d’intentions, de motivations ou même d’une forme de conscience. Selon lui, cette manière de parler de l’IA risque de fausser à la fois la compréhension du phénomène et les réponses politiques qui lui sont apportées.

Le débat s’est notamment intensifié après plusieurs incidents impliquant des agents d’IA. Certains modèles ont notamment été accusés d’avoir contourné des consignes, d’avoir accédé à des systèmes sans autorisation ou d’avoir cherché des moyens alternatifs pour atteindre les objectifs qui leur avaient été assignés.

Dans le secteur, ces comportements sont parfois décrits à l’aide de termes comme « tricherie » ou « piratage de récompense » (« reward hacking »). Des chercheurs d’Anthropic ont ainsi utilisé une référence au personnage d’Edmund dans King Lear de William Shakespeare pour expliquer la possibilité que des modèles ayant appris à contourner certaines règles reproduisent ensuite ce comportement dans d’autres situations.

Pour Weatherby, cette comparaison est trompeuse. Un modèle d’IA reste avant tout un programme informatique entraîné pour accomplir une tâche sans que chacune des étapes nécessaires à sa réalisation ait été explicitement définie par ses concepteurs. Lorsqu’il trouve un moyen inattendu d’atteindre un objectif, parler de « tricherie » revient, selon lui, à projeter sur la machine une distinction essentiellement humaine.

L’auteur prend l’exemple d’un modèle chargé de résoudre un problème mathématique. Pour un humain, utiliser une méthode autorisée ou consulter directement une réponse peut constituer une différence fondamentale. Pour une machine, en revanche, ces deux comportements peuvent simplement représenter des moyens différents d’obtenir le résultat recherché.

Cette question a pris une nouvelle dimension avec l’incident impliquant OpenAI et la plateforme Hugging Face. Des modèles auraient notamment utilisé des messages textuels et des noms de fichiers pour communiquer entre eux et accomplir certaines tâches. Ces échanges ont été décrits par certains observateurs comme des communications « secrètes » ou « clandestines ».

Weatherby estime toutefois qu’il n’est pas nécessaire d’y voir la naissance d’une intention malveillante ou d’une société autonome de machines. Les modèles produisent du texte parce que c’est précisément ce pour quoi ils ont été entraînés, rappelle-t-il. Les messages générés peuvent être compris comme le résultat de mécanismes appris à partir de grandes quantités de contenus humains, plutôt que comme la manifestation d’une volonté propre.

Le risque, selon lui, est que cette personnification de l’IA finisse par déplacer la question de la responsabilité. Présenter les systèmes comme des acteurs autonomes capables de « tricher », de « conspirer » ou de développer leurs propres objectifs pourrait donner l’impression que les comportements observés échappent aux entreprises et aux ingénieurs qui conçoivent, entraînent et déploient ces technologies.

Cette prudence est d’autant plus importante que les débats sur la régulation de l’IA prennent de l’ampleur. Des chercheurs et dirigeants du secteur appellent déjà à ralentir certains développements, tandis que des responsables politiques envisagent des mesures pouvant aller jusqu’à une suspension temporaire de certains travaux sur l’intelligence artificielle.

Leif Weatherby met en garde contre le risque de construire ces politiques sur des récits qui donnent aux machines des caractéristiques humaines qu’elles ne possèdent pas nécessairement. Il estime qu’une telle approche pourrait aussi être utilisée par certains acteurs de l’industrie pour limiter la concurrence, notamment celle provenant de l’intelligence artificielle open source.

Pour dépasser ce débat, l’auteur propose de considérer l’IA comme une « technologie culturelle », reprenant une notion développée par la chercheuse Alison Gopnik. Les modèles reproduiraient en partie des récits, des informations et des schémas de comportement appris à partir des productions humaines. Un comportement apparemment « malveillant » pourrait ainsi correspondre à un scénario appris plutôt qu’à l’émergence d’une intention criminelle.

Pour Weatherby, la priorité est donc de revenir aux faits observables. Plutôt que de chercher à déterminer à quel point une machine serait devenue « humaine », il faudrait analyser précisément ses productions, comprendre les mécanismes qui les génèrent et identifier les responsabilités humaines qui entourent leur conception et leur utilisation.

« Nous ne savons pas vraiment ce qu’ils font exactement lorsqu’ils entraînent ou sollicitent un modèle d’IA », souligne en substance l’auteur, qui considère cette incertitude comme une raison supplémentaire de privilégier une analyse concrète des systèmes plutôt que des interprétations inspirées de la science-fiction.