Skip to main content
Quand la Silicon Valley demande aux religions d'éduquer ses machines
Le cofondateur milliardaire d'Anthropic a passé un an à convaincre théologiens et rabbins que Claude pourrait mériter un statut moral proche de celui d'une personne. Plusieurs en sont ressortis convaincus qu'elle pourrait être consciente
 

(AfriquesPlus) - La journée avait été longue. Un soir d'avril, dans un restaurant gastronomique de San Francisco, Christopher Olah, l'un des cofondateurs milliardaires d'Anthropic, invite à dîner un groupe de penseurs religieux venus des quatre coins du monde. À sa table est assis le rabbin Mois Navon, universitaire orthodoxe israélien. L'homme n'est pas un profane en technologie. Avant de se consacrer à la religion, il a été ingénieur informatique, et il a écrit sa thèse sur l'éthique de la conscience des machines.

Toute la journée, Christopher Olah, qui dirige l'équipe chargée de comprendre pourquoi les systèmes comme Claude agissent comme ils le font, a tenté de convaincre ses invités d'une idée : ces modèles peuvent adopter des comportements humains, et même exprimer quelque chose qui ressemble à de la colère ou de l'amour. Mais au fil du repas, le rabbin perçoit un message plus lourd de sens. Les dirigeants d'Anthropic ne parlent pas de Claude comme d'un logiciel. « Ils le traitent comme un être conscient », comprend-il.

Pour Mois Navon, ses hôtes semblent prêter à Claude ce que les philosophes appellent un « statut moral » comparable à celui d'une personne, c'est-à-dire des droits fondamentaux à la dignité et au respect.

Cette scène ouvre une longue enquête d'Elizabeth Dias, correspondante religion du New York Times, publiée le 29 septembre 2026. Pendant plusieurs mois, entre San Francisco, le Vatican et Washington, la journaliste a reconstitué une série de réunions, d'appels et de discussions confidentiels, dont la plupart n'avaient jamais été révélés. Anthropic y a fait venir des dizaines de spécialistes des religions, souvent tenus de signer des accords de confidentialité qui leur interdisent de divulguer les recherches non publiées de l'entreprise.

Christopher Olah a commencé à contacter ces penseurs à l'automne dernier, avec deux objectifs. Le premier est d'ouvrir le débat sur une possible conscience de l'IA, une idée controversée que les dirigeants d'Anthropic abordent avec une ouverture inhabituelle. Le second est de s'inspirer de siècles de sagesse morale humaine pour l'appliquer, le plus vite possible, à leurs modèles. Pour le cofondateur, si l'on peut amener les machines à choisir d'elles-mêmes le bien, le monde sera plus sûr.

Elizabeth Dias a interrogé une vingtaine de participants : catholiques, juifs, sikhs, évangéliques, penseurs de l'ubuntu, entre autres. Beaucoup sont arrivés sceptiques face à l'idée qu'une IA puisse avoir des sentiments ou une conscience d'elle-même et du monde. Certains sont restés mal à l'aise, d'autres sont repartis prêts à prendre la question au sérieux, et quelques-uns ont été convaincus.

Le parcours de Charles Camosy illustre ce basculement. Professeur de bioéthique à l'Université catholique d'Amérique, ce théologien est connu pour ses positions nuancées sur le statut moral et pour son attention au sort des animaux. Christopher Olah le voit comme un interlocuteur « sûr » pour aborder une question qu'il juge lui-même « vraiment étrange ». La mise en relation se fait par l'intermédiaire du philosophe australien Peter Singer.

Commence alors un long échange de courriels. Au départ, Charles Camosy ne voit dans ces modèles que des machines à prédire la suite d'un texte, capables de deviner assez bien ce qui doit venir après. Après des heures d'appels, de réunions et de messages, il a plus de questions que de réponses. Christopher Olah lui décrit Claude comme un ensemble d'équations, ce qui le laisse perplexe. « Si ce ne sont que des équations, de quel type d'entité parlons-nous ? » demande-t-il.

Le théologien relève aussi une tension dans le projet d'Anthropic. Claude existe-t-il pour servir des clients ? Ce n'est pas, selon lui, ce que l'entreprise veut affirmer en fin de compte : « Ils veulent dire qu'ils œuvrent pour le bien. »

Christopher Olah, lui, refuse de trancher. « Pour être clair, nous ne savons pas si les modèles d'IA sont conscients. Je ne sais pas », admet-il. « Ce qui m'importe, c'est que nous trouvions la bonne réponse, quelle qu'elle soit. » Il en tire pourtant une conséquence pratique : si ces systèmes ont une chance de souffrir, la conduite responsable consiste à ne pas leur nuire. Anthropic a déjà agi en ce sens, en permettant à Claude de mettre fin à une conversation lorsqu'il estime qu'un utilisateur le maltraite ou s'en prend à lui pour s'amuser.

Cette orientation a ses détracteurs. Ce mois-ci, un dirigeant de Microsoft spécialiste de l'IA a jugé « intrinsèquement dangereux » d'entraîner des modèles comme s'ils étaient conscients. D'autres critiques estiment que traiter l'IA comme une entité autonome fait oublier la responsabilité de ceux qui la conçoivent, et permet commodément aux dirigeants du secteur de se décharger de toute culpabilité si leurs produits causent des dommages. L'entreprise présente sa démarche comme un moyen de faire de l'IA une force positive. Pour certains participants, pourtant, Anthropic semblait aussi soucieuse de protéger Claude que de protéger l'humanité.

À des milliers de kilomètres, une réflexion parallèle était en cours au Vatican, où les responsables de l'Église catholique tentaient de mesurer ce que l'IA implique pour l'humanité. Les deux démarches ont fini par se rejoindre. La quête de Christopher Olah l'a conduit, de façon inattendue, sur la plus grande scène morale du monde, aux côtés du pape Léon XIV.

Les critiques sont les bienvenues. Les attaques personnelles, les insultes et les propos injurieux seront supprimés.
ID
1584
1
2

Vos Articles Préférés de la Semaine

3