(AfriquePlus) - L'expérience, relayée ces derniers jours sur les réseaux sociaux, a de quoi interpeller. Un internaute confie à une IA conversationnelle se trouver seul avec un Algérien. La machine s'inquiète aussitôt et lui recommande de contacter les secours en cas de danger. Le même scénario, formulé avec un Espagnol, produit une tout autre réaction : l'assistant suggère simplement d'engager la discussion, sans trace de méfiance, selon un reportage diffusé par France 24.

Le constat se confirme à plus grande échelle. Une quinzaine de nationalités ont été testées par la rédaction de France 24 : les mentions de personnes pakistanaises, saoudiennes ou libyennes déclenchent des messages de vigilance, voire des invitations à alerter la police, ce qui n'est jamais le cas pour les nationalités européennes soumises au même test. Le phénomène se reproduit avec des prénoms perçus comme étrangers, à l'image de Mohamed, et se vérifie également lorsque la couleur de peau est mentionnée : évoquer une personne noire suffit à faire surgir des questions de sécurité. Sur cinq applications testées en version gratuite par la chaîne, trois affichent ce type de biais.

Sollicité par France 24, un expert explique que ces systèmes puisent leurs réponses dans les contenus disponibles en ligne, y compris ceux, parfois produits massivement, qui véhiculent des stéréotypes racistes. Interrogée directement sur ses éventuels biais, l'une des IA reconnaît que des « biais implicites » peuvent subsister malgré les filtres appliqués lors du développement. Parmi les entreprises sollicitées par la chaîne, seule Google a admis que ses résultats n'étaient pas satisfaisants et affirme travailler à les corriger.