Quand un bot « dit » ce qu'il n'a jamais dit. Comment une rumeur devient une info

Thèse : la panne n'est pas dans le modèle, mais dans la rédaction qui publie une capture de chat comme source. Tant que les contenus fictifs ne seront pas signalés obligatoirement, chaque « preuve par chatbot » servira de munition à la désinformation.

L'affaire ressemblait à un viral classique. Des vidéos montraient un assistant IA chinois qui conseillait soi-disant de faire cuire des pantoufles pour qu'elles « reprennent leur taille d'origine ». Le montage a beaucoup circulé. Une partie des médias et des comptes institutionnels l'a pris pour la preuve d'erreurs dangereuses des chatbots. L'histoire est arrivée au service communication du fabricant, qui a publié un démenti : le modèle n'avait rien dit de tel.

L'enquête a révélé autre chose que la simple erreur. Les vidéos étaient mises en scène sur le ton de la blague, à partir d'un dicton populaire selon lequel « des chaussures rétrécies peuvent se faire recuire ». L'auteur a reconnu avoir délibérément orienté le modèle vers une réponse fausse, puis filmé le résultat. Il n'a pas signalé le matériel comme fiction ni comme jeu. L'effet était prévisible : les spectateurs, journalistes compris, ont vu un court clip sans contexte et l'ont pris pour le comportement réel du produit. Le communiqué officiel de l'entreprise le résume ainsi : « une rumeur est devenue une info ».

Le schéma s'est d'ailleurs répété deux fois. La même équipe de relations publiques avait démenti auparavant une autre histoire : un classement des « dix stars les plus populaires », généré par un blogueur avec de l'IA et attribué au produit comme s'il s'agissait de sa réponse. Dans les deux cas, le mécanisme était identique. Il n'y avait pas de panne du système, mais une réponse provoquée volontairement, coupée de son contexte et transmise ensuite comme un fait.

Pourquoi ce n'est pas seulement un problème chinois ? Parce que exactement le même schéma alimente les décisions réglementaires partout dans le monde. L'article 50 du règlement européen sur l'IA impose de signaler les contenus générés et manipulés dans un format détectable par machine. Le calendrier des mises en œuvre montre combien il est difficile de concilier la vitesse du marché avec la rigueur du droit. Les enquêtes d'opinion montrent par ailleurs que le public réclame déjà ces mentions : 81 % des Allemands jugent important d'indiquer clairement les sources et les données d'entraînement, et 54 % vérifient les résultats des modèles pour y repérer des erreurs.

La conclusion est donc double. D'abord, l'obligation de signaler les matériels mis en scène et fictifs devrait couvrir non seulement les contenus synthétiques, mais aussi les vidéos où un modèle tient lieu de preuve principale. Ensuite, et c'est plus important, une rédaction ne peut pas traiter une capture de fenêtre de chat comme une source. Si nous publions une capture comme preuve, nous devons vérifier si la réponse n'a pas été provoquée sous contrainte et s'il existe un contexte complet. C'est une exigence de base du métier, devenue critique à l'ère des générateurs. Une rumeur ne devient pas un fait parce que quelqu'un l'a filmée. Elle le devient parce que quelqu'un l'a publiée sans vérifier.