Veille, IA générative et désinformation : au VeilleLab, Arnaud Marquant alerte sur les limites de la détection et le retour nécessaire de l’humain

La question de la détection automatisée de la désinformation a ouvert les échanges. Peut-on, à partir d’un corpus, identifier une information volontairement fausse ? La réponse d’Arnaud Marquant est nuancée. Les systèmes actuels sont capables de repérer des anomalies, de faire émerger des éléments qui se démarquent dans un ensemble d’informations. Mais cette capacité reste limitée.

Dans les outils professionnels de veille, le choix n’est d’ailleurs pas de « scruter tout le web », mais de s’appuyer sur des sources sélectionnées, reconnues, validées en amont. Une stratégie qui réduit le bruit, sans pour autant éliminer totalement le risque d’erreur. Car même une source fiable peut relayer une information incorrecte. Ce qui permet alors de la détecter, ce n’est pas uniquement l’algorithme, mais la comparaison : une information isolée, minoritaire dans un corpus, devient un signal faible. La machine peut le faire remonter. Mais c’est à l’humain d’en juger la portée.
 

Un autre point a suscité une attention particulière : l’efficacité du fact-checking face à la viralité des contenus.

Une étude évoquée pendant la séance montre qu’un contenu démenti ne voit sa diffusion diminuer que marginalement. Pour Arnaud Marquant, cette réalité tient à une évidence : la vitesse. Une information circule aujourd’hui à une échelle et une rapidité telles que toute correction arrive, par définition, trop tard. Traduites, relayées, diffusées à l’international, les données deviennent incontrôlables.
L’image est simple : comme un email envoyé par erreur, une information ne peut pas être « rappelée » une fois qu’elle a été lue. Dans ce contexte, le fact-checking apparaît moins comme un outil de correction que comme un outil de documentation a posteriori.

Mais la lutte contre la désinformation soulève un paradoxe plus profond : à force d’alerter sur les manipulations, ne risque-t-on pas de créer une défiance généralisée ? Arnaud Marquant met en garde contre une dérive possible : celle d’un doute systématique, qui glisserait vers des logiques complotistes.
La solution ne réside pas dans une suspicion permanente, mais dans l’apprentissage de l’analyse. Savoir interroger une

information sans la rejeter systématiquement. Comprendre sans surinterpréter. Dans un contexte d’infobésité, cette compétence devient centrale, mais aussi particulièrement difficile à développer.

Pour les organisations, l’enjeu est immédiat : comment rester crédible dans un environnement saturé de contenus, dont une partie est désormais générée par IA ?  La réponse avancée est claire : la transparence.

Face à des images publicitaires toujours plus spectaculaires, parfois entièrement générées, le public n’est pas dupe. Il sait que ces représentations sont construites, scénarisées, artificialisées. Assumer l’usage de l’IA, expliciter les processus, réintroduire de l’humain dans les dispositifs de communication devient alors un facteur de différenciation. Plus largement, l’intervention met en lumière une tendance de fond : un retour au réel. À l’heure où tout peut être simulé, l’authenticité devient une valeur rare.
 

Sur le plan technologique, Arnaud Marquant a également tenu à clarifier le fonctionnement des intelligences artificielles génératives. Contrairement à certaines idées reçues, ces systèmes ne “savent” pas. Ils produisent à partir de données existantes, souvent issues de corpus fermés ou partiellement actualisés.

La fraîcheur de l’information constitue ainsi une limite majeure. Si certains outils intègrent aujourd’hui des capacités d’interrogation du web en temps réel, il s’agit davantage d’un couplage entre moteur de recherche et génération de texte que d’une connaissance autonome. L’IA agit alors comme un moteur de rédaction, capable de structurer une réponse, mais dépendant des données qu’elle mobilise.
 

Autre point soulevé : la question des données d’entraînement.

Les grandes plateformes restent très discrètes sur les corpus utilisés. Entre secrets industriels, enjeux juridiques et controverses liées aux droits d’auteur, la transparence reste limitée. Des contentieux en cours, notamment dans le secteur de la presse, témoignent de ces tensions. Derrière la performance des modèles se cachent des questions encore largement irrésolues.

Interrogé sur les compétences clés à recruter, Arnaud Marquant ne cite ni une technologie ni une expertise spécifique, mais une qualité : la curiosité.

Curiosité dans les parcours, dans les méthodes, dans la capacité à explorer, tester, chercher autrement. Dans un environnement en constante évolution, où les outils se transforment rapidement, cette aptitude devient essentielle. Elle permet d’adapter les pratiques, de détecter des signaux, mais aussi de remettre en question les évidences. Le veilleur n’est plus seulement un technicien de l’information. Il est un enquêteur.
 

Enfin, l’intervention s’est conclue sur une mise en perspective plus large. L’intelligence artificielle transforme indéniablement les usages. Mais son omniprésence dans les discours masque parfois une réalité plus nuancée. Le terme « IA » est aujourd’hui utilisé pour désigner des technologies très différentes, y compris de simples algorithmes. Cette confusion alimente autant l’enthousiasme que les malentendus.

Pour Arnaud Marquant, une chose est certaine : la transformation en cours est profonde, rapide, et s'inscrit durablement dans l’histoire. Mais elle nécessite d’être comprise, et non simplement subie.