Accueil
Accueil
Envoyer à un ami
Version imprimable
Partager
Dans un monde de plus en plus numérique, la désinformation est un fléau qui menace nos démocraties. La commission “Manipulation de l’information” a récemment publié une présentation intitulée “Benchmark des outils de lutte contre la désinformation en ligne”. De plus, Boubacar DIALLO, spécialiste en intelligence économique et membre de la commission "Manipulations de l'information a partagé ses notes de lecture sur cette présentation, offrant un aperçu plus détaillé de chaque chapitre.
Enjeux contextuels : La commission travaille sans relâche pour contribuer au débat public et sensibiliser sur les enjeux stratégiques auxquels nos démocraties sont confrontées. Elle propose également des outils de lutte contre la manipulation en ligne pour mieux armer les internautes face aux menaces numériques explosives.
Objectif du rapport : Le rapport vise à analyser les grandes tendances amplificatrices de la désinformation et à dresser un benchmark analytique des outils existants de lutte contre la désinformation. Selon Boubacar Diallo, le rapport aborde deux aspects principaux : l’analyse des tendances qui amplifient la propagation de la désinformation et la manipulation en ligne, et une analyse de benchmark d’outils de lutte contre la manipulation informationnelle en ligne.
Méthodologie : Le rapport a été élaboré en trois phases : Brainstorming sur les attendus du rapport, collecte et traitement des données, et enfin analyse et rédaction du rapport. Boubacar Diallo a souligné l’importance de cette méthodologie et a partagé son expérience de travail avec les étudiants de l’EPITA sur ce projet.
Définitions : Le rapport définit la manipulation d’information, la désinformation, la mésinformation et la malinformation, en se basant sur le guide sur la manipulation de l’information de 2022.
Tendances amplificatrices de la désinformation : Le rapport identifie plusieurs tendances amplificatrices de la désinformation, notamment l’intelligence artificielle générative, la personnalisation de la désinformation, l’industrialisation de la désinformation et l’ingérence étrangère. Boubacar Diallo a souligné l’importance de ces tendances et a partagé des exemples concrets de la manière dont elles peuvent être utilisées pour propager la désinformation.
Résultat du benchmark : Le rapport présente un tableau analytique des outils de lutte contre la désinformation, en fonction du public cible de l’outil, de la tâche de spécialité de l’outil et du fonctionnement de l’outil. Boubacar Diallo a partagé un aperçu de ce tableau et a expliqué comment il peut être utilisé pour comprendre les différentes fonctionnalités des outils.
Exemples d’outils : Le rapport donne des exemples d’outils spécialisés dans la vérification d’informations (vidéos, documents en ligne) tels que Youtube Data View et Verification Tool. Boubacar Diallo a partagé son enthousiasme pour ces outils et a souligné leur importance dans la lutte contre la désinformation.
Enjeux contextuels : La commission travaille sans relâche pour contribuer au débat public et sensibiliser sur les enjeux stratégiques auxquels nos démocraties sont confrontées. Elle propose également des outils de lutte contre la manipulation en ligne pour mieux armer les internautes face aux menaces numériques explosives.
Objectif du rapport : Le rapport vise à analyser les grandes tendances amplificatrices de la désinformation et à dresser un benchmark analytique des outils existants de lutte contre la désinformation. Selon Boubacar Diallo, le rapport aborde deux aspects principaux : l’analyse des tendances qui amplifient la propagation de la désinformation et la manipulation en ligne, et une analyse de benchmark d’outils de lutte contre la manipulation informationnelle en ligne.
Méthodologie : Le rapport a été élaboré en trois phases : Brainstorming sur les attendus du rapport, collecte et traitement des données, et enfin analyse et rédaction du rapport. Boubacar Diallo a souligné l’importance de cette méthodologie et a partagé son expérience de travail avec les étudiants de l’EPITA sur ce projet.
Définitions : Le rapport définit la manipulation d’information, la désinformation, la mésinformation et la malinformation, en se basant sur le guide sur la manipulation de l’information de 2022.
Tendances amplificatrices de la désinformation : Le rapport identifie plusieurs tendances amplificatrices de la désinformation, notamment l’intelligence artificielle générative, la personnalisation de la désinformation, l’industrialisation de la désinformation et l’ingérence étrangère. Boubacar Diallo a souligné l’importance de ces tendances et a partagé des exemples concrets de la manière dont elles peuvent être utilisées pour propager la désinformation.
Résultat du benchmark : Le rapport présente un tableau analytique des outils de lutte contre la désinformation, en fonction du public cible de l’outil, de la tâche de spécialité de l’outil et du fonctionnement de l’outil. Boubacar Diallo a partagé un aperçu de ce tableau et a expliqué comment il peut être utilisé pour comprendre les différentes fonctionnalités des outils.
Exemples d’outils : Le rapport donne des exemples d’outils spécialisés dans la vérification d’informations (vidéos, documents en ligne) tels que Youtube Data View et Verification Tool. Boubacar Diallo a partagé son enthousiasme pour ces outils et a souligné leur importance dans la lutte contre la désinformation.
Un exemple d'outil et de démarche. L’intelligence artificielle au service du bien public : une présentation par Oana Balalau.
Lors de la table ronde, Oana Balalau, chercheuse à l’Inria et à l’Institut Polytechnique de Paris a posé la question : “L’intelligence artificielle peut-elle être au service du bien public ?”, elle a mis en lumière l’importance de l’argumentation dans notre compréhension du monde et notre prise de décision.
Elle a souligné que comprendre ce qui constitue un bon argument peut nous aider à comprendre le monde qui nous entoure et à prendre de meilleures décisions. Cependant, l’argumentation peut aussi être utilisée contre nous, par exemple, dans la propagande. Ceci est réalisé via des arguments fallacieux, des arguments convaincants qui sont faux. Les fake news peuvent également utiliser des arguments fallacieux.
En plus de la vérification des faits, StatCheck est également capable de détecter la propagande. Par exemple, il peut identifier les sophismes de la cause unique, les appels à l’autorité, les appels à la peur ou aux préjugés, et bien d’autres techniques de manipulation.
La démarche
Oana a commencé par expliquer le concept d’argumentation, un processus que les humains utilisent pour évaluer la validité de nouvelles idées. Un argument, selon elle, contient une proposition appelée conclusion ou point de vue, des prémisses qui sont les propositions d’accompagnement, et une relation d’inférence entre la prémisse et la conclusion.Elle a souligné que comprendre ce qui constitue un bon argument peut nous aider à comprendre le monde qui nous entoure et à prendre de meilleures décisions. Cependant, l’argumentation peut aussi être utilisée contre nous, par exemple, dans la propagande. Ceci est réalisé via des arguments fallacieux, des arguments convaincants qui sont faux. Les fake news peuvent également utiliser des arguments fallacieux.
L’outil : StatCheck
Oana a ensuite présenté un outil qu’elle a développé en collaboration avec Radio France : StatCheck. Cet outil semi-automatisé permet de vérifier les faits statistiques. Il est particulièrement utile pour les journalistes qui vérifient fréquemment les affirmations (statistiques) faites par les politiciens. StatCheck facilite l’exploitation des statistiques de haute qualité publiées en Open Data par des institutions telles que l’INSEE.En plus de la vérification des faits, StatCheck est également capable de détecter la propagande. Par exemple, il peut identifier les sophismes de la cause unique, les appels à l’autorité, les appels à la peur ou aux préjugés, et bien d’autres techniques de manipulation.
Guillaume Sylvestre, Directeur Digital Intelligence de l'ADIT, chercheur associé à l'Ecole Nationale Supérieure de la Police
Dans son intervention, Guillaume Sylvestre a souligné trois conseils clés pour les professionnels de l’information. Premièrement, il encourage à tester et à comprendre les capacités des assistants IA comme ChatGPT. Deuxièmement, il insiste sur l’importance de se former à l’analyse des sources d’information, en examinant qui est derrière un site ou un profil en ligne. Enfin, il rappelle l’utilité des requêtes Google.
L’intervenant a également exprimé des préoccupations concernant les risques émergents liés à l’IA et à la désinformation. Il a critiqué les entreprises comme OpenAI et Microsoft pour avoir illégalement absorbé d’énormes quantités de données pour entraîner leurs IA. Il a appelé à des règles claires sur la protection des données personnelles, la transparence des usages des données et la responsabilité en cas de diffusion de fausses informations.
Il a également souligné le rôle des réseaux sociaux (voir son interview) dans la propagation de la désinformation, citant l’exemple de TikTok qui favorise les contenus conspirationnistes. Il a conclu en appelant à tenir les réseaux sociaux responsables de leurs actions, ce qui, selon lui, serait l’action la plus efficace pour limiter la diffusion de la désinformation et les stratégies de manipulation de l’information.
Il a également souligné le rôle des réseaux sociaux (voir son interview) dans la propagation de la désinformation, citant l’exemple de TikTok qui favorise les contenus conspirationnistes. Il a conclu en appelant à tenir les réseaux sociaux responsables de leurs actions, ce qui, selon lui, serait l’action la plus efficace pour limiter la diffusion de la désinformation et les stratégies de manipulation de l’information.
Conclusion :
Le rapport souligne l’importance de disposer d’un outil multitâches pour différents publics, avec trois fonctionnalités essentielles : la tâche de l’outil, le mode de fonctionnement et le public cible ou usager. Boubacar Diallo a souligné l’importance de ces trois fonctionnalités et a partagé son espoir que ce rapport contribuera à une meilleure compréhension de la lutte contre la désinformation.
Un conseil : restez à l’écoute pour plus d’informations sur ce sujet passionnant et en constante évolution.
La présentation de Balalau a mis en évidence l’importance de l’argumentation dans notre société et comment l’intelligence artificielle peut nous aider à naviguer dans le paysage complexe de l’information. Son outil, StatCheck, est un exemple concret de la manière dont l’IA peut être utilisée pour le bien public, en aidant à vérifier les faits et à détecter la propagande. Il est clair que le travail de Balalau a un impact significatif sur la manière dont nous interagissons avec l’information et prend des décisions éclairées.
Un conseil : restez à l’écoute pour plus d’informations sur ce sujet passionnant et en constante évolution.
La présentation de Balalau a mis en évidence l’importance de l’argumentation dans notre société et comment l’intelligence artificielle peut nous aider à naviguer dans le paysage complexe de l’information. Son outil, StatCheck, est un exemple concret de la manière dont l’IA peut être utilisée pour le bien public, en aidant à vérifier les faits et à détecter la propagande. Il est clair que le travail de Balalau a un impact significatif sur la manière dont nous interagissons avec l’information et prend des décisions éclairées.
Participants
- Guillaume GADEK, expert en IA et désinformation, AIRBUS DEFENCE AND SPACE
- Oana BALALAU, Researcher, INRIA
- Guillaume SYLVESTRE , Directeur Digital Intelligence de l'ADIT, chercheur associé à l'Ecole Nationale Supérieure de la Police
- Boubacar Diallo (spécialiste en intelligence économique et membre de la commission "Manipulations de l'information' )
In conclusion, the report emphasizes the importance of having a multitasking tool for different audiences, with three essential features: the task of the tool, the mode of operation, and the target audience or user. Boubacar Diallo highlighted the importance of these three features and shared his hope that this report will contribute to a better understanding of the fight against misinformation.
Pour en savoir plus :
https://hal.science/hal-03791175/document
https://youtu.be/C3L_aEy58o4?si=dnn2jxdbnnRBiugp
Quatre questions à Guillaume Sylvestre Directeur Digital Intelligence de l'ADIT.
Quatre Questions à Guillaume Gadek expert en IA et désinformation, AIRBUS DEFENCE AND SPACE
https://youtu.be/C3L_aEy58o4?si=dnn2jxdbnnRBiugp
Quatre questions à Guillaume Sylvestre Directeur Digital Intelligence de l'ADIT.
Quatre Questions à Guillaume Gadek expert en IA et désinformation, AIRBUS DEFENCE AND SPACE