#14. Guerre cognitive, déception et désinformation. Christophe Deschamps.

À mesure que les systèmes d'IA gagnent en puissance, le Département de la Guerre est confronté à un défi important : comment développer, évaluer rigoureusement et déployer en toute sécurité des systèmes d'IA multi-agents de pointe dans des domaines allant de la découverte de connaissances multimodales à la guerre cognitive ?

Cette présentation expose les enseignements tirés de la mise en place d'architectures d'IA composites qui orchestrent de grands modèles linguistiques, des modèles vision-langage et des agents spécialisés grâce à la génération augmentée par la recherche et à des flux de travail d'IA agentique. Il est démontré comment ces systèmes permettent une synthèse interdisciplinaire des connaissances pour la biosécurité, la planification et l'exécution de la guerre cognitive, ainsi que l'optimisation des équipes opérateur-IA dans les applications de jeux de guerre et de préparation opérationnelle.

Enfin, sont présentées les capacités émergentes en matière de jeux de guerre multi-domaines, où des agents IA d'inspiration cognitive exécutent des manœuvres fondées sur la doctrine dans les domaines aérien, spatial, cyber et de l'information. L'évaluation de ces systèmes nécessite d'aller au-delà des benchmarks traditionnels de l'IA.

Cet article présente l'écosystème multidimensionnel combinant des mesures quantitatives, des évaluations qualitatives par des experts du domaine (SME) mises à l'échelle par des agents experts simulés, et des investigations causales utilisant des algorithmes d'apprentissage de structure pour comprendre « pourquoi » certains comportements émergent et « comment » les interventions affectent les résultats des missions.

Pour l'évaluation de la sécurité, nous examinons les interactions entre l'humain, l'agent et l'environnement de manière holistique, en abordant les défaillances d'alignement, les capacités émergentes sous l'effet d'un changement de distribution, et les risques systémiques liés à la coordination multi-agents.

Auteurs : Svitlana Volkova
Type : Article de colloque | Langue : EN
Lien vers la source

Les campagnes de désinformation menées par des acteurs hostiles menacent la sécurité nationale et la cohésion de l'OTAN en sapant la confiance du public et en déstabilisant les institutions démocratiques. Si les simulations de guerre ont déjà été utilisées pour relever les défis liés à la désinformation, la plupart des efforts se concentrent sur les réponses au niveau opérationnel ou national.

Il existe une lacune dans les cadres permettant d'explorer des approches multinationales au niveau stratégique, où les perceptions des menaces, les priorités politiques et les mesures de réponse diffèrent entre les États et au sein de ceux-ci. Les jeux de simulation viennent compléter d'autres cadres en constituant une forme clé d'analyse alternative (AltA), où de multiples résultats, actions et conséquences possibles peuvent être explorés dans un environnement où l'échec est toléré, pouvant être itéré et personnalisé en fonction de la situation. Les données recueillies lors de ces jeux de guerre peuvent être analysées pour renforcer la connaissance de la situation et les conséquences des lignes d'action proposées (CoA) pour les décideurs.

Cet article présente un cadre conceptuel d'analyse par jeux de guerre visant à explorer les réponses multinationales à la désinformation au niveau stratégique. Sa conception permet aux participants d’identifier et d’évaluer les CoA fondées sur un consensus utilisées par l’OTAN. En outre, elle leur permet d’explorer les conséquences de l’action ou de l’inaction et d’identifier des mesures d’atténuation dans des contextes impliquant l’ensemble du gouvernement et de la société. Ce cadre le fait tout en maintenant un équilibre entre complexité et jouabilité. Ce faisant, il répond au besoin d’une communication stratégique multinationale renforcée au sein de l’OTAN, ainsi qu’à l’émergence de l’OTAN.

Auteurs : Andy Lee, Mitchell Clarke
Type : Article de revue | Langue : EN
Lien vers la source

 

Cet article est consacré à l'étude de la genèse et de l'état actuel des sciences cognitives (un ensemble de disciplines), qui se proposent de mener des recherches globales sur les processus cognitifs du cerveau humain (psychologie cognitive), du lien entre la conscience et le langage (linguistique cognitive), d'une part, et de la construction d'une « deuxième réalité » – intelligence artificielle (IA), mégadonnées (BD), technologies de l'information et de la communication (TIC), etc. – d'autre part.

Le caractère global des sciences cognitives s'explique non seulement par leur statut interdisciplinaire et par le fait que leur champ d'étude est un lien dialectique entre les mondes matériel et idéal. Le champ d’intérêt des sciences cognitives englobe les problèmes d’éthique liés à l’IA et aux neurotechnologies, ainsi que l’essence active de l’être humain dans le monde numérique émergent.

De plus, les processus profonds de numérisation ont conduit à des transformations significatives dans la théorie et la pratique des conflits contemporains, dans lesquels les sphères de l’information et du cognitif ont acquis le statut de moyens indépendants de confrontation internationale et ont donné naissance à toute une série de défis et de menaces jusqu’alors inconnus pour la sécurité nationale, dont la cible principale est la conscience et le subconscient, ainsi que les capacités cognitives et spirituelles de l’individu. En conclusion, les auteurs soutiennent qu'il est nécessaire d'apporter une justification philosophique et scientifique approfondie aux activités des agences gouvernementales, non seulement pour neutraliser
Auteurs : Igor Kefeli, Roman Vykhodets
Type : Article de revue | Langue : EN
Lien vers la source

Cette étude examine la guerre cognitive sous l’angle des neurosciences critiques et la replace dans le cadre de la recherche sur la paix en tant que contribution méthodologique. La guerre cognitive – comprise comme la modulation stratégique de la perception, des croyances et de la prise de décision – met en évidence la manière dont l’esprit humain est devenu un domaine contesté dans les conflits contemporains. L’instrumentalisation des neurosciences s’inscrit dans des contextes socioculturels où les résultats empiriques, les interprétations théoriques et les engagements normatifs sont étroitement imbriqués.

En s'appuyant sur la triade épistémologique de Johan Galtung – données, théorie et valeurs –, cette étude propose un cadre d'analyse de la guerre cognitive qui rend explicites les dimensions normatives des connaissances neuroscientifiques. Cette perspective met en évidence non seulement l'instrumentalisation des neurosciences elles-mêmes, mais aussi celle de leur réputation : des affirmations exagérées et des imaginaires neuropolitiques peuvent façonner les attentes, fausser le discours public et éroder la confiance dans la science indépendamment des capacités technologiques réelles.

En appliquant ce cadre, l’étude examine la résilience et la solidarité comme deux domaines dans lesquels les mécanismes empiriques, les interprétations théoriques et les a priori normatifs se recoupent. Il est démontré que la guerre cognitive sape la résilience en déstabilisant les modèles partagés de la réalité, tandis que les dynamiques évolutives et sociales mettent en évidence les avantages à long terme de la coopération, de la réciprocité et de la générosité par rapport à la manipulation et à la défection.

Auteurs : Guilherme Wood
Type : Article de revue | Langue : EN
Lien vers la source

Dans quelle mesure les professionnels chargés de lutter contre la désinformation comprennent-ils réellement le problème qu’ils sont censés résoudre ?

Nous avons interrogé 106 professionnels français issus d’organisations militaires, gouvernementales, réglementaires et médiatiques. Ils s’accordent sur un diagnostic axé sur l’amont et l’offre – les plateformes et les structures d’amplification sont à l’origine de la menace –, mais décrivent un domaine entravé par une coordination insuffisante, des ressources limitées et la crainte d’être accusés de censure.

La relation avec la science aggrave le problème : la plupart des professionnels font confiance à la recherche évaluée par des pairs, mais peu s’y intéressent directement, ce qui déconnecte la pratique de la base de données factuelles sur laquelle elle prétend s’appuyer. Presque tous s’attendent à ce que la menace s’aggrave. Seuls 13 % pensent que la capacité de réponse sera à la hauteur. 

Auteurs : Grégoire Darcy, Sacha Altay
Type : Prépublication | Langue : EN
Lien vers la source

 

La prolifération rapide de l'intelligence artificielle et des systèmes autonomes, tant aux États-Unis qu'en République populaire de Chine, a un impact déterminant sur la nature des conflits futurs. S'éloignant du champ de bataille traditionnel, les avancées technologiques réorientent les cibles, qui ne sont plus les chars et les avions, mais les nœuds stratégiques répartis dans l'ensemble des structures sociétales.

Auteurs : Jonathan Compton
Type : Article de revue | Langue : EN
Lien vers la source

L’analyse de l’opération américaine « Absolute Resolve » visant le président Nicolas Maduro montre que guerre cognitive et guerre économique s’imbriquent sans se confondre. La guerre cognitive est un usage offensif de la rhétorique, fondé sur des informations sourcées, pour cadrer la légitimité d’une intervention ou la contester. La guerre cognitive est un sous-champ de la guerre de l’information : un usage offensif de la rhétorique et de la connaissance, distinct de la désinformation. Un précédent-clé est l’action de Willy Münzenberg après l’incendie du Reichstag : des procès-simulacres sapent l’accusation nazie. La légitimité du terme « guerre » est discutée ; l’étymologie (désordre, mésentente) en soutient l’emploi. Deux priorités s’imposent alors : construire une mémoire des confrontations cognitives et formaliser des stratégies offensives et défensives.

Auteurs : Christian Harbulot
Type : Article de revue | Langue : FR
Lien vers la source

Les opérations de déception militaires visent à induire l’adversaire en erreur par un mensonge crédible. Leur efficacité dépend de la vraisemblance du récit et de la diffusion par plusieurs canaux, exploitant les biais cognitifs de l’ennemi. Les sociétés occidentales, attachées à l’intégrité et à la transparence, perçoivent souvent la ruse comme immorale, ce qui limite l’emploi de ces méthodes, pourtant efficaces. Juridiquement, la ruse de guerre est licite mais la perfidie est interdite, bien qu’une zone grise subsiste. Les opérations de déception peuvent également impliquer de mentir à ses subordonnés, souvent au prix de la performance tactique.

Auteurs : Rémy Hémez
Type : Article de revue | Langue : FR
Lien vers la source

Les moteurs de la démocratisation qui a suivi la fin de la Guerre froide reposaient sur l'hypothèse selon laquelle la mise en place d'institutions responsables et transparentes garantirait la paix. L'échec des régimes de transition et la polarisation au sein des sociétés démocratiques ont donné lieu à un biais de survie pour l'Atlantique Nord... 

Auteurs : Iskren Ivanov
Type : Chapitre de livre | Langue : EN
Lien vers la source

La prolifération d'éléments visuels d'apparence réaliste, tels que des cartes et des images délibérément fabriquées pour diffuser de la désinformation, a déclenché une crise de confiance au sein du public. La nature visuelle de cette désinformation la rend-elle plus crédible et plus mémorable ? Le fait de la démystifier influence-t-il le jugement des gens quant à sa crédibilité et leur mémoire de cette désinformation ?

Cette étude explore ces questions en menant une expérience en ligne avec test pré-post (N = 317). Nous comparons ainsi les réponses à un article contenant des fausses informations présenté sous trois formats différents : texte seul, texte et image au sol, et texte et carte satellite, tout en cherchant à déterminer si l'ajout d'un article de démystification modifie ces réponses. Nos résultats suggèrent que les modalités visuelles n'ont pas conduit à un meilleur souvenir ou à une plus grande crédibilité du message par rapport à la modalité textuelle.

Cependant, la démystification s'est avérée efficace pour réduire la crédibilité du message, quelle que soit la modalité de la désinformation, et pour renforcer le souvenir de la désinformation et des informations correctives. Au-delà de l'élargissement de notre compréhension théorique des effets de modalité grâce à l'étude des cartes, nos résultats fournissent des indications sur la manière de démystifier efficacement la désinformation par la vérification des faits.

Auteurs : Timothy J. Prestby, Eunchae Jang, Andrew Pacheco
Type : Article de revue | Langue : EN
Lien vers la source

La guerre définie par les logiciels, où les algorithmes, les systèmes autonomes et la prise de décision fondée sur les données déterminent la manière dont les guerres sont planifiées, menées et soutenues, soulève des questions morales qui remettent en cause les cadres éthiques traditionnels. Ces tensions sont particulièrement marquées dans le domaine de la médecine militaire, où les systèmes basés sur l'IA promettent... 

Auteurs : Piotr Waldemar Pietrzak, Evangelos Ioannis Koumparoudis
Type : Livre | Langue : EN
Lien vers la source

En quoi le smartphone a-t-il bouleversé les règles du jeu dans la guerre moderne, et en quoi nous, simples utilisateurs, y participons-nous activement ? 

Telle est la question centrale à laquelle Matthew Ford répond dans *War in the smartphone age : conflict, connectivity and the crises at our fingertips*. S'appuyant sur les conflits en Ukraine, en Afrique et au Moyen-Orient, Ford examine comment la guerre est menée au sein de nos infrastructures contemporaines de communication numérique. La guerre est « toujours en marche », relayée par les smartphones, les réseaux sociaux et les infrastructures privées, où participation, perception et pouvoir convergent.

Ford souligne avec empathie la surabondance d’images de guerre dans nos flux quotidiens sur les réseaux sociaux pour en analyser les implications sur la façon dont la guerre est perçue. Les 80 premiers jours de l’invasion russe de l’Ukraine en 2022 ont généré l’équivalent d’une décennie de vidéos, un rythme que les vérificateurs de faits ne peuvent humainement pas suivre (p. 24). Ford affirme à juste titre que si le volume de contenu crée une illusion de transparence, il déforme la réalité. Les réseaux sociaux amplifient des vérités sélectives, recyclent du contenu (souvent faux) et restent pertinents grâce à un algorithme conçu par des intérêts commerciaux (souvent contradictoires).

Auteurs : Aroni Sarkar
Type : Article de revue | Langue : EN
Lien vers la source