(L’événement est disponible en replay sur la chaîne YouTube de l’UBS (https://www.youtube.com/watch?v=mF_BjhtzEe8 et https://www.youtube.com/watch?v=L4C2sR1bado.) Je me focalise cette fois sur les éléments moins vertueux de l’IA qui ont été pointés et sur certaines questions qu’elle pose.
Sobriété numérique et risques de concentration du pouvoir
Lou Welgryn a rappelé que l’IA est maîtrisée par quelques organisations puissantes qui ne sont ni altruistes ni soucieuses de l’application du droit.
Elle a également mentionné que, dans de nombreuses situations, l’utilisation de l’IA n’est absolument pas indispensable : réfléchir, regarder ses données et les traiter par de l’analyse statistique classique apportent des réponses pertinentes en consommant nettement moins d’énergie que les IA.
Elle invite ainsi à une utilisation parcimonieuse, réfléchie, rationnelle et prudente de l’IA.
Elle a également mentionné que, dans de nombreuses situations, l’utilisation de l’IA n’est absolument pas indispensable : réfléchir, regarder ses données et les traiter par de l’analyse statistique classique apportent des réponses pertinentes en consommant nettement moins d’énergie que les IA.
Elle invite ainsi à une utilisation parcimonieuse, réfléchie, rationnelle et prudente de l’IA.
Géopolitique et militarisation : enjeux stratégiques et domination technologique
Bertrand Rondepierre a expliqué que l’IA permet de faire des armes de guerre et amène les armées à opérer. Il a également abordé les spécificités de l’IA pour les applications militaires : la fiabilité et la capacité à fonctionner de manière autonome, en particulier quand les infrastructures sont très dégradées.
Philippe Clerc a expliqué que ce qui est nouveau dans notre époque c’est que la coopération entre les puissances n’existe plus. Les relations entre ces puissances ne répondent plus qu’à la compétition et à l’affrontement. L’IA, qui est le sujet de notre époque, est donc un sujet de puissance et de domination. Ceci est assumé par toutes les grandes puissances (états et entreprises).
Philippe Clerc a expliqué que ce qui est nouveau dans notre époque c’est que la coopération entre les puissances n’existe plus. Les relations entre ces puissances ne répondent plus qu’à la compétition et à l’affrontement. L’IA, qui est le sujet de notre époque, est donc un sujet de puissance et de domination. Ceci est assumé par toutes les grandes puissances (états et entreprises).
Créativité humaine et éducation numérique : enjeux culturels et sociétaux
Laurence Devillers et Marie-Paule Cani ont échangé sur les aspects de l’IA en lien avec le développement artistique et personnel. Elles sont tombées d’accord sur le fait que la machine ne doit pas être considérée comme meilleure que nous (les humains) en matière de création - ce qui est un biais fréquemment rencontré -. Par exemple, les IA ne savent pas bien donner du sens aux silences dans une discussion. Ce passage de leur échange a été l’occasion d’insister sur la différence fondamentale entre « création » et « apprentissage ». Elles ont de plus insisté sur le fait qu’il faut éduquer (à tous les âges) à l’utilisation de l’IA et à l’acquisition du recul sur ce que produisent les IA, pour réduire le risque de "manipulation de l’intérieur".
Elles ont abordé la question de la standardisation extrême que l’IA pourrait apporter. Elles ont pointé les risques en lien avec des délégations en cascades de tâches aux IA (des IA agentiques qui pilotent des IA agentiques qui pilotent des IA agentiques etc.) car ces cascades ne sont absolument ni comprises, ni maîtrisées, ni même précisément décrites. Elles sont également tombées d’accord sur le fait L’IA permet de répliquer des tâches un grand nombres de fois. Elles ont également rappelé de se poser systématiquement la question de l’utilité des questions que l’on pose à l’IA et de celle d’utiliser l’IA face à un problème donné.
Elles ont abordé la question de la standardisation extrême que l’IA pourrait apporter. Elles ont pointé les risques en lien avec des délégations en cascades de tâches aux IA (des IA agentiques qui pilotent des IA agentiques qui pilotent des IA agentiques etc.) car ces cascades ne sont absolument ni comprises, ni maîtrisées, ni même précisément décrites. Elles sont également tombées d’accord sur le fait L’IA permet de répliquer des tâches un grand nombres de fois. Elles ont également rappelé de se poser systématiquement la question de l’utilité des questions que l’on pose à l’IA et de celle d’utiliser l’IA face à un problème donné.
Biais, discriminations et transformation du travail : perspectives sociétales
Selon Isabelle Collet, l’IA est très majoritairement développée par des hommes blancs, occidentaux et d’un bon niveau social, donc, sans volonté malveillante, elle est porteuse de discrimination : elle est plus performante sur des données d’entrées "proches" de ces développeurs et, dans les contextes où elle sélectionne, elle avantage les personnes "proches" de ces développeurs. De plus, l’IA ne sait pas représenter certaines catégories de la population. Isabelle Collet a aussi pointé que l’IA peut être un « vecteur indésirable d’égalité » : par exemple, elle mets la capacité à générer des Fake News à la portée de tous, alors qu’avant l’IA, seul les puissants pouvaient en générer.
Éric Botherel a mis en évidence les incohérences qui génèrent la bulle de l’IA : c’est un serpent (d’investissement) qui se mord la queue et qu’elle a tendance « transformer l’or en plomb à coût de métaux rares ». Il argumenté sur le fait que Sérendipité est mis à mal par l’IA car l’IA enferme ses utilisateurs dans leur zone de confort. Avant de parler de « l’IA projet de société », il a rappelé que l’IA ne s’occupe que d’argent ; pas d’amour, ni d’oxygène ni d’eau. Il nous a ensuite enjoint à considérer que la question la plus importante est « que faire de notre temps libre, de nos rêves, de nos doutes ? » et à réfléchir à comment l’IA pourra permettre de répondre à cette question. En matière de « projet de société » il a expliqué que depuis quelques décennies, le travail est l’élément le plus structurant de notre société. Or l’IA va bouleverser le travail. Il faudra donc adapter notre rapport au travail, la rétribution du travail et la fiscalité à ce bouleversement.
Éric Botherel a mis en évidence les incohérences qui génèrent la bulle de l’IA : c’est un serpent (d’investissement) qui se mord la queue et qu’elle a tendance « transformer l’or en plomb à coût de métaux rares ». Il argumenté sur le fait que Sérendipité est mis à mal par l’IA car l’IA enferme ses utilisateurs dans leur zone de confort. Avant de parler de « l’IA projet de société », il a rappelé que l’IA ne s’occupe que d’argent ; pas d’amour, ni d’oxygène ni d’eau. Il nous a ensuite enjoint à considérer que la question la plus importante est « que faire de notre temps libre, de nos rêves, de nos doutes ? » et à réfléchir à comment l’IA pourra permettre de répondre à cette question. En matière de « projet de société » il a expliqué que depuis quelques décennies, le travail est l’élément le plus structurant de notre société. Or l’IA va bouleverser le travail. Il faudra donc adapter notre rapport au travail, la rétribution du travail et la fiscalité à ce bouleversement.
Actualité récente de l’IA
- 2026 : Les états généraux de le bioéthique incluent un volet IA :
- Fin mars 2026 : GitHub Copilot - Changement de l’ordre des choses, les données seront utilisées pour entrainer l’IA (sauf refus explicite)
https://www.lesnumeriques.com/intelligence-artificielle/github-copilot-microsoft-va-utiliser-vos-donnees-pour-alimenter-son-ia-sauf-si-vous-refusez-n253540.html
- Mars 2026 : Certaine IA semble acquérir des capacités inattendues si rapidement
https://www.lesnumeriques.com/intelligence-artificielle/cette-ia-vient-de-resoudre-en-quelques-secondes-un-probleme-de-physique-vieux-d-un-siecle-n253152.html
https://www.lesnumeriques.com/intelligence-artificielle/c-est-maintenant-jensen-huang-patron-de-nvidia-affirme-que-l-humanite-a-atteint-l-agi-n253426.html
https://www.slate.fr/sciences/intelligence-artificielle-revolution-mathematiques-theoreme-humain-machine-recherche-militaire-defense
A propos de ...
Emmanuel Frénod est Professeur en Mathématiques Appliquées à l'Université Bretagne Sud, dont il est le Vice-Président en charge du Pilotage, du Système d'Information et de l'Intelligence Artificielle. Il est membre du Laboratoire de Mathématiques de Bretagne Atlantique (LMBA UMR6205).
Il est également le fondateur de l'entreprise See-d (ses-d.fr) qui réalise des outils au pilotage des activités des entreprises à base d'IA et de Mathématiques.
Il est spécialiste des équations aux dérivées partielles et des méthodes numériques pour simuler des phénomènes avec des oscillations à haute fréquence.
En matière d'intelligence artificielle, en plus de ce qu'il fait dans le cadre de See-d, il fait de la Recherche sur les concepts mathématiques qui sont sous-jacents à l'intelligence artificielle et sur l'utilisation l'intelligence artificielle dans le cadre de la physique nucléaire et de la fusion nucléaire.
]]>
