Lou Welgryn a rappelé que l’IA est maîtrisée par quelques organisations puissantes qui ne sont ni altruistes ni soucieuses de l’application du droit.
Elle a également mentionné que, dans de nombreuses situations, l’utilisation de l’IA n’est absolument pas indispensable : réfléchir, regarder ses données et les traiter par de l’analyse statistique classique apportent des réponses pertinentes en consommant nettement moins d’énergie que les IA.
Elle invite ainsi à une utilisation parcimonieuse, réfléchie, rationnelle et prudente de l’IA.

Bertrand Rondepierre a expliqué que l’IA permet de faire des armes de guerre et amène les armées à opérer. Il a également abordé les spécificités de l’IA pour les applications militaires : la fiabilité et la capacité à fonctionner de manière autonome, en particulier quand les infrastructures sont très dégradées.

Philippe Clerc a expliqué que ce qui est nouveau dans notre époque c’est que la coopération entre les puissances n’existe plus. Les relations entre ces puissances ne répondent plus qu’à la compétition et à l’affrontement. L’IA, qui est le sujet de notre époque, est donc un sujet de puissance et de domination. Ceci est assumé par toutes les grandes puissances (états et entreprises).

Laurence Devillers et Marie-Paule Cani ont échangé sur les aspects de l’IA en lien avec le développement artistique et personnel. Elles sont tombées d’accord sur le fait que la machine ne doit pas être considérée comme meilleure que nous (les humains) en matière de création - ce qui est un biais fréquemment rencontré -. Par exemple, les IA ne savent pas bien donner du sens aux silences dans une discussion. Ce passage de leur échange a été l’occasion d’insister sur la différence fondamentale entre « création » et « apprentissage ». Elles ont de plus insisté sur le fait qu’il faut éduquer (à tous les âges) à l’utilisation de l’IA et à l’acquisition du recul sur ce que produisent les IA, pour réduire le risque de "manipulation de l’intérieur".

Elles ont abordé la question de la standardisation extrême que l’IA pourrait apporter. Elles ont pointé les risques en lien avec des délégations en cascades de tâches aux IA (des IA agentiques qui pilotent des IA agentiques qui pilotent des IA agentiques etc.) car ces cascades ne sont absolument ni comprises, ni maîtrisées, ni même précisément décrites. Elles sont également tombées d’accord sur le fait L’IA permet de répliquer des tâches un grand nombres de fois. Elles ont également rappelé de se poser systématiquement la question de l’utilité des questions que l’on pose à l’IA et de celle d’utiliser l’IA face à un problème donné.

Selon Isabelle Collet, l’IA est très majoritairement développée par des hommes blancs, occidentaux et d’un bon niveau social, donc, sans volonté malveillante, elle est porteuse de discrimination : elle est plus performante sur des données d’entrées "proches" de ces développeurs et, dans les contextes où elle sélectionne, elle avantage les personnes "proches" de ces développeurs. De plus, l’IA ne sait pas représenter certaines catégories de la population. Isabelle Collet a aussi pointé que l’IA peut être un « vecteur indésirable d’égalité » : par exemple, elle mets la capacité à générer des Fake News à la portée de tous, alors qu’avant l’IA, seul les puissants pouvaient en générer.

Éric Botherel a mis en évidence les incohérences qui génèrent la bulle de l’IA : c’est un serpent (d’investissement) qui se mord la queue et qu’elle a tendance « transformer l’or en plomb à coût de métaux rares ». Il argumenté sur le fait que Sérendipité est mis à mal par l’IA car l’IA enferme ses utilisateurs dans leur zone de confort. Avant de parler de « l’IA projet de société », il a rappelé que l’IA ne s’occupe que d’argent ; pas d’amour, ni d’oxygène ni d’eau. Il nous a ensuite enjoint à considérer que la question la plus importante est « que faire de notre temps libre, de nos rêves, de nos doutes ? » et à réfléchir à comment l’IA pourra permettre de répondre à cette question. En matière de « projet de société » il a expliqué que depuis quelques décennies, le travail est l’élément le plus structurant de notre société. Or l’IA va bouleverser le travail. Il faudra donc adapter notre rapport au travail, la rétribution du travail et la fiscalité à ce bouleversement.

Source 
Notre cerveau sous influence Comment les IA génératives façonnent nos émotions

Nadia Guerouaou - On parle beaucoup de la délégation de nos capacités cognitives (mémoire, langage) aux systèmes d'IA générative. On interroge encore trop peu celle de notre expressivité émotionnelle.

Pourtant, des technologies proposent déjà de paramétrer en temps réel l’expression de nos émotions. C’est le cas d’Emotion Canceling Voice Conversation Engine ou Soft Voice du géant Soft Bank qui propose de gommer la colère dans la voix de clients mécontents dans le cadre des calls centers.

On peut également, toujours afin d’« optimiser » nos interactions  afficher un faux sourire sur nos visages ; cela nous rendra plus avenant grâce à des dispositifs qui peuvent être installés dans des logiciels de visio conférence tels que ceux qu’on utilise de plus en plus pour nos échanges professionnels, personnels et même de santé (téléconsultations de plus en plus fréquentes).

NG – Aujourd’hui comme hier, le contrôle émotionnel dont ces systèmes d’IA s’emparent n’est pas neutre, mais profondément politique et hiérarchisant. La régulation des émotions exprimées n’a jamais été un simple souci d’hygiène psychique. Elle constitue, historiquement, un instrument de gouvernementalité des individus. Or, c’est bien cette logique qu’on retrouve dans certaines technologies actuelles de paramétrage algorithmique de nos expressions émotionnelles. Prenons la colère. Ces technologies doivent nous amener à nous questionner : Qui a le droit d’être en colère ? Qui verrait son discours tue par le « mute » algorithmique ? Et, bien évidemment, qui décide de ce qu’est une émotion acceptable et pour qui ?

La colère est un bon exemple car sa légitimité est, entre autres, genrée.
La « standardisation » de l’expressivité émotionnelle est également une possibilité à envisager. Nos expressions faciales, que nous croyons spontanées, ont toujours subi un formatage culturel profond. L’histoire du sourire montre que même cette manifestation que l’on pense « naturelle » de la joie fait en réalité l’objet de codifications sociales et culturelles strictes. Avec les technologies d’IAgen le masque social et la standardisation qu’il génère devient automatique, il est appliqué sur les visages sans aucune conscience des normes qu’il applique. Et pourtant le sourire artificiel produit par les IA génératives crée des modèles expressifs uniformes qui pourraient s’imposer comme nouvelles normes dans nos interactions faisant fi de la diversité culturelle des régimes d’expression humains.

Faites l’essai, demander à une IA générative d’image de vous générer un selfie de vous et vous verrez ce à quoi ressemble votre sourire ; il y a de très fortes probabilités qu’il suive les codes esthétiques du « smile design américain ».
J’aime beaucoup votre question, cela va-t-il nous rendre plus humain car il me semble que ces technologies posent en creux la question de l’humanisme. Quelle définition de l’humain pourrait justifier par exemple la nécessité d’un contrôle absolu de nos émotions ? Il me semble que cela a fort à voir avec l’idée d’une « part naturelle » animale, passionnée, pas assez raisonnée, que nous avons à rendre docile. D’où mon choix d’appeler cela de la domestication affective.

Les IA génératives émotionnelles contrôlent les expressions émotionnelles, créent une norme implicite du discours acceptable ; elles produisent des discours et des sujets lisses, heureux, optimisés, parfaitement adaptés aux exigences des sociétés dans lesquelles nous vivons.
 
 

NG - Assurément, il y a des risques de manipulation et la question éthique est présente en filigrane tout au long de l’essai, je crois. Le paramétrage algorithmique des émotions pourrait renforcer l’instrumentalisation des émotions qui existe déjà. Les IA génératives pourraient être utilisées pour générer une note vocale synthétique ou alors « augmenter » une voix réelle afin d’en ajuster la tonalité émotionnelle selon les attentes ou les vulnérabilités d’un destinataire donné.

Ce serait un profilage du message qui ne se limiterait pas à l’information véhiculée mais qui en ajusterait la forme ; le but serait de la rendre, par exemple, la plus convaincante possible eu égards aux différentes informations que l’on aura par ailleurs pu récolter sur des destinataires. Une forme de micro-ciblage émotionnel.
 

NG – C’est exactement le propos du livre : l’anthropotechnie – ce processus fondateur par lequel l’humanité se produit et se transforme elle-même.… Le fait que ces technologies ne soient pas simplement au service de transformations ponctuelles de notre apparence mais bien des technologies qui contribuent à modeler, notre perception de nous-même, des autres, du monde. Ce qui nous indigne, nous affecte également.

Les hommes font leurs propres émotions, mais ils ne savent pas qu’ils les font. Lorsque des algorithmes modifient nos expressions faciales et vocales, ils sont à̀ même de reconfigurer l’environnement affectif à partir duquel notre cerveau construit nos émotions. Cette reconfiguration produit une forme d’affectivité́ hybride que je nomme l’IAffectivité. Un concept qui a pour but de « mettre au jour » ce phénomène dont nous ne sommes pas conscients et que la seule grille de lecture en termes de délégation de nos capacités ne permet pas d’appréhender directement.

Cette IAffectivité n’est pas un déterminisme technique. Sa forme dépendra de nos choix de société́, des rapports de pouvoir en place et des normes qui orienteront son design.
J’essaie et je ne sais pas si ça se sent, de ne pas traiter ces questions de manière anxiogène car je pense que c’est trop souvent le cas. Je crois sincèrement que les individus peuvent se sentir concernés par ces questions sans agiter la menace existentielle.
 

Source 
Notre cerveau sous influence Comment les IA génératives façonnent nos émotions

Nadia Guerouaou - On parle beaucoup de la délégation de nos capacités cognitives (mémoire, langage) aux systèmes d'IA générative. On interroge encore trop peu celle de notre expressivité émotionnelle.

Pourtant, des technologies proposent déjà de paramétrer en temps réel l’expression de nos émotions. C’est le cas d’Emotion Canceling Voice Conversation Engine ou Soft Voice du géant Soft Bank qui propose de gommer la colère dans la voix de clients mécontents dans le cadre des calls centers.

On peut également, toujours afin d’« optimiser » nos interactions  afficher un faux sourire sur nos visages ; cela nous rendra plus avenant grâce à des dispositifs qui peuvent être installés dans des logiciels de visio conférence tels que ceux qu’on utilise de plus en plus pour nos échanges professionnels, personnels et même de santé (téléconsultations de plus en plus fréquentes).

NG – Aujourd’hui comme hier, le contrôle émotionnel dont ces systèmes d’IA s’emparent n’est pas neutre, mais profondément politique et hiérarchisant. La régulation des émotions exprimées n’a jamais été un simple souci d’hygiène psychique. Elle constitue, historiquement, un instrument de gouvernementalité des individus. Or, c’est bien cette logique qu’on retrouve dans certaines technologies actuelles de paramétrage algorithmique de nos expressions émotionnelles. Prenons la colère. Ces technologies doivent nous amener à nous questionner : Qui a le droit d’être en colère ? Qui verrait son discours tue par le « mute » algorithmique ? Et, bien évidemment, qui décide de ce qu’est une émotion acceptable et pour qui ?

La colère est un bon exemple car sa légitimité est, entre autres, genrée.
La « standardisation » de l’expressivité émotionnelle est également une possibilité à envisager. Nos expressions faciales, que nous croyons spontanées, ont toujours subi un formatage culturel profond. L’histoire du sourire montre que même cette manifestation que l’on pense « naturelle » de la joie fait en réalité l’objet de codifications sociales et culturelles strictes. Avec les technologies d’IAgen le masque social et la standardisation qu’il génère devient automatique, il est appliqué sur les visages sans aucune conscience des normes qu’il applique. Et pourtant le sourire artificiel produit par les IA génératives crée des modèles expressifs uniformes qui pourraient s’imposer comme nouvelles normes dans nos interactions faisant fi de la diversité culturelle des régimes d’expression humains.

Faites l’essai, demander à une IA générative d’image de vous générer un selfie de vous et vous verrez ce à quoi ressemble votre sourire ; il y a de très fortes probabilités qu’il suive les codes esthétiques du « smile design américain ».
J’aime beaucoup votre question, cela va-t-il nous rendre plus humain car il me semble que ces technologies posent en creux la question de l’humanisme. Quelle définition de l’humain pourrait justifier par exemple la nécessité d’un contrôle absolu de nos émotions ? Il me semble que cela a fort à voir avec l’idée d’une « part naturelle » animale, passionnée, pas assez raisonnée, que nous avons à rendre docile. D’où mon choix d’appeler cela de la domestication affective.

Les IA génératives émotionnelles contrôlent les expressions émotionnelles, créent une norme implicite du discours acceptable ; elles produisent des discours et des sujets lisses, heureux, optimisés, parfaitement adaptés aux exigences des sociétés dans lesquelles nous vivons.
 
 

NG - Assurément, il y a des risques de manipulation et la question éthique est présente en filigrane tout au long de l’essai, je crois. Le paramétrage algorithmique des émotions pourrait renforcer l’instrumentalisation des émotions qui existe déjà. Les IA génératives pourraient être utilisées pour générer une note vocale synthétique ou alors « augmenter » une voix réelle afin d’en ajuster la tonalité émotionnelle selon les attentes ou les vulnérabilités d’un destinataire donné.

Ce serait un profilage du message qui ne se limiterait pas à l’information véhiculée mais qui en ajusterait la forme ; le but serait de la rendre, par exemple, la plus convaincante possible eu égards aux différentes informations que l’on aura par ailleurs pu récolter sur des destinataires. Une forme de micro-ciblage émotionnel.
 

NG – C’est exactement le propos du livre : l’anthropotechnie – ce processus fondateur par lequel l’humanité se produit et se transforme elle-même.… Le fait que ces technologies ne soient pas simplement au service de transformations ponctuelles de notre apparence mais bien des technologies qui contribuent à modeler, notre perception de nous-même, des autres, du monde. Ce qui nous indigne, nous affecte également.

Les hommes font leurs propres émotions, mais ils ne savent pas qu’ils les font. Lorsque des algorithmes modifient nos expressions faciales et vocales, ils sont à̀ même de reconfigurer l’environnement affectif à partir duquel notre cerveau construit nos émotions. Cette reconfiguration produit une forme d’affectivité́ hybride que je nomme l’IAffectivité. Un concept qui a pour but de « mettre au jour » ce phénomène dont nous ne sommes pas conscients et que la seule grille de lecture en termes de délégation de nos capacités ne permet pas d’appréhender directement.

Cette IAffectivité n’est pas un déterminisme technique. Sa forme dépendra de nos choix de société́, des rapports de pouvoir en place et des normes qui orienteront son design.
J’essaie et je ne sais pas si ça se sent, de ne pas traiter ces questions de manière anxiogène car je pense que c’est trop souvent le cas. Je crois sincèrement que les individus peuvent se sentir concernés par ces questions sans agiter la menace existentielle.
 

Source

En quelques années, l’intelligence artificielle — et plus encore l’IA générative — est passée du statut d’outil technique à celui de partenaire stratégique. Dans la logistique, ces robots collaboratifs accélèrent la préparation de commandes. Dans la finance, les algorithmes détectent les fraudes en temps réel. Dans les ressources humaines, des plateformes comme Beamery ou Eightfold cartographient les compétences et anticipent les trajectoires professionnelles. Même les industries créatives s’en emparent, à l’image d’Ubisoft qui utilise l’IA pour générer des scénarios ou tester des concepts publicitaires.

Cette montée en puissance ne se limite plus à l’exécution. Les dirigeants eux-mêmes s’appuient sur l’IA pour analyser des risques, simuler des scénarios ou identifier les compétences dont ils auront besoin demain. Comme le souligne Cécile Dejoux dans ses travaux au sein de l’Observatoire des transformations managériales et RH, l’IA devient un levier d’innovation autant qu’un accélérateur de décision.

Cette mutation impose une rupture majeure : l’entreprise ne peut plus fonctionner sur des fiches de poste statiques. Elle doit évoluer vers une skilled based organization, où la valeur repose sur les capacités réelles et actualisées des collaborateurs. Et l’urgence est réelle : 65 % des compétences demandées en 2015 seront obsolètes d’ici 2030.

De nouveaux métiers émergent — data scientists, prompt engineers, spécialistes en cybersécurité, responsables de l’éthique de l’IA — tandis que les professions existantes se recomposent. Mais la véritable révolution est ailleurs : ce sont les soft skills qui deviennent la clé de voûte de la performance humaine.
Esprit critique, éthique, intelligence émotionnelle, capacité de négociation… autant de qualités impossibles à automatiser et essentielles pour superviser des systèmes de plus en plus puissants.

Face à cette transformation, les États s’organisent. La France accuse encore un retard d’adoption, avec seulement 10 % des entreprises de plus de dix salariés utilisant l’IA en 2024. Mais les investissements s’accélèrent : France 2030, IA Clusters, plan « Osez l’IA »… L’Europe, de son côté, mise sur une stratégie mêlant innovation et régulation, avec l’IA Act, le DSA et le DMA, tout en soutenant l’open source pour préserver sa souveraineté.

Au fond, la question n’est plus de savoir si l’IA va transformer le travail, mais comment accompagner cette transition. Les organisations qui réussiront seront celles qui investiront massivement dans la formation et feront de leurs collaborateurs des acteurs pleinement « IA-compatibles ». Car l’avenir ne se jouera pas entre l’humain et la machine, mais dans leur capacité à collaborer intelligemment.