Suivez le lien

Filtres qui corrigent nos visages, outils qui réécrivent nos messages, voix lissées lors d’un appel au service client : les intelligences artificielles se glissent désormais dans les moindres interstices de nos interactions quotidiennes. Elles ajustent nos expressions faciales en temps réel, modulent l’intonation de nos voix, amplifient un sourire ou atténuent une irritation. De la conversation intime aux échanges professionnels les plus exigeants, elles deviennent des médiatrices discrètes mais omniprésentes, familières à chacun et utilisées presque sans y penser.

En transformant notre manière de communiquer, ces technologies transforment aussi, plus profondément, la manière dont nous nous percevons et dont nous construisons nos subjectivités. Leur diffusion rapide et massive installe une nouvelle forme de relation à soi : une communication filtrée, paramétrée, optimisée, où l’expression émotionnelle passe par l’algorithme. C’est là que se joue un basculement subtil : en façonnant nos affects, les IA génératives donnent naissance à une sensibilité hybride que la neuroscientifique Nadia Guerouaou nomme « IAffectivité ».

Quels sourires décidera-t-on d’appliquer sur nos visages ? Quelle colère jugera-t-on préférable d’effacer de nos voix ? Ces questions, qui semblent relever de la science-fiction, décrivent pourtant un présent déjà en marche.

Pour Nadia Guerouaou, neuroscientifique et psychologue, l’enjeu dépasse largement la technique. En modulant nos émotions à travers des dispositifs devenus banals, les IA génératives exercent un contrôle inédit, souvent imperceptible, sur notre manière d’être au monde. Entre domestication affective et risque d’uniformisation culturelle, elles participent à une standardisation silencieuse de nos comportements, de nos normes sociales, de nos modèles cognitifs.

Sans jamais pénétrer notre cerveau, elles reconfigurent pourtant nos schémas mentaux, influencent notre perception des autres et redessinent notre rapport au réel. Cet impact anthropologique, encore largement absent des débats publics sur l’IA, constitue pourtant l’un des angles morts les plus préoccupants de la révolution en cours.

Pour éclairer ces transformations, Nadia Guerouaou mobilise les apports croisés des neurosciences, de la psychologie et des sciences sociales. Elle analyse les mécanismes neuro‑affectifs à l’œuvre, explore les dispositifs déjà en usage ou en expérimentation, et propose une vision prospective de ce que pourrait devenir notre sensibilité à l’ère des émotions augmentées.

Son essai, salutaire, ouvre un champ de réflexion essentiel : celui de nos choix de société et de notre conception même de l’humanité, à l’heure où nos émotions commencent à être co‑produites par des machines.

Source 
Notre cerveau sous influence Comment les IA génératives façonnent nos émotions

Nadia Guerouaou - On parle beaucoup de la délégation de nos capacités cognitives (mémoire, langage) aux systèmes d'IA générative. On interroge encore trop peu celle de notre expressivité émotionnelle.

Pourtant, des technologies proposent déjà de paramétrer en temps réel l’expression de nos émotions. C’est le cas d’Emotion Canceling Voice Conversation Engine ou Soft Voice du géant Soft Bank qui propose de gommer la colère dans la voix de clients mécontents dans le cadre des calls centers.

On peut également, toujours afin d’« optimiser » nos interactions  afficher un faux sourire sur nos visages ; cela nous rendra plus avenant grâce à des dispositifs qui peuvent être installés dans des logiciels de visio conférence tels que ceux qu’on utilise de plus en plus pour nos échanges professionnels, personnels et même de santé (téléconsultations de plus en plus fréquentes).

NG – Aujourd’hui comme hier, le contrôle émotionnel dont ces systèmes d’IA s’emparent n’est pas neutre, mais profondément politique et hiérarchisant. La régulation des émotions exprimées n’a jamais été un simple souci d’hygiène psychique. Elle constitue, historiquement, un instrument de gouvernementalité des individus. Or, c’est bien cette logique qu’on retrouve dans certaines technologies actuelles de paramétrage algorithmique de nos expressions émotionnelles. Prenons la colère. Ces technologies doivent nous amener à nous questionner : Qui a le droit d’être en colère ? Qui verrait son discours tue par le « mute » algorithmique ? Et, bien évidemment, qui décide de ce qu’est une émotion acceptable et pour qui ?

La colère est un bon exemple car sa légitimité est, entre autres, genrée.
La « standardisation » de l’expressivité émotionnelle est également une possibilité à envisager. Nos expressions faciales, que nous croyons spontanées, ont toujours subi un formatage culturel profond. L’histoire du sourire montre que même cette manifestation que l’on pense « naturelle » de la joie fait en réalité l’objet de codifications sociales et culturelles strictes. Avec les technologies d’IAgen le masque social et la standardisation qu’il génère devient automatique, il est appliqué sur les visages sans aucune conscience des normes qu’il applique. Et pourtant le sourire artificiel produit par les IA génératives crée des modèles expressifs uniformes qui pourraient s’imposer comme nouvelles normes dans nos interactions faisant fi de la diversité culturelle des régimes d’expression humains.

Faites l’essai, demander à une IA générative d’image de vous générer un selfie de vous et vous verrez ce à quoi ressemble votre sourire ; il y a de très fortes probabilités qu’il suive les codes esthétiques du « smile design américain ».
J’aime beaucoup votre question, cela va-t-il nous rendre plus humain car il me semble que ces technologies posent en creux la question de l’humanisme. Quelle définition de l’humain pourrait justifier par exemple la nécessité d’un contrôle absolu de nos émotions ? Il me semble que cela a fort à voir avec l’idée d’une « part naturelle » animale, passionnée, pas assez raisonnée, que nous avons à rendre docile. D’où mon choix d’appeler cela de la domestication affective.

Les IA génératives émotionnelles contrôlent les expressions émotionnelles, créent une norme implicite du discours acceptable ; elles produisent des discours et des sujets lisses, heureux, optimisés, parfaitement adaptés aux exigences des sociétés dans lesquelles nous vivons.
 
 

NG - Assurément, il y a des risques de manipulation et la question éthique est présente en filigrane tout au long de l’essai, je crois. Le paramétrage algorithmique des émotions pourrait renforcer l’instrumentalisation des émotions qui existe déjà. Les IA génératives pourraient être utilisées pour générer une note vocale synthétique ou alors « augmenter » une voix réelle afin d’en ajuster la tonalité émotionnelle selon les attentes ou les vulnérabilités d’un destinataire donné.

Ce serait un profilage du message qui ne se limiterait pas à l’information véhiculée mais qui en ajusterait la forme ; le but serait de la rendre, par exemple, la plus convaincante possible eu égards aux différentes informations que l’on aura par ailleurs pu récolter sur des destinataires. Une forme de micro-ciblage émotionnel.
 

NG – C’est exactement le propos du livre : l’anthropotechnie – ce processus fondateur par lequel l’humanité se produit et se transforme elle-même.… Le fait que ces technologies ne soient pas simplement au service de transformations ponctuelles de notre apparence mais bien des technologies qui contribuent à modeler, notre perception de nous-même, des autres, du monde. Ce qui nous indigne, nous affecte également.

Les hommes font leurs propres émotions, mais ils ne savent pas qu’ils les font. Lorsque des algorithmes modifient nos expressions faciales et vocales, ils sont à̀ même de reconfigurer l’environnement affectif à partir duquel notre cerveau construit nos émotions. Cette reconfiguration produit une forme d’affectivité́ hybride que je nomme l’IAffectivité. Un concept qui a pour but de « mettre au jour » ce phénomène dont nous ne sommes pas conscients et que la seule grille de lecture en termes de délégation de nos capacités ne permet pas d’appréhender directement.

Cette IAffectivité n’est pas un déterminisme technique. Sa forme dépendra de nos choix de société́, des rapports de pouvoir en place et des normes qui orienteront son design.
J’essaie et je ne sais pas si ça se sent, de ne pas traiter ces questions de manière anxiogène car je pense que c’est trop souvent le cas. Je crois sincèrement que les individus peuvent se sentir concernés par ces questions sans agiter la menace existentielle.
 

Source 
Notre cerveau sous influence Comment les IA génératives façonnent nos émotions

Nadia Guerouaou - On parle beaucoup de la délégation de nos capacités cognitives (mémoire, langage) aux systèmes d'IA générative. On interroge encore trop peu celle de notre expressivité émotionnelle.

Pourtant, des technologies proposent déjà de paramétrer en temps réel l’expression de nos émotions. C’est le cas d’Emotion Canceling Voice Conversation Engine ou Soft Voice du géant Soft Bank qui propose de gommer la colère dans la voix de clients mécontents dans le cadre des calls centers.

On peut également, toujours afin d’« optimiser » nos interactions  afficher un faux sourire sur nos visages ; cela nous rendra plus avenant grâce à des dispositifs qui peuvent être installés dans des logiciels de visio conférence tels que ceux qu’on utilise de plus en plus pour nos échanges professionnels, personnels et même de santé (téléconsultations de plus en plus fréquentes).

NG – Aujourd’hui comme hier, le contrôle émotionnel dont ces systèmes d’IA s’emparent n’est pas neutre, mais profondément politique et hiérarchisant. La régulation des émotions exprimées n’a jamais été un simple souci d’hygiène psychique. Elle constitue, historiquement, un instrument de gouvernementalité des individus. Or, c’est bien cette logique qu’on retrouve dans certaines technologies actuelles de paramétrage algorithmique de nos expressions émotionnelles. Prenons la colère. Ces technologies doivent nous amener à nous questionner : Qui a le droit d’être en colère ? Qui verrait son discours tue par le « mute » algorithmique ? Et, bien évidemment, qui décide de ce qu’est une émotion acceptable et pour qui ?

La colère est un bon exemple car sa légitimité est, entre autres, genrée.
La « standardisation » de l’expressivité émotionnelle est également une possibilité à envisager. Nos expressions faciales, que nous croyons spontanées, ont toujours subi un formatage culturel profond. L’histoire du sourire montre que même cette manifestation que l’on pense « naturelle » de la joie fait en réalité l’objet de codifications sociales et culturelles strictes. Avec les technologies d’IAgen le masque social et la standardisation qu’il génère devient automatique, il est appliqué sur les visages sans aucune conscience des normes qu’il applique. Et pourtant le sourire artificiel produit par les IA génératives crée des modèles expressifs uniformes qui pourraient s’imposer comme nouvelles normes dans nos interactions faisant fi de la diversité culturelle des régimes d’expression humains.

Faites l’essai, demander à une IA générative d’image de vous générer un selfie de vous et vous verrez ce à quoi ressemble votre sourire ; il y a de très fortes probabilités qu’il suive les codes esthétiques du « smile design américain ».
J’aime beaucoup votre question, cela va-t-il nous rendre plus humain car il me semble que ces technologies posent en creux la question de l’humanisme. Quelle définition de l’humain pourrait justifier par exemple la nécessité d’un contrôle absolu de nos émotions ? Il me semble que cela a fort à voir avec l’idée d’une « part naturelle » animale, passionnée, pas assez raisonnée, que nous avons à rendre docile. D’où mon choix d’appeler cela de la domestication affective.

Les IA génératives émotionnelles contrôlent les expressions émotionnelles, créent une norme implicite du discours acceptable ; elles produisent des discours et des sujets lisses, heureux, optimisés, parfaitement adaptés aux exigences des sociétés dans lesquelles nous vivons.
 
 

NG - Assurément, il y a des risques de manipulation et la question éthique est présente en filigrane tout au long de l’essai, je crois. Le paramétrage algorithmique des émotions pourrait renforcer l’instrumentalisation des émotions qui existe déjà. Les IA génératives pourraient être utilisées pour générer une note vocale synthétique ou alors « augmenter » une voix réelle afin d’en ajuster la tonalité émotionnelle selon les attentes ou les vulnérabilités d’un destinataire donné.

Ce serait un profilage du message qui ne se limiterait pas à l’information véhiculée mais qui en ajusterait la forme ; le but serait de la rendre, par exemple, la plus convaincante possible eu égards aux différentes informations que l’on aura par ailleurs pu récolter sur des destinataires. Une forme de micro-ciblage émotionnel.
 

NG – C’est exactement le propos du livre : l’anthropotechnie – ce processus fondateur par lequel l’humanité se produit et se transforme elle-même.… Le fait que ces technologies ne soient pas simplement au service de transformations ponctuelles de notre apparence mais bien des technologies qui contribuent à modeler, notre perception de nous-même, des autres, du monde. Ce qui nous indigne, nous affecte également.

Les hommes font leurs propres émotions, mais ils ne savent pas qu’ils les font. Lorsque des algorithmes modifient nos expressions faciales et vocales, ils sont à̀ même de reconfigurer l’environnement affectif à partir duquel notre cerveau construit nos émotions. Cette reconfiguration produit une forme d’affectivité́ hybride que je nomme l’IAffectivité. Un concept qui a pour but de « mettre au jour » ce phénomène dont nous ne sommes pas conscients et que la seule grille de lecture en termes de délégation de nos capacités ne permet pas d’appréhender directement.

Cette IAffectivité n’est pas un déterminisme technique. Sa forme dépendra de nos choix de société́, des rapports de pouvoir en place et des normes qui orienteront son design.
J’essaie et je ne sais pas si ça se sent, de ne pas traiter ces questions de manière anxiogène car je pense que c’est trop souvent le cas. Je crois sincèrement que les individus peuvent se sentir concernés par ces questions sans agiter la menace existentielle.
 

Suivez le lien

Filtres qui corrigent nos visages, outils qui réécrivent nos messages, voix lissées lors d’un appel au service client : les intelligences artificielles se glissent désormais dans les moindres interstices de nos interactions quotidiennes. Elles ajustent nos expressions faciales en temps réel, modulent l’intonation de nos voix, amplifient un sourire ou atténuent une irritation. De la conversation intime aux échanges professionnels les plus exigeants, elles deviennent des médiatrices discrètes mais omniprésentes, familières à chacun et utilisées presque sans y penser.

En transformant notre manière de communiquer, ces technologies transforment aussi, plus profondément, la manière dont nous nous percevons et dont nous construisons nos subjectivités. Leur diffusion rapide et massive installe une nouvelle forme de relation à soi : une communication filtrée, paramétrée, optimisée, où l’expression émotionnelle passe par l’algorithme. C’est là que se joue un basculement subtil : en façonnant nos affects, les IA génératives donnent naissance à une sensibilité hybride que la neuroscientifique Nadia Guerouaou nomme « IAffectivité ».

Quels sourires décidera-t-on d’appliquer sur nos visages ? Quelle colère jugera-t-on préférable d’effacer de nos voix ? Ces questions, qui semblent relever de la science-fiction, décrivent pourtant un présent déjà en marche.

Pour Nadia Guerouaou, neuroscientifique et psychologue, l’enjeu dépasse largement la technique. En modulant nos émotions à travers des dispositifs devenus banals, les IA génératives exercent un contrôle inédit, souvent imperceptible, sur notre manière d’être au monde. Entre domestication affective et risque d’uniformisation culturelle, elles participent à une standardisation silencieuse de nos comportements, de nos normes sociales, de nos modèles cognitifs.

Sans jamais pénétrer notre cerveau, elles reconfigurent pourtant nos schémas mentaux, influencent notre perception des autres et redessinent notre rapport au réel. Cet impact anthropologique, encore largement absent des débats publics sur l’IA, constitue pourtant l’un des angles morts les plus préoccupants de la révolution en cours.

Pour éclairer ces transformations, Nadia Guerouaou mobilise les apports croisés des neurosciences, de la psychologie et des sciences sociales. Elle analyse les mécanismes neuro‑affectifs à l’œuvre, explore les dispositifs déjà en usage ou en expérimentation, et propose une vision prospective de ce que pourrait devenir notre sensibilité à l’ère des émotions augmentées.

Son essai, salutaire, ouvre un champ de réflexion essentiel : celui de nos choix de société et de notre conception même de l’humanité, à l’heure où nos émotions commencent à être co‑produites par des machines.