Focus I.A. #2 Nov 2025 - L’IA ne contrôlera pas l’humain, mais … Emmanuel Frenod

Des exemples existent d’états qui réalisent un contrôle absolu des mouvements de leur population ou de ce que les individus font ou produisent. Pour mettre œuvre le contrôle des mouvements de leur population, ces états utilisent des IA de « Computer Vision »[[1]] qui détectent des visages ou des véhicules dans des images issues de vidéo-surveillance. Ensuite, d’autres IA (de « Clustering »¹) peuvent déterminer l’ethnie de telle personne dans telle image. Enfin, des IA « prédictives » identifient si telle personne ou tel type de personnes a bien le droit d’être là où elle est. Pour contrôler les contenus produits par les individus, ces contenus sont absorbés par des « Grands modèles de Langage »¹ (« Large Langage Model »¹ ou « LLM »¹). Ces « LLM »¹ couplés à des IA de « Clustering »¹ déterminent les contenus qui sont considérés comme subversifs.

Des contrôles plus softs ont également lieu. Par exemple, les influenceurs poussent à des consommations insensées qui ne font que servir que quelques intérêts. Des algorithmes à base d’IA (de type « Clustering »¹) sont mis à disposition de ces influenceurs pour augmenter l’efficacité des contenus qu’ils publient. Ensuite, ces algorithmes interagissent (on pourrait presque dire « collaborent ») avec ceux des plates-formes qui apprennent quels sont les posts qu’il faut mettre en avant pour qu’ils soient le plus lus. C’est cette interaction qui crée ce qu’on appelle la « viralité »¹ de manière totalement artificielle.

On peut également citer les algorithmes d'IA embarqués par certains jeux électroniques qui analysent en permanence l’état psychique du joueur à l’œuvre à partir de sa manière de jouer. Ces IA ont appris à adapter le comportement du jeu aux états psychiques du joueurs : selon qu’il semble découragé ou volontaire, le jeu augmente ou diminue son niveau de difficulté pour donner des récompenses ou frustrer les joueurs. L’objectif est de l’amener à jouer le plus longtemps possible.
Ces algorithmes peuvent, avec peu de doute, être considérés comme de nouvelles méthodes de mise sous contrôle, voire d’esclavagisations.
 

---

[[1]] Les termes du jargon de l’IA sont écrits entre guillemets. Connaître leur intimité n’est pas nécessaire pour la compréhension de la présente note.

Si nous ne voulons pas subir cet effet, qui sera certainement orchestré par des puissances qui ne nous veulent pas du bien, il n’y a pas d’autres solutions que de bien comprendre le fonctionnement des IA et de maîtriser leur développement pour ne pas avoir à se livrer à ces puissances.
 
La présente note se veut « de transition » : de la description de la force de l’IA vers la nécessité absolue pour l’Europe de maîtriser la totalité de la chaîne de production des IA - des mathématiques sous-jacentes jusqu’à toutes les applications, en passant par les l’entraînements effectifs des modèles (de manière conformes à nos valeurs et nos cultures) et les plateformes (qui doivent être souveraines) de mise à disposition des outils d’IA.