L’ALTERATION DES DONNEES A L’ERE DE L’IA ET LA MENACE POUR LE SENSEMAKING ORGANISATIONNEL. NADEGE EDWARDS-POUGNET

L’un des apports centraux de Weick est de renverser une vision classique : les organisations n’agissent pas à partir d’un monde donné, déjà constitué, qu’elles interpréteraient ensuite. Elles construisent en permanence ce monde, où du moins la représentation de celui-ci.

Le sensemaking désigne ce processus par lequel les acteurs sélectionnent des éléments de leur environnement, les relient entre eux et produisent une compréhension suffisamment cohérente pour permettre l’action. Cette compréhension n’est jamais une simple copie du réel. Elle est une construction située, fragile, continuellement révisée. Ainsi, le sens n’est pas donné : il est produit. Dans cette perspective, un « signal » n’existe pas indépendamment de l’activité qui le reconnaît comme tel. Il devient signal lorsqu’il est intégré dans un ensemble cohérent de relations qui doit aussi faire sens pour un collectif.

Cette idée est essentielle pour comprendre ce que l’IA transforme aujourd’hui : elle ne se contente pas de traiter des données par les sélections qu’elle opère, elle participe à la fabrication de ce qui est considéré comme pertinent, plausible ou actionnable. Les systèmes d’IA générative jouent désormais un rôle actif dans la production de sens organisationnel. Ils agrègent des masses d’informations, synthétisent des corpus hétérogènes, produisent des narrations explicatives et hiérarchisent des éléments auparavant dispersés.

Ils interviennent donc directement dans la phase que Weick décrit comme centrale : la transformation d’indices fragmentaires en une représentation cohérente du monde. L’IA devient un acteur à part entière du sensemaking pour le meilleur et pour le pire. En effet, son action repose sur une caractéristique fondamentale du sensemaking : la recherche de plausibilité plutôt que d’exactitude absolue. Les acteurs organisationnels ne cherchent pas une vérité exhaustive, objective et parfaitement validée, mais une interprétation suffisamment crédible pour permettre l’action.

L’IA s’inscrit naturellement dans cette logique. Elle produit des récits cohérents, souvent convaincants, parfois même élégants. Mais cette capacité à produire de la cohérence devient problématique dès lors que les matériaux sur lesquels elle s’appuie sont altérés. Mais comment cette altération se produit-elle ?
 

L’altération des données revient à introduire, volontairement ou non, dans les systèmes d’apprentissage de l’IA ou d’alimentation des bases de données, des informations biaisées, incomplètes ou orientées, de manière suffisamment diffuse pour ne pas être immédiatement détectée. Le déplacement ne provoque pas forcément une erreur manifeste, mais il permet de déplacer progressivement les cadres d’interprétation.

Dans les termes de Weick, cela revient à modifier les indices à partir desquels les acteurs construisent leur compréhension de la situation. Or ces indices sont essentiels : ils constituent les points d’ancrage à partir desquels se stabilise le sens. Le danger ne réside donc pas dans une rupture du sens, mais dans sa dérive silencieuse. L’enjeu est donc bien ici organisationnel et opérationnel. Ce qui est fragilisé, ce n’est pas l’accès aux données, mais la capacité à produire un sens partagé suffisamment fiable pour soutenir l’action.
 

Weick insiste sur le point fondamental suivant : la plausibilité est la condition même de l’action organisationnelle. Dans des environnements complexes et incertains, il est impossible d’attendre une connaissance complète et parfaitement stabilisée. Les organisations doivent agir sur la base d’interprétations provisoires. Or, cette contrainte est structurante. Elle explique pourquoi le sensemaking est toujours orienté vers la construction de récits cohérents plutôt que vers la vérification exhaustive des faits.

Mais cette force devient une fragilité dans un contexte d’intoxication informationnelle. Un récit peut être parfaitement cohérent tout en étant fondé sur des éléments biaisés. Plus la cohérence est forte, plus le risque est grand de stabiliser une représentation erronée de la réalité. Ainsi, comme le décrit Karl Weick : « A good story holds disparate elements together long enough to energize and guide action, plausibly enough to allow people to make retrospective sense of whatever happens, and engagingly enough that others will contribute their own inputs in the interest of sensemaking. » (p.71).

Cela survient car, même quand des éléments sont altérés, le processus de sensemaking ne s’arrête pas. Il continue à fonctionner, mais sur une base déformée ; l’organisation continue à produire des récits cohérents, à élaborer des interprétations plausibles, à prendre des décisions rationnelles en apparence. Chaque nouvelle interprétation semble raisonnable au regard de la précédente. C’est précisément cette continuité qui rend la menace difficile à détecter : l’organisation ne détecte pas forcément l’erreur, puisqu’elle continue à produire du sens selon ses propres critères habituels de plausibilité.
 

L’altération de données constitue une vulnérabilité profonde des systèmes contemporains d’intelligence artificielle. Avec Karl Weick, on comprend que « l’antidote » ne tient pas seulement à la fiabilité des modèles ou à la qualité des données, mais plus généralement celle de la robustesse du processus qui transforme ces données en réalité actionnable, une fois qu’elles ont acquis une signification pour le collectif.

Ainsi, la véritable compétence stratégique consiste à maintenir une pluralité d’interprétations, à confronter les points de vue et à questionner les évidences produites, plutôt qu’à se hâter de transformer un ensemble de bruits en signal.