La fenêtre de compréhension humaine

« Le savoir lui-même est un pouvoir. » Francis Bacon

On croit que le danger de l'intelligence artificielle est de nous remplacer. C'est une erreur de cible. Le vrai danger est plus discret, presque flatteur : nous laisser croire que nous décidons encore, quand nous ne faisons plus que ratifier. Il n'arrive pas dans un fracas de robots. Il arrive dans le silence d'une signature posée au bas d'une page qu'on n'a pas eu le temps de lire.

Le seul sujet stratégique confié à ceux qui ne décident pas

Regardez comment les dirigeants traitent l'IA. C'est le seul sujet réellement stratégique qu'ils confient à des gens sans pouvoir de décision, ou qu'ils tranchent eux-mêmes sans en comprendre les ressorts. On monte un comité, on nomme un référent, on missionne un stagiaire brillant, et on appelle cela une gouvernance. La finance, le droit, les ressources humaines restent verrouillés au sommet. L'IA, elle, flotte dans un entre-deux : trop technique pour ceux qui ont le pouvoir, trop stratégique pour ceux qui ont la main.

De cette confusion naît une illusion rassurante : le « human in the loop », l'humain dans la boucle, brandi comme une garantie. Mais l'humain dans la boucle n'est souvent qu'une signature apposée sur une décision déjà prise par la machine. La boucle existe sur l'organigramme. Elle a disparu des faits.

Trois figures, alors, qu'il faut cesser de confondre. L'humain souverain décide et pourrait faire autrement. L'arbitre tranche dans le doute, parce qu'il comprend assez pour peser deux options. Le signataire ratifie sans pouvoir juger, faute de temps, de compétence ou d'entendement. Les trois apposent leur nom. Un seul exerce un pouvoir.

La fenêtre se referme

Voici le mécanisme, et il est implacable. Tant que la machine exécute moins vite que l'humain ne comprend, le contrôle est réel : on a le temps de lire, de contester, de refaire. Dès que l'exécution dépasse la compréhension, le contrôle devient nominal. La décision est déjà partie quand le sens arrive. Cet espace qui se rétrécit, appelons-le la fenêtre de compréhension humaine : l'écart entre ce que la machine produit et ce que l'humain peut encore saisir avant d'engager sa responsabilité.

Cette fenêtre ne se referme pas parce que nous serions devenus stupides. Elle se referme parce que les modèles progressent plus vite que notre cognition ne s'adapte. C'est structurel, donc durable. Le BCG l'a chiffré à sa manière : soixante pour cent des organisations ne tirent aucune valeur de l'IA à l'échelle (AI Value Gap, 2025). On lit ce chiffre comme un échec de technologie. C'est un échec de compréhension. Nous avons acheté des moteurs sans former les pilotes, et nous nous étonnons que la voiture reste au garage. La même maison rappelle sa règle des dix, vingt, soixante-dix : près de soixante-dix pour cent de l'effort d'une transformation par l'IA est humain, pas technologique. L'outil n'a jamais été le facteur limitant. Nous le sommes.

Former des souverains, pas des signataires

Voilà où l'enseignement supérieur cesse d'être spectateur. Former à l'ère de l'IA, ce n'est pas apprendre à des étudiants à cliquer plus vite. C'est décider, explicitement, laquelle des trois postures on prépare. Un diplôme qui produit des signataires ne prépare pas à une responsabilité, il prépare à une obsolescence. Le signataire est celui qu'on remplace le plus aisément : sa fonction, ratifier sans juger, la machine finira par se l'attribuer.

À l'ISC Paris, dans la mission d'AI Transformation Officer que je porte, nous refusons ce contrat. Une école doit nommer les trois postures sans complaisance et viser la première : l'humain souverain, celui dont la compréhension reste plus rapide que l'exécution qu'il valide. Cela veut dire cultiver ce qui survit à la délégation : reconstruire un raisonnement sous contrainte, repérer l'erreur d'un système qui répond toujours avec aplomb, dire non à une sortie plausible mais fausse. Ces compétences ne sont pas décoratives. Ce sont les seules qui gardent la fenêtre ouverte.

Le décor rappelle l'urgence. La durée de vie médiane d'une entreprise cotée est tombée d'environ soixante ans à moins de vingt (Innosight, 2023). Les institutions qui durent ne sont pas celles qui signent le plus vite. Ce sont celles qui comprennent encore ce qu'elles signent.

Formons des souverains. Le reste, la machine sait déjà le faire signer.

Édito co-écrit avec Claude (Anthropic).