Ne confiez jamais un supercalculateur au mauvais quadrant

Il existe un tout petit livre écrit en 1976 qui explique mieux ce qui se passe aujourd’hui au sein des entreprises technologiques que toutes les conférences sur l’IA des deux dernières années réunies.

Il a été écrit par Carlo Maria Cipolla, un historien italien de l’économie qui a partagé sa vie entre Pavie et Berkeley. Cipolla a passé des décennies à étudier comment les économies s’élèvent et s’effondrent, comment les monnaies s’écroulent et comment les empires parviennent à ruiner des choses qui fonctionnaient parfaitement. Il a fini par aboutir à une conclusion si libératrice — et si politiquement incorrecte — qu’il n’a d’abord fait imprimer l’ouvrage en anglais que pour un petit cercle d’amis.

Vous n’avez pas besoin de sombres complots pour expliquer pourquoi le monde est dans un tel désordre, soutenait Cipolla. Vous n’avez même pas besoin de malveillance. Il vous suffit de comprendre la force la plus puissante de toute l’histoire humaine : la stupidité.

Or, avant que quiconque ne s’offusque, Cipolla n’utilisait pas ce mot comme une insulte. Il l’employait exactement comme un physicien parle de la gravité. Et un demi-siècle plus tard, nous venons de faire quelque chose que Cipolla n’a pas vécu assez longtemps pour voir : nous avons mis entre les mains de la stupidité humaine un moteur d’amplification infinie appelé Intelligence Artificielle.

Les cinq lois de Cipolla (brièvement et avec précision)

Pour comprendre pourquoi cela importe tant aujourd’hui, il faut connaître les cinq lois de Cipolla — car il faut moins de deux minutes pour les apprendre et, une fois qu’on les connaît, elles expliquent presque tout ce que l’on observe au travail.

1. La Première Loi : Toujours et inévitablement, chacun sous-estime le nombre d’individus stupides en circulation. Aussi élevée que soit votre estimation, elle reste inférieure à la réalité. Des personnes que vous jugiez autrefois rationnelles et équilibrées vous surprendront au moment le plus inopportun possible.
2. La Deuxième Loi : La probabilité qu’une personne donnée soit stupide est totalement indépendante de toute autre caractéristique de cette personne. C’est la loi qui froisse le plus d’ego. Que vous testiez des agents d’entretien, des cadres intermédiaires, des fondateurs de la Silicon Valley, des généraux quatre étoiles ou des lauréats du prix Nobel, exactement la même proportion de personnes dans chaque groupe est stupide. Les diplômes, la fortune et les titres ronflants ne réduisent pas la stupidité ; ils lui donnent simplement un plus gros mégaphone.
3. La Troisième Loi (la Loi d’Or) : Une personne stupide est une personne qui cause des pertes à une autre personne ou à un groupe de personnes sans en retirer le moindre gain pour elle-même, et en subissant même éventuellement des pertes.
4. La Quatrième Loi : Les personnes non stupides sous-estiment toujours le pouvoir nuisible des individus stupides. En particulier, nous oublions sans cesse qu’en tout temps, en tout lieu et en toute circonstance, traiter ou s’associer avec des personnes stupides s’avère infailliblement une coûteuse erreur.
5. La Cinquième Loi : La personne stupide est le type de personne le plus dangereux qui soit — plus dangereux encore que le bandit.

Pour montrer pourquoi la Troisième et la Cinquième Loi sont vraies, Cipolla a tracé un simple plan de coordonnées mesurant chaque action humaine à l’aune de deux questions : À quel point cela vous aide-t-il ou vous nuit-il ? et À quel point cela aide-t-il ou nuit-il aux autres ?

Observez les quatre quadrants qui se dessinent :

Si vous faites quelque chose qui vous profite et profite aux personnes qui vous entourent, vous vous trouvez dans le coin supérieur droit : Les Intelligents (Gli Intelligenti). Vous jouez un jeu à somme positive. Vous laissez la pièce en meilleur état que vous ne l’avez trouvée.

Si vous faites quelque chose qui vous nuit tout en créant un gain pour quelqu’un d’autre, vous êtes dans le coin supérieur gauche : Les Crédules (Gli Sprovveduti) — généreux, peut-être, ou simplement naïfs.

Si vous faites quelque chose qui vous profite en infligeant une perte à autrui, vous siégez dans le coin inférieur droit : Le Bandit (I Banditi). Certes, personne n’aime les bandits. Si un bandit vous détrousse dans une ruelle et vous prend cent dollars, vous êtes plus pauvre de cent dollars. Mais remarquez un détail fascinant : le bandit est plus riche de cent dollars. Il y a là une logique. Vous pouvez prédire ce que veut un bandit, vous pouvez verrouiller votre porte contre un bandit, et vous pouvez même négocier avec un bandit.

Et puis il y a le coin inférieur gauche : Les Stupides (Gli Stupidi).

Pourquoi une personne stupide est-elle plus dangereuse qu’un bandit ? Parce qu’un bandit suit au moins un intérêt personnel rationnel. Une personne stupide entrera dans votre cuisine à deux heures du matin, mettra le feu à votre grille-pain sans la moindre raison, se brûlera les sourcils au passage et ressortira en se plaignant de la fumée. Tout le monde y perd. Personne n’y gagne rien. Et comme il n’existe aucun mobile rationnel, on ne peut jamais s’en prémunir.

Comment les cases d’entreprise fabriquent de la stupidité

Si vous avez déjà passé du temps au sein d’une grande entreprise, vous connaissez la cruelle ironie du diagramme de Cipolla : les équipes dirigeantes adorent ranger les êtres humains dans quatre cases, mais elles n’utilisent presque jamais les bonnes.

Il existe tout un genre de mèmes sur Internet consacré aux quadrants d’entreprise. Enfermez dix dirigeants dans une salle de séminaire avec un tableau blanc et un plateau de croissants : en moins de vingt minutes, quelqu’un tracera deux lignes perpendiculaires, inventera deux axes totalement fictifs — « Vélocité Stratégique » contre « Alignement Transversal » — et passera les trois trimestres suivants à faire rentrer de force chaque être humain du bâtiment dans un carré.

Presque toutes ces grilles d’entreprise sont du pur théâtre. Dans toute ma carrière, en dehors du graphique de Cipolla, je n’ai vu qu’une seule autre matrice deux sur deux qui dise véritablement la vérité sur le fonctionnement des organisations.

Il y a quelques années, Simon Sinek a donné une conférence célèbre sur la manière dont les Navy SEALs sélectionnent les opérateurs de la SEAL Team Six. Ils tracent un graphique très simple avec la Performance sur l’axe vertical et la Confiance sur l’axe horizontal.

De toute évidence, personne ne veut de l’individu situé en bas à gauche, à faible performance et faible confiance, et tout le monde veut la star en haut à droite, à haute performance et haute confiance. Ce qui a fasciné Sinek, c’est ce que les SEALs ont découvert à propos des deux autres coins : ils choisiront systématiquement un opérateur de performance moyenne — voire faible — mais de haute confiance plutôt qu’un opérateur de haute performance mais de faible confiance.

Pourquoi ? Parce que dans une véritable équipe, l’élément « très performant mais peu fiable » est un poison. C’est la superstar qui atteint ses objectifs personnels en marchant sur la tête de ses coéquipiers, en accaparant les lauriers et en laissant tous les autres porter le chapeau. Regardez attentivement le graphique de Sinek et vous comprendrez qu’un individu très performant mais à faible confiance porte un nom bien plus ancien dans le livre de Cipolla : c’est un Bandit d’Entreprise.

La plupart des entreprises sont incapables de faire la différence entre un bâtisseur Intelligent et un Bandit charmant. Et comme les équipes dirigeantes ne savent mesurer ni la confiance ni le jugement, elles tentent de se protéger en inventant des Processus.

Et c’est là que naît la stupidité institutionnelle.

Prenez l’un des chapitres les plus surréalistes de l’histoire des entreprises. Pendant des années, Microsoft a mené ses évaluations annuelles selon un système rigide de classement forcé, le « stack ranking ». Dans le cadre de ce processus, chaque manager était contraint par défaut de noter son équipe selon une courbe statistique fixe — ce qui signifiait qu’à chaque cycle d’évaluation, un pourcentage prédéterminé de chaque équipe devait être placé tout en bas et poussé vers la sortie, selon l’hypothèse mathématique qu’un pourcentage fixe des recrutements devait nécessairement être mauvais.

Arrêtez-vous une seconde pour admirer la pure architecture de cette idée.

Vous pouviez être un manager ayant passé deux ans à recruter dix des ingénieurs les plus brillants de la planète — dix personnes dignes du panthéon. Peu importait. Le tableur exigeait un sacrifice, si bien que l’un de vos génies devait être étiqueté comme un échec.

Que s’est-il passé ensuite ? Exactement ce que toute personne saine d’esprit aurait prédit. Les ingénieurs brillants ont refusé de rejoindre des équipes qui comptaient déjà des ingénieurs brillants, car s’asseoir à côté d’un génie signifiait que vous risquiez d’être celui qu’on jetterait par-dessus bord. Les gens ont cessé d’aider les autres équipes. Les collègues ont commencé à retenir l’information pour empêcher leurs pairs de leur faire de l’ombre. Toute une décennie d’innovation a été silencieusement étranglée par une formule des ressources humaines.

Posez-vous la question de Cipolla : Qui a gagné quoi que ce soit grâce à ce processus ?
Pas les ingénieurs. Pas les managers. Pas les clients. Pas les actionnaires. C’était de la pure stupidité industrielle de coin inférieur gauche — déguisée en « science rigoureuse du management ».

L’entrée en scène de l’IA : supprimer la limitation de vitesse des mauvaises idées

Durant les derniers millénaires, l’humanité disposait d’un mécanisme de sécurité intégré contre la Quatrième Loi de Cipolla : faire les choses demandait un effort.

Avant l’IA, la stupidité avait une limitation de vitesse naturelle. Même la personne la plus infatigablement contre-productive de votre entreprise n’avait que dix doigts et une journée de travail de huit heures. Il y avait une limite au nombre de notes de cinq pages qu’elle pouvait rédiger, au nombre de présentations de réorganisation inutiles qu’elle pouvait mettre en forme et au nombre de collègues qu’elle pouvait distraire avant le vendredi après-midi.

Puis nous avons inventé l’IA générative — et nous avons coupé les freins de la voiture.

Regardez autour de vous dans le monde des affaires aujourd’hui et vous assisterez à une explosion absolue de gens faisant des choses inutiles dix mille fois plus vite qu’auparavant.

Quelqu’un a une minuscule idée à moitié formée un mardi matin. Au lieu d’y réfléchir pendant dix minutes, il demande à une IA de transformer trois puces en un majestueux « Document de Vision Stratégique » de douze pages. Il l’envoie à vingt collègues. Ces vingt collègues jettent un coup d’œil aux douze pages, lèvent les yeux au ciel et demandent à leur IA de le résumer à nouveau en trois puces.

Songez à la physique de ce qui vient de se produire. Vingt personnes ont perdu vingt minutes de leur journée, un centre de données quelque part en Virginie a fait bouillir l’équivalent d’une piscine d’eau pour faire tourner les GPU, et pas une seule goutte de véritable pensée humaine n’est passée d’un cerveau à un autre.

Et ce n’est là que la version polie. Sur tout Internet, des entreprises lâchent des armées d’« agents autonomes de prospection par IA » pour inonder des millions de boîtes de réception de messages faussement personnels — réduisant en cendres leur propre réputation tout en rendant le courrier électronique inutilisable pour tous les autres. Les équipes produit génèrent des montagnes de fonctionnalités que personne n’a demandées et du code que personne ne comprend, simplement parce que le bouton pour les générer est gratuit.

La grande illusion des conseils d’administration

Cela nous amène à la plus grande illusion qui règne aujourd’hui dans les salles de conseil : la croyance selon laquelle brancher l’IA sur vos processus existants va rendre votre entreprise intelligente.

Partout où vous allez, les dirigeants paniquent : « Mettez de l’IA dans notre service client ! Mettez de l’IA dans notre processus de planification ! Mettez de l’IA dans nos évaluations de performance ! »

Écoutez bien : si votre processus est déjà brisé — si votre parcours d’assistance est conçu pour piéger les clients dans un labyrinthe jusqu’à ce qu’ils abandonnent, si votre processus produit comporte dix-neuf strates de comités validant des présentations, si votre culture récompense les Bandits d’Entreprise et punit l’honnêteté —, brancher l’IA sur ce processus ne réparera pas votre entreprise.

Cela rendra simplement votre processus stupide encore plus stupide, à la vitesse de la lumière.

Imaginez que Microsoft, au sommet de sa folie du classement forcé, ait branché un agent d’IA sur ses ressources humaines afin qu’il classe et licencie automatiquement un pourcentage de chaque équipe d’ingénieurs tous les lundis matin. Aurait-ce été de la « transformation numérique » ? Ou simplement un moyen plus rapide de mettre le feu à la maison ?

La technologie n’a jamais, pas une seule fois, réparé une philosophie brisée. Quand on fixe un moteur de Formule 1 sur un caddie de supermarché à la roue tordue, on ne gagne pas le Grand Prix. On s’écrase simplement contre le lampadaire du parking à trois cents kilomètres à l’heure.

Pourquoi je reste optimiste : l’IA entre les mains des Intelligenti

En lisant tout cela, vous pourriez penser que je suis cynique à l’égard de l’IA.

C’est tout le contraire. Une fois que l’on comprend les lois de Cipolla, on réalise que reprocher à l’IA le déluge d’absurdités en entreprise revient à blâmer le marteau parce que quelqu’un s’est tapé sur le pouce.

L’IA est un outil. C’est ce qu’elle est, et c’est pourquoi elle existe.

Un outil n’a ni ego, ni morale, ni quadrant propre. C’est un pur multiplicateur de l’être humain qui le tient. Confiez-le à un Bandit, et il s’en servira pour extraire davantage tout en donnant moins. Confiez-le à un processus stupide, et il fabriquera du chaos à l’échelle industrielle.

Mais confiez exactement ce même outil à quelqu’un situé dans le quadrant Intelligent de Cipolla — quelqu’un de non stupide, animé d’une intention non stupide — et la magie opère.

Rappelez-vous ce qui définit les Intelligenti dans le monde de Cipolla, et ce qui définit le coin supérieur droit du graphique des Navy SEALs de Sinek : une haute confiance, un jugement clair et des actions qui créent une valeur réelle pour soi-même parce qu’elles créent une valeur réelle pour les autres.

Lorsque de telles personnes s’emparent de l’IA, elles ne l’utilisent pas pour générer des notes de douze pages que personne ne veut lire, et elles ne la boulonnent pas sur la bureaucratie d’hier. Elles repartent des premiers principes. Elles se demandent comment quelque chose devrait réellement fonctionner pour un autre être humain. Elles éliminent les cases ridicules, le théâtre des comités et la friction artificielle. Puis elles utilisent l’IA comme le levier qu’elle était destinée à être — permettant à un petit groupe de bâtisseurs de haute confiance, ou même à un seul créateur à l’esprit lucide, de construire des choses d’une utilité et d’une beauté extraordinaires pour le monde.

En fin de compte, l’ère de l’IA n’est nullement un test de l’intelligence des machines. Les machines sont déjà largement assez intelligentes pour ce que nous leur demandons.

C’est un test de la nôtre.

Vous pouvez utiliser l’outil le plus puissant de l’histoire humaine pour automatiser vos mauvaises habitudes et démultiplier le bruit. Ou vous pouvez entrer dans le coin supérieur droit de Cipolla — réparer la façon dont les choses fonctionnent, prendre soin de l’être humain de l’autre côté et bâtir quelque chose qui laisse chaque personne dans la pièce dans une meilleure situation qu’auparavant.