Overlad aldrig en supercomputer til den forkerte kvadrant

Der findes en lille bog skrevet i 1976, som forklarer mere om, hvad der foregår inde i teknologivirksomheder i dag, end samtlige AI-keynotes fra de seneste to år tilsammen.

Den blev skrevet af Carlo Maria Cipolla, en italiensk økonomisk historiker, der delte sit liv mellem Pavia og Berkeley. Cipolla brugte årtier på at studere, hvordan økonomier rejser sig og falder, hvordan valutaer bryder sammen, og hvordan imperier formår at ødelægge fuldkommen velfungerende ting. Til sidst nåede han frem til en konklusion så befriende – og så politisk ukorrekt – at han i starten kun trykte bogen på engelsk til en lille kreds af venner.

Man behøver ikke mørke konspirationer for at forklare, hvorfor verden er et rod, argumenterede Cipolla. Man behøver ikke engang ondskab. Man skal bare forstå den stærkeste enkeltstående kraft i menneskehedens historie: dumhed.

Før nogen bliver stødt: Cipolla brugte ikke ordet som en fornærmelse. Han brugte det på samme måde, som en fysiker taler om tyngdekraft. Og et halvt århundrede senere har vi netop gjort noget, Cipolla aldrig nåede at opleve: vi har givet den menneskelige dumhed en uendelig forstærkningsmotor kaldet kunstig intelligens.

Cipollas fem love (kort og præcist)

For at forstå, hvorfor det har betydning lige nu, er man nødt til at forstå Cipollas fem love – for det tager mindre end to minutter at lære dem, og når man først kender dem, forklarer de næsten alt, hvad man ser på arbejdet.

1. Den første lov: Altid og uundgåeligt undervurderer alle antallet af dumme individer i omløb. Uanset hvor højt dit skøn er, skyder du stadig for lavt. Mennesker, du engang antog var rationelle og besindige, vil på det mest ubelejlige tidspunkt overraske dig.
2. Den anden lov: Sandsynligheden for, at en bestemt person er dum, er fuldstændig uafhængig af enhver anden egenskab hos denne person. Dette er loven, der sårer flest egoer. Uanset om du tester pedeller, mellemledere, Silicon Valley-stiftere, firestjernede generaler eller nobelprismodtagere, er nøjagtig den samme andel af mennesker i hver gruppe dumme. Eksaminer, rigdom og fine titler mindsker ikke dumheden; de giver den bare en større megafon.
3. Den tredje (og gyldne) lov: En dum person er en person, der påfører en anden person eller en gruppe personer tab uden selv at opnå nogen gevinst, og endda muligvis påfører sig selv tab.
4. Den fjerde lov: Ikke-dumme mennesker undervurderer altid dumme individers skadelige kraft. Især glemmer vi hele tiden, at det til enhver tid, på ethvert sted og under enhver omstændighed altid viser sig at være en bekostelig fejltagelse at handle med eller omgås dumme mennesker.
5. Den femte lov: En dum person er den farligste type person – endnu farligere end en bandit.

For at vise, hvorfor den tredje og den femte lov er sande, tegnede Cipolla et enkelt koordinatsystem, der måler enhver menneskelig handling ud fra to spørgsmål: Hvor meget hjælper eller skader det dig selv? og Hvor meget hjælper eller skader det andre?

FIG. 01 · CARLO MARIA CIPOLLAS FIRE KVADRANTER FOR MENNESKELIG HANDLING (1976)HOLD MARKØREN OVER ELLER TRYK PÅ EN KVADRANT FOR AT INSPICERE DENS KOORDINATER

Se på de fire kvadranter, der træder frem:

Hvis du gør noget, der gavner dig selv og gavner menneskene omkring dig, befinder du dig i øverste højre hjørne: De intelligente (Gli Intelligenti). Du spiller et positivsum-spil. Du efterlader rummet i bedre stand, end du fandt det.

Hvis du gør noget, der skader dig selv, mens det skaber en gevinst for en anden, er du i øverste venstre hjørne: De hjælpeløse (Gli Sprovveduti) – måske generøse, eller blot naive.

Hvis du gør noget, der gavner dig selv ved at påføre en anden et tab, sidder du i nederste højre hjørne: Banditten (I Banditi). Ingen bryder sig naturligvis om en bandit. Hvis en bandit overfalder dig i en gyde og tager hundrede dollars, er du hundrede dollars fattigere. Men læg mærke til noget fascinerende: banditten er hundrede dollars rigere. Der er en logik i det. Man kan forudsige, hvad en bandit vil have, man kan låse sine døre for en bandit, og man kan endda forhandle med en bandit.

Og så er der nederste venstre hjørne: De dumme (Gli Stupidi).

Hvorfor er en dum person farligere end en bandit? Fordi en bandit i det mindste følger rationel egeninteresse. En dum person vil gå ind i dit køkken klokken to om natten, sætte ild til din brødrister uden nogen som helst grund, svide sine egne øjenbryn af i processen og gå derfra, mens han klager over røgen. Alle taber. Intet vindes. Og fordi der ikke er noget rationelt motiv, kan man aldrig forsvare sig imod det.

Hvordan virksomhedskasser fremstiller dumhed

Hvis du nogensinde har tilbragt tid i en større virksomhed, kender du den grusomme ironi i Cipollas diagram: ledergrupper elsker at putte mennesker ind i fire kasser, men de bruger næsten aldrig de rigtige.

Der findes en hel genre af internetmemes dedikeret til virksomhedskvadranter. Lås ti direktører inde i et mødelokale med et whiteboard og et fad croissanter, og inden for tyve minutter vil nogen tegne to vinkelrette linjer, opfinde to fuldstændig frit opfundne akser – “Strategisk hastighed” kontra “Tværfunktionel forankring” – og bruge de næste tre kvartaler på at skubbe hvert eneste menneske i bygningen ind i en firkant.

Næsten alle disse virksomhedsgitre er rent teater. I hele min karriere har jeg, bortset fra Cipollas diagram, kun set ét andet 2×2-diagram, der rent faktisk fortæller sandheden om, hvordan organisationer fungerer.

For år tilbage holdt Simon Sinek et berømt foredrag om, hvordan Navy SEALs udvælger operatører til SEAL Team Six. De tegner et enkelt diagram med Præstation på den lodrette akse og Tillid på den vandrette akse.

FIG. 02 · SIMON SINEK / U.S. NAVY SEALS MATRIX FOR PRÆSTATION KONTRA TILLIDHOLD MARKØREN OVER ELLER TRYK PÅ EN KVADRANT FOR AT SE DENS INDVIRKNING PÅ TEAMET

Naturligvis ønsker ingen personen nederst til venstre med lav præstation og lav tillid, og alle ønsker stjernen øverst til højre med høj præstation og høj tillid. Det, der fascinerede Sinek, var, hvad SEALs opdagede om de to andre hjørner: de vælger en person med middel – eller endda lav – præstation og høj tillid frem for en person med høj præstation og lav tillid hver eneste gang.

Hvorfor? Fordi i et rigtigt team er “toppræstation med lav tillid” ren gift. Han er superstjernen, der når sine personlige mål ved at træde på sine holdkammeraters nakke, hamstre æren og lade alle andre tage skraldet. Ser man nærmere på Sineks diagram, indser man, at en højtydende person med lav tillid har et meget ældre navn i Cipollas bog: han er en virksomhedsbandit.

De fleste virksomheder er elendige til at kende forskel på en intelligent bygger og en charmerende bandit. Og fordi ledergrupper ikke ved, hvordan man måler tillid eller dømmekraft, forsøger de at beskytte sig selv ved at opfinde processer.

Og det er dér, institutionel dumhed fødes.

Tag et af de mest surrealistiske kapitler i erhvervshistorien. I årevis kørte Microsoft sine medarbejderevalueringer efter et stift “stack ranking”-system. Under denne proces blev hver leder som standard tvunget til at bedømme sit team ud fra en fast statistisk kurve – hvilket betød, at en fast procentdel af hvert eneste team ved hver evalueringscyklus skulle placeres i bunden og ledes ud ad døren, ud fra den matematiske antagelse, at en fast procentdel af nyansættelser må være fejlansættelser.

Stop op et sekund og beundr den blotte arkitektur i den idé.

Du kunne være en leder, der havde brugt to år på at rekruttere ti af de dygtigste ingeniører på jorden – ti mennesker, der hørte til i Hall of Fame. Det var ligegyldigt. Regnearket krævede et offer, så et af dine genier måtte stemples som en fiasko.

Hvad skete der så? Præcis hvad ethvert fornuftigt menneske ville forudsige. Kloge ingeniører nægtede at slutte sig til teams, der allerede havde kloge ingeniører, fordi det at sidde ved siden af et geni betød, at du kunne blive den, der blev skubbet over bord. Folk holdt op med at hjælpe andre teams. Kolleger tilbageholdt information, så deres ligemænd ikke skulle overstråle dem. Et helt årti med innovation blev stille kvalt af en HR-formel.

Stil dig selv Cipollas spørgsmål: Hvem vandt ved den proces?
Ikke ingeniørerne. Ikke lederne. Ikke kunderne. Ikke aktionærerne. Det var ren dumhed i industriel skala fra nederste venstre hjørne – klædt ud som “streng ledelsesvidenskab”.

Ind træder AI: Fjernelsen af fartgrænsen for dårlige idéer

I de sidste par tusinde år havde menneskeheden én indbygget sikkerhedsmekanisme mod Cipollas fjerde lov: det krævede en indsats at gøre ting.

Før AI havde dumhed en naturlig fartgrænse. Selv den mest utrætteligt kontraproduktive person i din virksomhed havde kun ti fingre og en otte timers arbejdsdag. Der var en grænse for, hvor mange femsiders notater de kunne skrive, hvor mange unødvendige omorganiseringspræsentationer de kunne formatere, og hvor mange mennesker de kunne distrahere inden fredag eftermiddag.

Så opfandt vi generativ AI – og fjernede bremserne på bilen.

Se dig omkring i erhvervslivet i dag, og du kan betragte en regulær eksplosion af mennesker, der foretager sig formålsløse ting med titusind gange deres tidligere hastighed.

Nogen får en lille, halvfærdig tanke en tirsdag morgen. I stedet for at tænke den igennem i ti minutter beder de en AI om at forvandle tre punkter til et majestætisk tolvsiders “Strategisk visionsdokument”. De sender det til tyve kolleger. Disse tyve kolleger kaster ét blik på de tolv sider, himler med øjnene og beder deres AI om at opsummere det tilbage til tre punkter.

Tænk over fysikken i det, der lige skete. Tyve mennesker mistede tyve minutter af deres dag, et datacenter et sted i Virginia kogte et svømmebassin fuldt af vand for at drive GPU'erne, og ikke en eneste dråbe ægte menneskelig indsigt bevægede sig fra én hjerne til en anden.

Og det er bare den høflige version. Over hele internettet slipper virksomheder hære af “autonome AI-opsøgende agenter” løs for at oversvømme millioner af indbakker med falske personlige beskeder – de brænder deres eget omdømme af, mens de gør e-mail ubrugelig for alle andre. Produktteams genererer bjerge af funktioner, ingen har bedt om, og kode, ingen forstår, simpelthen fordi knappen til at generere det er gratis.

Den store vrangforestilling i bestyrelseslokalet

Dette bringer os til den absolut største vrangforestilling i virksomhedernes bestyrelseslokaler lige nu: troen på, at det at koble AI på din eksisterende proces vil gøre din virksomhed klog.

Overalt hvor man kommer, går direktører i panik: “Sæt AI ind i vores kundesupport! Sæt AI ind i vores planlægningsproces! Sæt AI ind i vores medarbejdersamtaler!”

Lyt nøje: hvis din proces allerede er i stykker – hvis dit supportflow er designet til at fange kunder i en labyrint, så de giver op, hvis din produktproces består af nitten lag af udvalg, der godkender præsentationer, hvis din kultur belønner virksomhedsbanditter og straffer ærlighed – vil det at sætte strøm med AI til den proces ikke redde din virksomhed.

Det vil bare gøre din dumme proces endnu dummere, med lysets hastighed.

Forestil dig, hvis Microsoft på toppen af sit stack-ranking-vanvid havde koblet en AI-agent på HR, så den automatisk kunne rangordne og fyre en procentdel af hvert ingeniørteam hver mandag morgen. Ville det have været “digital transformation”? Eller ville det have været en hurtigere måde at brænde huset ned på?

Teknologi har aldrig nogensinde repareret en ødelagt filosofi. Når man spænder en Formel 1-motor på en indkøbsvogn med et skævt hjul, vinder man ikke Grand Prix. Man rammer bare lygtepælen på parkeringspladsen med trehundrede kilometer i timen.

Hvorfor jeg stadig er optimist: AI i hænderne på Gli Intelligenti

Nu læser du måske alt dette og tænker, at jeg er kynisk omkring AI.

Tværtimod. Når man først forstår Cipollas love, indser man, at det at give AI skylden for floden af virksomhedsvrøvl svarer til at give hammeren skylden, fordi nogen slog sig selv over tommelfingeren.

AI er et værktøj. Det er, hvad det er, og det er derfor, det eksisterer.

Et værktøj har intet ego, ingen moral og ingen egen kvadrant. Det er en ren multiplikator af det menneske, der holder det. Giv det til en bandit, og vedkommende vil bruge det til at udtrække mere og give mindre. Giv det til en dum proces, og det vil fremstille kaos i industriel målestok.

Men giv nøjagtig det samme værktøj til nogen i Cipollas intelligente kvadrant – en ikke-dum person med et ikke-dumt formål – og der opstår magi.

Husk, hvad der definerer Intelligenti i Cipollas verden, og hvad der definerer øverste højre hjørne i Sineks Navy SEALs-diagram: høj tillid, klar dømmekraft og handlinger, der skaber reel værdi for dig selv ved at skabe reel værdi for andre.

Når sådanne mennesker tager AI i hånden, bruger de den ikke til at generere tolvsiders notater, som ingen gider læse, og de bolter den ikke fast på gårsdagens bureaukrati. De begynder ud fra første principper. De spørger, hvordan noget rent faktisk bør fungere for et andet menneske. De skræller de fjollede kasser, udvalgsteatret og den kunstige friktion væk. Og derefter bruger de AI som den løftestang, den var skabt til at være – så en lille gruppe betroede byggere, eller endda en enkelt klarsynet skaber, kan bygge ting af ekstraordinær nytte og skønhed til verden.

I sidste ende er AI-alderen slet ikke en test af maskinel intelligens. Maskinerne er mere end kloge nok til det, vi beder dem om.

Det er en test af vores.

Du kan bruge det mest kraftfulde værktøj i menneskehedens historie til at automatisere dine dårlige vaner og multiplicere støjen. Eller du kan træde ind i Cipollas øverste højre hjørne – rette op på, hvordan tingene fungerer, bekymre dig om mennesket på den anden side og bygge noget, der efterlader alle i rummet bedre stillet end før.