Gi aldri en superdatamaskin til feil kvadrant

Det finnes en liten bok skrevet i 1976 som forklarer mer om hva som foregår inne i teknologiselskaper i dag enn alle AI-keynotes fra de siste to årene til sammen.

Den ble skrevet av Carlo Maria Cipolla, en italiensk økonomisk historiker som delte livet sitt mellom Pavia og Berkeley. Cipolla brukte tiår på å studere hvordan økonomier stiger og faller, hvordan valutaer kollapser, og hvordan imperier klarer å ødelegge fullt fungerende ting. Til slutt kom han frem til en konklusjon så frigjørende – og så politisk ukorrekt – at han først bare trykket boken på engelsk for en liten vennekrets.

Du trenger ikke mørke konspirasjoner for å forklare hvorfor verden er et rot, argumenterte Cipolla. Du trenger ikke engang ondskap. Du trenger bare å forstå den sterkeste enkeltkraften i menneskehetens historie: dumhet.

Før noen blir fornærmet: Cipolla brukte ikke ordet som en skjellsord. Han brukte det slik en fysiker snakker om tyngdekraften. Og et halvt århundre senere har vi nettopp gjort noe Cipolla aldri fikk oppleve: vi har gitt menneskelig dumhet en uendelig forsterkningsmotor kalt kunstig intelligens.

Cipollas fem lover (kort og presist)

For å forstå hvorfor det betyr noe akkurat nå, må du forstå Cipollas fem lover – for det tar mindre enn to minutter å lære dem, og når du først kan dem, forklarer de nesten alt du ser på jobb.

1. Den første loven: Alltid og uunngåelig undervurderer alle antallet dumme individer i omløp. Uansett hvor høyt anslaget ditt er, ligger du fortsatt for lavt. Mennesker du en gang antok var rasjonelle og sindige, vil i det mest ubeleilige øyeblikket overraske deg.
2. Den andre loven: Sannsynligheten for at en bestemt person er dum, er fullstendig uavhengig av enhver annen egenskap ved denne personen. Dette er loven som sårer flest egoer. Enten du tester vaktmestere, mellomledere, gründere i Silicon Valley, firestjerners generaler eller nobelprisvinnere, er nøyaktig samme andel mennesker i hver gruppe dumme. Vitnemål, rikdom og fine titler reduserer ikke dumheten; de gir den bare en større megafon.
3. Den tredje (og gylne) loven: En dum person er en person som påfører en annen person eller en gruppe personer tap uten selv å oppnå noen gevinst, og til og med muligens påfører seg selv tap.
4. Den fjerde loven: Ikke-dumme mennesker undervurderer alltid dumme individers skadelige kraft. Spesielt glemmer vi stadig at det til enhver tid, på ethvert sted og under enhver omstendighet alltid viser seg å være en kostbar feil å ha med dumme mennesker å gjøre.
5. Den femte loven: En dum person er den farligste typen person – enda farligere enn en banditt.

For å vise hvorfor den tredje og den femte loven er sanne, tegnet Cipolla et enkelt koordinatsystem som måler enhver menneskelig handling ut fra to spørsmål: Hvor mye hjelper eller skader det deg selv? og Hvor mye hjelper eller skader det andre?

FIG. 01 · CARLO MARIA CIPOLLAS FIRE KVADRANTER FOR MENNESKELIG HANDLING (1976)HOLD PEKEREN OVER ELLER TRYKK PÅ EN KVADRANT FOR Å INSPISERE KOORDINATENE

Se på de fire kvadrantene som trer frem:

Hvis du gjør noe som gagner deg selv og gagner menneskene rundt deg, befinner du deg i øverste høyre hjørne: De intelligente (Gli Intelligenti). Du spiller et positivsum-spill. Du forlater rommet i bedre stand enn du fant det.

Hvis du gjør noe som skader deg selv mens det skaper en gevinst for noen andre, er du i øverste venstre hjørne: De hjelpeløse (Gli Sprovveduti) – kanskje generøse, eller rett og slett naive.

Hvis du gjør noe som gagner deg selv ved å påføre noen andre et tap, sitter du i nederste høyre hjørne: Banditten (I Banditi). Ingen liker selvsagt en banditt. Hvis en banditt raner deg i et smug og tar hundre dollar, er du hundre dollar fattigere. Men legg merke til noe fascinerende: banditten er hundre dollar rikere. Det finnes en logikk i det. Du kan forutsi hva en banditt vil ha, du kan låse dørene dine for en banditt, og du kan til og med forhandle med en banditt.

Og så har vi nederste venstre hjørne: De dumme (Gli Stupidi).

Hvorfor er en dum person farligere enn en banditt? Fordi en banditt i det minste følger rasjonell egeninteresse. En dum person vil gå inn på kjøkkenet ditt klokken to om natten, sette fyr på brødristeren din uten noen som helst grunn, svi av sine egne øyenbryn i prosessen og gå ut mens han klager over røyken. Alle taper. Ingenting vinnes. Og fordi det ikke finnes noe rasjonelt motiv, kan du aldri forsvare deg mot det.

Hvordan bedriftsbokser produserer dumhet

Hvis du noen gang har tilbrakt tid i et stort selskap, kjenner du den grusomme ironien i Cipollas diagram: ledergrupper elsker å plassere mennesker i fire bokser, men de bruker nesten aldri de riktige.

Det finnes en hel sjanger med internettmemer viet bedriftskvadranter. Lås ti direktører inne på et møterom med en whiteboard og et fat croissanter, og innen tjue minutter vil noen trekke to vinkelrette linjer, finne på to fullstendig oppdiktede akser – «Strategisk hastighet» kontra «Tverrfunksjonell samkjøring» – og bruke de neste tre kvartalene på å dytte hvert eneste menneske i bygningen inn i en firkant.

Nesten alle disse bedriftsrutenettene er rent teater. I hele min karriere har jeg, bortsett fra Cipollas diagram, bare sett ett annet 2×2-diagram som faktisk forteller sannheten om hvordan organisasjoner fungerer.

For noen år siden holdt Simon Sinek et berømt foredrag om hvordan Navy SEALs velger ut operatører til SEAL Team Six. De tegner et enkelt diagram med Prestasjon på den vertikale aksen og Tillit på den horisontale aksen.

FIG. 02 · SIMON SINEK / U.S. NAVY SEALS MATRISE FOR PRESTASJON KONTRA TILLITHOLD PEKEREN OVER ELLER TRYKK PÅ EN KVADRANT FOR Å SE DENS INNVIRKNING PÅ TEAMET

Selvsagt ønsker ingen personen nederst til venstre med lav prestasjon og lav tillit, og alle ønsker stjernen øverst til høyre med høy prestasjon og høy tillit. Det som fascinerte Sinek, var hva SEAL-styrkene oppdaget om de to andre hjørnene: de velger en person med middels – eller til og med lav – prestasjon og høy tillit fremfor en person med høy prestasjon og lav tillit hver eneste gang.

Hvorfor? Fordi i et ekte team er «høy prestasjon med lav tillit» ren gift. Han er superstjernen som når sine personlige mål ved å tråkke på lagkameratenes nakke, hamstre æren og la alle andre ta støyten. Ser du nærmere på Sineks diagram, innser du at en høytpresterende person med lav tillit har et mye eldre navn i Cipollas bok: han er en bedriftsbanditt.

De fleste selskaper er elendige til å se forskjell på en intelligent bygger og en sjarmerende banditt. Og fordi ledergrupper ikke vet hvordan man måler tillit eller dømmekraft, prøver de å beskytte seg selv ved å finne opp prosesser.

Og det er der institusjonell dumhet fødes.

Ta et av de mestuvirkelige kapitlene i næringslivshistorien. I årevis kjørte Microsoft sine medarbeiderevalueringer etter et rigid «stack ranking»-system. Under denne prosessen ble hver leder som standard tvunget til å rangere teamet sitt etter en fast statistisk kurve – noe som betydde at en fastsatt prosentandel av hvert eneste team ved hver evalueringssyklus måtte plasseres på bunnen og fases ut døren, ut fra den matematiske antagelsen at en fast prosentandel av nyansettelser må være feilansettelser.

Stopp opp et sekund og beundre den rene arkitekturen i den ideen.

Du kunne være en leder som hadde brukt to år på å rekruttere ti av de skarpeste ingeniørene på jorden – ti mennesker som hørte hjemme i Hall of Fame. Det spilte ingen rolle. Regnearket krevde et offer, så ett av geniene dine måtte stemples som en fiasko.

Hva skjedde videre? Nøyaktig det ethvert fornuftig menneske ville forutsi. Smarte ingeniører nektet å bli med i team som allerede hadde smarte ingeniører, fordi det å sitte ved siden av et geni betydde at du kunne bli den som ble dyttet over bord. Folk sluttet å hjelpe andre team. Kolleger holdt tilbake informasjon så ikke likemennene deres skulle overgå dem. Et helt tiår med innovasjon ble stille kvalt av en HR-formel.

Still deg selv Cipollas spørsmål: Hvem tjente på den prosessen?
Ikke ingeniørene. Ikke lederne. Ikke kundene. Ikke aksjonærene. Det var ren dumhet i industriell skala fra nederste venstre hjørne – kledd ut som «streng ledelsesvitenskap».

AI trer inn: Fartsgrensen for dårlige ideer fjernes

I de siste par tusen årene hadde menneskeheten én innebygd sikkerhetsmekanisme mot Cipollas fjerde lov: det krevde innsats å gjøre ting.

Før AI hadde dumhet en naturlig fartsgrense. Selv den mest utrettelig kontraproduktive personen i selskapet ditt hadde bare ti fingre og en åttetimers arbeidsdag. Det var en grense for hvor mange femsiders notater de kunne skrive, hvor mange unødvendige omorganiseringspresentasjoner de kunne formatere, og hvor mange mennesker de kunne distrahere før fredag ettermiddag.

Så fant vi opp generativ AI – og fjernet bremsene på bilen.

Se deg rundt i næringslivet i dag, og du kan være vitne til en total eksplosjon av mennesker som gjør meningsløse ting ti tusen ganger raskere enn før.

Noen får en liten, halvferdig tanke en tirsdag morgen. I stedet for å tenke den gjennom i ti minutter, ber de en AI om å forvandle tre kulepunkter til et majestetisk tolvsiders «Strategisk visjonsdokument». De sender det til tjue kolleger. Disse tjue kollegene kaster ett blikk på de tolv sidene, himler med øynene og ber sin AI om å oppsummere det tilbake til tre kulepunkter.

Tenk på fysikken i det som nettopp skjedde. Tjue mennesker mistet tjue minutter av dagen sin, et datasenter et sted i Virginia kokte bort et svømmebasseng med vann for å drive GPU-ene, og ikke en eneste dråpe ekte menneskelig innsikt flyttet seg fra én hjerne til en annen.

Og det er bare den høflige versjonen. Over hele internett slipper selskaper løs hærer av «autonome AI-salgsagenter» for å oversvømme millioner av innbokser med falskt personlige meldinger – de brenner sitt eget omdømme mens de gjør e-post ubrukelig for alle andre. Produktteam genererer fjell av funksjoner ingen har bedt om og kode ingen forstår, rett og slett fordi knappen for å generere det er gratis.

Den store vrangforestillingen i styrerommet

Dette bringer oss til den aller største vrangforestillingen i bedriftenes styrerom akkurat nå: troen på at det å koble AI på den eksisterende prosessen din vil gjøre selskapet ditt smart.

Overalt hvor du går, får ledere panikk: «Sett AI inn i kundesupporten vår! Sett AI inn i planleggingsprosessen vår! Sett AI inn i medarbeidersamtalene våre!»

Lytt nøye: hvis prosessen din allerede er ødelagt – hvis supportflyten din er designet for å fange kunder i en labyrint slik at de gir opp, hvis produktprosessen din består av nitten lag med komiteer som godkjenner lysbildepresentasjoner, hvis kulturen din belønner bedriftsbanditter og straffer ærlighet – vil ikke det å koble AI til den prosessen fikse selskapet ditt.

Det vil bare gjøre den dumme prosessen din enda dummere, med lysets hastighet.

Se for deg om Microsoft, på toppen av stack-ranking-galskapen sin, hadde koblet en AI-agent til HR slik at den automatisk kunne rangere og sparke en prosentandel av hvert ingeniørteam hver mandag morgen. Ville det vært «digital transformasjon»? Eller ville det vært en raskere måte å brenne ned huset på?

Teknologi har aldri noen gang fikset en ødelagt filosofi. Når du fester en Formel 1-motor til en handlevogn med et skjevt hjul, vinner du ikke Grand Prix. Du treffer bare lyktestolpen på parkeringsplassen i tre hundre kilometer i timen.

Hvorfor jeg fortsatt er optimist: AI i hendene på Gli Intelligenti

Nå leser du kanskje alt dette og tror at jeg er kynisk til AI.

Tvert imot. Når du først forstår Cipollas lover, innser du at det å skylde på AI for flommen av bedriftstull er som å skylde på en hammer fordi noen slo seg på tommelen.

AI er et verktøy. Det er hva det er, og det er derfor det eksisterer.

Et verktøy har intet ego, ingen moral og ingen egen kvadrant. Det er en ren multiplikator av mennesket som holder det. Gi det til en banditt, og de vil bruke det til å hente ut mer mens de gir mindre. Gi det til en dum prosess, og det vil produsere kaos i industriell skala.

Men gi nøyaktig det samme verktøyet til noen i Cipollas intelligente kvadrant – noen ikke-dumme, med et ikke-dumt formål – og magi oppstår.

Husk hva som definerer Intelligenti i Cipollas verden, og hva som definerer øverste høyre hjørne i Sineks Navy SEALs-diagram: høy tillit, klar dømmekraft og handlinger som skaper reell verdi for deg selv ved å skape reell verdi for andre.

Når slike mennesker tar i bruk AI, bruker de den ikke til å generere tolvsiders notater som ingen vil lese, og de bolter den ikke fast på gårsdagens byråkrati. De starter ut fra første prinsipper. De spør hvordan noe faktisk bør fungere for et annet menneske. De skreller bort de tåpelige boksene, komitéteateret og den kunstige friksjonen. Og deretter bruker de AI som den vektstangen den var ment å være – slik at en liten gruppe pålitelige byggere, eller til og med en enkelt klarsynt skaper, kan bygge ting av ekstraordinær nytte og skjønnhet for verden.

Til syvende og sist er ikke AI-alderen egentlig en test av maskinell intelligens i det hele tatt. Maskinene er mer enn smarte nok til det vi ber dem om.

Det er en test av vår egen.

Du kan bruke det kraftigste verktøyet i menneskehetens historie til å automatisere uvanene dine og multiplisere støyen. Eller du kan tre inn i Cipollas øverste høyre hjørne – fikse hvordan ting fungerer, bry deg om mennesket på den andre siden og bygge noe som etterlater alle i rommet bedre stilt enn før.