Nikdy nesvěřujte superpočítač nesprávnému kvadrantu

Existuje útlá knížka napsaná v roce 1976, která o tom, co se dnes děje uvnitř technologických firem, vysvětluje víc než všechny přednášky o umělé inteligenci za poslední dva roky dohromady.

Napsal ji Carlo Maria Cipolla, italský hospodářský historik, který svůj život dělil mezi Pavii a Berkeley. Cipolla strávil desítky let zkoumáním toho, jak ekonomiky rostou a padají, jak se hroutí měny a jak impéria dokážou zničit dokonale fungující věci. Nakonec dospěl k závěru tak osvobozujícímu – a tak politicky nekorektnímu –, že knihu nejprve vytiskl v angličtině jen pro úzký kruh přátel.

K vysvětlení toho, proč je svět v nepořádku, nepotřebujete temná spiknutí, tvrdil Cipolla. Nepotřebujete ani zlomyslnost. Stačí pochopit jedinou nejmocnější sílu v lidských dějinách: hloupost.

Než se někdo urazí: Cipolla to slovo nepoužíval jako nadávku. Používal ho tak, jako fyzik mluví o gravitaci. A o půl století později jsme právě udělali něco, čeho se Cipolla nedožil: dali jsme lidské hlouposti do rukou nekonečný zesilovač zvaný umělá inteligence.

Cipollových pět zákonů (stručně a přesně)

Abyste pochopili, proč na tom právě teď tolik záleží, musíte znát Cipollových pět zákonů – protože naučit se je trvá méně než dvě minuty, a jakmile je znáte, vysvětlují téměř vše, co vidíte v práci.

1. První zákon: Vždy a nevyhnutelně každý podceňuje počet hloupých jedinců v oběhu. Bez ohledu na to, jak vysoký je váš odhad, stále jste při zemi. Lidé, které jste kdysi považovali za racionální a rozvážné, vás v tu nejnevhodnější možnou chvíli překvapí.
2. Druhý zákon: Pravděpodobnost, že je určitá osoba hloupá, je zcela nezávislá na jakékoli jiné vlastnosti této osoby. Tohle je zákon, který nejvíce zraňuje ega. Ať už testujete školníky, střední manažery, zakladatele ze Silicon Valley, čtyřhvězdičkové generály nebo nositele Nobelovy ceny, v každé skupině je hloupý naprosto stejný zlomek lidí. Tituly, bohatství a vznešené funkce hloupost nesnižují; jen jí dávají větší megafon.
3. Třetí (a zlatý) zákon: Hloupý člověk je ten, kdo způsobuje ztráty jinému člověku nebo skupině lidí, aniž by z toho sám měl jakýkoli prospěch, a dokonce přitom může utrpět ztrátu i on sám.
4. Čtvrtý zákon: Nehloupí lidé vždy podceňují škodlivou sílu hloupých jedinců. Zejména neustále zapomínáme, že v každé době, na každém místě a za jakýchkoli okolností se jednání nebo spolčování s hloupými lidmi vždy ukáže jako drahá chyba.
5. Pátý zákon: Hloupý člověk je nejnebezpečnějším typem člověka – ještě nebezpečnějším než bandita.

Aby Cipolla ukázal, proč platí třetí a pátý zákon, nakreslil jednoduchou soustavu souřadnic, která měří každý lidský čin pomocí dvou otázek: Jak moc to pomáhá nebo škodí vám? a Jak moc to pomáhá nebo škodí druhým?

FIG. 01 · ČTYŘI KVADRANTY LIDSKÉHO JEDNÁNÍ PODLE CARLA MARII CIPOLLY (1976)NAJEĎTE KURZOREM NEBO KLEPNĚTE NA LIBOVOLNÝ KVADRANT PRO ZOBRAZENÍ SOUŘADNIC

Podívejte se na čtyři kvadranty, které se objeví:

Pokud děláte něco, co prospívá vám a zároveň prospívá lidem kolem vás, sedíte v pravém horním rohu: Inteligentní (Gli Intelligenti). Hrajete hru s kladným součtem. Zanecháváte místnost v lepším stavu, než v jakém jste ji našli.

Pokud děláte něco, co škodí vám a přitom přináší zisk někomu jinému, jste v levém horním rohu: Bezradní (Gli Sprovveduti) – možná štědří, nebo prostě jen naivní.

Pokud děláte něco, co prospívá vám tím, že způsobíte ztrátu někomu jinému, sedíte v pravém dolním rohu: Bandita (I Banditi). Banditu samozřejmě nemá nikdo rád. Když vás bandita přepadne v uličce a sebere vám sto dolarů, jste o sto dolarů chudší. Ale všimněte si něčeho fascinujícího: bandita je o sto dolarů bohatší. Má to svou logiku. Dokážete předvídat, co bandita chce, můžete se před ním zamknout a můžete s ním dokonce vyjednávat.

A pak je tu levý dolní roh: Hloupí (Gli Stupidi).

Proč je hloupý člověk nebezpečnější než bandita? Protože bandita se řídí alespoň racionálním vlastním zájmem. Hloupý člověk vám nakráčí ve dvě ráno do kuchyně, bez jakéhokoli důvodu zapálí váš toustovač, přitom si ožehne vlastní obočí a odejde si stěžovat na kouř. Všichni prodělají. Nikdo nic nezíská. A protože zde chybí racionální motiv, nikdy se proti tomu nemůžete bránit.

Jak korporátní škatulky vyrábějí hloupost

Pokud jste někdy strávili nějaký čas v korporaci, znáte krutou ironii Cipollova diagramu: manažerské týmy milují rozdělování lidí do čtyř kolonek, ale téměř nikdy nepoužívají ty správné.

Existuje celý žánr internetových memů věnovaný korporátním kvadrantům. Zavřete deset ředitelů na výjezdním zasedání do místnosti s bílou tabulí a talířem croissantů a do dvaceti minut někdo nakreslí dvě kolmé čáry, vymyslí dvě naprosto vycucané osy – „Strategická rychlost“ versus „Mezifunkční soulad“ – a stráví další tři čtvrtletí tím, že každého člověka v budově nacpe do čtverečku.

Téměř všechny tyto korporátní mřížky jsou čisté divadlo. Za celou svou kariéru jsem kromě Cipollova grafu viděl jen jediný další graf dva krát dva, který skutečně říká pravdu o tom, jak organizace fungují.

Před lety měl Simon Sinek slavnou přednášku o tom, jak Navy SEALs vybírají operátory do elitního týmu SEAL Team Six. Kreslí jednoduchý graf s Výkonem na svislé ose a Důvěrou na vodorovné ose.

FIG. 02 · MATICE VÝKON VS. DŮVĚRA PODLE SIMONA SINEKA / U.S. NAVY SEALSNAJEĎTE KURZOREM NEBO KLEPNĚTE NA LIBOVOLNÝ KVADRANT PRO ZOBRAZENÍ DOPADU NA TÝM

Samozřejmě nikdo nechce člověka vlevo dole s nízkým výkonem a nízkou důvěrou a každý chce hvězdu vpravo nahoře s vysokým výkonem a vysokou důvěrou. Sineka fascinovalo, co SEALs zjistili o zbylých dvou rozích: pokaždé dají přednost člověku se středním – nebo dokonce nízkým – výkonem a vysokou důvěrou před člověkem s vysokým výkonem a nízkou důvěrou.

Proč? Protože ve skutečném týmu je „vysoký výkon s nízkou důvěrou“ jed. Je to superhvězda, která plní své osobní cíle tím, že šlape po zádech týmovým kolegům, přivlastňuje si zásluhy a nechává všechny ostatní, aby si odnesli následky. Podívejte se pozorně na Sinekův graf a uvědomíte si, že vysoce výkonný člověk s nízkou důvěrou má v Cipollově knize mnohem starší jméno: je to Korporátní Bandita.

Většina firem vůbec neumí rozlišit Inteligentního tvůrce od okouzlujícího Bandity. A protože vedení firem neví, jak měřit důvěru nebo úsudek, snaží se chránit tím, že vymýšlí Procesy.

A přesně tam se rodí institucionální hloupost.

Vezměte si jednu z nejsurrealističtějších kapitol korporátní historie. Celá léta vedl Microsoft hodnocení zaměstnanců podle neúprosného systému nuceného žebříčkování neboli „stack ranking“. V tomto procesu byl každý manažer automaticky nucen hodnotit svůj tým podle pevné statistické křivky – což znamenalo, že v každém hodnotícím cyklu muselo být stanovené procento každého jednotlivého týmu zařazeno na dno a odejito ze dveří na základě matematického předpokladu, že určité procento přijatých lidí musí být špatným náborem.

Na vteřinu se zastavte a obdivujte čistou architekturu té myšlenky.

Mohli jste být manažerem, který strávil dva roky náborem deseti nejchytřejších inženýrů na planete – deseti lidí, kteří patřili do síně slávy. Nezáleželo na tom. Tabulka vyžadovala oběť, takže jeden z vašich géniů musel dostat nálepku selhání.

Co následovalo? Přesně to, co by předpověděl každý příčetný člověk. Chytří inženýři odmítali nastupovat do týmů, které už chytré inženýry měly, protože sedět vedle génia znamenalo, že přes palubu můžete být hozeni vy. Lidé přestali pomáhat ostatním týmům. Kolegové si syslili informace, aby je spolupracovníci nezastínili. Celé desetiletí inovací bylo potichu udušeno jedním HR vzorcem.

Položte si Cipollovu otázku: Kdo na tom procesu vydělal?
Inženýři ne. Manažeři ne. Zákazníci ne. Akcionáři ne. Byla to čistá hloupost z levého dolního rohu v průmyslovém měřítku – převlečená za „exaktní vědu o řízení“.

Přichází AI: Zrušení rychlostního limitu pro špatné nápady

Posledních několik tisíc let mělo lidstvo proti Cipollovu Čtvrtému zákonu jednu zabudovanou pojistku: dělat věci stálo úsilí.

Před příchodem AI měla hloupost přirozený rychlostní limit. I ten nejúnavněji kontraproduktivní člověk ve vaší firmě měl jen deset prstů a osmihodinovou pracovní dobu. Existoval jen omezený počet pětistránkových memorand, která mohl napsat, jen omezený počet zbytečných prezentací o reorganizaci, které mohl naformátovat, a jen omezený počet lidí, které mohl do pátečního odpoledne vyrušit.

Pak jsme vynalezli generativní AI – a odmontovali z auta brzdy.

Rozhlédněte se dnes po světě byznysu a uvidíte naprostou explozi lidí, kteří dělají nesmyslné věci desetkrát tisíckrát rychleji než dříve.

Někdo má v úterý ráno drobnou, napůl zformovanou myšlenku. Místo aby se nad ní na deset minut zamyslel, požádá AI, aby ze tří odrážek vytvořila majestátní dvanáctistránkový „Dokument strategické vize“. Pošle ho dvaceti kolegům. Těch dvacet kolegů věnuje dvanácti stránkám jediný pohled, obrátí oči v sloup a požádá svou AI, aby to shrnula zpátky do tří odrážek.

Zamyslete se nad fyzikou toho, co se právě odehrálo. Dvacet lidí ztratilo dvacet minut svého dne, datové centrum kdesi ve Virginii vyvařilo bazén vody na pohon grafických čipů a z jednoho mozku do druhého se nepřesunula ani jediná kapka skutečného lidského vhledu.

A to je ještě ta slušná verze. Napříč internetem vypouštějí firmy armády „autonomních AI agentů pro oslovování“, aby zaplavily miliony schránek falešně osobními zprávami – pálí svou vlastní pověst a zároveň činí e-mail nepoužitelným pro všechny ostatní. Produktové týmy generují hory funkcí, o které nikdo nežádal, a kódu, kterému nikdo nerozumí, jednoduše proto, že tlačítko pro jejich vygenerování je zdarma.

Velký blud zasedacích místností

To nás přivádí k vůbec největšímu bludu v dnešních zasedačkách představenstev: k víře, že když do svého stávajícího procesu zapojíte AI, stane se vaše firma chytrou.

Kamkoli přijdete, manažeři panikaří: „Dejte AI do naší zákaznické podpory! Dejte AI do našeho plánovacího procesu! Dejte AI do našich ročních hodnocení!“

Poslouchejte pozorně: pokud je váš proces už teď rozbitý – pokud je vaše zákaznická podpora navržena tak, aby uvěznila zákazníky v bludišti, dokud to nevzdají, pokud váš produktový proces tvoří devatenáct vrstev komisí schvalujících prezentace, pokud vaše kultura odměňuje Korporátní Bandity a trestá upřímnost –, zapojení AI do takového procesu vaši firmu nespraví.

Jen učiní váš hloupý proces ještě hloupějším, a to rychlostí světla.

Představte si, že by Microsoft na vrcholu svého šílenství se stack rankingem napojil na HR oddělení AI agenta, aby každé pondělí ráno automaticky seřadil a vyhodil určité procento každého inženýrského týmu. Byla by to „digitální transformace“? Nebo by to byl jen rychlejší způsob, jak podpálit vlastní dům?

Technologie ještě nikdy neopravila rozbitou filozofii. Když připevníte motor z Formule 1 na nákupní vozík s ohnutým kolečkem, Velkou cenu nevyhrajete. Jen ve třech stech kilometrech za hodinu narazíte do lampy na parkovišti.

Proč jsem stále optimista: AI v rukou Intelligenti

Možná teď tohle všechno čtete a říkáte si, že jsem vůči AI cynický.

Právě naopak. Jakmile pochopíte Cipollovy zákony, dojde vám, že vinit AI ze záplavy korporátních nesmyslů je jako vinit kladivo z toho, že se někdo praštil do palce.

AI je nástroj. Tím je a proto existuje.

Nástroj nemá ego, nemá morálku a nemá svůj vlastní kvadrant. Je to čistý násobitel člověka, který jej drží v ruce. Dejte ho Banditovi a použije ho k tomu, aby vytěžil více a dal méně. Dejte ho hloupému procesu a bude vyrábět chaos v průmyslovém měřítku.

Ale dejte naprosto stejný nástroj někomu z Cipollova Inteligentního kvadrantu – někomu nehloupému s nehloupým záměrem – a stane se kouzlo.

Vzpomeňte si, co definuje Intelligenti v Cipollově světě a co definuje pravý horní roh Sinekova grafu Navy SEALs: vysoká důvěra, jasný úsudek a činy, které vytvářejí skutečnou hodnotu pro vás tím, že vytvářejí skutečnou hodnotu pro druhé.

Když takoví lidé vezmou do ruky AI, nepoužijí ji ke generování dvanáctistránkových memorand, která nikdo nechce číst, a nepřišroubují ji ke včerejší byrokracii. Začnou od prvních principů. Ptají se, jak by něco mělo doopravdy fungovat pro druhého člověka. Odstraní hloupé škatulky, divadlo komisí a umělé tření. A pak použijí AI jako páku, kterou měla být – což umožní malé skupině důvěryhodných tvůrců, nebo dokonce jedinému člověku s jasnou myslí, vybudovat pro svět věci mimořádné užitečnosti a krásy.

Koneckonců, věk umělé inteligence vůbec není zkouškou strojové inteligence. Stroje jsou na to, co po nich chceme, chytré až dost.

Je to zkouška té naší.

Můžete použít nejmocnější nástroj v dějinách lidstva k automatizaci svých špatných návyků a znásobení šumu. Nebo můžete vstoupit do Cipollova pravého horního rohu – opravit to, jak věci fungují, zajímat se o člověka na druhé straně a postavit něco, díky čemu na tom budou všichni v místnosti lépe než dřív.