Nigdy nie oddawaj superkomputera w ręce niewłaściwego kwadrantu

Istnieje niewielka książeczka napisana w 1976 roku, która wyjaśnia to, co dzieje się dziś wewnątrz firm technologicznych, lepiej niż wszystkie wystąpienia o sztucznej inteligencji z ostatnich dwóch lat razem wzięte.

Napisał ją Carlo Maria Cipolla, włoski historyk gospodarczy, który dzielił swoje życie między Pawię a Berkeley. Cipolla spędził dziesięciolecia, badając, jak gospodarki rosną i upadają, jak załamują się waluty i jak imperia potrafią zrujnować doskonale działające rzeczy. W końcu doszedł do wniosku tak wyzwalającego – i tak niepoprawnego politycznie – że początkowo wydrukował tę książkę po angielsku wyłącznie dla wąskiego grona przyjaciół.

Nie potrzeba mrocznych spisków, by wyjaśnić, dlaczego świat pogrążony jest w bałaganie – przekonywał Cipolla. Nie potrzeba nawet złej woli. Wystarczy zrozumieć najpotężniejszą pojedynczą siłę w dziejach ludzkości: głupotę.

Zanim ktokolwiek poczuje się urażony: Cipolla nie używał tego słowa jako obelgi. Posługiwał się nim tak, jak fizyk mówi o grawitacji. A pół wieku później zrobiliśmy właśnie coś, czego Cipolla nie dożył: wręczyliśmy ludzkiej głupocie silnik nieskończonego wzmocnienia zwany sztuczną inteligencją.

Pięć praw Cipolli (krótko i precyzyjnie)

Aby zrozumieć, dlaczego ma to tak wielkie znaczenie właśnie teraz, trzeba poznać pięć praw Cipolli – ponieważ ich przyswojenie zajmuje mniej niż dwie minuty, a gdy już się je zna, tłumaczą niemal wszystko, co widzi się w pracy.

1. Pierwsze Prawo: Zawsze i nieuchronnie każdy z nas nie docenia liczby głupców znajdujących się w obiegu. Niezależnie od tego, jak wysokie są twoje szacunki, i tak są zaniżone. Ludzie, których dotąd uważałeś za racjonalnych i zrównoważonych, w najmniej odpowiednim momencie cię zaskoczą.
2. Drugie Prawo: Prawdopodobieństwo, że dana osoba jest głupia, jest całkowicie niezależne od jakichkolwiek innych cech tej osoby. To prawo rani najwięcej ego. Niezależnie od tego, czy przebadasz woźnych, menedżerów średniego szczebla, założycieli startupów z Doliny Krzemowej, czterogwiazdkowych generałów czy laureatów Nagrody Nobla, w każdej grupie dokładnie ten sam ułamek ludzi okaże się głupi. Dyplomy, majątek i imponujące tytuły nie zmniejszają głupoty; dają jej tylko większy megafon.
3. Trzecie (i Złote) Prawo: Osoba głupia to osoba, która wyrządza straty innej osobie lub grupie osób, sama nie odnosząc z tego żadnej korzyści, a nawet narażając się na straty własne.
4. Czwarte Prawo: Ludzie niebędący głupcami zawsze nie doceniają niszczycielskiej siły jednostek głupich. W szczególności wciąż zapominamy, że w każdym czasie, w każdym miejscu i w każdych okolicznościach zadawanie się lub współpraca z głupcami zawsze okazuje się kosztownym błędem.
5. Piąte Prawo: Głupiec jest najbardziej niebezpiecznym typem człowieka – groźniejszym nawet niż bandyta.

Aby pokazać, dlaczego Trzecie i Piąte Prawo są prawdziwe, Cipolla narysował prosty układ współrzędnych mierzący każde ludzkie działanie za pomocą dwóch pytań: Jak bardzo pomaga to lub szkodzi tobie? oraz Jak bardzo pomaga to lub szkodzi innym?

Spójrzmy na cztery wyłaniające się z tego kwadranty:

Jeśli robisz coś, co przynosi korzyść tobie oraz przynosi korzyść ludziom wokół ciebie, zajmujesz miejsce w prawym górnym rogu: Inteligentni (Gli Intelligenti). Grasz w grę o sumie dodatniej. Zostawiasz pokój w lepszym stanie, niż go zastałeś.

Jeśli robisz coś, co szkodzi tobie, przynosząc jednocześnie zysk komuś innemu, znajdujesz się w lewym górnym rogu: Naiwni / Bezradni (Gli Sprovveduti) – być może hojni, a być może po prostu łatwowierni.

Jeśli robisz coś, co przynosi korzyść tobie poprzez wyrządzenie straty komuś innemu, siedzisz w prawym dolnym rogu: Bandyta (I Banditi). Oczywiście nikt nie lubi bandytów. Jeśli bandyta napadnie cię w zaułku i zabierze sto dolarów, jesteś o sto dolarów biedniejszy. Zauważmy jednak coś fascynującego: bandyta jest o sto dolarów bogatszy. Istnieje w tym pewna logika. Można przewidzieć, czego chce bandyta, można zamknąć przed nim drzwi, a nawet można z bandytą negocjować.

A potem zostaje lewy dolny róg: Głupcy (Gli Stupidi).

Dlaczego człowiek głupi jest groźniejszy niż bandyta? Ponieważ bandyta kieruje się przynajmniej racjonalnym interesem własnym. Głupiec wejdzie do twojej kuchni o drugiej w nocy, podpali twój toster bez żadnego powodu, przy okazji opali sobie własne brwi i wyjdzie, narzekając na dym. Wszyscy tracą. Nikt nic nie zyskuje. A ponieważ nie ma tu racjonalnego motywu, nigdy nie sposób się przed tym obronić.

Jak korporacyjne szufladki produkują głupotę

Jeśli kiedykolwiek spędziłeś czas w korporacji, znasz okrutną ironię wykresu Cipolli: zespoły zarządzające uwielbiają wkładać ludzi do czterech kratek, ale niemal nigdy nie używają tych właściwych.

Istnieje cały gatunek memów internetowych poświęcony korporacyjnym kwadrantom. Zamknij dziesięciu dyrektorów na wyjeździe integracyjnym z tablicą suchościeralną i talerzem rogalików, a w ciągu dwudziestu minut ktoś narysuje dwie prostopadłe linie, wymyśli dwie całkowicie zmyślone osie – „Prędkość Strategiczna” kontra „Międzyfunkcyjna Spójność” – i spędzi kolejne trzy kwartały na wciskaniu każdego człowieka w budynku do odpowiedniego kwadratu.

Prawie wszystkie te korporacyjne siatki to czysty teatr. W całej mojej karierze, oprócz wykresu Cipolli, widziałem tylko jedną inną macierz dwa na dwa, która naprawdę mówi prawdę o tym, jak działają organizacje.

Przed laty Simon Sinek wygłosił słynną prelekcję o tym, jak Navy SEALs wybierają operatorów do elitarnego oddziału SEAL Team Six. Rysują oni prosty wykres z Wynikami na osi pionowej i Zaufaniem na osi poziomej.

Oczywiście nikt nie chce osoby z lewego dolnego rogu o niskich wynikach i niskim zaufaniu, a każdy pragnie gwiazdy z prawego górnego rogu o wysokich wynikach i wysokim zaufaniu. To, co zafascynowało Sineka, to odkrycie komandosów SEALs dotyczące dwóch pozostałych narożników: za każdym razem wybiorą oni osobę o średnich – a nawet niskich – wynikach, lecz wysokim zaufaniu, zamiast osoby o wysokich wynikach i niskim zaufaniu.

Dlaczego? Ponieważ w prawdziwym zespole „wysokie wyniki przy niskim zaufaniu” to trucizna. To supergwiazda, która realizuje swoje cele osobiste, depcząc po karkach kolegów z drużyny, zagarniając zasługi dla siebie i pozwalając, by odpowiedzialność spadała na wszystkich innych. Przyjrzyj się uważnie wykresowi Sineka, a zrozumiesz, że osoba o wysokich wynikach i niskim zaufaniu ma w książce Cipolli znacznie starszą nazwę: to Korporacyjny Bandyta.

Większość firm fatalnie radzi sobie z odróżnianiem Inteligentnego twórcy od czarującego Bandyty. A ponieważ zarządy nie potrafią mierzyć zaufania ani osądu, próbują chronić się, wymyślając Procesy.

I właśnie tam rodzi się głupota instytucjonalna.

Weźmy jeden z najbardziej surrealistycznych rozdziałów w historii korporacji. Przez lata Microsoft prowadził oceny pracownicze w oparciu o sztywny system wymuszonego rankingu – „stack ranking”. W ramach tego procesu każdy menedżer był domyślnie zmuszony oceniać swój zespół według stałej krzywej statystycznej – co oznaczało, że w każdym cyklu ocen określony odsetek każdego zespołu musiał zostać umieszczony na samym dole i wypchnięty za drzwi, przy matematycznym założeniu, że stały procent zatrudnionych musi być pomyłką rekrutacyjną.

Zatrzymaj się na sekundę i podziwiaj czystą architekturę tego pomysłu.

Mogłeś być menedżerem, który spędził dwa lata na rekrutowaniu dziesięciu najzdolniejszych inżynierów na ziemi – dziesięciu ludzi zasługujących na galerię sław. Nie miało to znaczenia. Arkusz kalkulacyjny żądał ofiary, więc jeden z twoich geniuszy musiał otrzymać łatkę nieudacznika.

Co stało się potem? Dokładnie to, co przewidziałby każdy zdrowy na umyśle człowiek. Wybitni inżynierowie odmawiali dołączania do zespołów, w których pracowali już wybitni inżynierowie, ponieważ siedzenie obok geniusza oznaczało, że to ty możesz zostać wyrzucony za burtę. Ludzie przestali pomagać innym zespołom. Koledzy chomikowali informacje, aby współpracownicy ich nie przyćmili. Cała dekada innowacji została po cichu uduszona przez formułkę działu HR.

Zadaj sobie pytanie Cipolli: Kto zyskał na tym procesie?
Nie inżynierowie. Nie menedżerowie. Nie klienci. Nie akcjonariusze. Była to czysta głupota z lewego dolnego rogu na skalę przemysłową – przebrana w szaty „rygorystycznej nauki o zarządzaniu”.

Wchodzi AI: Zdjęcie ograniczenia prędkości dla złych pomysłów

Przez ostatnie kilka tysięcy lat ludzkość dysponowała jednym wbudowanym mechanizmem bezpieczeństwa chroniącym przed Czwartym Prawem Cipolli: robienie rzeczy wymagało wysiłku.

Przed pojawieniem się AI głupota miała naturalne ograniczenie prędkości. Nawet najbardziej niestrudzenie kontrproduktywna osoba w twojej firmie miała tylko dziesięć palców i ośmiogodzinny dzień pracy. Istniała skończona liczba pięciostronicowych notatek, które mogła napisać, skończona liczba zbędnych prezentacji o reorganizacji, które mogła sformatować, i skończona liczba ludzi, których mogła rozproszyć przed piątkowym popołudniem.

A potem wynaleźliśmy generatywną sztuczną inteligencję – i wymontowaliśmy z samochodu hamulce.

Rozejrzyj się po dzisiejszym świecie biznesu, a zobaczysz absolutną eksplozję ludzi robiących bezsensowne rzeczy dziesięć tysięcy razy szybciej niż dotychczas.

Ktoś ma we wtorkowy poranek drobną, niedokończoną myśl. Zamiast przemyśleć ją przez dziesięć minut, prosi AI o zamienienie trzech podpunktów w majestatyczny, dwunastostronicowy „Dokument Wizji Strategicznej”. Wysyła go dwudziestu współpracownikom. Ci dwajdziestu współpracownicy rzucają jedno spojrzenie na dwanaście stron, przewracają oczami i proszą swoje AI o streszczenie tego z powrotem do trzech podpunktów.

Pomyśl o fizyce tego, co właśnie zaszło. Dwadzieścia osób straciło dwadzieścia minut swojego dnia, centrum danych gdzieś w Wirginii zagotowało basen wody, by zasilić procesory GPU, a ani jedna kropla prawdziwego ludzkiego wglądu nie przemieściła się z jednego mózgu do drugiego.

A to tylko uprzejma wersja. W całym internecie firmy wypuszczają armie „autonomicznych agentów AI ds. kontaktu”, by zalewać miliony skrzynek odbiorczych fałszywie osobistymi wiadomościami – paląc własną reputację i czyniąc pocztę elektroniczną bezużyteczną dla wszystkich pozostałych. Zespoły produktowe generują góry funkcji, o które nikt nie prosił, i kodu, którego nikt nie rozumie, po prostu dlatego, że przycisk do ich wygenerowania jest darmowy.

Wielkie złudzenie sal posiedzeń zarządu

To prowadzi nas do największego pojedynczego złudzenia panującego obecnie w korporacyjnych salach zarządów: wiary, że podłączenie AI do istniejącego procesu uczyni twoją firmę mądrą.

Gdziekolwiek pójdziesz, dyrektorzy wpadają w panikę: „Wdróżcie AI w naszej obsłudze klienta! Wdróżcie AI w naszym procesie planowania! Wdróżcie AI w naszych ocenach pracowniczych!”

Posłuchaj uważnie: jeśli twój proces już teraz jest zepsuty – jeśli twoja ścieżka wsparcia została zaprojektowana tak, by uwięzić klientów w labiryncie, aż się poddadzą; jeśli twój proces produktowy to dziewiętnaście szczebli komitetów zatwierdzających slajdy; jeśli twoja kultura nagradza Korporacyjnych Bandytów i karze uczciwość – włączenie AI do tego procesu nie naprawi twojej firmy.

Sprawi jedynie, że twój głupi proces stanie się jeszcze głupszy, z prędkością światła.

Wyobraź sobie, co by było, gdyby Microsoft u szczytu swojego szaleństwa stack rankingu podłączył agenta AI do działu HR, aby ten w każdy poniedziałkowy poranek automatycznie szeregował i zwalniał określony odsetek każdego zespołu inżynierskiego. Czy byłaby to „transformacja cyfrowa”? Czy raczej szybszy sposób na spalenie własnego domu?

Technologia jeszcze ani razu nie naprawiła zepsutej filozofii. Kiedy przymocujesz silnik Formuły 1 do wózka sklepowego ze skrzywionym kółkiem, nie wygrasz Grand Prix. Po prostu uderzysz w latarnię na parkingu z prędkością trzystu kilometrów na godzinę.

Dlaczego wciąż jestem optymistą: AI w rękach Intelligenti

Możesz teraz przeczytać to wszystko i pomyśleć, że jestem wobec AI cyniczny.

Wręcz przeciwnie. Kiedy zrozumiesz prawa Cipolli, uświadomisz sobie, że obwinianie AI o powódź korporacyjnego absurdu przypomina obwinianie młotka o to, że ktoś uderzył się nim w kciuk.

AI to narzędzie. Tym właśnie jest i po to istnieje.

Narzędzie nie ma ego, nie ma moralności ani własnego kwadrantu. Jest czystym mnożnikiem człowieka, który trzyma je w dłoni. Oddaj je Bandycie, a użyje go, by wyciągać więcej, dając jeszcze mniej. Oddaj je głupiemu procesowi, a wyprodukuje chaos na skalę przemysłową.

Ale oddaj dokładnie to samo narzędzie komuś z kwadrantu Inteligentnych Cipolli – komuś niegłupiemu, o niegłupim celu – a wydarzy się magia.

Przypomnij sobie, co definiuje Intelligenti w świecie Cipolli i co określa prawy górny róg wykresu Navy SEALs u Sineka: wysokie zaufanie, trzeźwy osąd oraz działania, które tworzą realną wartość dla ciebie poprzez tworzenie realnej wartości dla innych.

Kiedy tacy ludzie sięgają po AI, nie używają jej do generowania dwunastostronicowych notatek, których nikt nie chce czytać, ani nie przykręcają jej śrubami do wczorajszej biurokracji. Zaczynają od pierwszych zasad. Pytają, jak coś powinno naprawdę działać dla drugiego człowieka. Odrzucają niedorzeczne szufladki, teatr komitetów i sztuczne tarcia. A potem wykorzystują AI jako dźwignię, którą od początku miała być – pozwalając niewielkiej grupie obdarzonych wysokim zaufaniem twórców, a nawet pojedynczemu jasnemu umysłowi, budować dla świata rzeczy o niezwykłej użyteczności i pięknie.

Ostatecznie epoka sztucznej inteligencji wcale nie jest sprawdzianem inteligencji maszyn. Maszyny są aż nadto bystre do zadań, o które je prosimy.

Jest ona sprawdzianem naszej inteligencji.

Możesz użyć najpotężniejszego narzędzia w dziejach ludzkości, by zautomatyzować własne złe nawyki i pomnożyć szum. Albo możesz wejść do prawego górnego rogu Cipolli – naprawić sposób, w jaki działają rzeczy, zatroszczyć się o człowieka po drugiej stronie i zbudować coś, dzięki czemu wszyscy w pokoju wyjdą na tym lepiej niż wcześniej.