Nu înmâna niciodată un supercomputer cadranului greșit

Există o cărticică scrisă în 1976 care explică mai multe despre ceea ce se petrece astăzi în interiorul companiilor de tehnologie decât toate prezentările despre IA din ultimii doi ani la un loc.

A fost scrisă de Carlo Maria Cipolla, un istoric italian al economiei care și-a împărțit viața între Pavia și Berkeley. Cipolla a petrecut decenii studiind cum cresc și decad economiile, cum se prăbușesc monedele și cum reușesc imperiile să distrugă lucruri care funcționau perfect. În cele din urmă, a ajuns la o concluzie atât de eliberatoare — și atât de incorectă politic — încât la început a tipărit cartea în engleză doar pentru un cerc restrâns de prieteni.

Nu ai nevoie de conspirații întunecate pentru a explica de ce lumea este un haos, susținea Cipolla. Nu ai nevoie nici măcar de răutate. Trebuie doar să înțelegi cea mai puternică forță din istoria omenirii: prostia.

Acum, înainte ca cineva să se simtă jignit, Cipolla nu folosea cuvântul ca pe o insultă. Îl folosea exact așa cum vorbește un fizician despre gravitație. Iar o jumătate de secol mai târziu, tocmai am făcut ceva ce Cipolla nu a mai trăit să vadă: i-am pus în mână prostiei umane un motor de amplificare infinită numit Inteligență Artificială.

Cele cinci legi ale lui Cipolla (pe scurt și cu precizie)

Pentru a înțelege de ce contează acest lucru chiar acum, trebuie să înțelegeți cele cinci legi ale lui Cipolla — fiindcă durează mai puțin de două minute să le înveți și, odată ce le cunoști, explică aproape tot ce vezi la locul de muncă.

1. Prima Lege: Întotdeauna și în mod inevitabil, fiecare dintre noi subestimează numărul indivizilor proști aflați în circulație. Indiferent cât de mare este estimarea ta, tot este prea mică. Oameni pe care odinioară îi considerai raționali și echilibrați te vor surprinde în cel mai nepotrivit moment cu putință.
2. A Doua Lege: Probabilitatea ca o anumită persoană să fie proastă este complet independentă de orice altă caracteristică a acelei persoane. Aceasta este legea care rănește cele mai multe orgolii. Fie că testezi îngrijitori, manageri de nivel mediu, fondatori din Silicon Valley, generali cu patru stele sau laureați ai Premiului Nobel, exact aceeași fracțiune de oameni din fiecare grup este proastă. Diplomele, averea și titlurile pompoase nu reduc prostia; doar îi oferă un megafon mai mare.
3. A Treia Lege (și Legea de Aur): O persoană proastă este o persoană care cauzează pierderi unei alte persoane sau unui grup de persoane fără a obține vreun câștig pentru sine și, eventual, suferind chiar pierderi.
4. A Patra Lege: Oamenii non-proști subestimează întotdeauna puterea distructivă a indivizilor proști. În special, uităm mereu că în orice moment, în orice loc și în orice împrejurare, a trata sau a te asocia cu oameni proști se dovedește invariabil a fi o greșeală costisitoare.
5. A Cincea Lege: Persoana proastă este cel mai periculos tip de persoană — chiar mai periculoasă decât un bandit.

Pentru a arăta de ce A Treia și A Cincea Lege sunt adevărate, Cipolla a desenat un simplu sistem de coordonate care măsoară fiecare acțiune umană prin două întrebări: Cât de mult te ajută sau îți dăunează ție? și Cât de mult îi ajută sau le dăunează celorlalți?

Priviți cele patru cadrane care apar:

Dacă faci ceva care îți aduce beneficii ție și aduce beneficii oamenilor din jurul tău, te afli în colțul din dreapta sus: Inteligenții (Gli Intelligenti). Joci un joc cu sumă pozitivă. Lași încăperea mai bună decât ai găsit-o.

Dacă faci ceva care îți face rău ție în timp ce creează un câștig pentru altcineva, ești în colțul din stânga sus: Credulii (Gli Sprovveduti) — generoși, poate, sau pur și simplu naivi.

Dacă faci ceva care îți aduce un beneficiu provocând o pierdere altcuiva, stai în colțul din dreapta jos: Banditul (I Banditi). Ei bine, nimănui nu-i place un bandit. Dacă un bandit te jefuiește pe o alee și îți ia o sută de dolari, ești mai sărac cu o sută de dolari. Dar observați ceva fascinant: banditul este mai bogat cu o sută de dolari. Există o logică în asta. Poți prezice ce vrea un bandit, îți poți încuia ușa în fața unui bandit și poți chiar să negociezi cu un bandit.

Și apoi există colțul din stânga jos: Proștii (Gli Stupidi).

De ce este o persoană proastă mai periculoasă decât un bandit? Pentru că un bandit își urmează măcar propriul interes rațional. O persoană proastă va intra în bucătăria ta la două dimineața, îți va da foc la prăjitorul de pâine fără niciun motiv, își va pârli propriile sprângene în timpul ăsta și va ieși plângându-se de fum. Toată lumea pierde. Nimic nu este câștigat. Și pentru că nu există niciun motiv rațional, nu te poți apăra niciodată împotriva acestui lucru.

Cum fabrică prostie căsuțele corporatiste

Dacă ați petrecut vreodată timp în interiorul unei corporații, cunoașteți ironia crudă a diagramei lui Cipolla: echipelor de conducere le place la nebunie să pună ființele umane în patru căsuțe, dar aproape niciodată nu le folosesc pe cele potrivite.

Există un întreg gen de meme-uri pe internet dedicat cadranelor corporatiste. Închide zece directori într-o sală de ședințe cu o tablă albă și un platou cu croissante și, în douăzeci de minute, cineva va trasa două linii perpendiculare, va inventa două axe complet născocite — „Viteză Strategică” versus „Aliniere Interfuncțională” — și va petrece următoarele trei trimestre înghesuind fiecare ființă umană din clădire într-un pătrat.

Aproape toate acele grile corporatiste sunt pur teatru. În întreaga mea carieră, în afară de graficul lui Cipolla, am văzut doar o singură altă diagramă doi-pe-doi care spune cu adevărat adevărul despre modul în care funcționează organizațiile.

Acum câțiva ani, Simon Sinek a ținut o prelegere celebră despre modul în care Navy SEALs aleg operatorii pentru SEAL Team Six. Ei desenează un grafic simplu cu Performanța pe axa verticală și Încrederea pe axa orizontală.

Evident, nimeni nu vrea persoana din stânga jos, cu performanță scăzută și încredere scăzută, și toată lumea își dorește vedeta din dreapta sus, cu performanță ridicată și încredere ridicată. Ceea ce l-a fascinat pe Sinek a fost ceea ce au descoperit cei de la SEALs despre celelalte două colțuri: ei vor alege de fiecare dată un operator cu performanță medie — sau chiar scăzută — dar cu încredere ridicată, în locul unuia cu performanță ridicată și încredere scăzută.

De ce? Pentru că într-o echipă adevărată, „performerul de top cu încredere scăzută” este otravă. El este superstarul care își atinge obiectivele personale călcând pe gâtul colegilor de echipă, acaparând meritele și lăsându-i pe toți ceilalți să încaseze loviturile. Priviți cu atenție graficul lui Sinek și vă veți da seama că un performer de top cu încredere scăzută poartă un nume mult mai vechi în cartea lui Cipolla: este un Bandit Corporatist.

Majoritatea companiilor se pricep îngrozitor de prost să facă diferența dintre un constructor Inteligent și un Bandit fermecător. Și pentru că echipele de conducere nu știu cum să măsoare încrederea sau discernământul, încearcă să se protejeze inventând Procese.

Iar acolo se naște prostia instituțională.

Luați unul dintre cele mai suprarealiste capitole din istoria corporatistă. Timp de ani de zile, Microsoft și-a desfășurat evaluările de performanță pe baza unui sistem rigid de ierarhizare forțată, numit „stack ranking”. În cadrul acestui proces, fiecare manager era obligat în mod implicit să își noteze echipa pe o curbă statistică fixă — ceea ce însemna că, la fiecare ciclu de evaluare, un procent prestabilit din fiecare echipă trebuia plasat la coada clasamentului și împins pe ușă afară, pe baza presupunerii matematice că un procent fix dintre angajări trebuie să fie angajări greșite.

Opriți-vă o secundă și admirați pura arhitectură a acestei idei.

Puteai fi un manager care a petrecut doi ani recrutând zece dintre cei mai străluciți ingineri de pe pământ — zece oameni demni de galeria legendelor. Nu conta. Tabelul de calcul cerea un sacrificiu, așa că unul dintre geniile tale trebuia etichetat drept un eșec.

Ce s-a întâmplat mai departe? Exact ceea ce ar prezice orice om întreg la minte. Inginerii străluciți au refuzat să se mai alăture echipelor care aveau deja ingineri străluciți, fiindcă a sta lângă un geniu însemna că tu ai putea fi cel împins peste bord. Oamenii au încetat să mai ajute alte echipe. Colegii țineau informațiile doar pentru ei, astfel încât egalii lor să nu îi eclipseze. Un întreg deceniu de inovație a fost sugrumat în tăcere de o formulă de resurse umane.

Puneți-vă întrebarea lui Cipolla: Cine a avut de câștigat din acel proces?
Nu inginerii. Nu managerii. Nu clienții. Nu acționarii. A fost prostie pură, de calibru industrial, din colțul din stânga jos — deghizată în „știință riguroasă a managementului”.

Intră în scenă IA: eliminarea limitei de viteză pentru ideile proaste

În ultimele câteva mii de ani, omenirea a avut un mecanism de siguranță încorporat împotriva celei de-a Patra Legi a lui Cipolla: era nevoie de efort ca să faci lucruri.

Înainte de IA, prostia avea o limită naturală de viteză. Chiar și cea mai neobosit de contraproductivă persoană din compania ta avea doar zece degete și o zi de lucru de opt ore. Exista o limită fizică pentru câte note interne de cinci pagini putea scrie, câte prezentări inutile de reorganizare putea formata și câți oameni putea distrage înainte de vineri după-amiaza.

Apoi am inventat IA generativă — și am scos frânele mașinii.

Priviți astăzi în jur în lumea afacerilor și veți asista la o explozie absolută de oameni care fac lucruri lipsite de sens cu o viteză de zece mii de ori mai mare decât înainte.

Cineva are un gând mărunt, pe jumătate închegat, într-o marți dimineața. În loc să se gândească la el timp de zece minute, îi cere unei IA să transforme trei idei principale într-un maiestuos „Document de Viziune Strategică” de douăsprezece pagini. Îl trimite la douăzeci de colegi. Acei douăzeci de colegi aruncă o singură privire peste cele douăsprezece pagini, își dau ochii peste cap și îi cer propriei lor IA să îl rezume înapoi în trei idei principale.

Gândiți-vă la fizica a ceea ce tocmai s-a întâmplat. Douăzeci de oameni au pierdut douăzeci de minute din ziua lor, un centru de date de undeva din Virginia a fiert o piscină întreagă de apă pentru a alimenta plăcile grafice, și nici măcar o singură picătură de înțelegere umană reală nu s-a mutat dintr-un creier în altul.

Și aceasta este doar versiunea politicoasă. Pe tot internetul, companiile dezlănțuie armate de „agenți autonomi de prospectare bazată pe IA” pentru a inunda milioane de căsuțe poștale cu mesaje fals-personale — făcându-și scrum propria reputație și transformând e-mailul într-un instrument inutilizabil pentru toți ceilalți. Echipele de produs generează munți de funcționalități pe care nu le-a cerut nimeni și cod pe care nu îl înțelege nimeni, pur și simplu pentru că butonul de generare este gratuit.

Marea iluzie din consiliile de administrație

Aceasta ne aduce la cea mai mare iluzie din sălile de consiliu ale corporațiilor din acest moment: convingerea că conectarea IA la procesul tău existent îți va face compania inteligentă.

Oriunde mergi, directorii sunt în panică: „Puneți IA în serviciul nostru de relații cu clienții! Puneți IA în procesul nostru de planificare! Puneți IA în evaluările noastre de performanță!”

Ascultați cu atenție: dacă procesul tău este deja stricat — dacă fluxul de asistență este conceput pentru a prinde clienții într-un labirint până când renunță, dacă procesul tău de produs constă în nouăsprezece niveluri de comitete care aprobă prezentări, dacă cultura ta îi răsplătește pe Bandiții Corporatiști și pedepsește onestitatea — conectarea IA la acel proces nu îți va repara compania.

Doar îți va face procesul prost și mai prost, cu viteza luminii.

Imaginați-vă dacă Microsoft, în toiul nebuniei sale cu stack ranking-ul, ar fi conectat un agent IA la departamentul de resurse umane, astfel încât acesta să poată clasifica și concedia automat un procent din fiecare echipă de ingineri în fiecare luni dimineața. Ar fi fost asta „transformare digitală”? Sau ar fi fost o cale mai rapidă de a da foc casei?

Tehnologia nu a reparat niciodată, nici măcar o singură dată, o filosofie stricată. Când atașezi un motor de Formula 1 la un cărucior de cumpărături cu o roată strâmbă, nu câștigi Marele Premiu. Doar te izbești de stâlpul de iluminat din parcare cu trei sute de kilometri pe oră.

De ce sunt încă un optimist: IA în mâinile celor Intelligenti

Acum, ați putea citi toate acestea și să credeți că sunt cinic în privința IA.

Dimpotrivă. Odată ce înțelegi legile lui Cipolla, îți dai seama că a da vina pe IA pentru potopul de absurdități corporatiste este ca și cum ai da vina pe ciocan pentru că cineva și-a lovit propriul deget mare.

IA este o unealtă. Asta este, și de aceea există.

O unealtă nu are orgoliu, nu are moralitate și nu are un cadran al ei. Este un multiplicator pur al ființei umane care o ține în mână. Dă-o unui Bandit, și o va folosi pentru a extrage mai mult oferind mai puțin. Dă-o unui proces prost, și va fabrica haos la scară industrială.

Dar pune exact aceeași unealtă în mâna cuiva din cadranul Inteligent al lui Cipolla — cineva non-prost, animat de un scop non-prost — și se întâmplă magia.

Amintiți-vă ce îi definește pe Intelligenti în lumea lui Cipolla și ce definește colțul din dreapta sus al graficului Navy SEALs al lui Sinek: încredere ridicată, judecată limpede și acțiuni care creează valoare reală pentru tine prin faptul că creează valoare reală pentru ceilalți.

Când astfel de oameni iau în mână IA, nu o folosesc pentru a genera note de douăsprezece pagini pe care nimeni nu vrea să le citească și nu o înșurubează pe birocrația de ieri. Ei pornesc de la primele principii. Se întreabă cum ar trebui să funcționeze cu adevărat ceva pentru o altă ființă umană. Înlătură căsuțele caraghioase, teatrul comitetelor și fricțiunea artificială. Și apoi folosesc IA ca pe pârghia care a fost menită să fie — permițând unui grup restrâns de constructori bazat pe încredere ridicată, sau chiar unui singur creator cu mintea limpede, să clădească lucruri de o utilitate și o frumusețe extraordinare pentru lume.

În cele din urmă, era IA nu este câtuși de puțin un test al inteligenței mașinilor. Mașinile sunt deja suficient de inteligente pentru ceea ce le cerem.

Este un test al inteligenței noastre.

Poți folosi cea mai puternică unealtă din istoria omenirii pentru a-ți automatiza obiceiurile proaste și a multiplica zgomotul. Sau poți păși în colțul din dreapta sus al lui Cipolla — să repari modul în care funcționează lucrurile, să îți pese de omul de pe partea cealaltă și să construiești ceva care îi lasă pe toți cei din încăpere mai bine decât înainte.