Non affidare mai un supercomputer al quadrante sbagliato

C'è un minuscolo libro scritto nel 1976 che spiega ciò che sta accadendo oggi dentro le aziende tecnologiche meglio di tutti i keynote sull'IA degli ultimi due anni messi insieme.

Lo scrisse Carlo Maria Cipolla, uno storico dell'economia italiano che divise la propria vita tra Pavia e Berkeley. Cipolla trascorse decenni a studiare come le economie crescono e decadono, come crollano le monete e come gli imperi riescono a rovinare cose che funzionavano benissimo. Alla fine giunse a una conclusione così liberatoria — e così politicamente scorretta — che inizialmente stampò il libro in inglese solo per una ristretta cerchia di amici.

Non servono oscure cospirazioni per spiegare perché il mondo sia un disastro, sosteneva Cipolla. Non serve nemmeno la malvagità. Basta comprendere la forza più potente dell'intera storia umana: la stupidità.

Ora, prima che qualcuno si offenda, Cipolla non usava questa parola come un insulto. La usava esattamente come un fisico parla della gravità. E mezzo secolo più tardi, abbiamo appena fatto qualcosa che Cipolla non ha fatto in tempo a vedere: abbiamo consegnato alla stupidità umana un motore di amplificazione infinita chiamato Intelligenza Artificiale.

Le cinque leggi di Cipolla (in breve e con precisione)

Per capire perché tutto questo sia cruciale proprio oggi, bisogna conoscere le cinque leggi di Cipolla — perché bastano meno di due minuti per impararle e, una volta comprese, spiegano quasi tutto ciò che vedete al lavoro.

1. La Prima Legge: Sempre e inevitabilmente ognuno di noi sottovaluta il numero di individui stupidi in circolazione. Per quanto alta sia la vostra stima, è comunque per difetto. Persone che un tempo ritenevate razionali ed equilibrate vi sorprenderanno nel momento più inopportuno possibile.
2. La Seconda Legge: La probabilità che una determinata persona sia stupida è completamente indipendente da qualsiasi altra caratteristica di quella stessa persona. Questa è la legge che ferisce più ego. Che esaminiate bidelli, quadri intermedi, fondatori della Silicon Valley, generali a quattro stelle o premi Nobel, esattamente la stessa frazione di persone in ogni gruppo è stupida. Titoli di studio, ricchezza e cariche altisonanti non riducono la stupidità; le danno semplicemente un megafono più grande.
3. La Terza Legge (la Legge Aurea): Una persona stupida è una persona che causa un danno a un'altra persona o a un gruppo di persone senza nel contempo realizzare alcun vantaggio per sé e addirittura subendo una perdita.
4. La Quarta Legge: Le persone non stupide sottovalutano sempre il potenziale nocivo delle persone stupide. In particolare, continuiamo a dimenticare che in ogni momento, in ogni luogo e in qualunque circostanza, trattare o associarsi con individui stupidi si rivela infallibilmente un costosissimo errore.
5. La Quinta Legge: La persona stupida è il tipo di persona più pericoloso che esista — ancor più pericoloso del bandito.

Per dimostrare perché la Terza e la Quinta Legge sono vere, Cipolla tracciò un semplice piano cartesiano che misura ogni azione umana attraverso due domande: Quanto aiuta o danneggia te stesso? e Quanto aiuta o danneggia gli altri?

Osservate i quattro quadranti che ne emergono:

Se fate qualcosa che porta beneficio a voi e porta beneficio alle persone intorno a voi, vi trovate nel quadrante in alto a destra: Gli Intelligenti. State giocando una partita a somma positiva. Lasciate la stanza migliore di come l'avete trovata.

Se fate qualcosa che danneggia voi stessi creando però un vantaggio per qualcun altro, siete in alto a sinistra: Gli Sprovveduti — generosi, forse, o semplicemente ingenui.

Se fate qualcosa che porta beneficio a voi infliggendo una perdita a qualcun altro, vi trovate in basso a destra: I Banditi. Ora, a nessuno piacciono i banditi. Se un bandito vi deruba in un vicolo e vi porta via cento dollari, voi siete più poveri di cento dollari. Ma notate un dettaglio affascinante: il bandito è più ricco di cento dollari. C'è una logica. Potete prevedere cosa vuole un bandito, potete chiudere a chiave la porta contro un bandito e potete persino negoziare con un bandito.

E poi c'è l'angolo in basso a sinistra: Gli Stupidi.

Perché uno stupido è più pericoloso di un bandito? Perché un bandito persegue almeno un interesse personale razionale. Uno stupido entrerà nella vostra cucina alle due di notte, darà fuoco al vostro tostapane senza alcuna ragione, si brucerà le sopracciglia nel farlo e uscirà lamentandosi del fumo. Perdono tutti. Nessuno ci guadagna nulla. E poiché non esiste un movente razionale, non potete mai difendervi.

Come le caselle aziendali fabbricano la stupidità

Se avete mai trascorso del tempo dentro una grande azienda, conoscete la crudele ironia del diagramma di Cipolla: i gruppi dirigenti adorano infilare gli esseri umani in quattro caselle, eppure non usano quasi mai quelle giuste.

Esiste un intero genere di meme su internet dedicato ai quadranti aziendali. Chiudete dieci dirigenti in una sala riunioni fuori sede con una lavagna bianca e un vassoio di croissant, e nel giro di venti minuti qualcuno traccerà due linee perpendicolari, inventerà due assi completamente campati in aria — “Velocità Strategica” contro “Allineamento Interfunzionale” — e passerà i tre trimestri successivi a spingere ogni essere umano dell'edificio dentro un quadratino.

Quasi tutte quelle griglie aziendali sono puro teatro. In tutta la mia carriera, oltre al grafico di Cipolla, ho visto solo un'altra matrice due per due capace di dire davvero la verità su come funzionano le organizzazioni.

Anni fa, Simon Sinek tenne un celebre intervento su come i Navy SEALs selezionano gli operatori per il SEAL Team Six. Disegnano un grafico semplicissimo con le Prestazioni sull'asse verticale e la Fiducia sull'asse orizzontale.

Ovviamente nessuno vuole la persona in basso a sinistra, con basse prestazioni e bassa fiducia, e tutti vogliono il fuoriclasse in alto a destra, con alte prestazioni e alta fiducia. Ciò che affascinò Sinek fu quello che i SEAL avevano scoperto sugli altri due angoli: sceglieranno sempre, senza eccezioni, un operatore di medie — o persino basse — prestazioni ma di alta fiducia rispetto a uno di alte prestazioni ma di bassa fiducia.

Perché? Perché in una squadra vera l'individuo “ad alte prestazioni e bassa fiducia” è veleno puro. È la superstar che centra i propri obiettivi personali calpestando il collo dei compagni, accaparrandosi i meriti e lasciando che siano tutti gli altri a pagare il conto. Guardate da vicino il grafico di Sinek e vi renderete conto che un elemento ad alte prestazioni e bassa fiducia ha un nome molto più antico nel libro di Cipolla: è un Bandito Aziendale.

La maggior parte delle aziende è pessima nel distinguere un costruttore Intelligente da un Bandito affascinante. E poiché i vertici aziendali non sanno misurare la fiducia o la capacità di giudizio, cercano di proteggersi inventando i Processi.

Ed è lì che nasce la stupidità istituzionale.

Prendiamo uno dei capitoli più surreali della storia aziendale. Per anni Microsoft ha gestito le valutazioni del personale con un rigido sistema di “stack ranking”. In base a questa procedura, ogni manager era costretto per impostazione predefinita a classificare il proprio team secondo una curva statistica fissa: a ogni ciclo di valutazione, una percentuale prestabilita di ogni singolo team doveva essere collocata in fondo alla classifica e accompagnata alla porta, sul presupposto matematico che una quota fissa di assunzioni dovesse per forza essere sbagliata.

Fermatevi un secondo ad ammirare la pura architettura di quell'idea.

Potevate essere un manager che aveva impiegato due anni a reclutare dieci tra i più brillanti ingegneri della terra — dieci persone da hall of fame. Non importava. Il foglio di calcolo esigeva un sacrificio, quindi uno dei vostri geni doveva essere etichettato come un fallito.

Che cosa accadde dopo? Esattamente ciò che chiunque sano di mente avrebbe previsto. Gli ingegneri brillanti rifiutavano di entrare in team dove c'erano già altri ingegneri brillanti, perché sedersi accanto a un genio significava che a essere buttato giù dalla barca potevi essere tu. Le persone smisero di aiutare gli altri team. I colleghi nascondevano le informazioni per impedire ai pari di brillare più di loro. Un intero decennio di innovazione fu silenziosamente strangolato da una formula delle risorse umane.

Fatevi la domanda di Cipolla: Chi ci ha guadagnato da quel processo?
Non gli ingegneri. Non i manager. Non i clienti. Non gli azionisti. Era pura stupidità industriale da quadrante in basso a sinistra, travestita da “rigorosa scienza manageriale”.

Entra in scena l'IA: togliere il limite di velocità alle cattive idee

Negli ultimi millenni l'umanità ha avuto un meccanismo di sicurezza integrato contro la Quarta Legge di Cipolla: fare le cose richiedeva fatica.

Prima dell'IA, la stupidità aveva un limite naturale di velocità. Anche la persona più instancabilmente controproducente della vostra azienda aveva solo dieci dita e una giornata lavorativa di otto ore. C'era un limite fisico al numero di promemoria di cinque pagine che poteva scrivere, di presentazioni di riorganizzazione inutili che poteva impaginare e di colleghi che poteva distrarre prima del venerdì pomeriggio.

Poi abbiamo inventato l'IA generativa — e abbiamo tolto i freni all'auto.

Guardatevi intorno nel mondo del lavoro oggi e assisterete a un'esplosione assoluta di persone che compiono azioni prive di senso a una velocità diecimila volte superiore a prima.

Qualcuno ha un pensiero minuscolo e abbozzato il martedì mattina. Invece di rifletterci su per dieci minuti, chiede a un'IA di trasformare tre punti elenco in un maestoso “Documento di Visione Strategica” di dodici pagine. Lo invia a venti colleghi. Quei venti colleghi danno un'occhiata alle dodici pagine, alzano gli occhi al cielo e chiedono alla loro IA di riassumerlo di nuovo in tre punti elenco.

Pensate alla fisica di ciò che è appena accaduto. Venti persone hanno perso venti minuti della loro giornata, un data center da qualche parte in Virginia ha fatto bollire una piscina d'acqua per alimentare le GPU e non una singola goccia di autentica intuizione umana si è spostata da un cervello all'altro.

E questa è solo la versione educata. In tutta la rete, le aziende stanno sguinzagliando eserciti di “agenti autonomi di outreach basati su IA” per inondare milioni di caselle di posta con messaggi finto-personali, bruciando la propria reputazione e rendendo l'email inutilizzabile per tutti gli altri. I team di prodotto generano montagne di funzionalità che nessuno ha chiesto e codice che nessuno comprende, semplicemente perché il pulsante per generarlo è gratuito.

La grande illusione dei consigli di amministrazione

Questo ci porta alla più grande illusione presente oggi nei consigli di amministrazione: la convinzione che innestare l'IA nei processi esistenti renderà intelligente la propria azienda.

Ovunque andiate, i dirigenti sono in preda al panico: “Mettiamo l'IA nell'assistenza clienti! Mettiamo l'IA nel processo di pianificazione! Mettiamo l'IA nelle valutazioni del personale!”

Ascoltate bene: se il vostro processo è già rotto — se il flusso di assistenza è progettato per intrappolare i clienti in un labirinto finché non si arrendono, se il vostro processo di prodotto consiste in diciannove livelli di comitati che approvano presentazioni, se la vostra cultura premia i Banditi Aziendali e punisce l'onestà — collegare l'IA a quel processo non aggiusterà la vostra azienda.

Renderà semplicemente il vostro processo stupido ancora più stupido, alla velocità della luce.

Immaginate se Microsoft, al culmine della follia dello stack ranking, avesse collegato un agente IA alle risorse umane affinché classificasse e licenziasse automaticamente una percentuale di ogni team di ingegneria ogni lunedì mattina. Sarebbe stata “trasformazione digitale”? O sarebbe stato un modo più rapido per dare fuoco alla casa?

La tecnologia non ha mai riparato, nemmeno una volta, una filosofia sbagliata. Quando monti un motore di Formula 1 su un carrello della spesa con una ruota storta, non vinci il Gran Premio. Ti schianti semplicemente contro il lampione del parcheggio a trecento chilometri all'ora.

Perché resto un ottimista: l'IA nelle mani degli Intelligenti

Ora, potreste leggere tutto questo e pensare che io sia cinico riguardo all'IA.

È esattamente il contrario. Una volta comprese le leggi di Cipolla, ci si rende conto che dare la colpa all'IA per il diluvio di assurdità aziendali è come dare la colpa al martello perché qualcuno si è schiacciato il pollice.

L'IA è uno strumento. Questo è ciò che è, ed è per questo che esiste.

Uno strumento non ha ego, non ha morale e non appartiene di per sé ad alcun quadrante. È un puro moltiplicatore dell'essere umano che lo impugna. Mettetelo in mano a un Bandito, e lo userà per estrarre di più dando di meno. Consegnatelo a un processo stupido, e produrrà caos su scala industriale.

Ma consegnate quello stesso identico strumento a qualcuno che abita il quadrante degli Intelligenti di Cipolla — qualcuno non stupido, mosso da uno scopo non stupido — e accade la magia.

Ricordate cosa definisce gli Intelligenti nel mondo di Cipolla, e cosa definisce l'angolo in alto a destra del grafico dei Navy SEALs di Sinek: alta fiducia, lucidità di giudizio e azioni che creano valore reale per sé proprio perché creano valore reale per gli altri.

Quando persone così prendono in mano l'IA, non la usano per generare promemoria di dodici pagine che nessuno vuole leggere, e non la imbullonano alla burocrazia di ieri. Ripartono dai principi primi. Si chiedono come qualcosa dovrebbe davvero funzionare per un altro essere umano. Eliminano le caselle ridicole, il teatro dei comitati e l'attrito artificiale. E poi usano l'IA come la leva che era destinata a essere — permettendo a un piccolo gruppo di costruttori ad alta fiducia, o persino a un singolo creatore dalla mente lucida, di realizzare cose di straordinaria utilità e bellezza per il mondo.

Alla fine, l'era dell'IA non è affatto un banco di prova dell'intelligenza delle macchine. Le macchine sono già fin troppo intelligenti per ciò che chiediamo loro.

È un banco di prova della nostra.

Potete usare lo strumento più potente della storia umana per automatizzare le vostre cattive abitudini e moltiplicare il rumore. Oppure potete entrare nel quadrante in alto a destra di Cipolla: aggiustare il modo in cui funzionano le cose, prendervi cura dell'essere umano dall'altra parte e costruire qualcosa che lasci tutti nella stanza in una condizione migliore di prima.