Ніколи не довіряйте суперкомп’ютер неправильному квадранту

Існує невеличка книжка, написана у 1976 році, яка пояснює те, що відбувається сьогодні всередині технологічних компаній, краще за всі презентації про штучний інтелект за останні два роки разом узяті.

Її написав Карло Марія Чіполла — італійський історик економіки, який ділив своє життя між Павією та Берклі. Чіполла десятиліттями вивчав, як підносяться й занепадають економіки, як обвалюються валюти і як імперії примудряються руйнувати цілком справні речі. Зрештою він дійшов висновку настільки визвольного — і настільки політично некоректного, — що спершу надрукував книжку англійською лише для вузького кола друзів.

Вам не потрібні темні змови, аби пояснити, чому у світі панує безлад, стверджував Чіполла. Вам навіть не потрібен злий умисел. Достатньо зрозуміти єдину наймогутнішу силу в історії людства: дурість.

Перш ніж хтось образиться: Чіполла вживав це слово не як образу. Він послуговувався ним так, як фізик говорить про гравітацію. А через пів століття ми щойно зробили дещо, чого Чіполла не дожив побачити: ми вручили людській дурості двигун нескінченного підсилення під назвою Штучний Інтелект.

П’ять законів Чіполли (коротко і точно)

Щоб зрозуміти, чому це так важливо саме зараз, треба знати п’ять законів Чіполли — адже на їх засвоєння потрібно менше ніж дві хвилини, а коли ви їх знаєте, вони пояснюють майже все, що ви бачите на роботі.

1. Перший закон: Завжди і неминуче кожен недооцінює кількість дурних індивідів в обігу. Хоч би якою високою була ваша оцінка, ви все одно занижуєте цифру. Люди, яких ви колись вважали раціональними й урівноваженими, у найбільш невідповідний момент вас здивують.
2. Другий закон: Імовірність того, що певна людина є дурною, абсолютно не залежить від жодної іншої характеристики цієї людини. Це закон, який боляче б’є по найбільшій кількості его. Незалежно від того, чи тестуєте ви прибиральників, менеджерів середньої ланки, засновників стартапів із Кремнієвої долини, чотиризіркових генералів або лауреатів Нобелівської премії, у кожній групі дурною виявляється точнісінько однакова частка людей. Дипломи, багатство й гучні титули не зменшують дурості; вони лише дають їй більший мегафон.
3. Третій (і Золотий) закон: Дурна людина — це людина, яка завдає збитків іншій людині або групі людей, сама не отримуючи від цього жодної вигоди і навіть, можливо, зазнаючи власних втрат.
4. Четвертий закон: Недурні люди завжди недооцінюють руйнівну силу дурних індивідів. Зокрема, ми постійно забуваємо, що в будь-який час, у будь-якому місці й за будь-яких обставин мати справу або зв’язуватися з дурними людьми незмінно виявляється дорогою помилкою.
5. П’ятий закон: Дурна людина — це найнебезпечніший тип людини, навіть небезпечніший за бандита.

Аби показати, чому Третій і П’ятий закони правдиві, Чіполла накреслив просту координатну площину, де кожна людська дія вимірюється двома запитаннями: Наскільки це допомагає чи шкодить вам? та Наскільки це допомагає чи шкодить іншим?

FIG. 01 · ЧОТИРИ КВАДРАНТИ ЛЮДСЬКИХ ДІЙ ЗА КАРЛО МАРІЄЮ ЧІПОЛЛОЮ (1976)НАВЕДІТЬ КУРСОР АБО ТОРКНІТЬСЯ БУДЬ-ЯКОГО КВАДРАНТА, ЩОБ ДОСЛІДИТИ ЙОГО КООРДИНАТИ

Погляньте на чотири квадранти, які при цьому виникають:

Якщо ви робите щось, що приносить користь вам і водночас приносить користь людям навколо вас, ви перебуваєте у верхньому правому куті: Розумні (Gli Intelligenti). Ви граєте у гру з додатною сумою. Ви залишаєте кімнату кращою, ніж вона була до вас.

Якщо ви робите щось, що шкодить вам, але створює вигоду для когось іншого, ви у верхньому лівому куті: Безпорадні / Простаки (Gli Sprovveduti) — можливо, великодушні, а можливо, просто наївні.

Якщо ви робите щось, що приносить вигоду вам ціною втрат для когось іншого, ви сидите в нижньому правому куті: Бандит (I Banditi). Звісно, ніхто не любить бандитів. Якщо бандит пограбує вас у провулку й забере сто доларів, ви станете на сто доларів біднішими. Але зауважте дещо цікаве: бандит став на сто доларів багатшим. У цьому є логіка. Ви можете передбачити, чого хоче бандит, можете замкнути перед бандитом двері і навіть можете провести з бандитом переговори.

А ще є нижній лівий кут: Дурні (Gli Stupidi).

Чому дурна людина небезпечніша за бандита? Тому що бандит принаймні керується раціональним власним інтересом. Дурна ж людина зайде на вашу кухню о другій годині ночі, без жодної причини підпалить ваш тостер, обсмалить собі при цьому брови й вийде геть, скаржачись на дим. Програють усі. Ніхто нічого не виграє. І оскільки тут немає раціонального мотиву, ви ніколи не зможете від цього захиститися.

Як корпоративні клітинки штампують дурість

Якщо ви коли-небудь працювали в корпорації, то знаєте жорстоку іронію діаграми Чіполли: управлінські команди обожнюють розкладати людей по чотирьох клітинках, але майже ніколи не використовують правильні.

Існує цілий жанр інтернет-мемів, присвячений корпоративним квадрантам. Замкніть десятьох топменеджерів на виїзній сесії з маркерною дошкою і тарілкою круасанів — і вже за двадцять хвилин хтось проведе дві перпендикулярні лінії, вигадає дві цілковито взяті зі стелі осі — «Стратегічна швидкість» проти «Міжфункціональна узгодженість» — і проведе наступні три квартали, запихаючи кожну людину в будівлі у відповідний квадратик.

Майже всі ці корпоративні сітки — чистий театр. За всю свою кар’єру, окрім графіка Чіполли, я бачив лише одну-єдину матрицю два на два, яка справді говорить правду про те, як працюють організації.

Багато років тому Саймон Сінек виступив зі знаменитою промовою про те, як спецпризначенці Navy SEALs відбирають бійців до загону SEAL Team Six. Вони малюють просту схему з Продуктивністю на вертикальній осі та Довірою на горизонтальній.

FIG. 02 · МАТРИЦЯ «ПРОДУКТИВНІСТЬ ПРОТИ ДОВІРИ» САЙМОНА СІНЕКА / U.S. NAVY SEALSНАВЕДІТЬ КУРСОР АБО ТОРКНІТЬСЯ БУДЬ-ЯКОГО КВАДРАНТА, ЩОБ ПОБАЧИТИ ЙОГО ВПЛИВ НА КОМАНДУ

Очевидно, що ніхто не хоче людину з нижнього лівого кута з низькою продуктивністю і низькою довірою, і всі хочуть зірку з верхнього правого кута з високою продуктивністю і високою довірою. Сінека вразило те, що бійці SEALs зрозуміли про два інші кути: вони щоразу обирають людину із середньою — або навіть низькою — продуктивністю, але високою довірою, замість людини з високою продуктивністю та низькою довірою.

Чому? Тому що у справжній команді «висока продуктивність за низької довіри» — це отрута. Це суперзірка, яка виконує особисті показники, ступаючи по шиях товаришів по команді, привласнюючи чужі заслуги й перекладаючи провину на всіх інших. Придивіться уважно до схеми Сінека, і ви усвідомите, що високоефективний працівник із низькою довірою має в книзі Чіполли значно давніше ім’я: він — Корпоративний Бандит.

Більшість компаній катастрофічно погано відрізняють Розумного творця від чарівного Бандита. І оскільки керівництво не вміє вимірювати довіру чи здоровий глузд, воно намагається захистити себе, вигадуючи Процеси.

Саме там і народжується інституційна дурість.

Згадаймо один із найсюрреалістичніших розділів корпоративної історії. Роками Microsoft проводила оцінювання персоналу за жорсткою системою примусового ранжування — «stack ranking». За цим процесом кожен менеджер був за замовчуванням зобов’язаний оцінювати свою команду за фіксованою статистичною кривою — тобто під час кожного циклу оцінювання встановлений відсоток кожнісінької команди мусив опинитися на дні й бути звільненим, виходячи з математичного припущення, ніби фіксована частка найнятих працівників неодмінно є помилкою найму.

Зупиніться на секунду і помилуйтеся чистою архітектурою цієї ідеї.

Ви могли бути керівником, який витратив два роки на те, щоб зібрати десятьох найблискучіших інженерів на планеті — десятьох людей, гідних зали слави. Байдуже. Електронна таблиця вимагала жертви, тож одного з ваших геніїв доводилося таврувати як невдаху.

Що сталося далі? Саме те, що передбачила б будь-яка притомна людина. Розумні інженери відмовлялися переходити в команди, де вже працювали розумні інженери, адже сидіти поруч із генієм означало, що за борт можуть викинути саме вас. Люди перестали допомагати іншим командам. Колеги приховували інформацію, щоб сусіди не затьмарили їх. Ціле десятиліття інновацій було тихо задушене формулою відділу кадрів.

Поставте собі запитання Чіполли: Хто виграв від цього процесу?
Не інженери. Не менеджери. Не клієнти. Не акціонери. Це була чиста дурість із нижнього лівого кута в промисловому масштабі — переодягнена у «сувору науку управління».

На сцену виходить ШІ: Скасування обмеження швидкості для поганих ідей

Протягом останніх кількох тисячоліть людство мало один вбудований запобіжник проти Четвертого закону Чіполли: щоб щось зробити, потрібно було докласти зусиль.

До появи ШІ дурість мала природне обмеження швидкості. Навіть найбільш невтомно контрпродуктивна людина у вашій компанії мала лише десять пальців і восьмигодинний робочий день. Існувала фізична межа того, скільки п’ятисторінкових доповідних записок вона могла написати, скільки непотрібних презентацій про реорганізацію могла відформатувати і скількох людей могла відволікти до вечора п’ятниці.

А потім ми винайшли генеративний ШІ — і зняли з автомобіля гальма.

Озирніться навколо у діловому світі сьогодні, і ви побачите абсолютний вибух людей, які роблять безглузді речі в десять тисяч разів швидше, ніж раніше.

У когось у вівторок уранці з’являється крихітна, напівсформована думка. Замість того щоб обміркувати її десять хвилин, людина просить ШІ перетворити три тези на величний дванадцятисторінковий «Документ стратегічного бачення». Вона розсилає його двадцятьом колегам. Ці двадцятеро колег кидають один погляд на дванадцять сторінок, закочують очі й просять свій ШІ скоротити текст назад до трьох тез.

Подумайте про фізику того, що щойно сталося. Двадцятеро людей втратили по двадцять хвилин свого дня, дата-центр десь у Вірджинії випарував басейн води для охолодження відеокарт, і жодна крапля реального людського розуміння не перемістилася з одного мозку в інший.

І це ще чемна версія. По всьому інтернету компанії випускають армії «автономних ШІ-агентів з аутричу», щоб засипати мільйони поштових скриньок фальшиво-особистими листами — спалюючи власну репутацію і водночас роблячи електронну пошту непридатною для всіх інших. Продуктові команди генерують гори функцій, про які ніхто не просив, і коду, якого ніхто не розуміє, просто тому, що кнопка генерації безкоштовна.

Велика омана рад директорів

Це підводить нас до найбільшої омани в сучасних залах засідань директорів: віри в те, що приєднання ШІ до вашого наявного процесу зробить вашу компанію розумною.

Куди не підеш, керівники панікують: «Впровадьте ШІ в нашу службу підтримки! Впровадьте ШІ в наш процес планування! Впровадьте ШІ в оцінювання персоналу!»

Послухайте уважно: якщо ваш процес уже зламаний — якщо ваш сценарій підтримки створений для того, щоб загнати клієнтів у лабіринт, доки вони не здадуться; якщо ваш продуктовий процес складається з дев’ятнадцяти рівнів комітетів, які затверджують слайди; якщо ваша культура винагороджує Корпоративних Бандитів і карає за чесність, — підключення ШІ до цього процесу не вилікує вашу компанію.

Воно просто зробить ваш дурний процес іще дурнішим — зі швидкістю світла.

Уявіть, якби Microsoft на піку свого божевілля зі stack ranking підключила ШІ-агента до HR-відділу, аби він щопонеділка зранку автоматично ранжував і звільняв певний відсоток кожної інженерної команди. Чи було б це «цифровою трансформацією»? Чи просто швидшим способом спалити власний дім?

Технологія ще жодного разу не виправила зламану філософію. Коли ви чіпляєте двигун Формули-1 до візка із супермаркету з погнутим колесом, ви не виграєте Гран-прі. Ви просто врізаєтеся в ліхтарний стовп на парковці на швидкості триста кілометрів на годину.

Чому я все одно оптиміст: ШІ в руках Intelligenti

Прочитавши все це, ви можете подумати, що я цинічно ставлюся до ШІ.

Зовсім навпаки. Коли ви розумієте закони Чіполли, то усвідомлюєте: звинувачувати ШІ в потоці корпоративної нісенітниці — це те саме, що звинувачувати молоток через те, що хтось ударив себе по пальцю.

ШІ — це інструмент. Ось чим він є, і ось чому він існує.

Інструмент не має ні его, ні моралі, ні власного квадранта. Він є чистим множником тієї людини, яка тримає його в руках. Дайте його Бандиту — і він використає його, щоб витягувати більше, віддаючи менше. Дайте його дурному процесу — і він вироблятиме хаос у промислових масштабах.

Але дайте точнісінько цей самий інструмент комусь із Розумного квадранта Чіполли — людині недурній і з недурною метою — і станеться диво.

Згадайте, що визначає Intelligenti у світі Чіполли і що визначає верхній правий кут матриці Navy SEALs у Сінека: висока довіра, ясне судження та дії, які створюють реальну цінність для вас через створення реальної цінності для інших.

Коли такі люди беруть до рук ШІ, вони не використовують його для генерації дванадцятисторінкових записок, які ніхто не хоче читати, і не прикручують його до вчорашньої бюрократії. Вони починають із перших принципів. Вони запитують, як щось має насправді працювати для іншої людини. Вони відкидають безглузді клітинки, театр комітетів і штучне тертя. А потім використовують ШІ як важіль, яким він і мав бути — дозволяючи невеликій групі творців із високою довірою або навіть одному ясному розуму будувати для світу речі надзвичайної користі та краси.

Зрештою, епоха ШІ — це зовсім не іспит для машинного інтелекту. Машини цілком достатньо розумні для того, про що ми їх просимо.

Це іспит для нашого розуму.

Ви можете використати найпотужніший інструмент в історії людства, щоб автоматизувати свої погані звички й примножити шум. Або ж можете ступити у верхній правий кут Чіполли — полагодити те, як працюють речі, подбати про людину по той бік і збудувати щось, завдяки чому всім у кімнаті стане краще, ніж було доти.