절대로 잘못된 사분면에 슈퍼컴퓨터를 건네지 마라

지난 2년 동안 열린 모든 AI 기조연설을 합친 것보다 오늘날 기술 기업 내부에서 벌어지고 있는 일을 더 정확히 설명해 주는, 1976년에 쓰인 작은 책이 한 권 있다.

이 책을 쓴 사람은 이탈리아 파비아와 캘리포니아 버클리를 오가며 활동했던 경제사학자 카를로 마리아 치폴라(Carlo Maria Cipolla)다. 치폴라는 수십 년 동안 경제가 어떻게 흥하고 망하는지, 통화가 어떻게 붕괴하는지, 그리고 제국이 어떻게 멀쩡하던 것들을 망쳐놓는지를 연구했다. 마침내 그는 너무나 속이 후련하면서도—동시에 너무나 정치적으로 올바르지 못한(politically incorrect)—결론에 도달했고, 처음에는 가까운 친구들에게만 나눠주기 위해 영어로 소량만 인쇄했을 정도였다.

세상이 왜 이토록 엉망진창인지 설명하기 위해 거창한 음모론 따위는 필요 없다고 치폴라는 주장했다. 심지어 악의조차 필요 없다. 단지 인류 역사상 가장 강력한 단 하나의 힘을 이해하기만 하면 된다. 바로 어리석음(stupidity)이다.

누군가 불쾌해하기 전에 미리 말하자면, 치폴라는 이 단어를 모욕으로 사용한 것이 아니었다. 그는 물리학자가 중력을 이야기하듯 이 단어를 사용했다. 그리고 반세기가 지난 지금, 우리는 치폴라가 생전에 미처 보지 못했던 일을 막 저질렀다. 인간의 어리석음에 ‘인공지능’이라 불리는 무한 증폭 엔진을 쥐여준 것이다.

치폴라의 다섯 가지 법칙 (간결하고 정확하게)

왜 이것이 지금 당장 중요한지 이해하려면 치폴라의 다섯 가지 법칙을 알아야 한다. 배우는 데 2분도 걸리지 않지만, 일단 알고 나면 직장에서 목격하는 거의 모든 일을 설명해 주기 때문이다.

1. 제1법칙: 언제나 그리고 필연적으로, 모든 사람은 세상에 돌아다니는 어리석은 사람들의 수를 과소평가한다. 당신의 추정치가 아무리 높더라도 실제보다는 낮다. 한때 이성적이고 분별력 있다고 여겼던 사람들이 가장 곤란한 순간에 당신을 놀라게 할 것이다.
2. 제2법칙: 어떤 사람이 어리석을 확률은 그 사람의 다른 어떤 특성과도 완전히 무관하다. 이것이 사람들의 자존심에 가장 큰 상처를 입히는 법칙이다. 청소부를 조사하든, 중간 관리자를 조사하든, 실리콘밸리 창업자, 4성 장군, 혹은 노벨상 수상자를 조사하든, 모든 집단에서 정확히 똑같은 비율의 사람이 어리석다. 학벌, 부, 화려한 직함은 어리석음을 줄여주지 않는다. 단지 어리석음에 더 큰 확성기를 달아줄 뿐이다.
3. 제3법칙(황금 법칙): 어리석은 사람이란 자신은 아무런 이득도 얻지 못하며 심지어 손실을 입을 수도 있으면서, 다른 사람이나 집단에 손실을 입히는 사람이다.
4. 제4법칙: 어리석지 않은 사람들은 언제나 어리석은 사람들의 파괴력을 과소평가한다. 특히 우리는 언제, 어디서, 어떤 상황에서든 어리석은 사람들과 거래하거나 어울리는 것이 반드시 값비싼 실수로 끝난다는 사실을 끊임없이 잊어버린다.
5. 제5법칙: 어리석은 사람은 가장 위험한 유형의 사람이다—심지어 강도보다도 더 위험하다.

왜 제3법칙과 제5법칙이 참인지를 보여주기 위해, 치폴라는 인간의 모든 행동을 두 가지 질문으로 측정하는 단순한 좌표 평면을 그렸다. 그것이 당신에게 얼마나 도움이 되거나 해가 되는가? 그리고 그것이 타인에게 얼마나 도움이 되거나 해가 되는가?

여기서 나타나는 네 개의 사분면을 살펴보자.

당신에게도 이익이 되고 주변 사람들에게도 이익이 되는 일을 한다면, 당신은 오른쪽 위 모서리에 자리한다. 바로 지성인(Gli Intelligenti)이다. 당신은 플러스섬 게임을 하고 있으며, 자신이 머문 자리를 처음보다 더 나은 곳으로 만들어 놓고 떠난다.

자신에게는 손해가 되지만 다른 누군가에게 이익을 만들어 주는 일을 한다면, 당신은 왼쪽 위 모서리에 있다. 순진한 사람(Gli Sprovveduti)—관대한 것일 수도 있고, 그저 순진한 것일 수도 있다.

다른 사람에게 손실을 입힘으로써 자신의 이익을 챙긴다면, 당신은 오른쪽 아래 모서리에 앉아 있다. 바로 강도(I Banditi)다. 물론 강도를 좋아하는 사람은 아무도 없다. 골목길에서 강도를 만나 100달러를 빼앗기면 당신은 100달러만큼 가난해진다. 하지만 여기서 흥미로운 사실에 주목해 보자. 강도는 100달러만큼 부유해졌다는 점이다. 거기에는 논리가 있다. 우리는 강도가 무엇을 원하는지 예측할 수 있고, 강도를 막기 위해 문을 잠글 수도 있으며, 심지어 강도와 협상할 수도 있다.

그리고 마지막으로 왼쪽 아래 모서리가 있다. 바로 어리석은 사람(Gli Stupidi)이다.

왜 어리석은 사람이 강도보다 더 위험할까? 강도는 적어도 합리적인 사리사욕을 따르기 때문이다. 반면 어리석은 사람은 새벽 두 시에 당신 집 부엌으로 걸어 들어와 아무 이유도 없이 토스터에 불을 지르고, 그 과정에서 자기 눈썹까지 홀랑 태워 먹은 뒤, 연기가 매캐하다고 불평하며 걸어 나간다. 모두가 잃는다. 얻는 것은 아무것도 없다. 그리고 합리적인 동기가 전혀 없기 때문에, 이에 맞서 방어할 방법도 절대 없다.

기업의 사분면 상자들은 어떻게 어리석음을 양산하는가

기업 내부에서 시간을 보내본 적이 있다면, 치폴라의 도표가 지닌 잔인한 아이러니를 잘 알 것이다. 경영진은 인간을 네 개의 상자 안에 집어넣는 것을 무척이나 좋아하지만, 정작 올바른 상자를 사용하는 법은 거의 없다.

인터넷에는 기업의 사분면 표를 풍자하는 밈(Meme) 장르가 따로 있을 정도다. 임원 열 명을 화이트보드와 크루아상 한 접시가 놓인 워크숍 회의실에 가두어 놓으면, 20분도 채 되지 않아 누군가 수직으로 교차하는 선 두 개를 긋고, 완전히 지어낸 두 개의 축—“전략적 속도(Strategic Velocity)” 대 “부서 간 정렬(Cross-Functional Alignment)”—을 발명한 뒤, 다음 세 분기 동안 건물 안의 모든 직원을 그 네모 칸 안에 밀어 넣는 데 시간을 쏟는다.

그러한 기업용 그리드의 거의 전부는 순수한 연극(theater)이다. 내 모든 커리어를 통틀어, 치폴라의 표를 제외하면 조직이 실제로 작동하는 방식에 대해 진실을 말해 주는 2×2 표는 단 하나밖에 보지 못했다.

수년 전, 사이먼 시넥(Simon Sinek)은 미 해군 네이비실(Navy SEALs)이 최정예 특수부대인 SEAL Team Six 대원을 어떻게 선발하는지에 대해 유명한 강연을 했다. 그들은 세로축에 성과(Performance)를, 가로축에 신뢰(Trust)를 놓고 단순한 표를 그린다.

당연히 왼쪽 아래의 ‘낮은 성과·낮은 신뢰’에 해당하는 사람을 원하는 곳은 아무도 없고, 오른쪽 위의 ‘높은 성과·높은 신뢰’를 가진 스타는 모두가 원한다. 시넥을 매료시킨 것은 나머지 두 모서리에 대해 네이비실이 발견한 사실이었다. 그들은 ‘높은 성과·낮은 신뢰’의 인재보다 ‘중간—혹은 심지어 낮은—성과라 할지라도 높은 신뢰’를 가진 인재를 예외 없이 매번 선택한다는 것이다.

왜 그럴까? 진짜 팀에서 ‘성과는 높지만 신뢰가 낮은 사람’은 독약이기 때문이다. 그는 동료들의 목을 밟고 올라서고, 공로를 독차지하며, 책임은 다른 사람에게 떠넘김으로써 개인 목표를 달성하는 슈퍼스타다. 시넥의 표를 자세히 들여다보면, 신뢰가 낮고 성과가 높은 사람에게는 치폴라의 책에 나오는 훨씬 오래된 이름이 있다는 사실을 깨닫게 된다. 그는 바로 ‘사내 강도(Corporate Bandit)’다.

대부분의 기업은 ‘지성인 빌더’와 ‘매력적인 강도’를 구분하는 데 끔찍할 정도로 서투르다. 그리고 경영진은 신뢰나 판단력을 측정하는 방법을 모르기 때문에, 스스로를 보호하고자 프로세스(Processes)를 발명해 낸다.

바로 거기서 제도화된 어리석음이 탄생한다.

기업 역사상 가장 초현실적인 장면 중 하나를 떠올려 보자. 수년 동안 마이크로소프트는 경직된 ‘스택 랭킹(stack ranking)’ 시스템으로 인사 평가를 운영했다. 이 프로세스 아래에서 모든 관리자는 기본적으로 고정된 통계 곡선에 따라 팀원들의 등급을 매기도록 강요받았다—채용 인원의 일정 비율은 반드시 잘못된 채용일 것이라는 수학적 가정 아래, 매 평가 주기마다 모든 단일 팀의 정해진 비율을 최하위로 분류해 회사 밖으로 내보내야만 했던 것이다.

잠시 멈추어 그 아이디어의 기막힌 아키텍처를 감상해 보라.

당신이 2년 동안 지구상에서 가장 뛰어난 엔지니어 열 명—명예의 전당에 올라야 마땅할 열 명의 천재—을 영입한 관리자라 해도 상관없었다. 스프레드시트는 제물을 요구했고, 따라서 당신의 천재 중 한 명은 반드시 실패자라는 꼬리표를 달아야만 했다.

그다음에 무슨 일이 벌어졌을까? 제정신을 가진 사람이라면 누구나 예측할 법한 일이 그대로 일어났다. 똑똑한 엔지니어들은 이미 똑똑한 엔지니어들이 있는 팀에 합류하기를 거부했다. 천재 옆에 앉는다는 것은 곧 자신이 배 밖으로 밀려나는 사람이 될 수도 있음을 의미했기 때문이다. 사람들은 다른 팀을 돕는 일을 멈췄다. 동료가 자신보다 돋보이지 못하도록 정보를 움켜쥐고 공유하지 않았다. 그렇게 온전한 10년의 혁신이 인사과의 공식 하나에 의해 조용히 질식사했다.

스스로에게 치폴라의 질문을 던져보라. 그 프로세스로부터 누가 이득을 얻었는가?
엔지니어도 아니었다. 관리자도 아니었다. 고객도 아니었다. 주주도 아니었다. 그것은 ‘엄격한 경영 과학’으로 포장된, 순도 100% 산업용 등급의 왼쪽 아래 사분면 ‘어리석음’이었다.

AI의 등장: 나쁜 아이디어의 속도 제한을 해제하다

지난 수천 년 동안 인류에게는 치폴라의 제4법칙에 맞서는 하나의 내장된 안전장치가 있었다. 바로 무언가를 하는 데에는 수고와 노력이 든다는 사실이었다.

AI 이전에는 어리석음에 자연적인 속도 제한이 있었다. 회사에서 가장 지칠 줄 모르고 비생산적인 일을 벌이는 사람이라 할지라도 손가락은 열 개뿐이었고 하루 근무 시간은 여덟 시간뿐이었다. 금요일 오후가 오기 전까지 그들이 작성할 수 있는 5페이지짜리 메모의 수에도, 서식을 맞출 수 있는 불필요한 조직 개편 발표 자료의 수에도, 방해할 수 있는 사람의 수에도 한계가 있었다.

그러다 우리가 생성형 AI를 발명했고—자동차에서 브레이크를 아예 떼어내 버렸다.

오늘날 비즈니스 세계를 둘러보면, 사람들이 무의미한 일을 이전보다 만 배나 빠른 속도로 해치우는 대폭발을 목격할 수 있다.

화요일 아침, 누군가에게 작고 설익은 생각이 하나 떠오른다. 그 생각을 10분 동안 깊이 숙고하는 대신, 그는 AI에게 세 줄짜리 요점을 장엄한 12페이지짜리 ‘전략적 비전 문서’로 부풀려 달라고 요청한다. 그리고 그것을 스무 명의 동료에게 보낸다. 스무 명의 동료는 12페이지를 힐끗 보고는 한숨을 내쉬며, 자신들의 AI에게 그것을 다시 세 줄짜리 요점으로 요약해 달라고 시킨다.

방금 일어난 일의 물리학을 생각해 보라. 스무 명의 사람이 하루 중 20분을 잃어버렸고, 버지니아 어딘가의 데이터센터는 GPU를 돌리기 위해 수영장 하나 분량의 물을 끓여 증발시켰으며, 정작 단 한 방울의 진정한 인간적 통찰도 한 뇌에서 다른 뇌로 이동하지 않았다.

그리고 이것은 그나마 점잖은 축에 속한다. 인터넷 전역에서 기업들은 ‘자율형 AI 아웃리치 에이전트’ 군단을 풀어 수백만 개의 받은편지함을 가짜 개인화 메시지로 뒤덮고 있다—자사 평판을 잿더미로 만드는 동시에 다른 모든 사람들에게 이메일을 사용할 수 없는 공간으로 만들면서 말이다. 제품 팀들은 단지 생성 버튼이 무료라는 이유만으로 아무도 요청하지 않은 기능의 산더미와 아무도 이해하지 못하는 코드를 찍어내고 있다.

이사회실의 거대한 착각

이 지점에서 우리는 지금 기업 이사회실에 만연한 가장 거대한 착각과 마주하게 된다. 바로 기존 프로세스에 AI를 꽂아 넣으면 회사가 똑똑해질 것이라는 믿음이다.

어디를 가나 임원들은 패닉에 빠져 외치고 있다. “고객 지원에 AI를 넣으세요! 기획 프로세스에 AI를 넣으세요! 인사 평가에 AI를 넣으세요!”

주의 깊게 들어보라. 만약 당신의 프로세스가 이미 고장 나 있다면—고객 지원 흐름이 고객을 미로에 가두어 포기하게 만들도록 설계되어 있다면, 제품 프로세스가 슬라이드 자료를 승인하는 19단계의 위원회로 이루어져 있다면, 조직 문화가 ‘사내 강도’에게 보상하고 정직함을 처벌한다면—그 프로세스에 AI를 꽂아 넣는다고 해서 회사가 고쳐지지는 않는다.

그저 당신의 어리석은 프로세스를 빛의 속도로 더 어리석게 만들 뿐이다.

상상해 보라. 만약 마이크로소프트가 스택 랭킹의 광기가 절정에 달했을 때 인사 시스템에 AI 에이전트를 연결하여, 매주 월요일 아침마다 모든 엔지니어링 팀의 일정 비율을 자동으로 순위 매기고 해고할 수 있게 했다면 어땠을까? 그것이 과연 ‘디지털 트랜스포메이션’이었을까? 아니면 집을 더 빨리 태워버리는 지름길이었을까?

기술은 단 한 번도 고장 난 철학을 고친 적이 없다. 바퀴가 휘어진 쇼핑카트에 포뮬러 1 엔진을 단다고 해서 그랑프리에서 우승할 수는 없다. 시속 200마일로 주차장 가로등 기둥에 처박힐 뿐이다.

그럼에도 내가 여전히 낙관주의자인 이유: 지성인(Intelligenti)의 손에 들린 AI

여기까지 읽고 나면 내가 AI에 대해 냉소적이라고 생각할지도 모르겠다.

오히려 정반대다. 치폴라의 법칙을 이해하고 나면, 기업 내 무의미한 소음의 범람을 두고 AI를 탓하는 것은 누군가 자기 엄지손가락을 내리쳤다고 해서 망치를 탓하는 것과 같다는 사실을 깨닫게 된다.

AI는 도구다. 그것이 AI의 본질이며, 존재하는 이유다.

도구에는 자아가 없고, 도덕성도 없으며, 고유한 사분면도 없다. 도구는 그것을 쥐고 있는 인간을 순수하게 증폭시키는 승수(multiplier)일 뿐이다. 강도에게 건네주면 더 적게 주면서 더 많이 빼앗는 데 사용할 것이다. 어리석은 프로세스에 건네주면 산업적 규모로 혼돈을 양산할 것이다.

하지만 정확히 똑같은 그 도구를 치폴라의 ‘지성인’ 사분면에 속한 사람—어리석지 않고, 어리석지 않은 목적을 가진 사람—에게 건네주면 마법이 일어난다.

치폴라의 세계에서 무엇이 지성인(Intelligenti)을 정의하는지, 그리고 시넥의 네이비실 차트에서 무엇이 오른쪽 위 모서리를 정의하는지 기억해 보라. 높은 신뢰, 명쾌한 판단력, 그리고 타인을 위해 진정한 가치를 창출함으로써 자신을 위해서도 진정한 가치를 창출하는 행동이다.

그런 사람들이 AI를 집어 들 때, 그들은 아무도 읽고 싶어 하지 않는 12페이지짜리 메모를 생성하는 데 그것을 쓰지 않으며, 어제의 관료주의에 억지로 나사를 박아 연결하지도 않는다. 그들은 제1원리에서 출발한다. 다른 인간을 위해 무언가가 실제로 어떻게 작동해야 하는지를 묻는다. 우스꽝스러운 네모 상자들과 위원회의 연극, 인위적인 마찰을 걷어낸다. 그리고 AI를 본래 의도된 지렛대로 삼아, 높은 신뢰로 뭉친 소수의 빌더 그룹이나 명징한 생각을 가진 단 한 명의 창작자가 세상을 위해 비범한 쓸모와 아름다움을 지닌 무언가를 만들 수 있게 한다.

결국 AI 시대는 기계의 지능을 시험하는 무대가 전혀 아니다. 기계들은 이미 우리가 요구하는 일을 해내기에 충분히 똑똑하다.

이것은 우리의 지성을 시험하는 무대다.

인류 역사상 가장 강력한 도구를 사용해 나쁜 습관을 자동화하고 소음을 증폭시킬 수도 있다. 아니면 치폴라의 오른쪽 위 모서리로 걸어 들어가—사물이 작동하는 방식을 고치고, 반대편에 있는 인간을 배려하며, 방 안의 모든 사람을 이전보다 더 나은 상태로 만들어 주는 무언가를 세울 수도 있다.