לעולם אל תמסרו מחשב-על לרביע הלא נכון

ישנו ספרון קטן שנכתב בשנת 1976 ומסביר את מה שמתרחש כיום בתוך חברות טכנולוגיה טוב יותר מכל נאומי הפתיחה על בינה מלאכותית בשנתיים האחרונות גם יחד.

הוא נכתב על ידי קרלו מריה צ׳יפולה, היסטוריון כלכלי איטלקי שחילק את חייו בין פאביה לברקלי. צ׳יפולה הקדיש עשרות שנים לחקר האופן שבו כלכלות עולות ונופלות, כיצד מטבעות קורסים, וכיצד אימפריות מצליחות להחריב דברים מצוינים. בסופו של דבר הוא הגיע למסקנה כה משחררת — וכה לא תקינה פוליטית — שבתחילה הדפיס את הספר באנגלית רק עבור חוג מצומצם של חברים.

אין צורך בקונספירציות אפלות כדי להסביר מדוע העולם שרוי בבלגן, טען צ׳יפולה. אפילו אין צורך בזדון. צריך רק להבין את הכוח החזק ביותר בהיסטוריה האנושית: טיפשות.

כעת, לפני שמישהו ייעלב, צ׳יפולה לא השתמש במילה הזו כעלבון. הוא השתמש בה כפי שפיזיקאי מדבר על כוח הכבידה. וחצי מאה לאחר מכן, עשינו דבר שצ׳יפולה לא זכה לראות בחייו: מסרנו לידי הטיפשות האנושית מנוע הגברה אינסופי שנקרא בינה מלאכותית.

חמשת החוקים של צ׳יפולה (בקצרה ובמדויק)

כדי להבין מדוע זה כל כך חשוב כרגע, עליכם להבין את חמשת החוקים של צ׳יפולה — משום שלוקח פחות משתי דקות ללמוד אותם, וברגע שמכירים אותם, הם מסבירים כמעט כל מה שרואים בעבודה.

1. החוק הראשון: תמיד ובאופן בלתי נמנע, כולם ממעיטים בהערכת מספר האנשים הטיפשים המסתובבים בינינו. לא משנה כמה גבוהה ההערכה שלכם, היא עדיין נמוכה מדי. אנשים שבעבר הנחתם שהם רציונליים ושקולים יפתיעו אתכם ברגע הכי פחות נוח שאפשר להעלות על הדעת.
2. החוק השני: ההסתברות שאדם מסוים הוא טיפש אינה תלויה כלל בשום תכונה אחרת של אותו אדם. זהו החוק שפוצע הכי הרבה אגו. בין אם תבדקו אנשי תחזוקה, מנהלי ביניים, מייסדים בעמק הסיליקון, גנרלים מעוטרים או זוכי פרס נובל, בדיוק אותו שיעור של אנשים בכל קבוצה הוא טיפש. תעודות, עושר ותארים מפוארים אינם מפחיתים טיפשות; הם רק מעניקים לה מגפון גדול יותר.
3. החוק השלישי (והמוזהב): אדם טיפש הוא אדם הגורם הפסדים לאדם אחר או לקבוצת אנשים מבלי להפיק שום רווח לעצמו, ואף עלול לספוג הפסדים בעצמו.
4. החוק הרביעי: אנשים שאינם טיפשים תמיד ממעיטים בהערכת כוח ההרס של אנשים טיפשים. בפרט, אנו שוכחים שוב ושוב כי בכל עת, בכל מקום ובכל נסיבות שהן, התעסקות או התרועעות עם אנשים טיפשים מתבררת תמיד כטעות יקרה.
5. החוק החמישי: אדם טיפש הוא הסוג המסוכן ביותר של אדם — מסוכן אפילו יותר משודד.

כדי להראות מדוע החוק השלישי והחמישי נכונים, שרטט צ׳יפולה מערכת צירים פשוטה המודדת כל פעולה אנושית באמצעות שתי שאלות: עד כמה היא מועילה או מזיקה לך? ועד כמה היא מועילה או מזיקה לאחרים?

התבוננו בארבעת הרביעים שנוצרים:

אם אתם עושים משהו שמועיל לכם וגם מועיל לאנשים סביבכם, אתם נמצאים בפינה הימנית העליונה: הנבונים (Gli Intelligenti). אתם משחקים משחק סכום חיובי. אתם משאירים את החדר במצב טוב יותר מכפי שמצאתם אותו.

אם אתם עושים משהו שמזיק לכם בעודו מייצר רווח למישהו אחר, אתם נמצאים בפינה השמאלית העליונה: חסרי הישע (Gli Sprovveduti) — נדיבים, אולי, או פשוט תמימים.

אם אתם עושים משהו שמועיל לכם על ידי גרימת הפסד למישהו אחר, אתם יושבים בפינה הימנית התחתונה: השודד (I Banditi). ובכן, איש אינו אוהב שודדים. אם שודד תוקף אתכם בסמטה ולוקח מכם מאה דולר, אתם עניים יותר במאה דולר. אך שימו לב לדבר מרתק: השודד עשיר יותר במאה דולר. יש בכך היגיון. אפשר לחזות מה שודד רוצה, אפשר לנעול את הדלתות מפני שודד, ואפילו אפשר לנהל משא ומתן עם שודד.

ואז ישנה הפינה השמאלית התחתונה: הטיפשים (Gli Stupidi).

מדוע אדם טיפש מסוכן יותר משודד? משום ששודד לפחות פועל לפי אינטרס עצמי רציונלי. אדם טיפש ייכנס למטבח שלכם בשתיים לפנות בוקר, יצית את הטוסטר שלכם בלי שום סיבה בעולם, ישרוף לעצמו את הגבות תוך כדי כך, וייצא החוצה כשהוא מתלונן על העשן. כולם מפסידים. שום דבר אינו מושג. ומכיוון שאין מניע רציונלי, לעולם אי-אפשר להתגונן מפניו.

כיצד משבצות תאגידיות מייצרות טיפשות

אם אי-פעם ביליתם זמן בתוך תאגיד, אתם מכירים את האירוניה האכזרית של התרשים של צ׳יפולה: צוותי הנהלה אוהבים להכניס בני אדם לארבע משבצות, אך הם כמעט לעולם אינם משתמשים במשבצות הנכונות.

יש ז׳אנר שלם של ממים באינטרנט המוקדש לרביעים תאגידיים. נעלו עשרה מנהלים בכירים בחדר ישיבות מחוץ למשרד עם לוח מחיק וצלחת קרואסונים, ובתוך עשרים דקות מישהו ימתח שני קווים מאונכים, ימציא שני צירים מופשטים לחלוטין — ״מהירות אסטרטגית״ מול ״סנכרון חוצה-ארגון״ — ויקדיש את שלושת הרבעונים הבאים לדחיסת כל אדם בבניין לתוך ריבוע.

כמעט כל הטבלאות התאגידיות הללו הן תיאטרון טהור. בכל הקריירה שלי, מלבד התרשים של צ׳יפולה, ראיתי רק עוד תרשים שתיים-על-שתיים אחד ויחיד שבאמת מספר את האמת על האופן שבו ארגונים פועלים.

לפני שנים נשא סיימון סינק הרצאה מפורסמת על האופן שבו אריות הים (Navy SEALs) בוחרים לוחמים לצוות שש (SEAL Team Six). הם משרטטים תרשים פשוט עם ביצועים על הציר האנכי ואמון על הציר האופקי.

מובן מאליו שאיש אינו רוצה את האדם בפינה השמאלית התחתונה עם ביצועים נמוכים ואמון נמוך, וכולם רוצים את הכוכב בפינה הימנית העליונה עם ביצועים גבוהים ואמון גבוה. מה שריתק את סינק היה מה שאריות הים גילו לגבי שתי הפינות האחרות: הם יעדיפו בכל פעם מחדש אדם בעל ביצועים בינוניים — או אפילו נמוכים — עם אמון גבוה, על פני אדם בעל ביצועים גבוהים ואמון נמוך.

מדוע? משום שבצוות אמיתי, ״בעל הביצועים הגבוהים והאמון הנמוך״ הוא רעל. הוא כוכב-העל שעומד ביעדים האישיים שלו על ידי דריכה על צווארם של חבריו לצוות, אגירת קרדיט לעצמו והטלת האשמה על כל השאר. התבוננו היטב בתרשים של סינק ותבינו שלבעל ביצועים גבוהים ואמון נמוך יש שם עתיק הרבה יותר בספרו של צ׳יפולה: הוא שודד תאגידי.

רוב החברות גרועות מאוד בהבחנה בין בונה נבון לבין שודד כריזמטי. ומכיוון שצוותי הנהלה אינם יודעים כיצד למדוד אמון או שיקול דעת, הם מנסים להגן על עצמם באמצעות המצאת תהליכים.

ושם בדיוק נולדת הטיפשות המוסדית.

קחו את אחד הפרקים הסוריאליסטיים ביותר בהיסטוריה התאגידית. במשך שנים ניהלה מיקרוסופט את הערכות העובדים שלה באמצעות מערכת נוקשה של ״דירוג כפוי (stack ranking)״. תחת התהליך הזה, כל מנהל חויב כברירת מחדל לדרג את הצוות שלו על עקומה סטטיסטית קבועה — כלומר, בכל סבב הערכה, אחוז קבוע מכל צוות יחיד היה חייב להיות משובץ בתחתית ולהיפלט החוצה מהחברה, מתוך ההנחה המתמטית שאחוז קבוע מהגיוסים חייב להיות גיוסים שגויים.

עצרו לשנייה והתפעלו מהארכיטקטורה הטהורה של הרעיון הזה.

יכולתם להיות מנהלים שהקדישו שנתיים לגיוס עשרה מהמהנדסים המבריקים ביותר עלי אדמות — עשרה אנשים שמקומם בהיכל התהילה. זה לא שינה דבר. גיליון האלקטרוני דרש קורבן, ולכן אחד הגאונים שלכם היה חייב להיות מתויג ככישלון.

מה קרה אז? בדיוק מה שכל אדם שפוי היה חוזה. מהנדסים חכמים סירבו להצטרף לצוותים שכבר היו בהם מהנדסים חכמים, כי ישיבה ליד גאון פירושה היה שאתם עלולים להיות אלה שיידחפו מהסירה. אנשים הפסיקו לעזור לצוותים אחרים. עמיתים אגרו מידע כדי שחבריהם לא יאפילו עליהם. עשור שלם של חדשנות נחנק בשקט על ידי נוסחה של משאבי אנוש.

שאלו את עצמכם את השאלה של צ׳יפולה: מי הרוויח מהתהליך ההוא?
לא המהנדסים. לא המנהלים. לא הלקוחות. לא בעלי המניות. זו הייתה טיפשות טהורה בקנה מידה תעשייתי מהפינה השמאלית התחתונה — מחופשת ל״מדע ניהול קפדני״.

הבינה המלאכותית נכנסת לתמונה: הסרת מגבלת המהירות על רעיונות גרועים

במהלך אלפי השנים האחרונות, לאנושות היה מנגנון בטיחות מובנה אחד נגד החוק הרביעי של צ׳יפולה: נדרש מאמץ כדי לעשות דברים.

לפני ה-AI, לטיפשות הייתה מגבלת מהירות טבעית. אפילו לאדם הכי חסר תועלת ובלתי נלאה בחברה שלכם היו רק עשר אצבעות ויום עבודה של שמונה שעות. הייתה כמות מוגבלת של מזכרים בני חמישה עמודים שהוא יכול היה לכתוב, כמות מוגבלת של מצגות ארגון-מחדש מיותרות שהוא יכול היה לעצב, וכמות מוגבלת של אנשים שדעתם יכול היה להסיח לפני יום שישי אחר הצהריים.

ואז המצאנו את הבינה המלאכותית היוצרת — וניתקנו את הבלמים מהמכונית.

הביטו סביבכם בעולם העסקים כיום ותוכלו לצפות בהתפוצצות מוחלטת של אנשים שעושים דברים חסרי תכלית במהירות הגדולה פי עשרת אלפים מבעבר.

למישהו יש מחשבה זעירה וחצי-אפויה בבוקר יום שלישי. במקום לחשוב עליה לעומק במשך עשר דקות, הוא מבקש מ-AI להפוך שלוש נקודות למסמך מפואר בן שנים-עשר עמודים בשם ״מסמך חזון אסטרטגי״. הוא שולח אותו לעשרים עמיתים לעבודה. עשרים העמיתים האלה מעיפים מבט אחד בשנים-עשר העמודים, מגלגלים עיניים, ומבקשים מה-AI שלהם לסכם אותו בחזרה לשלוש נקודות.

חשבו על הפיזיקה של מה שהתרחש זה עתה. עשרים אנשים איבדו עשרים דקות מהיום שלהם, מרכז נתונים אי-שם בווירג׳יניה הרתיח בריכת שחייה של מים כדי להריץ את מעבדי ה-GPU, ואפילו טיפה אחת של תובנה אנושית אמיתית לא עברה ממוח אחד למשנהו.

וזו רק הגרסה המנומסת. ברחבי האינטרנט, חברות משחררות צבאות של ״סוכני פנייה אוטונומיים מבוססי AI״ כדי להציף מיליוני תיבות דואר בהודעות אישיות-מזויפות — שורפות את המוניטין של עצמן בעודן הופכות את הדואר האלקטרוני לבלתי שמיש עבור כל השאר. צוותי מוצר מייצרים הרים של פיצ׳רים שאיש לא ביקש וקוד שאיש אינו מבין, פשוט משום שהכפתור שמייצר אותם הוא בחינם.

האשליה הגדולה של חדרי הדירקטוריון

זה מביא אותנו לאשליה הגדולה ביותר בחדרי ההנהלה של תאגידים כיום: האמונה שחיבור של AI לתהליך הקיים שלכם יהפוך את החברה שלכם לחכמה.

בכל מקום שאליו הולכים, מנהלים בכירים שרויים בפאניקה: ״הכניסו AI לתמיכת הלקוחות שלנו! הכניסו AI לתהליך התכנון שלנו! הכניסו AI להערכות העובדים שלנו!״

הקשיבו היטב: אם התהליך שלכם כבר שבור — אם תזרים התמיכה שלכם מתוכנן ללכוד לקוחות במבוך כדי שיתייאשו, אם תהליך המוצר שלכם מורכב מתשע-עשרה שכבות של ועדות המאשרות מצגות, אם התרבות שלכם מתגמלת שודדים תאגידיים ומענישה כנות — חיבור AI לתהליך הזה לא יתקן את החברה שלכם.

הוא רק יהפוך את התהליך הטיפשי שלכם לטיפשי עוד יותר, במהירות האור.

דמיינו לעצמכם שמיקרוסופט, בשיא טירוף הדירוג הכפוי שלה, הייתה מחברת סוכן AI למחלקת משאבי אנוש כדי שיוכל לדרג ולפטר אוטומטית אחוז מכל צוות הנדסה בכל יום שני בבוקר. האם זו הייתה ״טרנספורמציה דיגיטלית״? או שזו פשוט הייתה דרך מהירה יותר לשרוף את הבית?

טכנולוגיה מעולם לא תיקנה פילוסופיה שבורה. כשמחברים מנוע פורמולה 1 לעגלת סופרמרקט עם גלגל עקום, לא מנצחים בגרנד פרי. פשוט מתנגשים בעמוד התאורה בחניון במהירות של מאתיים מייל לשעה.

מדוע אני עדיין אופטימי: AI בידיהם של ה-Intelligenti

כעת, אתם עלולים לקרוא את כל זה ולחשוב שאני ציני לגבי בינה מלאכותית.

בדיוק להפך. ברגע שמבינים את החוקים של צ׳יפולה, מבינים שהאשמת ה-AI במבול ההבלים התאגידיים היא כמו להאשים פטיש בכך שמישהו הכה לעצמו על האגודל.

בינה מלאכותית היא כלי. זה מה שהיא, וזו הסיבה לקיומה.

לכלי אין אגו, אין מוסר ואין רביע משל עצמו. הוא מכפיל כוח טהור של האדם האוחז בו. תנו אותו לשודד, והוא ישתמש בו כדי לסחוט יותר תוך נתינה של פחות. תנו אותו לתהליך טיפשי, והוא ייצר כאוס בקנה מידה תעשייתי.

אבל מסרו בדיוק את אותו כלי לידיו של מישהו ברביע הנבונים של צ׳יפולה — מישהו שאינו טיפש, עם מטרה שאינה טיפשית — וקסם מתרחש.

זכרו מה מגדיר את ה-Intelligenti בעולמו של צ׳יפולה, ומה מגדיר את הפינה הימנית העליונה בתרשים אריות הים של סיימון סינק: אמון גבוה, שיקול דעת בהיר, ופעולות היוצרות ערך אמיתי לעצמך באמצעות יצירת ערך אמיתי לאחרים.

כשאנשים כאלה לוקחים לידיהם AI, הם אינם משתמשים בו כדי לייצר מזכרים בני שנים-עשר עמודים שאיש אינו רוצה לקרוא, והם אינם מבריגים אותו על הבירוקרטיה של אתמול. הם מתחילים מעקרונות ראשונים. הם שואלים כיצד משהו צריך באמת לעבוד עבור אדם אחר. הם מקלפים את המשבצות המגוחכות, את תיאטרון הוועדות ואת החיכוך המלאכותי. ואז הם משתמשים ב-AI כמנוף שהוא נועד להיות — המאפשר לקבוצה קטנה של בונים בעלי אמון גבוה, או אפילו ליוצר יחיד ובהיר-מחשבה, לבנות דברים בעלי תועלת ויופי יוצאי דופן עבור העולם.

בסופו של דבר, עידן ה-AI אינו מבחן לאינטליגנציה של מכונות כלל וכלל. המכונות חכמות די והותר עבור מה שאנו מבקשים מהן.

זהו מבחן לאינטליגנציה שלנו.

אתם יכולים להשתמש בכלי החזק ביותר בהיסטוריה האנושית כדי להפוך את ההרגלים הרעים שלכם לאוטומטיים ולהכפיל את הרעש. או שאתם יכולים לצעוד אל הפינה הימנית העליונה של צ׳יפולה — לתקן את האופן שבו דברים עובדים, לדאוג לאדם שבצד השני, ולבנות משהו שמשאיר את כל הנוכחים בחדר במצב טוב יותר מבעבר.