נחמה על פני חופש

סוכני AI, טייסים אוטומטיים, מערכות המלצות, מודלים חזויים, כולם מבטיחים מהירות, יעילות ואופטימיזציה. רשמית, הם קיימים כדי לעזור לנו להחליט טוב יותר. בפועל, לרוב הם עוזרים לנו להחליט פחות.

כאשר סוכני בינה מלאכותית עוברים בשקט מהמלצה על החלטות לביצוען, האחריות הופכת קלה יותר למיקור חוץ מאי פעם.

מה שמשתנה בשקט הוא לא רק איך מתקבלות החלטות, אלא מי נושא באחריות להן.

וכאן רומן מהמאה ה-19 הופך להיות רלוונטי באופן בלתי צפוי, לא כספרות, אלא כמודל מדויק של התנהגות אנושית תחת לחץ.

פיודור דוסטויבסקי ניגש לחירות ואחריות לא כמושגים מופשטים, אלא בגבולות הסיבולת האנושית.

ב"האחים קרמזוב" הוא חקר מה קורה כשהבחירה הופכת לכבדה, האחריות הופכת לא נוחה, ואנשים מתחילים לחפש דרכים להימלט משניהם.

השאלה הזו חזרה, הפעם באמצעות אלגוריתמים.

כשזיגמונד פרויד כינה את דוסטויבסקי המומחה הגדול ביותר לנפש האדם, הוא לא הגזים.

דוסטויבסקי תיאר מנגנונים פסיכולוגיים בטרם הייתה לפסיכולוגיה שפה עבורם.

ב"האחים קרמזוב" אנו רואים כיצד אשמה מושכלת, כיצד רעיונות מחליפים אחריות, כיצד אינטלקט גובר על בגרות מוסרית, וכיצד ההיגיון הופך למפלט מבחירה.

זו לא פילוסופיה. זו פסיכולוגיה של החלטות תחת לחץ.

הם לא קוראים את דוסטויבסקי בשביל ציטוטים או איתות תרבותי. הם חוזרים כי העבודה שלו מציעה משהו נדיר: דרך לראות איך אינטליגנציה, כוח ואחריות מתנגשים בתוך אנשים, לא מערכות.

זו הסיבה שדמויות כמו הנרי קיסינג'ר פנו שוב ושוב אל דוסטויבסקי, לא בגלל אידיאולוגיה, אלא בשביל תובנה כיצד סמכות ואחריות מעוותות את השיפוט האנושי תחת לחץ.

עבורי, הספר הזה מעולם לא היה רק ​​על הבנת אחרים.

קראתי אותו כדי להבין טוב יותר כיצד האחריות וההצדקה פועלות בתוך צוותים, כיצד צצים קונפליקטים ערכיים כאשר החלטות נעשות יקרות, ו - לא פחות חשוב - איך אני עצמי חושב ומגיב.

דרך הדמויות של דוסטויבסקי, התחלתי לשים לב לאן אני עושה רציונליזציה, איפה אני נסוג לאינטלקט, ואיפה אני מנסה להוריד את מתח הבחירה על מבנים חיצוניים.

זו איכות נדירה בספר: היא פועלת בו-זמנית כמראה ומפה.

בבסיסו הפילוסופי של הרומן נמצא המשל של האינקוויזיטור הגדול.

לעתים קרובות בטעות כטיעון דתי, הוא מובן טוב יותר כמודל ממשל אוניברסלי.

ההיגיון שלה פשוט באכזריות: חופש דורש בחירה; בחירה מחייבת אחריות; אחריות יוצרת מתח פנימי; ורוב האנשים מחפשים הקלה מהמתח הזה.

אז חופש מוחלף מרצון בבטיחות, סדר, חיזוי והקלה בקבלת החלטות.

האינקוויזיטור אינו אכזרי. הוא פועל "לטובת האנשים". המנגנון תמיד זהה: שליטה ממוסגרת כטיפול.

בדיוק בגלל זה ההיגיון שלו עובד.

AI לא כופה שליטה. זה נותן הקלה.

פחות חשיבה. החלטות מהירות יותר. פסק דין מואצל. חשיפה אישית מופחתת.

בארגונים מודרניים זה נשמע מוכר: "המודל המליץ ​​על זה." "האלגוריתם החליט." "המדדים תומכים בתוצאה הזו."

לעתים קרובות אנו אומרים שהטכנולוגיה לוקחת את החופש. משפט מדויק יותר הוא זה:

אנשים מוכנים לוותר על החופש כאשר נוחות מוצעת בתמורה.

AI לא יוצר את הנטייה הזו. זה קנה קנה מידה.

הדמויות של דוסטויבסקי אינן כלי ספרותי. הם דפוסי קבלת החלטות שחוזרים על עצמם המופיעים בכל מקום שבו כוח ולחץ נפגשים.

דפוס אחד הוא אינטליגנציה ללא אחריות - מדויקת, קוהרנטית ומנותקת מבחינה מוסרית. זה מופיע כאשר מנהיגים אומרים, "הנתונים תומכים בזה" או "המערכת החליטה". AI מגביר את הדפוס הזה בצורה מושלמת, ומאיץ את האינטליגנציה מבלי ליצור משמעות.

אינטליגנציה ללא ערכים אינה ניטרלית. זה מערער יציבות.

דפוס נוסף הוא דחף תחת לחץ לטווח קצר, תמריצים מונעי תשומת לב, מעורבות מבוססת דופמין, אובססיה מטרית וזכיות השוחקות בשקט יסודות. אלגוריתמים אינם יוצרים התנהגות זו; הם הופכים את זה למהיר ורווחי יותר.

הדפוס הנדיר ביותר הוא נוכחות אנושית באחריות - היכולת להישאר אנושיים כאשר להחלטות אין תשובות נקיות. זה מופיע כאינטיליגנציה רגשית, נוכחות בשיחות קשות וסירוב להוציא אחריות למערכות או אידיאולוגיה.

זו לא עמדה מוסרית. זהו המצב האנושי המינימלי שבלעדיו מערכות דה-אנושיות בהכרח.

ללא ספרות, מודל זה עוזר למנהיגים להבחין בין האצלה לבין התפטרות, לראות כיצד כללים סופגים אשמה אישית, להבין מדוע סדר מרגיש בטוח יותר מהאנושות, ולהכיר כיצד "טיפול" הופך לכלי שליטה.

זה לא קשור לעבר. מדובר בבחירה תחת מורכבות.

הסיכון האמיתי של טרנס-הומניזם אינו טכנולוגיה.

זוהי הגברה של אינטליגנציה ללא חיזוק מקביל של אחריות.

כלומר אינטליגנציה נטולת ערכים מוכפלת בחישוב.

הטכנולוגיה מאיצה הכל: בגרות הופכת למינוף, ריקנות הופכת לקנה מידה, פחד הופך למבנה.

AI עונה איך. זה אף פעם לא עונה למה.

במקום מרשמים, דוסטוייבסקי משאיר אותנו עם שאלה שקטה יותר:

הוא לא הזהיר מפני דת. הוא הזהיר מפני הנטייה האנושית להתעייף מהחופש.

AI אינו האויב של האנושות. זה מראה של הבגרות שלנו.

וזו הסיבה שהאחים קרמזוב נשאר שימושי באופן בלתי צפוי עבור אלה שעובדים עם אנשים, החלטות וכוח.