האחריות שאנו מאצילים בשקט למכונות

בשנתיים האחרונות, רוב השיחות על בינה מלאכותית התמקדו בפריון.

צוותים רזים. פעולות אוטומטיות. סוכני AI מחליפים עבודה שוטפת.

הדוגמאות נמצאות בכל מקום.

צוותים קטנים שמייצרים תפוקה יוצאת דופן - משהו שהיה דורש מחלקות שלמות רק לפני עשור. חברות פועלות עם חלק קטן מהצוות שפעם דרשו. ההכנסה לעובד עולה לרמות שהיו נשמעות בלתי אפשריות לא מזמן.

במובן זה, סיפור הבינה המלאכותית מסופר לעתים קרובות כסיפור הצלחה כלכלי.

פחות אנשים. יותר תפוקה. שוליים גבוהים יותר.

אבל מתחת לנרטיב הפרודוקטיבי הזה, משהו עמוק יותר מתגלה.

שינוי שהרבה פחות קשור לאוטומציה, והרבה יותר עם אחריות.

השינוי האמיתי הוא לא שמכונות מתחילות לעשות את העבודה שלנו.

השינוי האמיתי הוא שבני אדם מתחילים להאציל להם בשקט את ההחלטות שלהם.

כל שינוי טכנולוגי מתחיל ביעילות.

כלי חדש מופיע.

בהתחלה זה עוזר.

AI מסכם מידע מהר יותר מבני אדם. מנתח מערכי נתונים עצומים. מוצא דפוסים שאנו עלולים להתעלם מהם.

חברות משתמשות בו כדי לייעל את זרימות העבודה.

דוחות נוצרים באופן אוטומטי. האינטראקציות עם הלקוחות הן אוטומטיות. מערכות שיווק מתאימות קמפיינים בזמן אמת.

התוצאות המוקדמות נראות יוצאות דופן.

זהו השלב בו מתמקדים רוב הדיונים על AI, וקל להבין מדוע.

התמריצים הכלכליים הם מכריעים.

אבל אופטימיזציה היא רק הצעד הראשון.

ברגע שמערכת מוכיחה את עצמה שימושית, מתחיל שינוי נוסף.

אנשים מתחילים לסמוך על זה.

בהתחלה, בני אדם מאמתים את הפלט.

אנליסט בודק את המודל. רופא סוקר את ההמלצה. מנהל מאמת את הנתונים.

אבל עם הזמן, האימות דועך לאט.

לא מתוך רשלנות, אלא מתוך יעילות.

אם המערכת עובדת רוב הזמן, בדיקת כל פלט הופכת ליקרה.

אז אנשים בודקים פחות.

בסופו של דבר המכונה הופכת למקור ברירת המחדל לשיפוט.

לא בגלל שזה מושלם.

אבל בגלל שזה מהיר.

ועם השינוי הזה מגיעה הקלה פסיכולוגית עדינה.

החלטות הופכות קלות יותר להצדקה.

הדוגמנית הציעה זאת. המערכת המליצה על כך. האלגוריתם דירג את האפשרויות.

השינוי הזה הוא עדין, אבל עמוק.

המכונה כבר לא רק מסייעת להחלטות אנושיות.

זה מתחיל למסגר אותם.

השנים האחרונות הראו עד כמה מערכות אוטומטיות יכולות להיות שבריריות כאשר בני אדם מתחילים לבטוח בהן מהר מדי.

דפוסים דומים הופיעו גם בתעשיות אחרות.

ברורנה החליפה חלק גדול מכוח העבודה בשירות הלקוחות שלה במערכות בינה מלאכותית המסוגלות לטפל במיליוני אינטראקציות.

החברה חגגה את עליות ההתייעלות.

ואז הופיעו הבעיות.

איכות השירות התדרדרה. מהנדסים נמשכו מעבודת הליבה שלהם כדי לטפל בבעיות של לקוחות. החברה החלה בסופו של דבר לגייס שוב סוכנים אנושיים.

השיעור היה פשוט.

אוטומציה קלה.

קשה הרבה יותר להבין היכן בני אדם נשארים נחוצים.

דפוסים דומים הופיעו בתעשיות אחרות.

מקדונלד'ס הסירה מערכת הפעלה מונעת בינה מלאכותית לאחר שגיאות הזמנה חוזרות ונשנות במהלך הבדיקה.

Deloitte Australia החזירה חלק מחוזה ממשלתי לאחר שדוח בסיוע בינה מלאכותית הכיל הפניות מפוברקות שלא אומתו כראוי.

הבעיה לא הייתה שבינה מלאכותית עשתה טעויות.

גם בני אדם עושים טעויות.

דוגמאות אלו אינן כישלונות בודדים.

הם חושפים דפוס שחוזר על עצמו: מערכות קלות לפריסה, אבל הרבה יותר קשה לסמוך עליהן ללא שיפוט אנושי.

בתעשיות רבות, שגיאות במערכות אוטומטיות אינן נוחות.

אלגוריתם שיווקי מבזבז תקציב. מודל תמחור טועה בחישוב הביקוש.

התוצאה היא הפסד כספי.

חברות סופגות את העלות, מתקנים את הדגם וממשיכות הלאה.

אבל מערכות מסוימות פועלות בסביבות שבהן עלות השגיאה נמדדת אחרת.

בסביבות האלה, המחיר של טעות הוא לא כסף.

זה חיי אדם.

שירותי בריאות הם אחד התחומים המבטיחים ביותר לבינה מלאכותית.

AI יכול לנתח תמונות רפואיות מהר יותר מאשר מומחים. זיהוי דפוסים על פני מיליוני רשומות. תמיכה ברופאים באבחון ותכנון טיפול.

בשימוש זהיר, כלים אלה יכולים לשפר את הטיפול.

אבל שירותי הבריאות גם חושפים את גבולות האצלה.

כאשר בינה מלאכותית משתלבת בתהליכי עבודה קליניים, היא עושה יותר מאשר לספק מידע.

זה מתחיל לעצב את השיפוט הרפואי.

מודל מדגיש אבחנות מסוימות כסבירות יותר. ממליצה על מסלול טיפול ספציפי. מסמן מטופל אחד בעדיפות גבוהה יותר מאחר.

המערכת אינה מחליפה את הרופא.

אבל זה מעצב בשקט את ההחלטה.

וכשהמסגרת הזו שגויה, ההשלכות אינן מופשטות.

הם משפיעים על חולים אמיתיים, בבתי חולים אמיתיים, בזמן אמת.

זו הסיבה שמנהיגי שירותי הבריאות מדגישים יותר ויותר משהו שנשמע פשוט בצורה מטעה:

פיקוח אנושי לא יכול להיעלם.

לא בגלל שמכונות חסרות תועלת.

אבל כי אחריות לא יכולה להיות אוטומטית.

הסיכונים מתבהרים עוד יותר במערכות הצבאיות.

לוחמה מודרנית מעוצבת יותר ויותר על ידי ניתוח אוטומטי.

אלגוריתמים מעבדים נתוני מעקב. תעדוף יעדים. הערכת הסתברויות.

מערכות אלו אינן מחליפות מפעילים אנושיים.

הם מאיצים אותם.

החלטות שפעם דרשו שעות נמשכות כעת דקות.

לפעמים שניות.

האדם עדיין נוכח.

אבל הקצב של המערכת משנה את אופי תפקידם.

במקום לדון בהחלטה, המפעיל מאשר אותה.

המכונה מציעה. האדם מאשר.

וכאשר עימות מתפתח במהירות המכונה, האישור הזה יכול להפוך למעט יותר מצעד פרוצדורלי.

ההיסטוריה מציעה דוגמה בולטת למה זה חשוב.

ב-1983, מערכת התרעה סובייטית זיהתה את מה שנראה כטילים גרעיניים נכנסים מארצות הברית.

המערכת סיווגה את האות כמתקפה אמיתית.

הפרוטוקול חייב את הקצין התורן לדווח על השיגור באופן מיידי - צעד שיכול היה לעורר תגובה גרעינית.

הקצין בתפקיד היה סטניסלב פטרוב.

בהסתכלות על הנתונים, המערכת הציגה חמישה טילים נכנסים.

אבל פטרוב היסס.

הנימוק שלו היה פשוט.

אם ארצות הברית הייתה פותחת במלחמה גרעינית, היא לא הייתה משגרת חמישה טילים. זה ישגר מאות.

הוא דיווח על ההתראה כאזעקת שווא.

מאוחר יותר התברר שהוא צדק.

המערכת פירשה באופן שגוי את החזרי אור השמש על עננים כשיגורי טילים.

הלקח לא היה שהמערכת הייתה זדונית.

הלקח היה שמערכות אוטומטיות יכולות להיראות משכנעות ביותר, גם כשהן שגויות.

ולפעמים המחסום היחיד בין שגיאת מערכת לבין אסון עולמי

הוא אדם שמוכן להטיל ספק במכונה.

יש גם מימד פסיכולוגי עמוק יותר לטרנספורמציה הזו.

האחריות כבדה.

החלטות אסטרטגיות טומנות בחובן סיכון. בחירות רפואיות משפיעות על החיים. פעולות צבאיות מעצבות את גורלן של אומות.

במשך מאות שנים, הנטל הזה נשען כולו על השיפוט האנושי.

בינה מלאכותית מציגה משהו חדש.

בריחה פסיכולוגית עדינה.

כאשר החלטה נובעת מאלגוריתם מורכב, האחריות הופכת קלה יותר לפיזור.

המודל הציע את הפעולה. המערכת חישבה את ההסתברות. האלגוריתם דירג את האפשרויות.

האדם רק אישר את התוצאה.

הפסיכולוג אריק ברן תיאר פעם כיצד אנשים בונים "משחקים" המאפשרים להם להימנע מאחריות ישירה לבחירות קשות.

באותם משחקים, אנשים מאמינים לרוב שהם שולטים במצב, עד שמבנה המשחק עצמו מתחיל לעצב את התנהגותם.

בשלב זה, המשחק הוא כבר לא משהו שהם משחקים.

זה הופך למשהו שמשחק אותם.

הטכנולוגיה לא המציאה את ההתנהגות הזו.

אבל מערכות חכמות יכולות להגביר אותו באופן דרמטי.

כאשר החלטות מגיעות יותר ויותר מאלגוריתמים, אנשים עשויים להתחיל לחוות משהו נוח בצורה מסוכנת:

התחושה שהאחריות היא של המערכת, לא להם.

במשך מאות שנים, האינטליגנציה האנושית הייתה צוואר הבקבוק המרכזי בכל מערכת מורכבת.

ארגונים הוגבלו על ידי כמות המידע שאנשים יכולים לעבד. כמה מהר הם יכלו לנתח. כמה בדיוק הם יכלו לחזות.

בינה מלאכותית מסירה את האילוץ הזה.

עיבוד מידע כבר אינו דל. זיהוי דפוסים כבר אינו נדיר. ניתוח אסטרטגי כבר אינו נדיר.

לראשונה בהיסטוריה,

האינטליגנציה עצמה הופכת לשפע.

אבל השפע יוצר צוואר בקבוק חדש.

אַחֲרָיוּת.

בשנים הקרובות, AI תמשיך לשנות ארגונים.

הקבוצות יהפכו לקטנות יותר. המערכות יהפכו למהירות יותר. האוטומציה תתרחב לתחומים שפעם נראו אנושיים לחלוטין.

אבל תפקיד אחד יישאר אנושי ביסודו.

מישהו עדיין יצטרך להחליט:

מה המערכת צריכה לייעל. אילו סיכונים מקובלים. איפה עוברים הגבולות.

האתגר האמיתי של עידן הבינה המלאכותית אינו שימור העבודה האנושית.

זה שמירה על אחריות אנושית.

כי מערכות יכולות לייעל החלטות.

אבל רק בני אדם יכולים להישאר אחראים עליהם.

כאשר האינטליגנציה הופכת בשפע, האחריות הופכת למשאב הדל ביותר במערכות אנושיות.

והדבר הכי קשה לבני אדם להתנגד לו

הוא הפיתוי להאציל אותו.