כשל השפה: מדוע איננו יכולים לחזות את עתיד הבינה המלאכותית

מבט ברור יותר מתחיל במשהו הרבה יותר מוכר - ואנושי עמוק.

אנו נוטים להתייחס לשטף כהוכחה לקוגניציה ולפגיעה בדיבור כהוכחה לירידה בחשיבה. עם זאת, מדעי המוח מספרים סיפור מורכב יותר. מטופלים עם צורות מסוימות של אפזיה - אנשים שמתקשים לדבר - שומרים לעתים קרובות על היכולת לנמק, לתכנן, לשפוט, לזהות כוונות ולנווט רמזים חברתיים. החיים הפנימיים שלהם נמשכים גם כשהכלים המילוליים שלהם מקרטעים.

זה לא אומר ששפה ומחשבה אינם קשורים זה לזה. הם מקיימים אינטראקציה מתמדת. אבל זה כן אומר שהשפה אינה זהה למחשבה. זהו רובד אקספרסיבי, ממשק ולא המנוע הבסיסי.

מודלים לשוניים גדולים פועלים לחלוטין בתוך דפוסים לשוניים. הם מצטיינים בניבוי המילה הבאה - וזה לבדו מאפשר להם להציג שטף מדהים באינספור משימות. אבל שטף אינו זהה להבנה. מערכות אלו חסרות ניסיון מגולם, מודלים סיבתיים, תפיסה מבוססת, מטרות יציבות או ייצוג פנימי של המציאות. הם יוצרים קוהרנטיות, לא קוגניציה.

הכרה במגבלות של מערכות AI הנוכחיות חשובה. אולם ההכרזה שבינה מלאכותית לעולם לא תשיג אינטליגנציה משמעותית היא רק עוד צורה של ביטחון עצמי מופרז.

ההיסטוריה הטכנולוגית מלאה בנקודות מפנה שנעלמו מהן:

הדפוס של גוטנברג היה קיצור דרך מכני, עד שעיצב מחדש את האוריינות, הדת והמדע. החשמל נראה בלתי מעשי, עד שהפך לעמוד השדרה של הציוויליזציה התעשייתית. מחשבים ואינטרנט היו כלי נישה, עד שהפכו למערכת העצבים של החיים המודרניים.

אפילו בבינה מלאכותית, פריצות דרך התנגדו שוב ושוב לציפיות: AlphaZero למדה אסטרטגיה על אנושית ללא דוגמאות אנושיות. AlphaFold פתר חידה ביולוגית שלא נפתרה במשך חצי מאה.

← נקודות הפיתול כמעט ואינן מכריזות על עצמן. הם נראים צנועים - אפילו טריוויאליים - עד לרגע שהם מגדירים מחדש את העולם.

אנו מדמיינים חדשנות כקו ישר: שיפורים מצטברים המצטברים עם הזמן. אבל שינוי טרנספורמטיבי מתרחש לעתים קרובות כאשר רעיונות עצמאיים מתנגשים ומעצימים זה את זה.

הדפסה פגשה נייר זול. חשמל פגש מנועים. מוליכים למחצה פגשו רשתות גלובליות. למידת מכונה נפגשה עם סימולציה ומחשוב מסיבי.

מודלים של שפה גדולים עשויים להיות מרכיב יחיד בארכיטקטורה עתידית מורכבת הרבה יותר. מערכות של העשורים הקרובים עשויות להשתלב:

שפה + תפיסת תפיסה + סימולציית אינטראקציה מגולמת + זיכרון חשיבה סיבתית + עידון עצמי או מנגנונים חדשים שטרם הגנו.

← לשפוט את גבולות הבינה המלאכותית מהדור הראשון של דגמים זה כמו לחזות את עתיד התעופה על ידי התבוננות ברחפנים מוקדמים.

עבור משקיעים רבים, "AI" הפך פחות לקטגוריה טכנית מאשר לסיפור:

חפיסות פיץ' מסתמכות על מילות מפתח ולא על יכולות. מוצרים שנבנו לחלוטין על גבי מודלים של צד שלישי מקבלים הערכות שווי כאילו היו בבעלותם טכנולוגיה בסיסית. FOMO תחליף לניתוח. מומנטום מחליף את בדיקת הנאותות.

זה לא אומר ש-AI מוערך יתר על המידה כתחום. זה אומר שהביטחון גדל מהר יותר מההבנה.

דינמיקה זו מחזקת את הנקודה המרכזית של החיבור:

תחזיות דוגמטיות - "AGI קרובה" או "AI לעולם לא יחשוב" - נובעות מאותה שגיאה קוגניטיבית: הטעות של הרגע הנוכחי כמפה קבועה של מה אפשרי.

תנופת הבינה המלאכותית היא לא רק טכנולוגית. זה פסיכולוגי. הוא חושף עד כמה אנו משתוקקים לוודאות - במיוחד בתחומים המוגדרים על ידי היעדרה.

שלוש הצהרות תופסות את הקרקע היחידה שאנו יכולים לעמוד עליה בביטחון:

מערכות ה-AI של היום אינן אינטליגנטיות. חסר להם הגיון מבוסס, כוונה אוטונומית והבנה אמיתית.

אנחנו לא יכולים לטעון שהם לעולם לא יהפכו לאינטליגנטים. ההיסטוריה מענישה באופן עקבי הצהרות כאלה.

אנחנו פועלים בתוך אי ודאות קיצונית. ובתנאים כאלה, ענווה היא לא היסוס - היא קפדנות.

האם בינה מלאכותית משיגה אינטליגנציה היא בסופו של דבר פחות דחוף מהאופן שבו אנו מעצבים את המערכות שכבר מחלחלות לחברה. אנו מטמיעים אלגוריתמים בקבלת החלטות, תקשורת, יצירתיות, כספים וממשל. זה דורש:

מנגנונים שקופים וניתנים לביקורת; השתתפות אנושית ניתנת לאימות; הגנה מפני מניפולציה; עקרונות עיצוב ממוקדים באדם; וממשל אחראי.

AI הוא כבר לא רק פרויקט טכנולוגי. זה עניין חברתי, כלכלי ואתי.

כן - המודלים של השפה של היום אינם אינטליגנטיים. אבל להתעקש שהם לעולם לא יהיו זה לא ויכוח. זה סירוב להתעמת עם מורכבות.

"אף פעם" אינו ניתוח. "לעולם לא" הוא סימפטום של פחד - של אי ודאות, עמימות וענווה אינטלקטואלית.

מערכת יחסים בוגרת עם AI דורשת בהירות, אחריות ואומץ להכיר במה שאנחנו עדיין לא יודעים.

בסופו של דבר, AI אינו מבחן של מכונות.

זהו מבחן ליכולת שלנו לחשוב בבהירות על הלא נודע.