אנחנו בונים את הבינה הבאה לפני שאנחנו מבינים את הבינה שלנו

היא כבר הפכה לחלק מן החשיבה היומיומית.

ChatGPT משרת כעת יותר מ-900 מיליון משתמשים פעילים בשבוע. אפליקציית Gemini הגיעה ל-950 מיליון משתמשים פעילים בחודש. יש חפיפה בין הקהלים האלה, ולכן חיבור פשוט שלהם יהיה מטעה. אבל קנה המידה כבר אינו ניתן להכחשה.

AI כבר אינו משהו שמהנדסים מתנסים בו.

הוא הפך למשהו שמאות מיליוני אנשים חושבים בעזרתו.

אנחנו מבקשים ממנו לכתוב מיילים, לבחון חוזים, לייצר רעיונות, להסביר מושגים קשים, לנתח החלטות ולעזור לנו לבטא מחשבות שעוד איננו מסוגלים לנסח בעצמנו.

לפני כמה שנים, זה הרגיש יוצא דופן.

היום זו פשוט לשונית נוספת בדפדפן.

ומבחינתי, אולי זה סיפור ה-AI החשוב מכולם.

לא רק מפני שהמודלים נעשים מסוגלים יותר, אלא מפני שבשקט התחלנו לשנות את הדרך שבה אנחנו חושבים.

ההשהיה שנעלמת

פעם הייתה השהיה בין הופעתה של שאלה לבין קבלת תשובה חיצונית.

ההשהיה הזאת הייתה חשובה.

שם התפתחה סקרנות, שם הייתה לאי־ודאות הזדמנות לצוף, ושם מחשבה לא גמורה יכלה להפוך לשלנו לפני שהושפעה מתשובתו של מישהו אחר.

היום ההשהיה הזאת נעלמת.

שאלה בקושי נוצרת במוחנו לפני שאנחנו מוסרים אותה ל-AI.

זו לא בהכרח בעיה. AI באמת עוזר לנו ללמוד מהר יותר, לארגן מידע, לבחון הנחות ולהבחין בדפוסים שאולי לא היינו מבחינים בהם אחרת. אני חווה את התועלת הזאת מדי יום.

הבעיה מתחילה כשאנחנו מפסיקים לשים לב אילו תפקודים אנושיים האצלנו.

תלות מתחילה כשאנחנו מפסיקים לשים לב אילו יכולות אנו מאבדים את ההרגל להפעיל בעצמנו.

AI מתחיל לזכור אותנו

כל דור חדש של מערכות AI יכול לעבוד עם יותר הקשר, ולשמר מידע על הפרויקטים שלנו, סגנונות הכתיבה, ההעדפות, החלטות שחוזרות על עצמן, שאלות פתוחות ומטרות ארוכות טווח.

בשנתיים האחרונות, AI הפך לחלק מתהליך החשיבה שלי.

יחד פיתחנו אסטרטגיות עסקיות, כתבנו מאמרים, חקרנו שאלות פילוסופיות, ניתחנו מצבים מורכבים ושכללנו רעיונות לאורך מאות שיחות.

אני לא יכול להחזיק במודע את כל זה במוחי בבת אחת.

הזיכרון האנושי אינו בנוי לסוג כזה של הקשר רציף ומצטבר.

אנחנו שוכחים פרטים. מאבדים הקשר. משחזרים את העבר דרך הרגשות שלנו בהווה.

לפעמים אנחנו מאמינים ששינינו את דעתנו, כשבמציאות פשוט איבדנו את עקבות הדרך שהביאה אותנו למסקנה קודמת.

AI מפתח יכולת שונה מאוד.

לא זיכרון מושלם.

לא זיכרון אינסופי.

אלא היכולת לאחזר, לחבר ולנתח הרבה יותר הקשר אישי מכפי שאדם יכול להחזיק במודע ובאופן פעיל.

הוא יכול להזכיר לנו לא רק מה אמרנו, אלא גם איך החשיבה שלנו השתנתה: אילו רעיונות חוזרים שוב ושוב, אילו החלטות אנחנו דוחים פעם אחר פעם, אילו הנחות מעצבות בשקט את הבחירות שלנו, והיכן אנחנו סותרים את עצמנו.

בפעם הראשונה, אינטליגנציה חיצונית עשויה לשחזר ברציפות את ההיסטוריה של החשיבה שלנו ובו בזמן להשתתף בה באופן פעיל.

זה יותר מתכונת פרודוקטיביות.

זה יוצר מערכת יחסים חדשה בין זהות אנושית לזיכרון חיצוני.

מערכת עשויה בסופו של דבר להחזיק בתיעוד רציף יותר של חיי המחשבה שלי מכפי שהתודעה שלי יכולה לגשת אליו.

וכל זה קורה לפני שקיים AGI.

המירוץ אל בינה שאנחנו עדיין לא יודעים להגדיר

עבור רבות ממעבדות ה-AI המובילות בעולם, השאיפה ארוכת הטווח היא AGI: בינה מלאכותית כללית.

במילים פשוטות, AGI תהיה מערכת שמסוגלת ללמוד ולפתור טווח עצום של בעיות אינטלקטואליות בגמישות שאנחנו מייחסים להיגיון אנושי כללי.

איש אינו יודע בדיוק מתי היא תגיע. אין הסכמה מלאה אפילו על ההגדרה שלה. אנחנו אפילו לא יודעים אם ההגעה אליה תדרוש פריצת דרך מכרעת אחת או אלפי שיפורים הדרגתיים.

אבל המירוץ כבר בעיצומו.

חברות הטכנולוגיה הגדולות בעולם משקיעות סכומים יוצאי דופן בתשתית הנדרשת לאימון, פריסה ותפעול של מערכות AI שהולכות ונעשות מסוגלות יותר. Alphabet לבדה צופה הוצאות הון של בין 175 ל-185 מיליארד דולר בשנת 2026, ובמפורש קושרת את מחזור ההשקעות הזה להזדמנות המתרחבת ב-AI.

רוב השיחות הציבוריות על המירוץ הזה נשמעות דומות להפליא:

אלה שאלות חשובות.

אבל אני לא חושב שהן העמוקות ביותר.

אנחנו עדיין לא מבינים את הבינה שלנו

ביליתי שנים בניסיון להבין משהו קרוב אליי הרבה יותר מ-AGI:

המוח שלי.

מאין מגיעות מחשבות?

למה אחת נעלמת מיד בעוד אחרת מעסיקה אותי במשך ימים?

כמה ממה שאני מכנה ״הדעה שלי״ באמת שלי?

היכן מסתיימת כוונה אמיתית ומתחילה ההשפעה של משפחה, תרבות, פרסום, פחד וניסיון עבר?

ככל שאני מתבונן יותר בחשיבה שלי, כך אני פחות בטוח שאני מבין אותה במלואה.

אני יודע להשתמש במוח שלי. זה לא אומר שאני מבין איך הוא עובד.

האנושות בילתה אלפי שנים בחקר המחשבה, התודעה, הרגש וההתנהגות.

ובכל זאת אין לנו הסבר יחיד שמקובל על כולם למהי תודעה, איך נוצרת חוויה סובייקטיבית או כמה שליטה באמת יש לנו על המחשבות שלנו.

זה יוצר אחד הפרדוקסים המוזרים ביותר של זמננו:

אנחנו מנסים לבנות בינה שעשויה בסופו של דבר להתעלות עלינו לפני שאנחנו מבינים במלואה את הבינה שיצרה אותה.

אנחנו לא מבינים במלואו כיצד מתעצב שיקול דעת אנושי, ובכל זאת בונים מערכות שיעצבו יותר ויותר שיקול דעת אנושי.

אנחנו עדיין מתקשים להבחין בין אמת לבין נרטיב משכנע, ובכל זאת יוצרים מכונות המסוגלות לייצר נרטיבים משכנעים במהירות ובהיקף חסרי תקדים.

לא הסכמנו על משמעותם של חופש, צדק, אחריות או פריחה אנושית, ובכל זאת אנחנו כבר מחליטים אילו ערכים צריכים להנחות צורות הולכות ונעשות חזקות יותר של בינה.

הערכים של מי?

כמעט כל מעבדת AI גדולה מדברת על בטיחות ויישור קו.

העיקרון נשמע פשוט:

לבנות AI שמתנהג בהתאם לכוונות ולערכים אנושיים.

הקושי מתחיל במילה אנושי.

האנושות חולקת אינטואיציות מוסריות רבות, אבל איננו מסכימים על הגבולות, סדרי העדיפויות או הפשרות שלהן.

חופש או בטיחות?

פרטיות או אבטחה?

יעילות או הוגנות?

חשבו על משהו שגרתי כמו גיוס עובדים.

מערכת AI שממוטבת בעיקר ליעילות עשויה לבחור מועמדים אחרת ממערכת שממוטבת בעיקר להוגנות.

שתיהן עשויות להיחשב ״מיושרות״.

אבל מיושרות עם מה?

ומי קבע זאת?

המהנדסים?

החברה שפורסת אותה?

המשקיעים שלה?

הממשלה שמסדירה אותה?

רוב המשתמשים?

או המוסד שיש לו די כוח לכפות את סדרי העדיפויות שלו על כל השאר?

זו אינה רק בעיה תיאורטית של בינת־על עתידית.

כל מערכת AI מתקדמת כבר משקפת בחירות אנושיות: נתוני האימון שלה, המטרות, האילוצים, התמריצים, ההתנהגויות שהיא מתגמלת והשאלות שהיא מסרבת להשיב עליהן.

איננו מקיימים אינטראקציה עם בינה ניטרלית.

אנו מקיימים אינטראקציה עם בינה שמעוצבת בידי החלטות אנושיות, סדרי עדיפויות מסחריים, הנחות תרבותיות וכוח מוסדי.

מדוע כל כך קשה לעצור את המירוץ

אפילו רבים מהאנשים שמזהירים בפומבי מפני הסיכונים של AI ממשיכים לבנות מערכות שהולכות ונעשות מסוגלות יותר.

בתחילה, זה עשוי להיראות סותר. זה לא.

אם חברה אחת עוצרת, אחרת עשויה להמשיך. אם מדינה אחת מאטה, אחרת עשויה להאיץ.

כל משתתף יכול להאמין באמת שהטכנולוגיה מסוכנת, ובו בזמן להאמין שמסוכן יותר שמתחרה יפתח אותה ראשון.

המירוץ מונע בידי הכלכלה, גאופוליטיקה, שאפתנות מדעית, ההבטחה לתועלות יוצאות דופן, והשכנוע של כל צוות שסביר יותר שהוא יבנה מערכת אחראית מאשר מישהו אחר.

טכנולוגיות חזקות מתקדמות לעיתים קרובות לא מפני שאנשים מבקשים להזיק, אלא מפני שאיש אינו מוכן להישאר מאחור.

כל משתתף רוצה להשפיע על התוצאה. כל אחד מאמין שהכוונות, הערכים ואמצעי ההגנה שלו עצמו ראויים יותר לאמון.

אבל ההיסטוריה מראה שוב ושוב שליצור כלי חזק קל יותר מלנבא כל דרך שבה ישתמשו בו בסופו של דבר.

השאלה כבר אינה אם אפשר פשוט לעצור את המירוץ.

השאלה המציאותית יותר היא האם בשלות אנושית, מוסדות ושיקול דעת יכולים להתפתח מהר מספיק כדי לעמוד בקצב שלו.

השאלה האמיתית אינה מה AI יהפוך להיות

AI עשוי לעזור לנו לרפא מחלות, להאיץ גילוי מדעי, להרחיב את הגישה לחינוך, להגביר יצירתיות אנושית ולהסיר כמויות עצומות של עבודה אינטלקטואלית חוזרת.

אני מקווה שכן.

אבל הטכנולוגיה לא מחליטה מה נהפוך להיות אחרי שהיא מעניקה לנו את היכולות האלה.

היא רק הופכת את ההחלטה הזאת לבלתי נמנעת.

אם AI יכול לנסח את המחשבות שלנו, האם נמשיך ללמוד לגבש אותן?

אם AI מקבל יותר החלטות בשמנו, האם נמשיך לחזק את שיקול הדעת שלנו?

ההתפתחות האנושית תמיד כללה העברת תפקודים לכלים.

הכתיבה נתנה לזיכרון צורה חיצונית.

מחשבונים הפכו חשבון לאוטומטי.

מנועי חיפוש שינו את הגישה למידע.

AI שונה במידה, ואולי בסופו של דבר גם במהות.

אנחנו כבר לא מעבירים רק משימה פיזית או פעולה מנטלית מצומצמת. אנחנו מתחילים להעביר חלקים של חשיבה, הבעה, פרשנות ובחירה.

זה לא הופך אותנו אוטומטית לחלשים יותר.

אבל זה כן אומר שעלינו להיות מודעים יותר לאילו יכולות אנחנו מרחיבים ולאילו אנחנו מאפשרים להישחק.

השאלה המגדירה של המאה הזאת אולי לא תהיה:

איזה סוג של בינה אנחנו יוצרים?

אולי היא תהיה:

לאיזה סוג של בני אדם עלינו להפוך כדי לחיות לצד בינה שזוכרת יותר, מנתחת מהר יותר ומשכנעת טוב יותר מאיתנו?

אנחנו בונים בינה חדשה.

אבל המבחן הסופי לא יהיה עבור AI.

הוא יהיה עבורנו.