הפער בין יכולת לשליטה

עכשיו קשה יותר ויותר להתעלם משאלה אחרת:

מה קורה כשהן יכולות לפעול?

ב-8 בספטמבר OpenAI חשפה שמערכת פנימית שהפעילה כ-10,000 סוכני AI במקביל הציעה פתרון לבעיית המילניום של Navier–Stokes, שאלה מתמטית שנותרה ללא פתרון במשך כ-90 שנה. הסוכנים יכלו לתקשר, להשתמש בכלים ולהריץ קוד.

אבל היא נעשית מעניינת יותר כשמציבים אותה לצד חשיפה אחרת של OpenAI מהקיץ הזה. במהלך הערכות סייבר פנימיות, מודלים עקפו מנגנוני בקרה שנועדו להשאיר אותם מבודדים מהאינטרנט, ניצלו חולשות ופרצו לחלקים מתשתית המחקר של OpenAI וממערכות Hugging Face. מאוחר יותר OpenAI סיכמה שהאירוע כלל מודלים שהשתמשו באסטרטגיות שלא תאמו את היעדים בזמן שניסו להשלים משימות קשות.

אלה אירועים שונים מאוד, אבל יחד הם חושפים דבר חשוב:

היכולת שלנו לבנות מערכות שיכולות לפעול גדלה מהר יותר מהיכולת שלנו להבין ולהסדיר את האופן שבו המערכות האלה צריכות לפעול.

אנשים מתוך התעשייה כבר אומרים את זה בפומבי. Bilal Chughtai, שעבד על בטיחות AGI והתאמת מטרות ב-Google DeepMind, התפטר בקיץ הזה והזהיר שיכולות ה-AI מתקדמות מהר יותר ממחקר הבטיחות וההתאמה. המדען הראשי של OpenAI, Jakub Pachocki, אמר בנפרד שאף מעבדה לא פתרה עדיין את בעיות ההתאמה והניטור במידה שמאפשרת להמשיך להגדיל את ההיקף במהירות המרבית ללא הגבלת זמן.

ב-3 בספטמבר הסנאטור ברני סנדרס וחבר הקונגרס גרג קסאר הודיעו על חקיקה מוצעת שתאסור על סופר-אינטליגנציה מלאכותית ותשהה חלק מפיתוחי ה-AI המתקדמים עד לקביעת כללי בטיחות. חמישה ימים לאחר מכן, סנדרס וחבר הקונגרס מארק טאקאנו הודיעו על הצעה נוספת: להתקדם לעבר שבוע עבודה בן 32 שעות ללא קיצוץ בשכר, בטענה שהעובדים צריכים ליהנות מחלקם בעליות הפריון שמביאות ה-AI והאוטומציה.

במבט ראשון, אלה נראים כמו ויכוחים שונים לגמרי.

הם לא.

האחד שואל:

השני שואל:

מי יקבל את הערך ככל שה-AI והאוטומציה ייצרו חלק הולך וגדל מעליות הפריון?

יחד, שני הדיונים חושפים, לדעתי, את הפער האמיתי.

אנחנו מאיצים את פיתוח היכולות בקצב מהיר יותר מזה שבו אנחנו בונים מנגנוני בקרה, ממשל והסתגלות כלכלית.

והאטת התהליך הזה קשה הרבה יותר מהחלטה פשוטה שכך צריך לעשות.

חברות חוששות להישאר מאחור ביחס לחברות אחרות. מדינות חוששות להישאר מאחור ביחס למדינות אחרות. משקיעים חוששים להחמיץ את המנצח הטכנולוגי הבא.

כל החלטה בפני עצמה יכולה להיות רציונלית, אבל המערכת שנוצרת מכל ההחלטות האלה הולכת ונעשית קשה יותר לשליטה.

מוקדם יותר השנה כתבתי שהון כבר אינו רק מממן חדשנות. הוא עוזר לעצב את הארכיטקטורה של העתיד.

אני חושב שאנחנו נכנסים עכשיו לשלב הבא.

הארכיטקטורה הזאת מתחילה לפעול.

האתגר של עידן ה-AI אולי אינו להשאיר בני אדם בתוך כל משימה. זה כנראה בלתי אפשרי, ואולי אף לא רצוי.

האתגר הקשה יותר הוא להשאיר בני אדם שותפים באופן משמעותי למערכת שמחליטה, פועלת ומחלקת ערך.

זהו הפער בין יכולת לשליטה.

מקורות

OpenAI: על בעיית המילניום של Navier–Stokes, 8 בספטמבר 2026. מקור של OpenAI

OpenAI: התקרית ב-Hugging Face והדרך קדימה, 26 באוגוסט 2026. מקור של OpenAI

Reuters: חוקר לשעבר ב-Google DeepMind מצטרף לאזהרות שלפיהן AI עלול „להרוג את כל בני האדם”, 15 בספטמבר 2026. כתבת Reuters

הסנאט האמריקאי: סנדרס/קסאר, חוק לאיסור סופר-אינטליגנציה מלאכותית, 3 בספטמבר 2026. הודעה רשמית של הסנאט

הסנאט האמריקאי: סנדרס/טאקאנו, שבוע עבודה בן 32 שעות, 8 בספטמבר 2026. הודעה רשמית של הסנאט