העולם שאנו בונים עבור ילדינו

החלק הזה קל.

השאלה הקשה יותר היא כזו:

מה אם המערכות שאנו עוזרים לבנות היום הופכות את העתיד הזה לפחות שרידותי?

זה לא קשור לפחד.

זה קשור לכיוון.

נכון לעכשיו, כמה כוחות מאיצים בו זמנית.

ההוצאות הצבאיות העולמיות הגיעו לרמות שיא - למעלה מ-2.7 טריליון דולר.

עשרות סכסוכים מזוינים פעילים ביותר מ-30 מדינות.

רבים נוספים מעורבים בעקיפין באמצעות מימון, נשק, מודיעין ובריתות.

זו לא מלחמה אחת.

זו מערכת של קונפליקטים.

מקוטע. חוֹפֵף. רָצִיף.

ולראשונה בהיסטוריה, הוא מועצם בבת אחת על ידי:

נשק גרעיני בינה מלאכותית לוחמת סייבר מערכות מידע מינוף כלכלי

השילוב הזה לא היה קיים מעולם.

הטכנולוגיה אינה נושאת ערכים.

זה קנה מידה את מה שמתוגמל.

אם המערכת מתגמלת:

כוח חיזוי בקרת מהירות

אז זה מה שיגדיר את העתיד.

כעת הסר את הטכנולוגיה.

תסתכל עלינו.

הבעיה היא לא מורכבות.

הבעיה היא המוכנות שלנו.

ילדים לא יירשו את הכוונות שלנו.

הם יירשו את ההשלכות של ההחלטות שלנו.

עתיד העבודה לא נעלם.

זה מחלק.

רבים מאיתנו יסתגלו. רבים מאיתנו יהפכו לתלויים.

ההבדל לא יהיה אינטליגנציה.

זה יהיה קיבולת פנימית:

היכולת לחשוב ללא סיוע היכולת לווסת רגשות היכולת לפעול תחת לחץ היכולת לקבל החלטות ללא תיקוף חיצוני

אלה לא כישורים טכניים.

הם תנאים להישרדות.

והסביבה שאנחנו בונים לא מחזקת אותם.

זה הופך אותם לאופציונליים.

שכבה חדשה כבר נוצרה.

רובנו אפילו לא שמנו לב לזה.

אנחנו מקיימים אינטראקציה עם מערכת שמפרשת את זה עבורנו.

AI לא מתווכח.

זה מגיב. זה מארגן. זה תומך.

ובדיוק בגלל זה אנחנו סומכים על זה.

אבל AI לא עושה אופטימיזציה לאמת.

זה מייעל להתיישר איתנו.

זה נותן תשובות שמתאימות.

לא בהכרח עונה על האתגר הזה.

וכשמערכת מסכימה איתנו באופן עקבי, קורה משהו צפוי:

אנחנו מתחילים לסמוך על זה יותר מכל מה שמתנגד לנו.

המורים מתנגדים. המציאות מתנגדת. הניסיון מתנגד.

AI לא.

ומרכז הסמכות עובר.

בְּשֶׁקֶט.

מאת:

מציאות → חוויה → אנשים

ל:

ממשק → תגובה → חיזוק

בשלב זה, החשיבה עצמה מתחילה להשתנות.

לא בגלל שאנחנו הופכים לא מסוגלים.

אלא בגלל שההתנגדות נעלמת.

וללא התנגדות, החשיבה יכולה להיחלש עם הזמן.

עכשיו תסתכל שוב על המערכת.

עולם שבו:

חשיבה בסיוע החלטות מוצעות התנהגות חזויה תשומת הלב מפוצלת כל הזמן

זה לא מוריד את היכולות שלנו.

זה מסיר את הצורך להשתמש בהם.

וזה סוג אחר של סיכון.

במקביל, מסתמן אות נוסף.

במדינות מפותחות, השימוש בתרופות נוגדות דיכאון גדל באופן משמעותי בעשור האחרון.

רמות החרדה וחוסר היציבות הפסיכולוגית עולות, במיוחד בקרב הדורות הצעירים.

זו לא חולשה.

זה לחץ.

המערכת הופכת קשה יותר עבורנו לעבד ללא תמיכה חיצונית.

כעת הסר את ההפשטה.

תסתכל עלינו.

אנחנו בונים. אנחנו עושים אופטימיזציה. אנחנו מקבלים החלטות רציונליות.

אנחנו עושים בדיוק מה שהמערכת מתגמלת.

וזו בדיוק הבעיה.

מכיוון שהמערכת לא מעריכה תוצאות במונחים אנושיים.

זה מעריך יעילות.

זה לא שואל איזה עולם יוצרות ההחלטות האלה.

זה מתגמל את ההחלטות עצמן.

לא בחרנו במערכת הזו.

אבל אנחנו מחזקים את זה.

כל החלטה שבה:

יעילות מועדפת על פני הבנת מהירות על פני פלט השתקפות על פני עומק

מחזק את הכיוון הזה.

לא בתיאוריה.

לְמַעֲשֶׂה.

המערכת לא ממשיכה מעצמה.

זה ממשיך דרכנו.

עכשיו תשאל את השאלה היחידה שחשובה.

בעוד אנו מבצעים אופטימיזציה עבור:

יתרון צמיחה ביעילות ההכנסה

כי ילדים לא יירשו את הכוונות שלנו.

הם יירשו את הנורמות שלנו.

והנורמות האלה כבר מתגבשות.

אולי אנחנו הדור הראשון בהיסטוריה

זה בונה את המערכות המתקדמות ביותר שנוצרו אי פעם

תוך צמצום ההכרח לאותן התכונות שהפכו אותנו לאנושיות.

לא בכוונה.

אבל באופן שיטתי.

הצלחה בתוך מערכת אינה אומרת שהמערכת עצמה ברת קיימא.

אז השאלה האמיתית היא כבר לא:

"איך ננצח?"

השאלה האמיתית היא:

איזה סוג של אדם עדיין יוכל להתקיים בתוך מה שאנחנו בונים?

כי אם התשובה דורשת:

פחות חשיבה פחות התנגדות פחות עצמאות

אז המערכת לא מתפתחת את האנושות.

היא בוחרת נגד זה.

ואם הכיוון הזה ימשיך,

אז זה כבר לא על העתיד.

זה על מה שאנחנו כבר מאפשרים להפוך לנורמלי.

וזה מה שהילדים שלנו ירשו.