בעבר שלכם יש יותר נתונים מאשר בעתיד שלכם

רשומת מקור

בעבר שלכם יש יותר נתונים מאשר בעתיד שלכם

Maxim Gorbachev

סוכני בינה מלאכותית ידעו מי הייתם. האם הם ישאירו מקום לאדם שאתם מנסים להיות?

דמיינו שבוקר אחד אתם אומרים לסוכן הבינה המלאכותית שלכם:

״אני רוצה לשנות את החיים שלי.״

אתם רוצים לעזוב את הענף שבו עבדתם עשרים שנה. להפסיק לשתות. לתקן מערכת יחסים. לקחת יותר סיכונים. להפסיק לחיות כפי שחייתם קודם.

מבחינתכם, המשפט הזה עשוי לסמן התחלה. מבחינת המערכת, הוא עשוי להיראות כחריגה מהדפוס.

העבר שלכם מגיע עם רכישות, הודעות, חיפושים, הרגלים ואלפי בחירות קודמות. העתיד שלכם מגיע עם משפט.

על מי מהם המערכת אמורה לסמוך?

התשובה תלויה במשמעות שאנחנו נותנים לאמון. כוונה חדשה אינה הוכחה לכך שהשתנינו. אבל היא יכולה להיות הוראה ברורה להפסיק לפעול כאילו לעולם לא נשתנה.

הסיכון הוא שהבינה המלאכותית תצטיין כל כך בשירות האדם שהיינו, עד שיהיה לנו קשה יותר להפוך לאדם שאנחנו מנסים להיות.

מלהכיר אותנו לפעול בשבילנו

מערכות המלצה כבר לומדות על סמך הדברים שאנחנו לוחצים עליהם, צופים בהם וקונים. ההתנהגות של אתמול מעצבת את ההמלצות של היום, והבחירות של היום הופכות לנתונים חדשים למחר.

סוכנים אישיים מרחיבים את הקשר הזה לזיכרון, לתכנון ולפעולה. עוזר עשוי לזכור אינטראקציות קודמות, לצפות צרכים ולפעול בשירותים שונים במסגרת ההרשאות שניתנו לו.[1][2]

התועלת אמיתית: פחות עבודה מנהלית, פחות התחייבויות שנשכחו ויותר יכולת להקדיש להחלטות שראויות לתשומת לבנו.

אבל מערכת המלצה מציעה את הצעד הבא. סוכן עשוי להיות מסוגל לבצע אותו.

לכן מודל של מי שאתם יכול להפוך למשהו שמעבר לתיאור. בהתאם למטרות המערכת ולהרשאותיה, הוא יכול להשפיע על ההזדמנויות שיגיעו אליכם, על מה שיחודש, על מי שיקבל את תשומת לבכם ועל מה שיקרה בהמשך.

דמיינו סוכן שנותן עדיפות לאנשי קשר מהקריירה שאתם רוצים לעזוב. מחדש שירותים שקשורים לאורח חיים שכבר אינכם רוצים. מסנן הזדמנויות דרך הזהירות שלמד בתקופה של פחד.

כל פעולה עשויה להיראות הגיונית בפני עצמה. יחד, הן יכולות להמשיך לבנות מחדש את אתמול.

האדם שבנתונים

בינה מלאכותית אינה מכירה אדם מבפנים. היא עובדת עם ייצוגים שנבנים מהמידע הזמין לה.

החוקרים ינס כריסטיאן ביירינג ויעקב בוש מתארים את ״הפרט הסטטיסטי״: גרסה אלגוריתמית של אדם שנבנית מעקבות התנהגות וממאפיינים המשמשים לחיזוי.[3]

הגרסה הזאת עשויה להיות מדויקת ועדיין לא שלמה.

מה שעשיתי שוב ושוב אינו בהכרח מה שאני מעריך. מה שהחזיק את תשומת לבי אינו בהכרח מה שהיה ראוי לה. מה שהאמנתי בו לפני חמש שנים אינו בהכרח מה שאני מוכן להגן עליו היום.

אדם יכול לרצות סיגריה וגם לרצות להפסיק לרצות סיגריות. הוא עשוי להצליח במקצוע מסוים ובכל זאת לא לרצות עוד את החיים שהוא דורש.

מערכת שמתייחסת להתנהגות הנצפית כסמכות הסופית בענייני העדפות מתקשה לייצג את הסתירה הזאת. היא יכולה להצטיין בסיפוק דחף שהאדם מנסה להתגבר עליו. מחקר על מערכות המלצה ואוטונומיה בוחן את הפער בין העדפות שהוסקו מנתונים לבין מטרות שנבחרו מתוך מחשבה.[4]

לכך הייתי קורא האסימטריה בזמן של הבינה המלאכותית האישית.

את העבר אפשר לצפות, והוא שופע נתונים. העתיד עדיין לא הוכח.

אחרי עשר שנים של אותו דפוס, החלטה להשתנות עשויה להיתמך בהוראה אחת ולעמוד מול אלפי נקודות נתונים שסותרות אותה. המשכיות נראית אמינה מבחינה סטטיסטית. שינוי נראה כמו רעש.

אלא שביטחון בחיזוי אינו מכריע בשאלת הסמכות. מערכת עשויה לחזות נכון שאחזור להרגל ישן, בלי שתהיה לה הזכות להמשיך לארגן את חיי סביבו.

הצהרה צריכה לשנות את השאלה

אין סיבה לעשות אידיאליזציה לכוונה. אנשים מבטיחים הבטחות שאינם מקיימים. מנכ״ל יכול להכריז על תרבות חדשה בלי לשנות אפילו תמריץ אחד. אדם יכול להחליט בכנות להפסיק לשתות ולהתקשות לממש את ההחלטה.

העבר כולל גם מחויבויות, הבטחות והשלכות על אנשים אחרים. הזכות להשתנות אינה הזכות למחוק אחריות.

אבל יש מלכודת בדרישה להוכיח שינוי לפני שסוכן יתייחס למטרה חדשה ברצינות. ייתכן שהאדם זקוק קודם להזדמנויות, לתזכורות ולתנאים אחרים כדי שיוכל להציג את ההוכחה הזאת.

אם המערכת ממשיכה לשחזר את הסביבה הישנה עד שנוכיח שהשתנינו, היא עלולה להקשות על הוכחת השינוי.

לכן כוונה מוצהרת צריכה להוביל לבדיקה מחודשת, ולא לפסק דין אוטומטי.

מה בדיוק משתנה? אילו העדפות קודמות כבר אינן עדכניות? איזו עזרה האדם רוצה? אילו מחויבויות ומגבלות עדיין חלות? אילו פעולות הסוכן צריך להפסיק לבצע בלי לשאול?

״אל תחדש את השירות הזה״ היא הוראה ברורה. ״עזור לי להיות פחות זהיר״ מחייב שיחה על היכן, כיצד ובאיזה מחיר.

העוזר אינו צריך להעמיד פנים שהעבר נעלם. עליו להבחין בין מה שהעבר מנבא לבין מה שהאדם מרשה כעת.

לאחר מכן, פעולה יוצרת ראיות להתקדמות: שגרה שהשתנתה, גבול חדש, בקשה שנשלחה, שיחה קשה שסוף סוף התקיימה. נסיגה היא מידע לדיון, ולא רשות אוטומטית להחזיר את הזהות הישנה.

כשהחיזוי עוזר לייצר את התוצאה

חשבו על סוכן שלמד שאתם זהירים. הוא מציג לכם פחות הזדמנויות לא מוכרות. אתם מנסים פחות דברים חדשים. ההתנהגות שלכם מאשרת אז את המסקנה המקורית שלו: אתם זהירים.

החיזוי עזר לעצב את הראיות שמשמשות לאימותו.

זו לולאת משוב אפשרית, ולא תכונה בלתי נמנעת של כל סוכן אישי. עוצמתה תלויה במידע שהמערכת יכולה לגשת אליו, באופן דירוג האפשרויות, במה שמותר לה לעשות ללא אישור ובדרך שבה נמדדת הצלחה.

סוכן שמותאם בעיקר להשגת הסכמה מיידית עשוי להמשיך לחזור לבחירות המוכרות. סוכן שנבנה סביב מטרה מפורשת יכול לעזור לכם לבחון חלופות, להתכונן לאי ודאות ולשים לב להתקדמות שאחרת הייתם מחמיצים.

אותו זיכרון שמשמר דפוס יכול גם לעזור לשבור אותו.

כך עולה שאלה מעשית מאחורי שפת ההתאמה האישית: מה המערכת מנסה לייעל, ומי יכול לשנות את המטרה הזאת?

אותה אסימטריה בקנה מידה גדול יותר

אותה בעיה מופיעה כשעוברים מאדם לחברה, לממשלה או לציוויליזציה. גם למוסדות יש עבר עשיר בנתונים: תקציבים, חוקים, בריתות, תמריצים ותגובות חוזרות לפחד. כוונה קולקטיבית חדשה מתחילה עם הרבה פחות ראיות.

בינה מלאכותית עשויה לעזור לנו לזהות מנגנונים שחוזרים על עצמם. אבל היא אינה יכולה להפוך אותם לגורל.

ההיסטוריה אינה חוזרת על עצמה בגלל מחזור מיסטי. מנגנונים דומים יכולים לייצר תוצאות דומות. תחזית כנה היא תמיד מותנית: אם מניעים, תמריצים ומוסדות נותרים ללא שינוי מהותי, תוצאות דומות נעשות סבירות יותר.

להצהרה על רפורמה יש משמעות, אבל שינוי בתמריצים ובהחלטות הוא שנותן לה תוכן.

טכנולוגיה חדשה לבדה אינה יוצרת עתיד חדש. אם המניעים האנושיים נשארים זהים, תבונה רבה יותר עשויה פשוט לעזור למערכות ישנות לשחזר את עצמן ביעילות רבה יותר.

הזכות לעדכן את הגרסה של עצמנו

אנחנו זקוקים להמשכיות. עוזר אינו אמור לשכוח מגבלות רפואיות, מגבלות כספיות או מחויבויות מפני שהכרזנו על התחלה חדשה. זיכרון מועיל מגן עלינו מפני אובדן הקשר שעדיין חשוב.

הבעיה מתחילה כשהזיכרון מקבל בשקט עדיפות על פני הכוונה.

הפרטיות עוסקת בשאלה מי רשאי לגשת לנתונים שלנו. סוכנים אישיים מעלים שאלה נוספת: על סמך איזו פרשנות לנתונים האלה רשאית המערכת לפעול?

עלינו להיות מסוגלים לומר: הדפוס הזה כבר אינו עדכני. הפסק להתייחס אליו כהוראה קבועה.

סוכן צריך להבחין בין מה שעשיתי בעבר, מה שאני מעדיף כעת, מה שאני מעריך במפורש ומי שאני מנסה להיות. השכבות האלה יהיו לעיתים קרובות במחלוקת. הסתרת הסתירה בתוך המילה ״התאמה אישית״ אינה פותרת אותה.

בניסוי שנרשם מראש ובו 6,488 משתתפים, המלצות שהותאמו להעדפות האידיאליות הובילו למעט פחות לחיצות, אבל שיפרו את הדיווח על זמן שנוצל היטב, את הנכונות לשלם ואת האמונה שהחברה דואגת לטובת המשתמשים. התוצאות האלה נוגעות לבחירות בהמלצות ולדיווחים עצמיים, ולא לראיות לשינוי מתמשך בחיים. ובכל זאת, הן מערערות על ההנחה שיותר מעורבות פירושה תמיד שירות טוב יותר.[5]

לסוכנים אישיים הייתי מציע עיקרון פעולה פשוט: כאשר מטרה חדשה ומפורשת מתנגשת עם העדפה ישנה שהוסקה מנתונים, הציגו את הסתירה ואפשרו לאדם לשנות את הוראות העבודה.

בפועל, משתמשים צריכים להיות מסוגלים לבדוק הנחות חשובות, לסמן אותן כלא עדכניות, לשנות את מה שמותר לסוכן לעשות ולבקש ממנו להציג אפשרויות שחורגות מדפוס מבוסס. יש לבדוק מחדש הרשאות כשהמטרות משתנות, במקום להעביר אותן בשקט מתקופה קודמת בחיים.

אלה הצעות לתכנון מערכות, ולא הגנות שכל מוצר כבר מספק.

הן גם יהפכו את הקשר לכנה יותר. סוכן יוכל לומר: ״ההיסטוריה שלך מצביעה על כך שזה עשוי להיות קשה לך. האם עדיין ברצונך שאעזור לך לנסות להשיג זאת?״ הוא לא אמור להפוך בשקט את ״קשה״ ל״לא בשבילך״.

זהות אינה כוונה.

היסטוריה אינה הרשאה.

חיזוי אינו סמכות.

האדם שהנתונים עדיין אינם יכולים לראות

בנקודות מפנה חשובות, עוזר שאומן על ההתנהגות הקודמת שלנו עשוי להציע עצה סבירה לחלוטין: המשיכו באותה קריירה, הגנו על אותה זהות, בחרו במה שבחרתם קודם.

כמה מההחלטות החשובות ביותר בחיים מתחילות בסירוב להמשיך.

האדם שמקבל את ההחלטה הזאת עשוי להיראות לא עקבי או בלתי סביר מבחינה סטטיסטית. ייתכן שהוא טועה. ייתכן שהוא גם צומח.

סוכן מועיל צריך לעזור לנו להבין את הסיכונים, לשמור על המחויבויות שלנו ולהפוך כיוון שבחרנו לפעולה ממשית. הידע שלו על העבר שלנו צריך לסייע לעבודה הזאת, בלי להפוך לזכות וטו עליה.

לכן השאלה המרכזית של הבינה המלאכותית האישית לא תהיה רק:

עד כמה המערכת הזאת מכירה אותי?

היא תהיה גם:

כשההתנהגות שלי בעבר והכוונה שלי בהווה אינן מתיישבות זו עם זו, את מי מהן ישרת הסוכן שלי?

לאדם שהייתם יש ראיות.

לאדם שאתם הופכים להיות אין.

עדיין לא.

העתיד מתחיל בלי נתונים.

הוא שורד כשהכוונה הופכת לפעולה.

מקורות והפניות

1. OpenAI, היכרות עם dots, 29 בספטמבר 2026.

https://openai.com/index/introducing-dots/

2. רשות התחרות והשווקים בבריטניה, בינה מלאכותית סוכנית וצרכנים, עודכן ב-30 באוקטובר 2026.

https://www.gov.uk/government/publications/agentic-ai-and-consumers/agentic-ai-and-consumers

3. ינס כריסטיאן ביירינג ויעקב בוש, בינה מלאכותית וזהות: עלייתו של הפרט הסטטיסטי, AI & Society, 2025.

https://link.springer.com/article/10.1007/s00146-024-01877-4

4. האם אתם בטוחים שזה מה שאתם באמת רוצים? מערכות המלצה שיחתיות לחיזוק האוטונומיה האנושית, 2026.

https://pmc.ncbi.nlm.nih.gov/articles/PMC13658317/

5. פורוז חמבטה ואחרים, התאמת אלגוריתמי המלצה להעדפות אידיאליות משפרת את מצב המשתמשים, Scientific Reports, 2023.

https://www.nature.com/articles/s41598-023-34192-x