המוות החדש: כאשר האלגוריתמים מוחקים אותך

הפחד של אלטמן אינו מבינה מלאכותית עצמה; זה הפחד שבינה מלאכותית עשויה להפוך לך. בדיון שנערך לאחרונה באירוע של הפדרל ריזרב, הזהיר אלטמן כי התחזות מונעת בינה מלאכותית (קולות וסרטונים מזויפים עמוקים) היא אחד האיומים הגדולים ביותר. "אני מאוד עצבני שיש לנו משבר הונאה משמעותי וממשמש ובא... כרגע, זו שיחה קולית. בקרוב זה יהיה סרטון... שאי אפשר להבחין בו מהמציאות", אמר. המציאות עצמה, הוא מזהיר, עשויה בקרוב לא להוכיח דבר - לא את האותנטיות של מילים, לא זהויות, אפילו לא עובדת המוות. "דבר שמפחיד אותי הוא שעדיין יש כמה מוסדות פיננסיים שמקבלים טביעות קול כאימות... בינה מלאכותית ניצחה במלואה את רוב הדרכים שבהן אנשים מאמתים", ציין אלטמן. בקיצור, טכנולוגיה שיכולה לזייף את הקול שלך, את הפנים שלך, את התנועות שלך מתקדמת כל כך מהר שהגבול בינך לבין זיוף אתה הולך ומטשטש.

כאן טמון פרדוקס מצמרר של העידן הטרנס-הומניסטי שלנו: אתה יכול למות, ואף אחד לא ישים לב. בינה מלאכותית יכולה כעת לגרום לך "לדבר" גם אחרי שאתה אינך - מחקה בצורה מושלמת את הקול שלך, ההבעות שלך, אופן הדיבור שלך. זה ייראה ונשמע כמוך... אבל זה לא אתה. ולהפך, ייתכן שאתה חי מאוד, ובכל זאת המערכת מחשיבה אותך "מת" - למעשה נמחק. תאר לעצמך:

אתה חסום בצל - אלגוריתמים מסתירים בשקט את הפוסטים שלך מאחרים, הופכים אותך לבלתי נראה באינטרנט. הפעילות שלך מסומנת כחשודה - אולי AI החליט שאתה בוט. לא עברת בדיקת זהות KYC (Know Your Customer) - מכונה לא מאמינה שאתה מי שאתה אומר. גרוע מכך, הזהות שלך כבר נגנבה על ידי בוט בינה מלאכותית המתחזה לך - פרופיל מזויף תחת שמך שמשתמשים או פלטפורמות חושבים שהוא אתה האמיתי.

ברוכים הבאים לגיהנום הדיגיטלי - אתה קיים, אבל אין לך נראות, אין לך אותנטיות. אתה שם אבל למעשה לא שם. בתרחיש זה, למות פירושו להיות בלתי מזוהה על ידי האלגוריתם.

אלו לא רק ניסויי מחשבה או מה-אם עתיד רחוק. התחזות מונעת בינה מלאכותית ו"מחיקה" מתרחשות כעת. הנה כמה מהדוגמאות המשפיעות ביותר מהשנתיים האחרונות שמראות שהסכנה היא אמיתית ועולמית:

"אמא, אני צריך עזרה..." - בתחילת 2023, זוג קנדי קשישים קיבל טלפון מטורף ממישהו שנשמע בדיוק כמו הנכד שלהם בטענה שהוא בכלא לאחר תאונת דרכים וזקוק לכספי ערבות. בפאניקה הם מיהרו למשוך מזומן. הם כמעט מסרו 6,000 דולר לפני שמנהל בנק התערב - לקוח אחר דיווח על שיחה דומה וגילה שהקול מזויף בינה מלאכותית. במקרה אחר באותה שנה, הרמאים אכן הצליחו: הם שיבטו קול של גבר (אולי מקליפ ביוטיוב שלו) ושכנעו את הוריו שהוא בבעיה משפטית. ההורים המבועתים שלחו כ-21,000 דולר למתחזים דרך כספומט של ביטקוין לפני שהבינו שהם מעולם לא דיברו עם בנם האמיתי. הקול היה קרוב מספיק כדי להטעות אותם לחלוטין. קריאות המצוקה הללו שנוצרו על ידי AI הפכו כל כך משכנעות שאפילו אנשים בעלי ידע טכנולוגי נאבקים להבחין במציאות.

מנכ"ל Deepfake Heist - בשנת 2024, עובדים בסניף בהונג קונג של חברה רב לאומית הצטרפו לשיחת וידאו עם מה שנראה כמנהל הכספים הראשי שלהם (CFO). הוא נתן הנחיות דחופות להעברת כספים - והם נענו, ושלחו סכום מדהים של 200 מיליון דולר הונג קונגי (כ-25.6 מיליון דולר ארה"ב) לחשבונות ייעודיים. רק מאוחר יותר הם למדו את האמת: כל אדם בוועידת הווידאו ההיא, מלבד העובד הקורבן, היה מזויף. הרמאים השתמשו בטכנולוגיה עמוקה מזויפת כדי ליצור אווטארים וידאו כמו חיים של סמנכ"ל הכספים ועמיתים אחרים, בשילוב עם קולות משובטים, כדי לביים את הפגישה כולה. "כולם נראו אמיתיים", אמרו במשטרת הונג קונג - והחברה נותרה מעורפלת של יותר מ-25 מיליון דולר. זה היה אחד המקרים הגדולים הראשונים של פגישת וידאו מזויפת מלאה בשימוש בהונאה תאגידית, וזה מדגיש עד כמה אפילו לראות זה כבר לא להאמין.

משפיעים משובטים ומתחזים וירטואליים - בפלטפורמות חברתיות כמו TikTok ו-OnlyFans, פרסונות שנוצרו על ידי AI החלו לשגשג - ולהונות. משפיענים פיקטיביים לחלוטין צוברים עוקבים ואפילו "מערכות יחסים" עם מעריצים לא מודעים. לדוגמה, מודל שנוצר בינה מלאכותית המכונה "TheRRRealist" הרוויח על פי הדיווחים עד 15,000 $ לחודש על ידי מכירת תוכן מפורש ב-OnlyFans - למרות שלא היה אדם אמיתי בכלל. ב-Reddit, פרסונה מקוונת מזויפת בשם "קלאודיה" - אישה צעירה שנוצרה על ידי שני סטודנטים למדעי המחשב - הצליחה למכור תמונות עירום של "עצמה" למשתמשים רבים, שלרבים מהם לא היה מושג שהיא לא אמיתית. היוצרים של קלאודיה חשפו שבאמצעות כלי תדמית בינה מלאכותית מודרניים, הם יכולים לייצר תמונות מציאותיות ביותר שהטעו אנשים לשלם - עד שהתרמית נחשפה בסופו של דבר. ומעבר להונאה פיננסית, חשבו על המניפולציה הרגשית כאן: אנשים יצרו התקשרויות למשהו (או למישהו) שאינו קיים. יש לנו עכשיו סטרימרים וצ'אטבוטים מזויפים שיכולים לפלרטט, לתת עצות לחיים, אפילו להגיד "אני אוהב אותך" ללקוחות משלמים - הכל במסווה של פרסונה שמרגישה אנושית. היום זה עשוי להיות משפיע בדיוני; מחר זה יכול להיות האווטאר שלך שיגיד דברים שמעולם לא אמרת.

מחר, אכן, האווטאר הדיגיטלי שלך יכול להתחיל לדבר בשמך - ללא הסכמתך. ואם תמות, האווטאר הזה עשוי להמשיך לפרסם, לדבר ולעסוק כמוך, אולי אפילו במודל של מנוי למי שרוצה "גישה" למנוח. בשנת 2023, כשנשאל על יכולת הזיוף העמוק שצומחת במהירות, סם אלטמן התוודה: "מפחיד אותי כמה טוב זה הולך".

מה אם מישהו יתחיל לחקות אותך בזמן שאתה עדיין בחיים? האם חקיין בינה מלאכותית יכול לגנוב את חייך ביעילות - חברתית, כלכלית, משפטית - עוד לפני שאתה מבין זאת?

איך תוכיח שאתה אתה? אם קול סינתטי או אווטאר יכולים לחקות אותך בצורה מושלמת, אילו ראיות תוכל להציע שאתה ה"אמיתי"? הוכחות הזהות המסורתיות שלנו (קולות, תמונות, וידאו) הופכות למופרכות.

האם אתה רוצה "לחיות" בתור בוט לאחר המוות? חלקם עשויים למצוא נחמה באווטארים דיגיטליים של אהובים שנפטרו, אבל אם אתה נעלם, האם הייתם מסכימים לכך שבינה מלאכותית תשתמש בקול ובתמונה שלכם כדי להעמיד פנים שאתם עדיין כאן?

מה אם הבוט-עצמי שלך אומר או עושה דברים שלא היית עושה? אווטאר שלאחר מותו עשוי להתחיל להביע דעות או לעסוק בפעולות שאתה מאוד לא מסכים איתן. בעצם, גרסה שלך מחוץ לשליטתך.

האם המוות באמת כבר הסוף? אנחנו מניחים שהמוות שלנו הוא היציאה שלנו. אבל מה אם לאחר המוות הביולוגי שלך, יתחילו "חיים" חדשים - חיים שאין לך שום מילה עליהם, שנמשכים על ידי אלגוריתמים שהחליטו לשמור אותך בסביבה?

יש זן של מחשבה טרנס-הומניסטית שחולמת על אלמוות דיגיטלי - העלאת המוח של האדם, או שמירה על האישיות שלו ב-AI, כדי לחיות לנצח. אבל המציאות המתהווה נראית פחות כמו ישועה ויותר כמו סיוט של איבוד שליטה. רצית להציל את עצמך, אבל מה שאתה עשוי לקבל זה משהו אחר לגמרי:

מעטפת ממוסחרת של הזהות שלך - הדמיון והקול שלך ארוז כמוצר. שירות מנוי "אתה" - אולי חברים או מעריצים משלמים כדי לשמוע אותך (או מה שנשמע כמוך) מספרים סיפורים חדשים או מעבירים להם הודעות מותאמות אישית הרבה אחרי שנעלמת. בינה מלאכותית שמדברת בשבילך, ללא הגבלת זמן - ממשיכה לייצר תוכן בשמך לנצח, מבלי לבקש את רשותך מעולם (כי אתה לא שם כדי לתת את זה).

בתרחיש זה, המוות אינו מסקנה שלווה; זה הופך לסוג של הפרת זכויות יוצרים. הקול, הפנים והסיפור שלך משוכפלים ובבעלות מישהו אחר. אתה כבר לא שולט במי היית, מה אתה הופך או איך זוכרים אותך. המהות שלך יכולה להיות משוכפלת, לתמרן ולהרוויח בלי סוף על ידי אחרים.

מסקנה: אתה תמות - אבל אולי לא כשהלב שלך יפסיק לפעום. אולי אתה באמת מת ביום שבו האלגוריתם כבר לא יזהה אותך. או, באופן מעוות, אתה מת ביום שבו האלגוריתם מחליט שהוא לא נותן לך ללכת - שאתה מזויף הוא שימושי מדי, רווחי מדי, מכדי לאפשר לנוח.

כן, התהום עמוקה — אבל החבל כבר מוריד.

אישורי תוכן: כתם לידה לכל פיקסל. הקואליציה למקור ואותנטיות של תוכן (C2PA) שוזרת "אישורי תוכן" לתוך מצלמות, חבילות עריכה ופלטפורמות פרסום. התקן חותם באופן קריפטוגרפי על כל לכידה וכל עריכה, כך שכל אחד יכול ללחוץ על מידע ולעקוב אחר כל שרשרת המשמורת - מהעדשה למסך. חדרי חדשות גדולים ו-Adobe, Nikon ו-Microsoft החלו לשלוח אבטיפוס של חומרה ופורמטים של קבצים המטמיעים את ההוכחות הללו כברירת מחדל. בקיצור: הסלפי העתידי שלך יכול לשאת תעודת לידה בלתי ניתנת לזיוף, וזיוף עמוק יגיע... ללא תעודות.

סימני מים שלוחשים "אני סינתטי". OpenAI כבר אפתה סימני מים במנוע הקול שלה ובודקת בשקט סימני מים בתמונה בתכונת "ImageGen" החדשה של ChatGPT. הסמנים יושבים מתחת לתפיסה האנושית אך מעל לזיהוי מכונה - מאפשרים לבנקים, בתי משפט ופלטפורמות חברתיות לסרוק העלאה ולדעת, באופן מיידי, אם היא הולידה בינה מלאכותית. זה לא מושלם, אבל זו התחלה: אבקה דיגיטלית שנצמדת לכל הברה ופיקסל משובטים.

חוקים עם שיניים אמיתיות. חוק ה-AI של האיחוד האירופי, שנכנס לתוקף בשלבים עד 2026, מאלץ כל מערכת שיכולה לייצר "תוכן אורקולי סינתטי" לתייג אותו בבירור. מודלים הנחשבים ל"סיכונים מערכתיים" חייבים לפרסם סיכומי הכשרה, לעבור בדיקות יריבות, ולספוג קנסות של עד 35 מיליון אירו (או 7% מההכנסות העולמיות) על הסתרת האמת. שטרות דומים צצים בארה"ב, יפן וברזיל. הרגולציה סוף סוף דוהרת כדי לעמוד בקצב הקוד.

זהות ללא שרידי הסיסמה. כניסות להדפסה קולית נמצאים בנקודת החיתוך (OpenAI קורא בפומבי לבנקים לבטל אותם בהדרגה). במקום זאת, מפתחות סיסמה, אסימוני חומרה וארנקים שהוכחו אפס ידע נעים במיינסטרים, ומאפשרים לך להוכיח "אני אני" מבלי למסור אי פעם ביומטריה גולמית. אם תוקף ישכפל את הקול שלך, עדיין לא יהיה לו את הסוד ההצפנה שלך.

בדוק את התג. חפש אייקונים של אישורי תוכן בתמונות ובסרטונים; אין תג, אין אמון. בטל סיסמאות קוליות. החלף אותם במפתחות FIDO2 או במפתחות סיסמה הקשורים למכשיר שלך. הקפיא את התאום הדיגיטלי שלך. השתמש בשירותים שמתריעים כאשר חשבון חדש או בקשה להלוואה מופיעה על שמך. לאמן את העין. עקוב אחר בודקי עובדות ולמד את הסיפורים של תמונות AI - השתקפויות מוזרות, עגילים לא תואמים, ידיים ששוכחות פיזיקה. מיומנות היא עדיין מגן. הצביעו עם הקליקים שלכם. פלטפורמות מודיעות על מעורבות. תגמול מדיה מאומתת; להרעיב את הזיופים.

אותה כושר המצאה שזייף את הזיוף העמוק הוא חיפוי התרופה. תקנים, סימני מים וחוקים לעולם לא יהיו ללא רבב - אבל הם מעלים את עלות ההטעיה ומעבירים את הכוח בחזרה אל האותנטי.

אז השאלה לעולה הרגל הטרנס-הומניסטי היא כבר לא "האם יעתיקו אותי?" אבל "האם אשא מספיק אמת כדי שהעותק שלי יצלצל חלול?"

הצל הדיגיטלי שלך עדיין יכול להיות שלך - מעוגן על ידי קריפטוגרפיה, נשמר על ידי מדיניות ומואר על ידי ציבור חכם לאשליה. משחק הסיום אינו מחיקה בלתי נמנעת; זהו עתיד במשא ומתן שבו זהות נחתם בחתימה על ידי הבשר והמתמטיקה כאחד.