Новая смерть: когда алгоритмы стирают тебя

Альтман боится не самого искусственного интеллекта; это страх, что ИИ может стать вами. В ходе недавней дискуссии на мероприятии Федеральной резервной системы Альтман предупредил, что выдача себя за другое лицо с помощью искусственного интеллекта (дипфейковые голоса и видео) является одной из крупнейших новых угроз. "Я очень нервничаю из-за того, что у нас надвигается серьезный кризис мошенничества... Прямо сейчас это голосовой звонок. Скоро это будет видео... неотличимое от реальности", - сказал он. Сама реальность, предупреждает он, вскоре может ничего не доказать – ни подлинность слов, ни личности, ни даже факт смерти. «Меня пугает то, что некоторые финансовые учреждения до сих пор принимают отпечатки голоса в качестве аутентификации… ИИ полностью победил большинство способов аутентификации людей», — отметил Альтман. Короче говоря, технологии, которые могут подделать ваш голос, ваше лицо, ваши движения, развиваются настолько быстро, что грань между вами и поддельным вами стирается.

Здесь кроется пугающий парадокс нашей трансгуманистической эпохи: можно умереть, и никто этого не заметит. Теперь ИИ может заставить вас «говорить» даже после вашего ухода, идеально имитируя ваш голос, выражение лица и манеру речи. Это выглядело бы и звучало как ты... но это не ты. И наоборот, вы можете быть вполне живы, но система считает вас «мертвыми» — фактически стертыми. Представьте себе:

Вы забанены: алгоритмы незаметно скрывают ваши сообщения от других, делая вас невидимыми в Интернете. Ваша активность отмечена как подозрительная — возможно, ИИ решил, что вы бот. Вы не прошли проверку личности KYC (Знай своего клиента) — машина не верит, что вы тот, за кого говорите. Хуже того, ваша личность уже была украдена ИИ-ботом, который выдает себя за вас — поддельным профилем под вашим именем, который пользователи или платформы считают вашим настоящим.

Добро пожаловать в цифровой ад – вы существуете, но у вас нет видимости, нет аутентичности. Вы есть, но фактически вас там нет. В этом сценарии умереть означает быть нераспознанным алгоритмом.

Это не просто мысленные эксперименты или «а что, если» в далеком будущем. Олицетворение и «стирание» под управлением ИИ происходит сейчас. Вот несколько наиболее впечатляющих примеров за последние пару лет, которые показывают, что опасность реальна и глобальна:

«Мама, мне нужна помощь…» – В начале 2023 года пожилой канадской паре в отчаянии позвонил кто-то, кто говорил точно так же, как их внук, и заявил, что он попал в тюрьму после автомобильной аварии и нуждается в залоге. В панике они бросились снимать наличные. Они почти передали 6000 долларов, прежде чем вмешался менеджер банка — другой клиент сообщил об аналогичном звонке и обнаружил, что голос был фальшивкой, созданной искусственным интеллектом. В другом случае в том же году мошенникам все же удалось: они клонировали голос мужчины (вероятно, из его видеоролика на YouTube) и убедили его родителей, что у него проблемы с законом. Напуганные родители отправили самозванцам около 21 000 долларов через биткойн-банкомат, прежде чем поняли, что они никогда на самом деле не разговаривали со своим настоящим сыном. Голос был достаточно близко, чтобы полностью их обмануть. Эти сигналы бедствия, генерируемые искусственным интеллектом, стали настолько убедительными, что даже технически подкованным людям сложно распознать реальность.

Ограбление генерального директора Deepfake. В 2024 году сотрудники гонконгского филиала транснациональной компании присоединились к видеозвонку с, по всей видимости, их финансовым директором (финансовым директором). Он дал срочные инструкции по переводу средств – и они подчинились, отправив ошеломляющие 200 миллионов гонконгских долларов (около 25,6 миллионов долларов США) на определенные счета. Лишь позже они узнали правду: все участники той видеоконференции, кроме пострадавшего сотрудника, были фальшивками. Мошенники использовали технологию дипфейков для создания реалистичных видеоаватаров финансового директора и других коллег в сочетании с клонированными голосами, чтобы инсценировать всю встречу. «Все выглядели настоящими», — заявила полиция Гонконга, — и компания лишилась более 25 миллионов долларов. Это был один из первых крупных случаев использования полной фейковой видеоконференции в целях корпоративного мошенничества, и это подчеркивает, что даже увидеть уже не значит поверить.

Клонированные влиятельные лица и виртуальные самозванцы. На социальных платформах, таких как TikTok и OnlyFans, начали процветать персонажи, созданные ИИ, и обманывать. Полностью фиктивные влиятельные лица набирают последователей и даже «отношения» с ничего не подозревающими поклонниками. Например, созданная искусственным интеллектом модель, известная как «TheRRRealist», как сообщается, зарабатывала до 15 000 долларов в месяц, продавая откровенный контент на OnlyFans, несмотря на то, что она вообще не была реальным человеком. На Reddit фейковый онлайн-персонаж по имени «Клаудия» — молодая женщина, созданная двумя студентами-компьютерщиками — сумела продать свои обнаженные изображения «самой себя» многочисленным пользователям, многие из которых понятия не имели, что она ненастоящая. Создатели Клаудии рассказали, что с помощью современных инструментов искусственного интеллекта для обработки изображений они могут создавать очень реалистичные фотографии, которые обманом заставляют людей платить — пока мошенничество в конечном итоге не будет раскрыто. Помимо финансового мошенничества, подумайте об эмоциональных манипуляциях: люди формировали привязанность к чему-то (или кому-то), чего не существует. Теперь у нас есть дипфейковые стримеры и чат-боты, которые могут флиртовать, давать жизненные советы и даже говорить «Я люблю тебя» платящим клиентам — и все это под маской человека, который чувствует себя человеком. Сегодня это может быть вымышленный влиятельный человек; завтра это может быть твой аватар, говорящий то, чего ты никогда не говорил.

Действительно, завтра ваш цифровой аватар может начать говорить от вашего имени – без вашего согласия. И если вы умрете, этот аватар может продолжать публиковать сообщения, разговаривать и участвовать от вашего имени, возможно, даже по модели подписки для тех, кто хочет «доступа» к умершему. В 2023 году, когда его спросили об этих быстрорастущих возможностях дипфейков, Сэм Альтман признался: «Меня пугает, насколько хорошо это становится».

Что, если кто-то начнет подражать тебе, пока ты еще жив? Может ли искусственный интеллект эффективно украсть вашу жизнь – в социальном, финансовом и юридическом плане – еще до того, как вы это осознаете?

Как бы ты доказал, что ты — это ты? Если синтетический голос или аватар может идеально имитировать вас, какие доказательства вы можете предложить, что вы «настоящий»? Наши традиционные доказательства личности (голоса, фотографии, видео) становятся спорными.

Хотите ли вы «жить» как бот после смерти? Некоторые могут найти утешение в цифровых аватарах умерших близких, но если бы вы ушли, согласились бы вы на то, чтобы ИИ использовал ваш голос и изображение, чтобы притвориться, что вы все еще здесь?

Что, если ваш бот скажет или сделает то, чего вы никогда бы не сделали? Посмертный аватар может начать выражать взгляды или совершать действия, с которыми вы категорически не согласны. По сути, это версия вас, находящаяся вне вашего контроля.

Действительно ли смерть уже является концом? Мы считаем, что наша смерть — это наш выход. Но что, если после вашей биологической смерти начнется новая «жизнь», в которой вы не имеете права голоса, и которую ведут алгоритмы, которые решили оставить вас рядом?

Существует направление трансгуманистической мысли, мечтающее о цифровом бессмертии – загрузке своего разума или сохранении своей личности в ИИ, чтобы жить вечно. Но возникающая реальность больше похожа не на спасение, а на кошмар утраты контроля. Вы хотели спасти себя, но можете получить совсем другое:

Коммерческая оболочка вашей личности – ваше изображение и голос, упакованные в продукт. Служба подписки «вы» — возможно, друзья или поклонники платят за то, чтобы услышать, как вы (или кто-то на вас похож) рассказываете новые истории или отправляете им персонализированные сообщения спустя долгое время после вашего ухода. ИИ, который говорит за вас бесконечно, продолжая создавать контент от вашего имени вечно, даже не спрашивая вашего разрешения (потому что вас нет рядом, чтобы его дать).

В этом сценарии смерть не является мирным завершением; это становится своего рода нарушением авторских прав. Ваш голос, лицо и история копируются и принадлежат кому-то другому. Вы больше не контролируете, кем вы были, кем стали и каким вас помнят. Сущность вас может бесконечно дублироваться, манипулироваться и монетизироваться другими.

Вывод: вы умрете – но, возможно, не тогда, когда ваше сердце перестанет биться. Возможно, вы действительно умрете в тот день, когда алгоритм перестанет вас узнавать. Или, как ни странно, вы умрете в тот день, когда алгоритм решит, что не отпустит вас — этот фальшивый «я» слишком полезен и слишком прибыльен, чтобы позволить ему отдохнуть.

Да, пропасть глубока — но верёвка уже спускается.

Учетные данные контента: родинка для каждого пикселя. Коалиция за происхождение и подлинность контента (C2PA) встраивает «учетные данные контента» в камеры, программы редактирования и издательские платформы. Стандарт криптографически подписывает каждый снимок и каждое редактирование, поэтому любой может нажать «Информация» и проследить всю цепочку сохранности — от объектива до экрана. Крупные редакции новостей, а также Adobe, Nikon и Microsoft начали поставлять прототипы аппаратного обеспечения и форматы файлов, в которые по умолчанию встроены эти доказательства. Короче говоря: ваше будущее селфи может иметь неподдельное свидетельство о рождении, а появится дипфейк... без удостоверений.

Водяные знаки, которые шепчут: «Я синтетический». OpenAI уже внедрила водяные знаки в свой Voice Engine и незаметно тестирует водяные знаки изображений в новой функции ImageGen ChatGPT. Маркеры находятся ниже человеческого восприятия, но выше машинного обнаружения, позволяя банкам, судам и социальным платформам сканировать загрузку и мгновенно узнавать, была ли она создана искусственным интеллектом. Это не идеально, но это только начало: цифровая пыльца, которая цепляется за каждый клонированный слог и пиксель.

Законы с настоящими зубами. Закон ЕС об искусственном интеллекте, вступающий в силу поэтапно до 2026 года, обязывает любую систему, которая может производить «синтетический аудиовизуальный контент», четко маркировать его. Модели, считающиеся «системными рисками», должны публиковать отчеты об обучении, проходить состязательное тестирование и подвергаться штрафам в размере до 35 миллионов евро (или 7% мирового дохода) за сокрытие правды. Подобные законопроекты появляются в США, Японии и Бразилии. Регулирование наконец-то спешит идти в ногу с кодексом.

Личность без пароля реликвии. Вход в систему с помощью голосовой распечатки находится на плахе (OpenAI публично призывает банки постепенно отказаться от нее). Вместо этого ключи доступа, аппаратные токены и кошельки с нулевым разглашением становятся все более популярными, позволяя вам доказать, что «я — это я», даже не сдавая необработанные биометрические данные. Если злоумышленник клонирует ваш голос, он все равно не узнает вашего криптографического секрета.

Проверьте значок. Ищите значки учетных данных контента на изображениях и видео; нет значка, нет доверия. Удалить голосовые пароли. Замените их ключами FIDO2 или ключами доступа, привязанными к вашему устройству. Заморозьте своего цифрового двойника. Используйте службы, которые предупреждают вас, когда на ваше имя появляется новая учетная запись или заявка на кредит. Тренируйте глазомер. Следуйте за фактчекерами и узнайте особенности изображений ИИ — странные отражения, несовпадающие серьги, руки, которые забывают физику. Навык по-прежнему является щитом. Голосуйте кликами. Платформы замечают взаимодействие. Вознаграждение проверенных СМИ; морить голодом подделок.

Та же изобретательность, которая создала дипфейк, создает противоядие. Стандарты, водяные знаки и законы никогда не будут безупречными, но они повышают цену обмана и возвращают власть в сторону аутентичности.

Таким образом, вопрос для паломника-трансгуманиста больше не звучит так: «Будут ли меня копировать?» но «Смогу ли я нести достаточно правды, чтобы моя копия звучала пусто?»

Ваша цифровая тень по-прежнему может принадлежать вам — закрепленная криптографией, охраняемая политикой и освещенная общественностью, разбирающейся в иллюзиях. Финал – это не неизбежное стирание; это согласованное будущее, в котором идентичность подписывается как плотью, так и математикой.