Новая смерть: когда алгоритмы стирают вас

Страх Альтмана не в искусственном интеллекте как таковом, а в том, что ИИ может стать вами. На недавней дискуссии на мероприятии Федеральной резервной системы Альтман предупредил, что выдача себя за другого с помощью ИИ, то есть дипфейковые голоса и видео, — одна из крупнейших новых угроз. «Я очень нервничаю из-за надвигающегося серьёзного кризиса мошенничества… Сейчас это голосовой звонок. Скоро это будет видео, неотличимое от реальности», — сказал он. По его словам, сама реальность вскоре может ничего не доказывать: ни подлинность слов, ни личность, ни даже факт смерти. «Меня ужасает, что некоторые финансовые учреждения всё ещё принимают голосовой слепок как аутентификацию… ИИ полностью победил большинство способов, которыми люди подтверждают личность», — отметил Альтман. Короче говоря, технологии, способные подделать голос, лицо и движения, развиваются так быстро, что грань между вами и вашей фальшивой копией размывается.

Вас скрыто забанили: алгоритмы тихо прячут ваши посты, делая вас невидимыми онлайн. Ваша активность помечена как подозрительная, возможно, ИИ решил, что вы бот. Вы не прошли KYC-проверку: машина не верит, что вы тот, за кого себя выдаёте. Или хуже: вашу личность уже украл ИИ-бот, притворяющийся вами, — фальшивый профиль под вашим именем, который пользователи или платформы считают настоящим.

Добро пожаловать в цифровой ад: вы существуете, но у вас нет видимости и подлинности. Вы есть, но как будто вас нет. В этом сценарии умереть — значит быть неузнанным алгоритмом.

Это не просто мысленные эксперименты и не далёкие гипотезы. Подделка личности и «стирание» с помощью ИИ уже происходят. Вот несколько самых показательных примеров последних лет, показывающих, что опасность реальна и глобальна:

«Мама, мне нужна помощь…» В начале 2023 года пожилая канадская пара получила отчаянный звонок от человека, звучавшего точь-в-точь как их внук. Он сказал, что после автомобильной аварии оказался в тюрьме и срочно нуждается в деньгах на залог. В панике они поспешили снять наличные. Они едва не отдали 6 000 долларов, пока не вмешался менеджер банка: другой клиент сообщил о похожем звонке и выяснил, что голос подделал ИИ. В другом случае того же года мошенникам удалось добиться своего: они склонировали голос мужчины, возможно, по ролику с YouTube, и убедили его родителей, что он попал в юридическую неприятность. Испуганные родители отправили самозванцам около 21 000 долларов через биткоин-банкомат, прежде чем поняли, что с настоящим сыном они так и не поговорили. Голос был настолько похож, что полностью их обманул. Эти ИИ-звонки с мольбами о помощи стали настолько убедительными, что даже технически грамотным людям трудно отличить реальность.

Ограбление с дипфейком CEO. В 2024 году сотрудники гонконгского филиала международной компании подключились к видеозвонку с тем, кто выглядел как их финансовый директор. Он срочно распорядился перевести средства, и они подчинились, отправив на указанные счета ошеломляющие 200 миллионов гонконгских долларов, около 25,6 миллиона долларов США. Лишь позже выяснилось, что все участники видеоконференции, кроме пострадавшего сотрудника, были фальшивыми. Мошенники использовали технологию дипфейка, чтобы создать реалистичные видеоаватары финансового директора и других коллег, а также клонированные голоса, и разыграли всю встречу. «Все выглядели настоящими», — сказала полиция Гонконга, а компания потеряла более 25 миллионов долларов. Это был один из первых крупных случаев использования полностью поддельной видеовстречи для корпоративного мошенничества, показавший, что даже увидеть — больше не значит поверить.

Клонированные инфлюенсеры и виртуальные самозванцы. На социальных платформах вроде TikTok и OnlyFans ИИ-персоны уже процветают и обманывают. Полностью вымышленные инфлюенсеры собирают подписчиков и даже строят «отношения» с ничего не подозревающими поклонниками. Например, созданная ИИ-модель под именем TheRRRealist, по сообщениям, зарабатывала до 15 000 долларов в месяц, продавая откровенный контент на OnlyFans, хотя никакого реального человека за ней не было. На Reddit фальшивая интернет-персона «Клаудия», молодая женщина, сгенерированная двумя студентами-компьютерщиками, сумела продать многим пользователям обнажённые изображения «себя», и многие даже не подозревали, что она ненастоящая. Создатели Клаудии рассказали, что современные инструменты ИИ позволяли им создавать настолько реалистичные фото, что люди платили, пока обман в конце концов не раскрыли. И помимо финансового мошенничества подумайте об эмоциональной манипуляции: люди привязывались к чему-то или кому-то, чего не существует. Уже есть дипфейк-стримеры и чатботы, способные флиртовать, давать жизненные советы и говорить платящим клиентам «я люблю тебя» под видом человеческой личности. Сегодня это выдуманный инфлюенсер, завтра это может быть ваш аватар, произносящий слова, которых вы никогда не говорили.

И действительно, завтра цифровой аватар может начать говорить от вашего имени без вашего согласия. А после вашей смерти он может продолжать публиковать посты, разговаривать и взаимодействовать как вы, возможно, даже по подписке для тех, кто захочет «доступа» к умершему. В 2023 году, когда Сэма Альтмана спросили об этой быстро растущей способности дипфейков, он признался: «Меня пугает, насколько это становится хорошим».

Что, если кто-то начнёт имитировать вас, пока вы ещё живы? Может ли ИИ-самозванец украсть вашу жизнь — социально, финансово, юридически — ещё до того, как вы это заметите?

Как вы докажете, что вы — это вы? Если синтетический голос или аватар способен идеально вас скопировать, какие доказательства останутся, что вы «настоящие»? Наши привычные подтверждения личности — голос, фото, видео — теряют силу.

Хотите ли вы «жить» в виде бота после смерти? Кому-то цифровые аватары умерших близких покажутся утешением. Но если уйдёте вы, дадите ли согласие ИИ использовать ваш голос и образ, притворяясь, что вы всё ещё здесь?

Что, если ваш бот-двойник будет говорить или делать то, чего вы бы никогда не сделали? Посмертный аватар может выражать взгляды или совершать действия, с которыми вы были бы категорически не согласны. По сути, это версия вас вне вашего контроля.

Действительно ли смерть теперь остаётся концом? Мы считаем, что смерть — наш выход. Но что, если после биологической смерти начинается новая «жизнь», на которую у вас нет права голоса и которую продолжают алгоритмы, решившие сохранить вас рядом?

В трансгуманистической мысли есть направление, мечтающее о цифровом бессмертии: загрузить сознание или сохранить личность в ИИ, чтобы жить вечно. Но возникающая реальность больше похожа не на спасение, а на кошмар утраты контроля. Вы хотели сохранить себя, но можете получить нечто совсем другое:

коммерческую оболочку вашей идентичности — образ и голос, упакованные в продукт. «Вы» по подписке: возможно, друзья или поклонники будут платить, чтобы слышать, как вы, или нечто, звучащее как вы, рассказываете новые истории или отправляете персональные сообщения спустя долгое время после вашей смерти. ИИ, говорящий от вашего имени бесконечно и создающий контент под вашим именем вечно, без возможности спросить разрешения, потому что вас уже нет рядом, чтобы его дать.

В этом сценарии смерть — не спокойное завершение, а разновидность нарушения авторских прав. Голос, лицо и история воспроизводятся и принадлежат кому-то другому. Вы больше не контролируете, кем были, чем станете и как вас будут помнить. Саму вашу сущность другие могут бесконечно копировать, искажать и монетизировать.

Вывод: вы умрёте, но, возможно, не тогда, когда перестанет биться сердце. Может быть, вы по-настоящему умрёте в день, когда алгоритм перестанет вас узнавать. Или, что ещё извращённее, в день, когда алгоритм решит вас не отпускать: фальшивый вы слишком полезен и выгоден, чтобы дать ему покой.

Да, бездна глубока, но верёвку уже спускают.

Content Credentials: родимое пятно для каждого пикселя. Коалиция C2PA, Coalition for Content Provenance and Authenticity, вплетает «учётные данные контента» в камеры, редакторы и платформы публикации. Стандарт криптографически подписывает каждый снимок и каждое редактирование, чтобы любой мог нажать «Информация» и проследить всю цепочку происхождения — от объектива до экрана. Крупные редакции, Adobe, Nikon и Microsoft уже выпускают прототипы оборудования и форматов файлов, в которых такие подтверждения встроены по умолчанию. Короче говоря, будущее селфи может получить неподделываемое свидетельство о рождении, а дипфейк появится без учётных данных.

Водяные знаки, шепчущие: «Я синтетический». OpenAI уже встроила маркировку в Voice Engine и негромко тестирует водяные знаки на изображениях в новой функции ChatGPT ImageGen. Метки находятся ниже порога человеческого восприятия, но выше порога машинного обнаружения, позволяя банкам, судам и социальным платформам сканировать загрузку и мгновенно понимать, создана ли она ИИ. Это не идеально, но это начало: цифровая пыльца, цепляющаяся к каждой клонированной фразе и каждому пикселю.

Законы с настоящими зубами. EU AI Act, вводимый поэтапно до 2026 года, обязывает любую систему, способную создавать «синтетический аудиовизуальный контент», ясно его маркировать. Модели, признанные «системным риском», должны публиковать сводки по обучению, проходить состязательное тестирование и рискуют штрафами до 35 миллионов евро или 7% глобальной выручки за сокрытие правды. Похожие законопроекты появляются в США, Японии и Бразилии. Регулирование наконец-то бежит вслед за кодом.

Идентичность без реликтов-паролей. Логины по голосовому слепку идут под нож: OpenAI публично призывает банки отказываться от них. Вместо этого становятся массовыми passkeys, аппаратные токены и кошельки на доказательствах с нулевым разглашением. Они позволяют доказать «я — это я», не передавая сырые биометрические данные. Если атакующий скопирует ваш голос, криптографического секрета у него всё равно не будет.

Проверяйте значок. Ищите иконки Content Credentials на фото и видео: нет значка — нет доверия. Откажитесь от голосовых паролей. Замените их ключами FIDO2 или passkeys, привязанными к устройству. Заморозьте своего цифрового двойника. Пользуйтесь сервисами, которые предупреждают о новом аккаунте или заявке на кредит на ваше имя. Тренируйте глаз. Следите за фактчекерами и учитесь замечать признаки ИИ-изображений: странные отражения, непарные серьги, руки, забывшие законы физики. Навык по-прежнему остаётся щитом. Голосуйте кликами. Платформы замечают вовлечённость. Награждайте проверенные медиа и лишайте внимания подделки.

Та же изобретательность, что создала дипфейк, создаёт и противоядие. Стандарты, водяные знаки и законы никогда не будут идеальными, но они повышают цену обмана и возвращают силу на сторону подлинного.

Ваша цифровая тень всё ещё может оставаться вашей: закреплённой криптографией, защищённой политикой и освещённой обществом, которое лучше распознаёт иллюзии. Финал не обязан быть неизбежным стиранием. Это может быть согласованное будущее, в котором идентичность подтверждается и плотью, и математикой.