В вашем прошлом больше данных, чем в будущем

Запись источника

В вашем прошлом больше данных, чем в будущем

Maxim Gorbachev

ИИ-агенты будут знать, кем вы были. Оставят ли они место для того, кем вы пытаетесь стать?

Представьте, что однажды утром вы говорите своему ИИ-агенту:

«Я хочу изменить свою жизнь».

Вы хотите уйти из отрасли, в которой проработали двадцать лет. Бросить пить. Наладить отношения. Больше рисковать. Перестать жить так, как жили раньше.

Для вас эта фраза может означать начало. Для системы она может выглядеть как исключение из привычной закономерности.

Ваше прошлое приходит с покупками, сообщениями, поисковыми запросами, привычками и тысячами прежних решений. Ваше будущее приходит с одной фразой.

Чему из этого должна доверять система?

Ответ зависит от того, что мы понимаем под доверием. Новое намерение не доказывает, что мы изменились. Но оно может быть ясным указанием перестать действовать так, будто мы никогда не изменимся.

Риск в том, что ИИ может настолько хорошо научиться обслуживать человека, которым мы были, что нам станет труднее стать теми, кем мы пытаемся быть.

От знания о нас к действиям за нас

Рекомендательные системы уже учатся на том, на что мы нажимаем, что смотрим и покупаем. Вчерашнее поведение формирует сегодняшние рекомендации, а сегодняшний выбор становится новыми данными для завтрашнего дня.

Персональные агенты расширяют эти отношения, добавляя память, планирование и действия. Ассистент может помнить прошлые взаимодействия, предугадывать потребности и действовать в разных сервисах в пределах полученных разрешений.[1][2]

Польза реальна: меньше административной работы, меньше забытых обязательств и больше сил для решений, которые заслуживают нашего внимания.

Но рекомендательная система предлагает следующий шаг. Агент, возможно, сможет его сделать.

Поэтому модель того, кто вы, может стать чем-то большим, чем описание. В зависимости от целей и разрешений системы она может влиять на то, какие возможности до вас доходят, что продлевается, кому достаётся ваше внимание и что происходит дальше.

Представьте агента, который отдаёт приоритет контактам из профессии, которую вы хотите оставить. Продлевает услуги, связанные с образом жизни, который вам больше не нужен. Отбирает возможности с оглядкой на осторожность, которой научился у вас в период страха.

Каждое действие по отдельности может выглядеть разумно. Вместе они могут снова и снова воссоздавать вчерашний день.

Человек в данных

ИИ не знает человека изнутри. Он работает с представлениями, построенными на доступной ему информации.

Исследователи Йенс Кристиан Бьерринг и Якоб Буш описывают «статистического индивида»: алгоритмическую версию человека, построенную из поведенческих следов и признаков, используемых для прогнозирования.[3]

Эта версия может быть точной и всё же неполной.

То, что я делал многократно, не обязательно отражает мои ценности. То, что удерживало моё внимание, не обязательно его заслуживало. То, во что я верил пять лет назад, не обязательно то, что я готов защищать сегодня.

Человек может хотеть сигарету и одновременно хотеть перестать хотеть сигареты. Он может быть успешен в профессии и больше не желать той жизни, которой она требует.

Системе, которая считает наблюдаемое поведение окончательным критерием предпочтений, трудно представить этот конфликт. Она может превосходно удовлетворять импульс, который человек пытается перерасти. Исследования рекомендательных систем и автономии рассматривают этот разрыв между выведенными из данных предпочтениями и осознанными целями.[4]

Это я бы назвал временной асимметрией персонального ИИ.

Прошлое наблюдаемо и изобилует данными. Будущее ещё ничем не подтверждено.

После десяти лет одного и того же поведения решение измениться может опираться на одно указание, которому противоречат тысячи наблюдений. Неизменность выглядит статистически надёжной. Преобразование выглядит как шум.

Однако уверенность прогноза не решает вопрос о полномочиях. Система может верно предсказать, что я вернусь к старой привычке, но это не даёт ей права продолжать выстраивать вокруг неё мою жизнь.

Заявление должно менять вопрос

Не стоит романтизировать намерение. Люди дают обещания, которых не выполняют. Генеральный директор может объявить о новой культуре, не изменив ни одного стимула. Человек может искренне решить бросить пить и с трудом воплощать это решение.

Прошлое также содержит обязательства, обещания и последствия для других людей. Право измениться не означает права отказаться от ответственности.

Но в требовании доказать перемены, прежде чем агент начнёт всерьёз воспринимать новую цель, есть ловушка. Чтобы вообще появились эти доказательства, человеку могут понадобиться другие возможности, напоминания и условия.

Если система продолжает воссоздавать прежнюю среду, пока мы не докажем, что изменились, она может затруднять само доказательство перемен.

Поэтому заявленное намерение должно запускать пересмотр, а не автоматический вердикт.

Что именно меняется? Какие прежние предпочтения устарели? Какой помощи хочет человек? Какие обязательства и ограничения по-прежнему действуют? Какие действия агенту следует перестать выполнять без запроса?

«Не продлевай эту услугу» является ясным указанием. «Помоги мне стать менее осторожным» требует разговора о том, в чём, как и какой ценой.

Ассистенту не нужно делать вид, что прошлое исчезло. Ему нужно различать то, что прошлое предсказывает, и то, что человек сейчас разрешает.

Затем действие создаёт свидетельства прогресса: изменившийся распорядок, новая граница, отправленная заявка, наконец состоявшийся трудный разговор. Неудача даёт информацию для обсуждения, а не автоматическое разрешение восстановить прежнюю идентичность.

Когда прогноз помогает создать результат

Рассмотрим агента, который усвоил, что вы осторожны. Он показывает вам меньше незнакомых возможностей. Вы пробуете меньше нового. Затем ваше поведение подтверждает его исходный вывод: вы осторожны.

Прогноз помог сформировать те свидетельства, которыми его подтверждают.

Это правдоподобная петля обратной связи, а не неизбежное свойство каждого персонального агента. Её сила зависит от того, к чему система имеет доступ, как ранжирует варианты, что может делать без одобрения и как измеряется успех.

Агент, оптимизированный главным образом под немедленное согласие, может снова и снова возвращаться к привычному выбору. Агент, выстроенный вокруг явно заданной цели, мог бы помочь исследовать альтернативы, подготовиться к неопределённости и заметить прогресс, который иначе остался бы незамеченным.

Та же память, которая сохраняет привычную модель поведения, может помочь её прервать.

Так за языком персонализации возникает практический вопрос: что система пытается оптимизировать и кто может пересмотреть эту цель?

Та же асимметрия в большем масштабе

Та же проблема возникает, когда мы переходим от человека к компании, государству или цивилизации. У институтов тоже есть богатое данными прошлое: бюджеты, законы, союзы, стимулы и повторяющиеся реакции на страх. Новое коллективное намерение начинается с гораздо меньшего количества свидетельств.

ИИ может помочь нам распознать повторяющиеся механизмы. Но он не может превратить их в судьбу.

История повторяется не из-за мистического цикла. Схожие механизмы могут порождать схожие результаты. Честный прогноз всегда условен: если мотивы, стимулы и институты остаются в целом неизменными, схожие исходы становятся более вероятными.

Заявление о реформе имеет значение, но содержание ему придают изменившиеся стимулы и решения.

Новые технологии сами по себе не создают нового будущего. Если человеческие мотивы остаются прежними, более высокий интеллект может просто помочь старым системам воспроизводить себя эффективнее.

Право обновлять версию самих себя

Нам нужна преемственность. Ассистент не должен забывать медицинские противопоказания, финансовые ограничения или обязательства лишь потому, что мы объявили о новом начале. Полезная память не даёт потерять контекст, который по-прежнему важен.

Проблема начинается, когда память без обсуждения получает приоритет над намерением.

Конфиденциальность ставит вопрос о том, кто может получить доступ к нашим данным. Персональные агенты добавляют ещё один: на основе какой интерпретации этих данных система вправе действовать?

У нас должна быть возможность сказать: эта модель поведения устарела. Перестань считать её постоянным указанием.

Агент должен различать то, что я делал раньше, что я предпочитаю сейчас, что я сознательно ценю и кем пытаюсь стать. Эти уровни нередко будут противоречить друг другу. Если спрятать конфликт за словом «персонализация», он не разрешится.

В предварительно зарегистрированном эксперименте с 6 488 участниками рекомендации, согласованные с идеальными предпочтениями, давали немного меньше кликов, но улучшали оценки времени, проведённого с пользой, готовность платить и убеждённость в том, что компания заботится об интересах пользователей. Эти результаты касаются выбора рекомендаций и самоотчётов, а не доказывают устойчивые изменения жизни. Тем не менее они ставят под сомнение предположение, что больше вовлечённости всегда означает лучшее обслуживание.[5]

Для персональных агентов я предложил бы простой принцип работы: когда явно заданная новая цель противоречит старому предпочтению, выведенному из данных, покажите этот конфликт и дайте человеку пересмотреть рабочие указания.

На практике пользователи должны иметь возможность проверять важные предположения, отмечать их как устаревшие, менять допустимые действия агента и просить его показывать варианты за пределами привычной модели. При изменении целей разрешения следует пересматривать, а не молча переносить из прежней жизни.

Это предложения по устройству систем, а не меры защиты, которые уже есть в каждом продукте.

Они также сделали бы отношения честнее. Агент мог бы сказать: «Ваша история показывает, что это может быть трудно. Вы по-прежнему хотите, чтобы я помог вам этого добиться?» Он не должен молча превращать «трудно» в «не для вас».

Идентичность не равна намерению.

История не является разрешением.

Прогноз не даёт полномочий.

Человек, которого данные пока не видят

В важные поворотные моменты ассистент, обученный на нашем прежнем поведении, мог бы дать вполне разумный совет: продолжать ту же карьеру, защищать ту же идентичность, выбирать то, что выбирали раньше.

Некоторые из самых важных решений в жизни начинаются с отказа продолжать.

Человек, принимающий такое решение, может выглядеть непоследовательным или статистически маловероятным. Он может ошибаться. Он также может расти.

Полезный агент должен помогать нам понимать риски, сохранять ответственность и превращать выбранное направление в конкретные действия. Его знание нашего прошлого должно помогать этой работе, не становясь правом вето на неё.

Поэтому центральным вопросом персонального ИИ будет не только:

Насколько хорошо эта система меня знает?

Будет и другой:

Когда моё прошлое поведение и нынешнее намерение расходятся, чему будет служить мой агент?

У человека, которым вы были, есть доказательства.

У человека, которым вы становитесь, их нет.

Пока нет.

Будущее начинается без данных.

Оно сохраняется, когда намерение становится действием.

Источники и ссылки

1. OpenAI, «Представляем dots», 29 сентября 2026 года.

https://openai.com/index/introducing-dots/

2. Управление по конкуренции и рынкам Великобритании, «Агентный ИИ и потребители», обновлено 30 октября 2026 года.

https://www.gov.uk/government/publications/agentic-ai-and-consumers/agentic-ai-and-consumers

3. Йенс Кристиан Бьерринг и Якоб Буш, «Искусственный интеллект и идентичность: появление статистического индивида», AI & Society, 2025 год.

https://link.springer.com/article/10.1007/s00146-024-01877-4

4. «Вы уверены, что действительно этого хотите? Диалоговые рекомендательные системы для усиления человеческой автономии», 2026 год.

https://pmc.ncbi.nlm.nih.gov/articles/PMC13658317/

5. Поруз Хамбатта и соавторы, «Настройка рекомендательных алгоритмов под идеальные предпочтения улучшает положение пользователей», Scientific Reports, 2023 год.

https://www.nature.com/articles/s41598-023-34192-x