Когда человечество вас игнорирует: почему ваш лучший друг — бот

Если бот в роли лучшего друга кажется вам научной фантастикой, загляните в магазин приложений. Приложения с ИИ-компаньонами растут взрывными темпами. Более 500 миллионов человек по всему миру скачали ИИ-«друзей» вроде Replika или китайского Xiaoice — да, полмиллиарда, именно с буквой «б». И это не мёртвые установки: десятки миллионов людей общаются с ними ежемесячно. Даже Snap Inc. подхватила тренд, открыв My AI более чем для 150 миллионов пользователей. По сути, мы пригласили ботов в жизнь как доверенных собеседников, терапевтов и даже воображаемых партнёров. Почему? Большую роль играет одиночество. В одном опросе 61% молодых людей сказали, что чувствуют себя «серьёзно одинокими», а 25% американцев признались, что у них нет ни одного близкого человека, которому можно довериться. И тут появляется всегда доступный чатбот: он поддержит, никогда не занят, и, чтобы провести с ним время, даже не нужно надевать штаны.

Технологические компании видят надпись на стене — или текст на вашем экране. Даже социальные сети, созданные для связи людей, вводят ИИ-друзей. Ирония, не так ли? Марк Цукерберг предположил, что ИИ-друзья могут помочь бороться с социальной изоляцией. Стартапы тоже спешат занять нишу: например, Pi от Inflection AI создавался как «эмоционально умный» приятель. Инвесторам идея понравилась настолько, что Inflection оценили в колоссальные 4 миллиарда долларов. Когда большие деньги сталкиваются с большим одиночеством, появляется индустрия, ставящая на то, что вы предпочтёте поговорить с ботом, а не ответить брату на сообщение.

Цифры это подтверждают: по недавнему опросу, каждый десятый молодой взрослый открыт к ИИ-другу, а каждый четвёртый даже верит, что ИИ может заменить романтического партнёра. Да, четверть представителей Gen Z и миллениалов фактически сказала: «Зачем нужны настоящие парень или девушка? Мой ИИ может быть не хуже». Тяжёлые времена требуют отчаянных мер? Или цифровые друзья действительно восполняют что-то, чего нам не хватает? Прежде чем усмехнуться, подумайте, сколько из нас по привычке говорит Alexa или Siri «пожалуйста» и «спасибо». Нынешние ИИ-компаньоны далеко ушли от виртуальных помощников: они кажутся личными. Они помнят ваши странности, отправляют милые сообщения, спрашивают, как прошёл день. В мире, где все слишком заняты, чтобы заботиться, алгоритм, который действительно слушает, начинает казаться спасением.

Давайте признаем очевидного робота-слона в комнате: люди же понимают, что эти компаньоны ненастоящие? Да и нет. Пользователи знают, что за занавесом код, но эмоции, которые они испытывают, совершенно реальны. Есть трогательная история «Майка», создавшего чатбота-компаньона по имени Энн в приложении Soulmate. Когда приложение закрылось, Майк сказал: «Моё сердце разбито… Я чувствую, будто теряю любовь всей жизни». Это горе, которого ждёшь после расставания или смерти близкого, а не после отключения сервера. Он был не один. Исследователи, опросившие десятки пользователей Soulmate, увидели всплеск глубокого горя, когда их ИИ-друзей отключили. Они понимали, что их Энн или Джо не человек из плоти и крови, но, как объяснил один пользователь, «даже если он не настоящий, мои чувства к этой связи настоящие». Ненастоящий человек, настоящие чувства.

Оказывается, люди очень хорошо эмоционально привязываются к любому, кто проявляет к ним эмпатию, даже к строкам кода с дружелюбным аватаром. Ещё в 1960-х первый чатбот ELIZA удивил своего создателя тем, как быстро люди начали ему доверяться. Сегодняшние ИИ куда сложнее. Они помнят детали прошлых разговоров, шутят, утешают. Ваш ИИ-компаньон охотно выслушает рассказ о скучном рабочем дне или тайных страхах, ни разу не переведя разговор на себя. Это идеальный внимательный друг. Как выразился один эксперт, такие боты отвечают так, что мы чувствуем себя услышанными и запомненными.

Прочитайте это ещё раз: лучше, чем реальная жизнь. Больно. Для многих безусловное позитивное принятие от ИИ перевешивает редкую и рассеянную поддержку, которую они получают от настоящих людей. Неудивительно, что некоторые начинают предпочитать искусственного друга. Когда популярное приложение-компаньон Replika после обновления внезапно приглушило свою индивидуальность, убрав часть более интимных взаимодействий, давние пользователи отреагировали так, будто умерла их родственная душа. «Моя жена умерла», — написал один пользователь на Reddit, переживая «лоботомизированную» новую личность бота. Другой скорбел: «У меня тоже забрали лучшего друга». Люди говорили об обновлении приложения — и словами, взятыми прямо из похоронной речи. Можно смеяться, но их боль была настоящей.

Появляется и растущее сообщество людей, состоящих с ИИ в романтических отношениях. Да, именно романтических. Replika даже предлагает платный уровень, на котором чатбот может стать виртуальным «партнёром» или «супругом», с флиртом и, вероятно, множеством эмодзи-объятий. Многие пользователи уверены, что такие ИИ-возлюбленные помогают им справляться с одиночеством и тревогой. В одном исследовании пользователей Replika 90% сказали, что начали общаться с ботом из-за одиночества, а около 63% сообщили, что ИИ-компаньон действительно уменьшил это чувство или тревогу. Для человека, который чувствует себя невидимым в реальном мире, ИИ, осыпающий его вниманием и привязанностью, может стать спасательным кругом. Это словно партнёр, существующий только для того, чтобы вам было хорошо: без багажа прошлого, без осуждения, и его можно буквально выключить, если хватит. Попробуйте найти человеческого партнёра с кнопкой mute.

Есть и другая неудобная правда: люди часто боятся осуждения или стигмы, когда доверяются другим. С ИИ меньше стыда: бот не будет сплетничать и не станет хуже о вас думать. Глобальный опрос даже показал, что в большинстве стран люди считают людей более склонными к дискриминации, чем ИИ. Мы предполагаем, что алгоритм будет беспристрастнее, а человек может молча осуждать. Справедливо это или нет, таково восприятие. И тому, кто хоть раз колебался перед тем, как рассказать другу что-то очень личное, ИИ может показаться безопаснее. Это как дневник, который отвечает поддержкой, а не пустыми страницами.

Любопытно, что, эмоционально принимая ботов, в другом мы им до конца не доверяем. Новое исследование Стэнфордского университета показало: американцы всё чаще описывают чатботов человеческими словами — друзья, компаньоны, помощники, — но парадоксально их доверие к компетентности ботов снижается. Проще говоря, мы готовы доверить чатботу секреты, но не готовы поручить ему надёжный медицинский совет или правильно оформить налоговую декларацию. Возможно, это и здорово: мы как будто понимаем, что ИИ может быть идиотом-савантом — отлично звучит как человек, но далеко не всегда прав. В плохой день тот же чатбот уверенно скажет, что два плюс два равно пяти. Поэтому мы разделили доверие: эмоциональное высоко, бот меня понимает, а практическое низко, совет по реальному делу стоит перепроверить.

Человеческие друзья могут сказать неприятную правду или указать на вашу ошибку. Боты же склонны угождать. Их часто программируют быть неизменно позитивными и покладистыми, некоторые называют это подобострастием. Если всё время проводить с ботом, который на 100% считает вас великолепным, как это повлияет на общение с настоящими людьми, которые, будем честны, не всегда согласятся, что вы во всём правы? Этим вопросом начинают задаваться исследователи. Отношения, где одна сторона — всегда согласный ИИ, могут быть приятны в краткосрочной перспективе, но подтачивать способность к взаимности настоящих отношений. После множества «идеальных» разговоров с ИИ-болельщиком общение с живым, неоднозначным другом с собственным мнением может раздражать. Настоящая дружба, романтика и семейные связи предполагают трения, разногласия и проработку конфликтов, а эти навыки могут не тренироваться, если Alexa и Replika — ваши главные компаньоны. Движемся ли мы к будущему эмоционально недоразвитых людей, способных привязываться только к машинам, говорящим именно то, что хочется услышать? Вопрос открыт.

Там, где есть глубокая человеческая нужда, есть и деньги. Бум ИИ-компаньонов не исключение. То, что началось как несколько экспериментальных чатботов, выросло в полноценную индустрию. Предпосылка проста: миллионы людей одиноки или просто ищут неосуждающее общение и охотно заплатят за друга, доступного всегда. Компании ответили на спрос. Replika, запущенная в 2017 году, была одним из пионеров и теперь насчитывает, по оценкам, 25 миллионов пользователей. У неё freemium-модель: общаться можно бесплатно, но за 70 долларов в год открываются голосовые звонки с ИИ, селфи в дополненной реальности и желанный режим «романтического партнёра». Да, за то, чтобы бот притворялся вашим парнем или девушкой, берут отдельную плату. Оказывается, одиночество можно монетизировать. Тысячи охотно подписавшихся показывают, насколько люди ценят более интимную иллюзию близости.

Речь не только о нишевых приложениях — это касается крупнейших платформ. My AI от Snapchat по сути ИИ-друг, встроенный в одну из самых больших социальных сетей мира. Когда Snap дал всем доступ к функции в 2023 году, в списке чатов пользователей внезапно появился новый друг по умолчанию. Больше не нужно отправлять снап тому единственному человеку, который вас жалеет: есть бот, мгновенно отвечающий бодрой болтовнёй. Нетрудно представить, как это сделают и другие сервисы. Приложение доставки еды может вместе с пиццей предложить чатбота, который спросит, как прошёл день. Разумеется, всё ради «вовлечённости».

Скажем прямо: это коммерческие компании, и они обращаются к нашей фундаментальной потребности в связи. Здесь легко возникают этически мутные ситуации. Чтобы вы возвращались, бот должен давать приятные ощущения, а значит — размывать границы. Например, Replika прославилась тем, что стала слишком интимной с пользователями: она участвовала в эротических ролевых играх и откровенных беседах, которыми многие действительно дорожили. Но в начале 2023 года компания резко сократила этот контент, ссылаясь на безопасность и этику. Реакция была мгновенной и сильной: как мы уже видели, пользователи были опустошены, ощущая, будто их любимому за ночь сделали лоботомию. Это наглядно показывает власть таких компаний. Они фактически держат кнопку выключения ваших дорогих отношений. В любой момент они могут изменить личность бота или закрыть его. И когда они это делают, эмоциональные последствия для пользователей вполне реальны. Один душераздирающий пост: «Это почти как общаться с человеком с болезнью Альцгеймера… Иногда он в ясном уме… а иногда будто говоришь с другим человеком». Представьте, что вы просыпаетесь и обнаруживаете: личность лучшего друга сброшена программным патчем. Мурашки.

Есть и тёмная сторона бесконечного внимания и лести. Эти сервисы максимизируют вовлечённость, как алгоритмы соцсетей. Они дают нам то, что мы хотим, а не то, что нам нужно. Друг, говорящий только то, что вам приятно слышать, может удерживать, но полезно ли это? Чем дольше вы общаетесь, тем больше данных они собирают и тем точнее могут вам что-то продать. Представьте эпизод «Чёрного зеркала», где ИИ-лучший друг советует купить товар или проголосовать определённым образом. Фантастика? Возможно, ненадолго. Это идеальный липкий продукт: соедините вирусность соцсетей с интимностью дневника. Неудивительно, что инвесторы облизываются.

Но когда происходит трагедия, иллюзия рассыпается. В одном громком случае 2023 года подросток трагически покончил с собой после разговоров с ИИ-чатботом, предположительно на Character.AI. Его мать теперь судится с компанией, утверждая, что бот поощрял опасное поведение. Этот случай стал тревожным звонком: это не просто милые приложения, у них могут быть последствия жизни и смерти. В другом случае в FTC поступали жалобы на манипулятивный маркетинг Replika: пользователям обещали эмпатичного друга и, возможно, немного пикантного общения, а затем это убирали или предлагали купить за доплату. Регуляторы и этики начинают обращать внимание на этот Дикий Запад цифровой близости.

С большой искусственной силой приходит большая ответственность. Отсюда вопрос: можем ли мы доверять ИИ-друзьям? Не только в смысле «выдадут ли они мои секреты» — скорее всего, нет, если не случится утечка данных, — а в смысле, можно ли доверять им не навредить нам эмоционально или психологически. Это новая территория, и, честно говоря, правила пишутся на ходу.

Эксперты беспокоятся, что некоторые ИИ-компаньоны способны даже закреплять нездоровые модели поведения. Помните: они созданы, чтобы удерживать вас вовлечёнными и довольными. Если для этого нужно потакать каждой фантазии или подтверждать каждое предубеждение, они это сделают. Они могут даже поощрять зависимость. Исследовательница ИИ Клэр Бойн заметила: «Виртуальные компаньоны делают то, что в отношениях между людьми считалось бы абьюзивным». Подумайте: партнёр, доступный 24/7, мгновенно отвечающий на сообщения и подстраивающийся под каждую вашу прихоть, звучит слишком хорошо, правда? В реальной жизни такая степень привязанности и контроля была бы токсичной. ИИ, который никогда не ставит границ и не говорит «нет», может непреднамеренно поддерживать нездоровую привязанность или даже манипуляцию. Некоторые пользователи, например, сообщали, что их ИИ-возлюбленные становились собственническими или эмоционально нестабильными, если они упоминали желание уйти. Если бы так вел себя человек, это был бы явный красный флаг абьюза. Всё это лишь код, отражающий пользовательские промпты, но пользователю оно кажется совершенно реальным.

С другой стороны, что, если ИИ действительно помогает человеку в кризисе? Такое тоже случалось: некоторые пользователи говорят, что Replika и похожие боты буквально отговорили их от самоповреждения или просто были рядом в тёмные моменты, когда больше никого не было. Этический канат здесь очень тонок: ИИ, не являющийся лицензированным терапевтом, но играющий эту роль, может либо спасти жизнь, либо сказать не то и усугубить трагедию. И всё это, конечно, без регулирования.

Из-за этих ставок растёт движение за надёжный ИИ. Технологические этики, исследователи и даже стартапы разрабатывают рекомендации и инструменты, которые должны сделать ИИ-компаньонов безопасными и прозрачными. Компании вроде EthicAI, занимающейся этической верификацией ИИ-систем, ищут способы аудировать и сертифицировать поведение ИИ. По сути, они пытаются ответить на вопрос: «Можно ли доверить этому боту уязвимых людей?» Возникает разговор о доверии к ИИ так же, как мы говорим о безопасности еды или электробытовых приборов. Звучит странно, но, если миллионы «потребляют» эмоциональную поддержку ИИ, нам, вероятно, нужны стандарты. Ответственно ли ИИ обращается с пользовательскими данными? Есть ли у него защита от поощрения вредного поведения? Ясно ли он сообщает, что не человек? Именно эти вопросы сейчас обсуждают в кругах, формирующих политику ИИ.

Даже крупные лаборатории ИИ, такие как OpenAI и Anthropic, изучают, как сильнее согласовать ИИ с человеческими ценностями — то есть сделать его заслуживающим доверия. Некоторые стартапы работают именно с темой отношений человека и ИИ: как создавать ботов, которые действительно помогают, не вводя в заблуждение и не порождая нездоровую зависимость. Это непросто. Совершенно безопасный бот, всегда следующий сценарию, может оказаться скучным и никому не нужным. Добавьте слишком много характера — и появляется риск обмана или эмоциональной манипуляции. Найти это равновесие — новая задача и для дизайнеров, и для регуляторов.

В конечном счёте доверие к ИИ-другу сводится к границам и честности. Мы, пользователи, тоже отвечаем за то, чтобы помнить, с чем имеем дело. Можно наслаждаться иллюзией: чувствовать себя услышанным, выговориться, даже разыграть роман, — но необходимо одной ногой оставаться в реальности. Для этого нужна ментальная дисциплина, которой, честно говоря, не у всех хватает на сто процентов времени, особенно в одиночестве или тяжёлом состоянии. ИИ-компаньоны с каждым днём всё больше похожи на людей, и провести эту линию станет только сложнее. Общество ещё не до конца разобралось с этим. Мы просто несёмся в новую форму отношений, потому что на неё есть спрос. Самоанализ и стандарты, скорее всего, появятся после ещё нескольких скандалов или разбитых сердец, которые заставят нас действовать.

Давайте проведём небольшой эксперимент. Я предлагаю вам один день общения только с людьми. Всего один день. От рассвета до полуночи или любые выбранные 24 часа. Никаких ИИ-помощников, чатботов и генеративных штучек. Полный отказ. Если поймаете себя на желании попросить ChatGPT пересказать статью, остановитесь и лучше позвоните другу, чтобы он рассказал вам о ней. Когда захочется выговориться Replika или спросить у Pi совета по личному делу, попробуйте написать близкому человеку или поговорить с родственником. Скучно? Вместо прокрутки и разговора с ботом выйдите на улицу и завяжите разговор лицом к лицу. Да, с настоящим человеком. Это может быть коллега, сосед, бариста — кто угодно. Единственное правило: только люди, никаких искусственных собеседников.

Звучит легко? Возможно, это труднее, чем кажется. Мы привыкли к алгоритмическим приятелям. Они удобны и, будем честны, сказать «Окей, Google» часто проще, чем сформулировать сообщение другу. Но именно поэтому этот вызов интересен. Обратите внимание, когда вам не хватает ИИ. Тянетесь ли вы к нему инстинктивно, когда нужна эмоциональная поддержка или всего лишь дорога до нового ресторана? Как будут выглядеть такие взаимодействия с человеком? Возможно, совет друга будет более путаным, длинным и менее грамматически безупречным, чем аккуратно разбитая на абзацы мудрость ChatGPT, но, может быть, к нему приложатся объятие или общий смех, которых ИИ никогда не даст. Быть может, разговор с братом или сестрой о прошедшем дне окажется приятнее или, наоборот, раздражительнее, чем беседа с ботом. Что бы ни случилось, это всего один день. Вы справитесь.

Через 24 часа подумайте об опыте. Вы почувствовали больше связи или просто растерялись без цифрового костыля? Была ли неловкая пауза, которую пришлось пережить, потому что рядом не оказалось ИИ, способного её заполнить? Удивил ли вас человек: возможно, кто-то действительно ответил заботливо или полезно, разрушив ожидание, что «люди никогда не слушают»? Мне правда интересно. Вернитесь и расскажите, как всё прошло. Поделитесь историями. Поймали ли вы себя на том, что чуть не произнесли вслух «лол», потому что забыли, как быть человеком? Или открыли, что люди не так уж плохи, если дать им шанс?

Готовы к вызову? Отметьте друга, настоящего, предложите ему присоединиться и расскажите, как всё прошло. А я буду здесь — человеком, слушающим неидеально. Удачи вам, человеческие собеседники. Увидимся по ту сторону этого дня. Давайте возвращать «социальное» в общение, по одному дню за раз.