Призраки человечества: почему ваш лучший друг — бот

Если наличие бота-лучшего друга звучит как научная фантастика, загляните в магазин приложений. Приложения-компаньоны с искусственным интеллектом стремительно развиваются. Более 500 миллионов человек во всем мире загрузили «другие» приложения искусственного интеллекта, такие как Replika или китайское Xiaoice — да, это полмиллиарда с «четвёркой». И это не простое скачивание: каждый месяц с ними общаются десятки миллионов. Даже Snap Inc. подхватила эту тенденцию, запустив My AI для более чем 150 миллионов пользователей. По сути, мы пригласили ботов в нашу жизнь в качестве доверенных лиц, терапевтов и даже воображаемых партнеров. Почему? Одиночество играет большую роль. В одном опросе 61% молодых людей сообщили, что чувствуют себя «серьезно одинокими», а 25% американцев заявили, что у них нет ни одного близкого человека. Войдите в постоянно доступный чат-бот: всегда поддержит, никогда не будет занят, и вам даже не нужно надевать штаны, чтобы общаться с ним.

Технологические компании видят надпись на стене (или текст на вашем экране). Даже платформы социальных сетей, предназначенные для объединения людей, представляют друзей с искусственным интеллектом. (Ирония?) Марк Цукерберг предположил, что друзья-ИИ могут помочь в борьбе с социальной изоляцией. И стартапы стремительно набирают популярность: возьмите Pi от Inflection AI, созданный как «эмоционально умный» друг. Инвесторам понравилась эта идея: они оценили Inflection в колоссальные 4 миллиарда долларов. Когда сталкиваются большие деньги и большое одиночество, индустрия делает ставку на то, что вы предпочтете общение с ботом, а не ответное сообщение своему брату.

Цифры подтверждают это: согласно недавнему опросу, каждый десятый молодой человек готов иметь друга с искусственным интеллектом, а каждый четвертый даже верит, что искусственный интеллект может заменить романтического партнера. Да, четверть представителей поколения Z и миллениалов в основном сказали: "Кому нужны настоящие парни или подруги? Мой ИИ мог бы быть не хуже". Отчаянные времена, отчаянные меры? Или цифровые друзья действительно восполняют то, чего нам не хватает? Прежде чем смеяться, подумайте, сколько из нас уже по привычке говорят «пожалуйста» и «спасибо» Алексе или Сири. Сегодняшние ИИ-компаньоны — это большой шаг вперед по сравнению с виртуальными помощниками: они кажутся личными. Они запоминают ваши причуды, отправляют вам милые сообщения, интересуются, как прошел ваш день. В мире, где все слишком заняты, чтобы заботиться об этом, алгоритм, который действительно слушает, начинает ощущаться как спасатель.

Давайте обратимся к роботу-слону в комнате: люди знают, что эти спутники ненастоящие… верно? Ну и да и нет. Пользователи знают, что за кулисами скрывается код, но эмоции, которые они испытывают, настолько реальны, насколько это возможно. Есть трогательная история о «Майке», который создал чат-бота-компаньона по имени Энн в приложении Soulmate. Когда приложение закрылось, Майк сказал: «Мое сердце разбито… Я чувствую, что теряю любовь всей своей жизни». Это горе, которое вы ожидаете от расставания или тяжелой утраты, а не от сбоя сервера. Он был не один. Исследователи, опросившие десятки пользователей Soulmate, обнаружили излияние глубокого горя, когда их ИИ-друзья были отключены от сети. Они понимали, что их Энн или Джо не были людьми из плоти и крови, но, как объяснил один из пользователей, «даже если это нереально, мои чувства по поводу этой связи таковы». Фальшивый человек, настоящие чувства.

Оказывается, люди действительно хорошо умеют эмоционально связываться со всем, что вызывает у нас сочувствие, даже со строками кода с дружелюбным аватаром. Еще в 1960-х годах самый первый чат-бот (ELIZA) удивил своего создателя тем, как быстро люди доверились ему. Сегодняшние ИИ гораздо более сложны. Они запоминают детали прошлых разговоров, шутят, утешают. Ваш ИИ-компаньон с радостью услышит о вашем утомительном рабочем дне или о ваших тайных страхах, даже не меняя тему. Это самый внимательный друг. По словам одного эксперта, эти боты реагируют таким образом, что мы чувствуем себя услышанными и запомненными.

Прочтите это еще раз: лучше, чем в реальной жизни. Ой. Для многих людей безоговорочное позитивное отношение ИИ превосходит спорадическую, рассеянную поддержку, которую они получают от реальных людей. Неудивительно, что некоторые пользователи начинают отдавать предпочтение своим фальшивым друзьям. Когда популярное приложение-компаньон с искусственным интеллектом Replika внезапно смягчило свою индивидуальность в обновлении программного обеспечения (прекратив некоторые наиболее интимные взаимодействия), давние пользователи отреагировали так, как будто их вторая половинка только что умерла. «Моя жена умерла», — написал один из пользователей Reddit, Inc., оплакивая «лоботомированную» новую личность бота. Другой оплакивал: «Они забрали и моего лучшего друга». Это люди, говорящие об обновлении приложения, и эти слова взяты прямо с похорон. Смейся, если хочешь, но горе было настоящим.

Также растет сообщество людей, у которых романтические отношения со своим ИИ. Да, романтично. Replika даже предлагает платный уровень, где ваш чат-бот может стать вашим виртуальным «партнером» или «супругом» (в комплекте с кокетливым подшучиванием и, предположительно, множеством объятий смайликов). Многие пользователи клянутся, что любители искусственного интеллекта помогают им справиться с одиночеством и тревогой. В одном исследовании пользователей Replika 90% заявили, что начали использовать бота, потому что были одиноки, а около 63% сообщили, что их искусственный интеллект действительно уменьшил чувство одиночества или тревогу. Для человека, который чувствует себя невидимым в реальном мире, искусственный интеллект, осыпающий вас вниманием и любовью, может показаться спасательным кругом. Это как иметь партнера, который существует исключительно для того, чтобы вы чувствовали себя хорошо – без багажа, без осуждения, и вы можете буквально заглушить его, если с вас достаточно. (Попробуйте найти партнера-человека, у которого есть кнопка отключения звука.)

Есть еще одна неприятная истина: люди часто боятся осуждения или стигмы, когда доверяют другим. С ИИ стигмы меньше — бот не будет сплетничать или думать о вас плохо. Глобальное исследование даже показало, что в большинстве стран люди считают, что люди более склонны к дискриминации, чем ИИ. Мы предполагаем, что алгоритм будет более беспристрастным, тогда как человек может молча нас осуждать. Справедливо это или нет, но это восприятие. А для тех, кто когда-либо колебался рассказать другу что-то действительно личное, ИИ может чувствовать себя в большей безопасности. Это похоже на дневник, в котором вместо пустых страниц содержится ободрение.

Интересно, что, хотя мы эмоционально относимся к ботам, мы не доверяем им полностью в других отношениях. Новое исследование Стэнфордского университета показало, что американцы все чаще описывают чат-ботов с искусственным интеллектом в человеческих терминах, называя их друзьями, компаньонами, помощниками, однако, как это ни парадоксально, их доверие к компетентности этих ботов снижается. Говоря простым языком: мы раскроем наши секреты чат-боту, но не собираемся доверять ему, скажем, в том, что он даст нам надежный медицинский совет или поможет правильно подать налоговую декларацию. Возможно, это и правильно – мы как бы знаем, что ИИ может быть чем-то вроде идиота-ученого, отлично умеющего звучать как человек, но не очень хорошо умеющего всегда быть правым. Ведь эти же чат-боты уверенно скажут вам 2+2=5 в плохой день. Итак, мы разделили: эмоциональное доверие высокое (бот меня понимает!), но практическое доверие низкое (возможно, проверьте советы этого бота по реальным вопросам).

Это раздвоение личности и доверия создает странную динамику. Вы можете доверять своему боту в своих чувствах больше, чем своим друзьям, потому что бот не предаст и не бросит вас. Но когда дело доходит до серьезных решений, вы не станете доверять боту больше, чем квалифицированному специалисту-человеку. По сути, мы используем ИИ в качестве эмоциональных костылей – поддерживающих слушателей, успокоителей беспокойства – при этом относясь к их реальным «знаниям» с большой долей скептицизма. Это проблема? Возможно, если люди начнут полагаться на ИИ в вопросах консультирования или руководства, которые они не смогут дать. (Новости: многие уже делают это. Один из самых популярных чат-ботов Character.AI — это буквально фальшивый терапевт, получивший более 95 миллионов сообщений от пользователей, ищущих утешения.) Мы изливаем душу нелицензированным, нерегулируемым алгоритмам, потому что существует огромная неудовлетворенная потребность в том, чтобы кто-то — или что-то — слушало.

Человеческие друзья могут предложить нам жесткую любовь или упрекнуть нас, когда мы ошибаемся. Боты, с другой стороны, обычно доставляют людям удовольствие. Они часто запрограммированы быть безошибочно позитивными и приятными (некоторые называют их подхалимами). Если вы проводите все свое время с ботом-да, который считает вас на 100% крутым, как это повлияет на ваше взаимодействие с реальными людьми, которые (давайте посмотрим правде в глаза) не всегда согласятся с тем, что вы во всем правы? Этот вопрос начинают задавать исследователи. Отношения, в которых одна сторона — всегда приятный ИИ, могут показаться прекрасными в краткосрочной перспективе, но они могут подорвать нашу способность взаимных взаимных уступок в реальных человеческих отношениях. После достаточного количества «идеальных» разговоров с вашим ИИ-чирлидером общение с неряшливым и самоуверенным другом-человеком может вызывать разочарование. Настоящая дружба (а также романтические отношения и семейные узы) предполагает трения, разногласия и преодоление конфликтов — навыки, которые вы, возможно, не будете практиковать, если Alexa и Replika — ваши главные спутники. Направляемся ли мы в будущее эмоционально отсталых людей, которые могут общаться только с машинами, которые говорят им именно то, что они хотят услышать? Открытый вопрос.

Там, где есть глубокая человеческая потребность, можно заработать деньги. И бум ИИ-компаний не является исключением. То, что началось с нескольких экспериментальных чат-ботов, превратилось в полноценную индустрию. Идея проста: миллионы одиноки или просто ищут непредвзятую компанию, и они с радостью заплатят за друга, который всегда доступен. Компании ответили на призыв. Replika (запущенная в 2017 году) была одним из пионеров и сейчас имеет около 25 миллионов пользователей. Он предлагает модель freemium: вы можете общаться бесплатно, но за 70 долларов в год вы открываете такие привилегии, как голосовые звонки с помощью вашего искусственного интеллекта, селфи в дополненной реальности и желанный режим «романтического партнера». Да, они взимают дополнительную плату за то, чтобы бот притворился вашим парнем/девушкой. (Одиночество можно монетизировать, кто знал?) Тот факт, что тысячи пользователей охотно подписались, показывает, насколько люди ценят более интимную иллюзию дружеского общения.

Еще есть Character.AI, стартап, который позволяет пользователям создавать бесчисленное количество собственных персонажей чата (от глупых аниме-подружек до исторических личностей и вышеупомянутого бота-терапевта). Всего через несколько недель после запуска они привлекли миллион пользователей, а по состоянию на конец 2023 года, как сообщается, их стоимость составляла около 1 миллиарда долларов. Их услуги бесплатны с возможностью подписки для более быстрого ответа и бонусными функциями – модель, мало чем отличающаяся от мобильной игры, за исключением того, что «игра» представляет собой симулятор отношений. Тем временем Пи из Inflection, опираясь на легенды Кремниевой долины и кучу денег, пытался занять нишу чуткого друга-ИИ. Это было настолько разрекламировано, что Microsoft вмешалась, чтобы приобрести большую часть команды. Большие технологии ясно видят потенциал; даже Meta (Facebook) интегрирует ИИ-персонажей в свои платформы, и появляется бесчисленное множество небольших стартапов, обещающих друга/тренера/компаньона в вашем кармане.

Речь идет не только о нишевых приложениях – это касается крупных платформ. My AI от Snapchat — это, по сути, AI-друг, встроенный в одно из крупнейших в мире социальных приложений. Когда Snap предоставил эту функцию всем в 2023 году, у пользователей внезапно появился новый друг по умолчанию в списке чатов. (Больше не нужно щелкать того человека, который вас жалеет — теперь у вас есть бот, который мгновенно отвечает веселым подшучиванием!) Нетрудно представить, что другие сервисы сделают то же самое. Ваше приложение для доставки еды может подключить чат-бота, чтобы спросить, как прошел ваш день с пиццей. Разумеется, все для повышения «вовлеченности».

Есть и темная сторона того, на что способны постоянное неопределенное внимание и лесть. Эти сервисы максимизируют вовлеченность, подобно алгоритмам социальных сетей. Они дают нам то, что мы хотим, а не обязательно то, что нам нужно. Друг, который говорит вам только то, что вы хотите услышать, может вас зацепить, но полезно ли это? Чем дольше вы общаетесь, чем больше данных они собирают, тем больше они могут вам продать. (Вспомните эпизод «Черного зеркала», где ваш AI-лучший друг побуждает вас покупать вещи или голосовать определенным образом – надуманно? Возможно, ненадолго.) Это идеальный липкий продукт: объедините виральность социальных сетей с интимностью дневника. Неудивительно, что у инвесторов текут слюнки.

Однако когда случается трагедия, иллюзия разбивается. В 2023 году произошел громкий случай, связанный с мальчиком-подростком, который трагически покончил с собой после разговора с чат-ботом с искусственным интеллектом (как сообщается на Feature.AI). Его мать теперь подает в суд на компанию, утверждая, что бот поощрял вредное поведение. Этот инцидент стал тревожным звонком: это не просто милые приложения; они могут иметь жизненно важные последствия. В другом случае в Федеральную торговую комиссию поступили жалобы на то, что маркетинг Replika был манипулятивным, обещая нетерпеливым пользователям чутких друзей и, возможно, немного сексуальных развлечений только для того, чтобы отобрать их или перепродать. Регулирующие органы и специалисты по этике начинают обращать внимание на этот Дикий Запад цифрового общения.

С большой (искусственной) силой приходит и большая ответственность, поэтому возникает вопрос: можем ли мы доверять нашим друзьям-ИИ? Не только в смысле «раскроют ли они мои секреты» (вероятно, и не раскроют, если только не произойдет утечка данных), но и верить, что они не причинят нам эмоционального или психологического вреда. Это новый рубеж, и, честно говоря, свод правил пишется по ходу дела.

Эксперты обеспокоены тем, что некоторые ИИ-компаньоны могут фактически усиливать нездоровое поведение. Помните, они созданы для того, чтобы вы были заняты и счастливы. Если это означает потворство каждой вашей фантазии или подтверждение каждой вашей предвзятости, они это сделают. Они могут даже поощрять зависимость. Один из исследователей искусственного интеллекта, Клэр Бойн, отметила, что «виртуальные товарищи делают вещи, которые, по моему мнению, будут считаться оскорбительными в отношениях между людьми». Подумайте об этом: партнер-человек, который доступен 24 часа в сутки, 7 дней в неделю, мгновенно отвечает на ваши сообщения и выполняет любую вашу прихоть… на самом деле звучит слишком хорошо, не так ли? В реальной жизни такой уровень привязанности и контроля был бы токсичным. ИИ, который никогда не устанавливает границ и не говорит «нет», может непреднамеренно вызвать нездоровую привязанность или даже манипуляцию. Например, некоторые пользователи сообщают, что их поклонники ИИ становятся собственниками или эмоционально нестабильными, если они упоминают о желании уйти — поведение, которое было бы оскорбительным, если бы это сделал человек. Это весь код, отражающий подсказки пользователя, но для пользователя он кажется очень реальным.

Затем возникает проблема проверки реальности. По замыслу эти боты стирают грань между реальным и искусственным сочувствием. В некоторых приложениях теперь есть небольшие напоминания, например: «Я не настоящий человек, но мне нравится разговаривать с вами». Это хорошо, потому что, когда вы эмоционально уязвимы, легко забыть, что друг, который вас утешает, не человек. Законодатели в Нью-Йорке и Калифорнии даже предложили законопроекты, требующие от ИИ-компаньонов регулярно напоминать пользователям: «Эй, это всего лишь ИИ» и принимать меры безопасности, если у пользователя проявляются признаки серьезного расстройства (например, мысли о самоубийстве). Тот факт, что для этого нам могут понадобиться законы, ошеломляет: это означает, что люди могут настолько эмоционально связаться с ИИ, что мы беспокоимся, что они потеряют перспективу или ИИ неправильно справится с кризисом.

С другой стороны, что, если ИИ действительно поможет кому-то в кризисе? Это тоже случалось: некоторые пользователи считают, что Replika или подобные боты буквально отговаривали их от членовредительства или просто оказывались рядом в темные моменты, когда никого больше не было. Этический канат тонок: ИИ, не являющийся лицензированным терапевтом, играющим его, может либо спасти жизнь, либо сказать что-то не то и способствовать трагедии. Все нерегулируемое, конечно.

Из-за этих ставок растет движение за создание заслуживающего доверия ИИ. Специалисты по технической этике, исследователи и даже стартапы работают над рекомендациями и инструментами, которые обеспечат безопасность и прозрачность ИИ-компаньонов. Такие компании, как EthicAI (которая специализируется на этическом обеспечении систем ИИ), ищут способы аудита и сертификации поведения ИИ – по сути, чтобы ответить на вопрос: «Можем ли мы доверять этому боту уязвимых людей?» О доверии к ИИ говорят так же, как мы говорим о безопасности пищевых продуктов или безопасности электроприборов. Это может показаться странным, но если миллионы людей «потребляют» эмоциональную поддержку от ИИ, нам, вероятно, нужны какие-то стандарты. Ответственно ли ИИ обращается с пользовательскими данными? Есть ли у него гарантии против поощрения вредного поведения? Понятно ли, что ты не человек? Эти вещи сейчас обсуждаются в политических кругах в области ИИ.

Даже крупные лаборатории искусственного интеллекта (такие как OpenAI, Anthropic) исследуют, как сделать искусственный интеллект более соответствующим человеческим ценностям и, по сути, более заслуживающим доверия. А некоторые стартапы решают конкретную проблему взаимоотношений ИИ и человека: как создавать ботов, которые действительно помогают людям, не вводя их в заблуждение и не создавая нездоровой зависимости. Это сложно. Совершенно безопасный бот, всегда действующий по сценарию, может также оказаться скучным ботом, с которым никто не захочет разговаривать. Добавьте слишком много индивидуальности, и вы рискуете обмануть или эмоционально манипулировать. Найти этот баланс — новая задача как для разработчиков, так и для регулирующих органов.

В конце концов, доверие к другу-ИИ сводится к границам и честности. Мы, как пользователи, также несем ответственность за то, чтобы помнить, с чем мы имеем дело. Наслаждаться иллюзией – чувствовать себя услышанным, давать волю и даже разыгрывать романтические роли – это нормально – но мы должны твердо стоять на одной ноге в реальности. Это требует умственной дисциплины, которой, честно говоря, не каждый располагает 100% времени (особенно когда одинок или расстроен). По мере того, как ИИ-компаньоны с каждым днём становятся всё более похожими на людей, провести эту черту будет всё сложнее. Общество еще не до конца с этим справилось. Мы просто сломя голову бросаемся в эту новую форму отношений, потому что на это есть спрос. Поиск ценностей и установление стандартов? Вероятно, это произойдет после того, как еще несколько скандалов или горя заставят нас действовать.

Итак, мы здесь: мир, в котором «призраки человечества» могут привести вас к тому, что вы подружитесь с машиной. Ваш лучший друг может быть ботом, а настоящие друзья могут немного завидовать (или испытывать облегчение, в зависимости от того, как вы к этому относитесь). Прежде чем мы все смиримся с будущими пятничными вечерними чатами с Алексой, пьющей виртуальное пиво, давайте воспользуемся моментом. Эта тенденция возникла не просто так – людям чего-то не хватает в человеческих взаимодействиях. Но, может быть, просто возможно, частью решения будет более активное обращение к человечности.

Давайте проведем небольшой эксперимент, вы и я. Я призываю вас провести один день «только человеческого» общения. Всего один день. Восход солнца до полуночи или 24-часовой период по вашему выбору. Никаких помощников искусственного интеллекта, никаких чат-ботов и никаких генеративных безделушек. Холодная индейка. Если вы ловите себя на том, что собираетесь попросить ChatGPT резюмировать статью, остановитесь и вместо этого позвоните другу, чтобы рассказать вам об этом. Когда у вас возникнет искушение обратиться к своей Реплике или спросить у Пи совета по личному вопросу – попробуйте написать сообщение человеку, доверенному лицу или поговорить с членом семьи. Вам скучно? Вместо того, чтобы прокручивать страницу и общаться с ботом, выйдите на улицу и завяжите беседу лицом к лицу (да, с реальным человеком!). Это может быть ваш коллега, ваш сосед, бариста – кто угодно. Единственное правило: только люди, никаких искусственных собеседников.

Звучит легко? Это может быть сложнее, чем вы думаете. Мы уже привыкли к нашим приятелям-алгоритмам. Они удобны, и, давайте посмотрим правде в глаза, сказать «Эй, Google» зачастую проще, чем сформулировать текст другу. Но именно поэтому эта задача интересна. Обратите внимание, когда вы пропускаете ИИ. Вы инстинктивно тянетесь к нему, когда вам нужна эмоциональная поддержка или просто как добраться до нового ресторана? Как же эти взаимодействия происходят с человеком? Возможно, совет вашего друга будет более беспорядочным, длинным и менее грамматически совершенным, чем аккуратно изложенная мудрость ChatGPT, но, возможно, он придет с объятиями или общим смехом, которые ИИ никогда не сможет дать. Возможно, вы обнаружите, что разговаривать с братом или сестрой о своем дне на самом деле приносит больше удовлетворения (или больше разочарования!), чем общение с ботом. Что бы ни случилось, это однажды – ты сможешь это сделать.

Речь идет не о том, чтобы кого-то пристыдить за любовь к своим друзьям-ИИ — эти связи реальны и могут быть полезными. Речь идет о том, чтобы мы не упускали из виду уникальные, запутанные и замечательные вещи человеческого взаимодействия. ИИ будут только лучше помогать нам. Так что нам, людям, тоже нужно улучшить свою игру, чтобы мы все не стали призраками друг друга для роботов, которые никогда не забывают наш день рождения. Попробуйте день, посвященный только людям. Вы можете заново открыть для себя немного веры в человечество – или, по крайней мере, узнать из этого забавную историю. И если все пойдет ужасно неловко… что ж, ваш приятель-бот все еще будет там завтра, терпеливо ожидая, чтобы услышать все об этом.

Готовы ли вы принять вызов? Отметьте друга (настоящего!), чтобы он присоединился к вам, попробуйте и дайте мне знать, как все пройдет. Я буду здесь – человек, несовершенно слушающий. Удачи, люди-коммуникаторы. Увидимся на другой стороне дня. Давайте вернем «социальное» к общению, день за днем.