Мы создаём следующий интеллект, прежде чем понимаем собственный

Он уже стал частью повседневного мышления.

У ChatGPT более 900 миллионов активных пользователей в неделю. Приложение Gemini достигло 950 миллионов активных пользователей в месяц. Эти аудитории пересекаются, поэтому складывать их было бы вводящим в заблуждение. Но масштаб уже невозможно отрицать.

ИИ больше не то, с чем экспериментируют только инженеры.

Это то, с чем думают сотни миллионов людей.

Мы просим его написать письмо, проверить договор, придумать идеи, объяснить сложное понятие, проанализировать решение и помочь сформулировать мысли, которые сами пока не умеем выразить.

Несколько лет назад это казалось невероятным.

Сегодня это просто ещё одна вкладка браузера.

И для меня это, возможно, самая важная история об ИИ.

Не только потому, что модели становятся способнее, а потому, что мы незаметно начали менять сам способ мышления.

Исчезающая пауза

Раньше между появлением вопроса и получением внешнего ответа была пауза.

Эта пауза имела значение.

В ней развивалось любопытство, появлялось место для неопределённости, а незавершённая мысль успевала стать нашей, прежде чем на неё влиял чужой ответ.

Сегодня эта пауза исчезает.

Вопрос едва успевает оформиться в сознании, как мы передаём его ИИ.

Это не обязательно плохо. ИИ действительно помогает быстрее учиться, упорядочивать информацию, проверять предположения и замечать закономерности, которые мы иначе могли бы упустить. Я каждый день вижу эту пользу.

Проблема начинается, когда мы перестаём замечать, какие человеческие функции уже делегировали.

Зависимость начинается, когда мы перестаём замечать, какие способности отвыкаем тренировать самостоятельно.

ИИ начинает нас помнить

Каждое новое поколение ИИ-систем может работать с большим контекстом, сохраняя сведения о наших проектах, стиле письма, предпочтениях, повторяющихся решениях, нерешённых вопросах и долгосрочных целях.

За последние два года ИИ стал частью и моего мыслительного процесса.

Вместе мы разрабатывали бизнес-стратегии, писали статьи, исследовали философские вопросы, разбирали сложные ситуации и уточняли идеи в сотнях разговоров.

Я не могу сознательно удерживать всё это в голове одновременно.

Человеческая память не рассчитана на такой непрерывный, накапливающийся контекст.

Мы забываем детали. Теряем контекст. Восстанавливаем прошлое через нынешние эмоции.

Иногда нам кажется, что мы изменили мнение, хотя на самом деле просто перестали помнить, как пришли к прежнему выводу.

У ИИ развивается совсем другая способность.

Не идеальная память.

Не бесконечная память.

Но способность извлекать, связывать и анализировать намного больше личного контекста, чем человек может активно удерживать в уме.

ИИ может напоминать не только то, что мы говорили, но и то, как менялось наше мышление: какие идеи возвращаются снова и снова, какие решения мы постоянно откладываем, какие предположения незаметно направляют выбор и где мы сами себе противоречим.

Впервые внешний интеллект может непрерывно восстанавливать историю нашего мышления, одновременно участвуя в нём.

Это больше, чем функция продуктивности.

Это создаёт новую связь между человеческой идентичностью и внешней памятью.

Однажды система может иметь более непрерывную запись моей интеллектуальной жизни, чем та, к которой способен обратиться мой собственный разум.

И всё это происходит ещё до появления AGI.

Гонка к интеллекту, который мы пока не умеем определить

Для многих ведущих ИИ-лабораторий мира долгосрочная цель, AGI: общий искусственный интеллект.

Проще говоря, AGI была бы системой, способной учиться и решать огромный круг интеллектуальных задач с той гибкостью, которую мы связываем с человеческим мышлением в целом.

Никто не знает точно, когда он появится. Никто до конца не согласен с его определением. Мы даже не знаем, потребуется ли для этого один решающий прорыв или тысячи постепенных улучшений.

Но гонка уже идёт.

Крупнейшие технологические компании мира вкладывают огромные средства в инфраструктуру для обучения, развёртывания и работы всё более способных ИИ-систем. Одна только Alphabet ожидает капитальные затраты от 175 до 185 миллиардов долларов в 2026 году и прямо связывает этот инвестиционный цикл с расширяющимися возможностями ИИ.

Большинство публичных разговоров об этой гонке звучит удивительно похоже.

Это важные вопросы.

Но, как мне кажется, не самые глубокие.

Мы всё ещё не понимаем собственный интеллект

Я годами пытаюсь понять нечто гораздо более близкое, чем AGI.

Собственный разум.

Откуда берутся мысли?

Почему одна исчезает сразу, а другая занимает внимание днями?

Какая часть того, что я называю своим мнением, действительно моя?

Где заканчивается подлинное намерение и начинается влияние семьи, культуры, рекламы, страха и прошлого опыта?

Чем дольше я наблюдаю собственное мышление, тем меньше уверен, что до конца его понимаю.

Я умею пользоваться разумом. Это не значит, что я понимаю, как он работает.

Человечество тысячелетиями изучает мысль, сознание, эмоции и поведение.

И всё же у нас нет единого принятого объяснения того, что такое сознание, как возникает субъективный опыт и насколько мы в действительности контролируем собственные мысли.

Отсюда возникает один из самых странных парадоксов нашего времени.

Мы пытаемся создать интеллект, который однажды может превзойти нас, прежде чем до конца поймём интеллект, создавший его.

Мы не до конца понимаем, как формируется человеческое суждение, но строим системы, которые будут всё сильнее на него влиять.

Мы всё ещё с трудом отличаем истину от убедительного нарратива, но создаём машины, способные производить убедительные нарративы с беспрецедентной скоростью и в беспрецедентном масштабе.

Мы не договорились о значении свободы, справедливости, ответственности или человеческого процветания, но уже решаем, какие ценности должны направлять всё более мощные формы интеллекта.

Чьи ценности?

Почти каждая крупная ИИ-лаборатория говорит о безопасности и согласовании целей.

Принцип звучит просто.

Создать ИИ, который ведёт себя в соответствии с человеческими намерениями и ценностями.

Трудность начинается со слова «человеческими».

У человечества много общих моральных интуиций, но мы не согласны в их границах, приоритетах и компромиссах.

Свобода или безопасность?

Личная автономия или коллективная ответственность?

Эффективность или справедливость?

Возьмём обычный наём сотрудников.

ИИ, оптимизированный прежде всего на эффективность, может выбирать кандидатов иначе, чем ИИ, оптимизированный прежде всего на справедливость.

Оба можно назвать согласованными.

Но с чем именно?

И кто это определил?

Инженеры?

Компания, которая его внедряет?

Её инвесторы?

Государство, которое его регулирует?

Большинство пользователей?

Или институт, у которого достаточно власти, чтобы навязать свои приоритеты всем остальным?

Это не только теоретическая проблема будущего сверхинтеллекта.

Каждая продвинутая ИИ-система уже отражает человеческий выбор: обучающие данные, цели, ограничения, стимулы, поощряемое поведение и вопросы, на которые она отказывается отвечать.

Мы взаимодействуем не с нейтральным интеллектом.

Мы взаимодействуем с интеллектом, сформированным человеческими решениями, коммерческими приоритетами, культурными предпосылками и институциональной властью.

Почему эту гонку так трудно остановить

Даже многие из тех, кто публично предупреждает об опасностях ИИ, продолжают строить всё более способные системы.

Сначала это может показаться противоречием. Но это не так.

Если остановится одна компания, может продолжить другая. Если замедлится одна страна, может ускориться другая.

Каждый участник может искренне считать технологию опасной и одновременно верить, что гораздо опаснее будет позволить конкуренту разработать её первым.

Гонку подпитывают экономика, геополитика, научные амбиции, обещание огромной пользы и уверенность каждой команды, что именно она с большей вероятностью создаст ответственную систему, чем кто-то другой.

Мощные технологии часто развиваются не потому, что люди стремятся причинить вред, а потому, что никто не хочет остаться позади.

Каждый участник хочет влиять на результат. Каждый считает собственные намерения, ценности и меры защиты более заслуживающими доверия.

Но история снова и снова показывает, что создать мощный инструмент легче, чем предсказать все способы, которыми его в итоге будут использовать.

Вопрос уже не в том, можно ли просто остановить гонку.

Более реалистичный вопрос, успеют ли человеческая зрелость, институты и суждение развиться достаточно быстро, чтобы не отстать от неё.

Главный вопрос не в том, чем станет ИИ

ИИ может помочь нам лечить болезни, ускорять научные открытия, расширять доступ к образованию, усиливать человеческое творчество и избавлять от огромного объёма повторяющейся интеллектуальной работы.

Я надеюсь, что так и будет.

Но технология не решает, кем мы станем после того, как она даст нам эти способности.

Она лишь делает это решение неизбежным.

Если ИИ может формулировать наши мысли, продолжим ли мы учиться формулировать их сами?

Если ИИ принимает всё больше решений за нас, продолжим ли мы укреплять собственное суждение?

Человеческое развитие всегда включало передачу функций инструментам.

Письмо вынесло память наружу.

Калькуляторы автоматизировали арифметику.

Поисковые системы преобразили доступ к информации.

ИИ отличается масштабом и, возможно, однажды будет отличаться самой природой.

Мы больше не передаём только физическую задачу или узкую мыслительную операцию. Мы начинаем передавать части рассуждения, выражения, интерпретации и выбора.

Это не делает нас слабее автоматически.

Но это означает, что нам нужно яснее сознавать, какие способности мы расширяем, а каким позволяем угасать.

Главный вопрос этого века может звучать не так.

Какой интеллект мы создаём?

А так.

Какими людьми мы должны стать, чтобы жить рядом с интеллектом, который помнит больше, анализирует быстрее и убеждает лучше нас?

Мы создаём новый интеллект.

Но итоговый экзамен будет не для ИИ.

Он будет для нас.