Запись источника
Языковая ошибка: почему нельзя предсказать будущее ИИ
Публичные споры об искусственном интеллекте часто сводятся к двум противоположным уверенным утверждениям. Одни настаивают, что масштабирование нынешних моделей неизбежно приведёт к AGI. Другие уверены, что большие языковые модели никогда не станут разумными, ведь они лишь предсказывают следующее слово. Обе позиции звучат уверенно. Обе опираются на ошибочное убеждение, будто мы уже знаем границы интеллекта и траекторию технологических изменений.
Более ясный взгляд начинается с чего-то куда более знакомого — и глубоко человеческого.
Мы склонны считать беглую речь доказательством мышления, а речевые нарушения — признаком его ослабления. Но нейронаука рисует более сложную картину. Люди с некоторыми формами афазии, которым трудно говорить, часто сохраняют способность рассуждать, планировать, выносить суждения, распознавать намерения и ориентироваться в социальных сигналах. Их внутренняя жизнь продолжается, даже когда речевые инструменты дают сбой.
Это не значит, что язык и мышление не связаны. Они постоянно взаимодействуют. Но язык не тождественен мысли. Это слой выражения, интерфейс, а не лежащий в основе двигатель.
→ Отсюда важный вывод: модель языка не становится автоматически моделью разума.
Большие языковые модели работают исключительно с языковыми закономерностями. Они превосходно предсказывают следующее слово, и уже одно это позволяет им демонстрировать поразительную беглость во множестве задач. Но беглость — не то же самое, что понимание. У этих систем нет воплощённого опыта, каузальных моделей, заземлённого восприятия, устойчивых целей и внутреннего представления реальности. Они создают связность, а не познание.
Признавать ограничения нынешних систем ИИ важно. Но утверждать, что ИИ никогда не достигнет осмысленного интеллекта, — лишь другая форма самоуверенности.
История технологий полна поворотных моментов, которые сначала недооценивали:
Печатный станок Гутенберга казался механическим приспособлением, пока не изменил грамотность, религию и науку. Электричество считали непрактичным, пока оно не стало основой индустриальной цивилизации. Компьютеры и интернет были нишевыми инструментами, пока не превратились в нервную систему современной жизни.
Даже в ИИ прорывы не раз опровергали ожидания: AlphaZero освоила сверхчеловеческую стратегию без человеческих примеров. AlphaFold решила биологическую задачу, остававшуюся нерешённой полвека.
→ Точки перелома редко заявляют о себе. До момента, когда они переопределяют мир, они выглядят скромно — порой даже тривиально.
Мы представляем инновации прямой линией: постепенные улучшения накапливаются со временем. Но преобразующие перемены часто происходят, когда независимые идеи сталкиваются и усиливают друг друга.
Печать встретилась с дешёвой бумагой. Электричество — с двигателями. Полупроводники — с глобальными сетями. Машинное обучение — с симуляцией и огромными вычислительными мощностями.
Большие языковые модели могут оказаться лишь одним ингредиентом гораздо более сложной архитектуры будущего. Системы ближайших десятилетий могут соединить:
язык и восприятие; восприятие и воплощённое взаимодействие; симуляцию и каузальное рассуждение; память и самосовершенствование — или новые механизмы, которые мы ещё не придумали.
→ Судить о пределах ИИ по этому первому поколению моделей — всё равно что предсказывать будущее авиации, глядя на первые планёры.
Параллельно с технологическим подъёмом выросла инвестиционная волна — крутая, быстрая и раздутая нарративами. Часть этого капитала стратегична. Большая часть — нет.
Для многих инвесторов «ИИ» стал не столько технической категорией, сколько историей:
Питч-деки опираются на ключевые слова, а не на реальные возможности. Продукты, целиком построенные поверх сторонних моделей, получают оценку так, будто владеют базовой технологией. FOMO подменяет анализ. Инерция подменяет комплексную проверку.
Это не значит, что ИИ как область переоценён. Это значит, что уверенность растёт быстрее понимания.
А пузыри возникают именно тогда, когда понимание не поспевает за убеждённостью.
Эта динамика усиливает центральную мысль эссе:
Догматические предсказания — «AGI вот-вот появится» или «ИИ никогда не будет мыслить» — рождаются из одной и той же когнитивной ошибки: мы принимаем сегодняшний момент за неизменную карту возможного.
Бум ИИ — не только технологическое явление. Он психологический. Он показывает, насколько сильно мы жаждем определённости, особенно там, где её нет.
Три утверждения описывают единственную позицию, на которой мы можем стоять уверенно:
Сегодняшние системы ИИ ещё не обладают интеллектом. У них нет заземлённого рассуждения, автономного намерения и подлинного понимания.
Мы не можем утверждать, что они никогда не станут разумными. История снова и снова наказывает за такие заявления.
Мы действуем в условиях радикальной неопределённости. И в таких условиях скромность — не колебание, а строгость мышления.
Вопрос о том, достигнет ли ИИ интеллекта, в конечном счёте менее срочен, чем вопрос о том, как мы формируем системы, уже пронизывающие общество. Мы встраиваем алгоритмы в принятие решений, коммуникацию, творчество, финансы и управление. Это требует:
прозрачных, поддающихся аудиту механизмов; проверяемого человеческого участия; защиты от манипуляций; человекоориентированных принципов проектирования; и ответственного управления.
ИИ больше не просто технологический проект. Это общественный, экономический и этический проект.
Да, сегодняшние языковые модели ещё не обладают интеллектом. Но утверждать, что они никогда его не обретут, — не аргумент. Это отказ столкнуться со сложностью.
«Никогда» — не анализ. «Никогда» — симптом страха: перед неопределённостью, неоднозначностью и необходимостью интеллектуальной скромности.
Зрелое отношение к ИИ требует ясности, ответственности и смелости признать то, чего мы пока не знаем.
В конце концов ИИ — не испытание для машин.
Это испытание нашей способности ясно мыслить о неизвестном.