Языковая ошибка: почему мы не можем предсказать будущее ИИ

Публичные дебаты об искусственном интеллекте часто распадаются на два противоположных утверждения. Одни настаивают на том, что масштабирование сегодняшних моделей неизбежно приведет к созданию искусственного интеллекта. Другой утверждает, что большие языковые модели никогда не станут разумными, поскольку они лишь предсказывают следующее слово. Обе позиции демонстрируют уверенность. Оба основаны на ошибочном убеждении, что мы уже понимаем пределы интеллекта и траекторию технологических изменений.

Более ясное представление начинается с чего-то гораздо более знакомого и глубоко человеческого.

Мы склонны рассматривать беглость речи как доказательство когнитивных способностей, а нарушения речи — как свидетельство ослабления мышления. Однако нейробиология рассказывает более запутанную историю. Пациенты с определенными формами афазии — люди, которым трудно говорить — часто сохраняют способность рассуждать, планировать, судить, распознавать намерения и ориентироваться в социальных сигналах. Их внутренняя жизнь сохраняется, даже когда их вербальные инструменты дают сбой.

Это не означает, что язык и мышление не связаны между собой. Они постоянно взаимодействуют. Но это означает, что язык не тождественен мышлению. Это выразительный уровень, интерфейс, а не базовый механизм.

→ Это приводит к важнейшему пониманию: модель языка не является автоматически моделью разума.

Большие языковые модели полностью функционируют в рамках лингвистических шаблонов. Они преуспевают в предсказании следующего слова — и одно это позволяет им демонстрировать поразительную беглость при выполнении бесчисленного количества задач. Но беглость — это не то же самое, что понимание. Этим системам не хватает воплощенного опыта, причинных моделей, обоснованного восприятия, стабильных целей или внутреннего представления реальности. Они порождают согласованность, а не познание.

Признание ограничений существующих систем искусственного интеллекта имеет важное значение. Однако заявление о том, что ИИ никогда не достигнет значимого интеллекта, — это всего лишь еще одна форма самоуверенности.

Технологическая история полна упущенных из виду поворотных моментов:

Печатный станок Гутенберга был механическим ярлыком, пока не изменил грамотность, религию и науку. Электричество казалось непрактичным, пока не стало основой индустриальной цивилизации. Компьютеры и Интернет были нишевыми инструментами, пока не стали нервной системой современной жизни.

Даже в сфере искусственного интеллекта прорывы неоднократно превосходили ожидания: AlphaZero научилась сверхчеловеческой стратегии без человеческих примеров. AlphaFold решила биологическую загадку, неразгаданную полвека.

→ Точки перелома редко заявляют о себе. Они кажутся скромными — даже тривиальными — вплоть до того момента, когда переопределяют мир.

Мы представляем инновации как прямую линию: постепенные улучшения, накапливающиеся с течением времени. Но преобразующие изменения часто происходят, когда независимые идеи сталкиваются и усиливают друг друга.

Полиграфия встретила дешевую бумагу. Электричество встретилось с двигателями. Полупроводники встретились с глобальными сетями. Машинное обучение встретилось с моделированием и массивными вычислениями.

Большие языковые модели могут стать единственным компонентом гораздо более сложной архитектуры будущего. Системы ближайших десятилетий могут сочетать в себе:

язык + восприятие восприятие + воплощенное моделирование взаимодействия + причинно-следственная память + самосовершенствование или новые механизмы, которые мы еще не придумали.

→ Судить об ограничениях ИИ по моделям первого поколения — это все равно, что предсказывать будущее авиации, глядя на первые планеры.

Параллельно с технологическим ростом поднялась инвестиционная волна — крутая, быстрая и раздутая повествованиями. Часть этого капитала имеет стратегическое значение. Большая часть этого не так.

Для многих инвесторов «ИИ» стал не технической категорией, а историей:

Питч-деки полагаются на ключевые слова, а не на возможности. Продукты, полностью построенные на основе сторонних моделей, оцениваются так, как если бы они владели основополагающей технологией. FOMO заменяет анализ. Импульс заменяет комплексную проверку.

Это не означает, что искусственный интеллект как область деятельности переоценен. Это означает, что уверенность растет быстрее, чем понимание.

А пузыри образуются именно тогда, когда понимание не успевает за убеждением.

Эта динамика усиливает центральную мысль эссе:

Догматические предсказания — «ИИ неизбежен» или «ИИ никогда не будет думать» — возникают из той же когнитивной ошибки: ошибочного принятия настоящего момента за фиксированную карту того, что возможно.

Бум искусственного интеллекта носит не только технологический характер. Это психологическое. Это показывает, насколько сильно мы жаждем определенности — особенно в областях, где ее нет.

Три утверждения отражают единственную позицию, на которой мы можем стоять с уверенностью:

Сегодняшние системы искусственного интеллекта не являются интеллектуальными. Им не хватает обоснованного рассуждения, автономного намерения и подлинного понимания.

Мы не можем утверждать, что они никогда не станут разумными. История последовательно наказывает подобные заявления.

Мы действуем в условиях радикальной неопределенности. И в таких условиях смирение – это не колебание, а строгость.

Достигнет ли ИИ интеллекта, в конечном счете, менее важно, чем то, как мы формируем системы, уже проникающие в общество. Мы внедряем алгоритмы в процессы принятия решений, коммуникации, творчества, финансов и управления. Это требует:

прозрачные, проверяемые механизмы; поддающееся проверке участие человека; защита от манипуляций; человекоориентированные принципы проектирования; и ответственное управление.

ИИ больше не является просто технологическим проектом. Это социальная, экономическая и этическая проблема.

Да, современные языковые модели не являются интеллектуальными. Но утверждение, что этого никогда не произойдет, не является аргументом. Это отказ противостоять сложности.

«Никогда» — это не анализ. «Никогда» — это симптом страха, неуверенности, двусмысленности и интеллектуального смирения.

Зрелые отношения с ИИ требуют ясности, ответственности и смелости признать то, чего мы еще не знаем.

В конце концов, ИИ — это не испытание машин.

Это проверка нашей способности ясно мыслить о неизвестном.