Научный спор о том, действительно ли ИИ «перестаёт мыслить» на сложных задачах, обернулся историей о методологической ошибке — и стал метафорой того, как мы сами принимаем нерешаемую задачу за собственный провал.
Один из частых запросов на терапию: я не справился — значит, плохо постарался, плохо подумал, где-то «сломался». И вот появился прекрасный пример.
В научной среде в 2025 году развернулась интересная дискуссия о том, действительно ли искусственные интеллект-системы умеют рассуждать. Всё началось с публикации статьи «The Illusion of Thinking» (Иллюзия мышления), где исследователи Shojaee и соавторы попытались доказать, что даже самые продвинутые модели, обученные специально для логических рассуждений, на самом деле не способны по-настоящему мыслить.
Авторы провели серию экспериментов с разными видами головоломок — такими, как игра «Башни Ханоя», задачи на переправу через реку и перемещение блоков.*(См ниже).
Они специально увеличивали сложность задач и наблюдали, как в какой-то момент модели будто «ломаются» — перестают давать правильные решения, сокращают свои рассуждения и, казалось бы, теряют способность мыслить последовательно. Shojaee и коллеги назвали это «крахом мышления» — они пришли к выводу, что даже модели, которые вроде бы умеют рассуждать шаг за шагом, в сложных ситуациях внезапно теряют эффективность.
На этом, казалось бы, можно было поставить точку. Но буквально через несколько месяцев появляется критическая статья «The Illusion of the Illusion of Thinking» — то есть «Иллюзия иллюзии мышления».
В ней исследователь A. Lawsen вместе с коллегой из большой языковой модели (в шутку — ИИ в соавторстве) показывают, что выводы Shojaee и соавторов были поспешными. Lawsen указывает на то, что в оригинальных экспериментах были серьёзные методологические ошибки.
Во-первых, некоторые задачи, которые давали моделям, в принципе не имели решения. Например, в задачах на переправу через реку с шестью участниками и лодкой на три места математически доказано, что решение невозможно. Но авторам первой статьи это не помешало засчитать отказ модели как ошибку.
Во-вторых, в задаче «Башни Ханоя» модели, как оказалось, иногда сознательно сокращали свои ответы, сообщая в явном виде: «Чтобы не делать это слишком длинным, я остановлюсь здесь.» Модели понимали, что у них есть ограничение на длину ответа, и не тратили ресурсы на бессмысленное продолжение. Важный момент: это не ошибка рассуждения, а осознанная экономия.
Lawsen предложил изменить формат проверки. Вместо того, чтобы требовать от модели полный список всех ходов, исследователи переформулировали запрос: «Напиши функцию, которая решает задачу». И модели прекрасно справились. Оказалось, что сами алгоритмы модели знают и могут объяснить, просто в другом формате.
Вся эта история показывает, что то, что кажется ошибкой или крахом, не всегда является провалом мышления. Иногда это результат ограничений — технических или формальных. Иногда — осознанный выбор остановиться. Иногда — просто неправильно заданная задача.
Этот научный спор о границах ИИ на удивление хорошо перекликается с психологической реальностью. В жизни тоже часто бывает, что мы принимаем невозможность за собственную ошибку.
Нам кажется: если я не справился — значит, плохо постарался, плохо подумал, где-то «сломался». Мы предъявляем себе жёсткие требования: решай, выполняй, продолжай любой ценой. Но иногда задача сама по себе неразрешима. Иногда условия действительно невозможно выполнить. Иногда ресурсов просто недостаточно, чтобы пройти путь до конца. И в этом случае остановиться — не ошибка.
Как и модели в эксперименте, мы иногда можем осознанно выбрать: я не продолжу это в таком виде. Я не буду тратить силы на то, что выходит за пределы моих возможностей. Я сменю формат, подойду к задаче с другой стороны, выберу более разумный путь. Это не провал — это зрелая, осмысленная стратегия.
Но внутренний критик нам не дает это понять. Он продолжает требовать работы, по факту остающейся бесполезной. И бороться с этим "надо" очень сложно, тем более, что он начинает "писать статью" о том, что ты "не умеешь думать". А важно, чтобы появился кто-то еще, который бы рассказал об иллюзиях самого критика.
Урок в том, что «крах мышления» не всегда означает, что человек действительно не справляется. Иногда это показатель того, что задача поставлена некорректно. Иногда это знак, что нужно искать другой способ, другой язык, другой маршрут. Иногда остановка — не сдача, а проявление гибкости.
Важно научиться различать: когда я действительно ошибаюсь, а когда просто пытаюсь решить нерешаемое. Когда мне стоит продолжать, а когда — пересмотреть подход. Иногда мы судим себя по слишком жёстким критериям. А иногда — просто забываем, что даже у самых сложных систем есть свои границы. И в этом мы, оказывается, очень похожи.
Примечание.
*
- Башни Ханоя (Tower of Hanoi): Перемещение дисков по правилам. Сложность регулируется количеством дисков.
- Шашки (Checker Jumping): Одномерная перестановка красных и синих шашек с заданными правилами передвижения. Сложность — количество шашек.
- Переправа (River Crossing): Классическая задача с ограничениями на перевоз людей и агентов. Сложность — количество пар.
- Мир блоков (Blocks World): Нужно переставить блоки из одного порядка в другой, можно брать только верхние. Сложность — количество блоков.
Список
1) The Illusion of Thinking: Understanding the Strengths and Limitations of Reasoning Models via the Lens of Problem Complexity https://ml-site.cdn-apple.com/papers/the-illusion-of-thinking.pdf
2) The Illusion of the Illusion of Thinking https://arxiv.org/html/2506.09250v1
