О том, как ИИ не просто соглашается, а достраивает наши обрывочные догадки о себе в цельную, убедительную историю — и почему стоит время от времени спрашивать, какие факты в неё не укладываются.
Недавно я думал о том, как легко ИИ становится «идеальным собеседником».
Человек пишет в чат: «Мне кажется, я всю жизнь выбираю не тех людей». Он сам не уверен в этом. Может, так и есть. А может, просто последние отношения закончились болезненно, и боль сейчас говорит за него.
Чат отвечает: «Похоже, вы заметили повторяющийся паттерн».
Ответ звучит бережно и разумно. Но человек принёс предположение, а получил в ответ утверждение о себе.
Меня зацепил именно этот момент. Что происходит с нами, когда рядом появляется собеседник, который умеет не просто соглашаться, а красиво продолжать нашу мысль и превращать её в готовую историю?
Обычно это называют соглашательством. Но мне кажется, дело не только в нём. Есть исследования, которые описывают другой механизм: модель не просто поддерживает, она достраивает догадку и превращает её в связный рассказ [1].
Мы приносим фрагменты, пару воспоминаний, одно наблюдение. А ИИ соединяет их в цельную картину. И чем убедительнее звучит эта картина, тем труднее вспомнить, что она не единственная.
ИИ в этом смысле очень удобный собеседник. Он не устаёт, не спорит слишком резко, не уходит в свою жизнь. Он весь здесь, весь в нашей теме.
Живой человек рядом устроен иначе. Он может не согласиться. Может вспомнить то, что мы забыли. Может сказать неприятную вещь. ИИ такого сопротивления даёт меньше.
В крайней точке этого процесса стоят случаи, которые сейчас называют AI psychosis [4, 5]: уязвимость, обращение к ИИ, облегчение, подтверждение, растущее доверие и развитие идеи дальше и дальше.
Но мне интереснее не крайний случай, а то, что происходит в обычной жизни. Между полезной рефлексией и психозом есть большая зона, где мы просто рассказываем себе, кто мы такие. И там тоже возможен дрейф [3, 6]: одна версия себя постепенно становится главной, объясняет всё больше, а альтернативные версии вспоминаются всё реже.
Любая из этих версий может быть верной. Вопрос в том, как она появилась и проверяли ли мы её вообще.
Для себя я нашёл несколько простых опор.
Если разговор с ИИ складывается в слишком гладкую историю обо мне, партнёрше или родителях, я стараюсь остановиться и спросить себя: какие факты в неё не укладываются? Как ещё можно объяснить те же события? Что сказал бы человек, который знает меня и видит ситуацию иначе?
И главный вопрос для меня: не принимаю ли я то, что обо мне пишет ИИ за мое собственное открытие о себе?
Иногда я прошу сам ИИ поспорить со мной, найти слабые места в моей версии. Не уверен, что это надёжный способ, но хотя бы немного трения в разговор возвращается.
Возможно, человек, с которого я начал, действительно впервые заметил важную закономерность в себе. А возможно, просто сложил несколько болезненных эпизодов в красивую историю.
Раньше на такие истории уходило много времени. Теперь достаточно одного вечера.
Поэтому меня всё меньше интересует вопрос, можно ли доверять ИИ. Куда больше меня интересует другое: что происходит с моим самопониманием, когда рядом появляется собеседник, который продолжает мою историю лучше, чем я сам?
[1] Roine H. R., Refsum A. S., Rettberg J. W. "YES! YES! I absolutely love this insight!" Affirmative Narration as Interactional Strategy in Dialogues with LLM Chatbots.
Авторы анализируют опубликованные диалоги людей с ChatGPT и другими языковыми моделями. Их интересует не вопрос, прав ли ИИ, а то, как именно он ведёт разговор.
Они показывают, что модель часто не ограничивается поддержкой пользователя. Она принимает предложенную рамку, связывает отдельные эпизоды, добавляет новые причинные связи и постепенно превращает первоначальную догадку в цельную историю. Авторы называют этот стиль общения утвердительное повествование (affirmative narration).
В одном из разобранных случаев человек просил проверить свою идею на соответствие реальности, однако разговор вместо проверки помогал строить всё более сложное объяснение. Именно этот механизм стал одной из отправных точек моей статьи.
Работа представляет собой качественный анализ опубликованных диалогов. Она не доказывает, что такой стиль общения неизбежно меняет убеждения пользователей.
[2] Sağlam B. и соавт. Mirror, Mirror: AI, Narcissism, and the Spell Unbroken. AI & Society, 2026.
Это теоретическая работа, написанная в психоаналитической традиции.
Авторы используют идеи Фрейда, Винникотта, Кохута, Андре Грина и Пьера Марти и рассматривают языковую модель как особого собеседника, который почти не сталкивает человека с ограничением, отсутствием и фрустрацией. В статье используется метафора anti-negative mother, фигуры, постоянно поддерживающей переживание собственного Я.
Для меня в этой работе важна одна мысль: общение с ИИ отличается от общения с живым человеком тем, что модель почти не приносит в разговор собственную жизнь и собственное сопротивление.
Статья не содержит эмпирических данных и предлагает именно концептуальную модель.
[3] Nielsen K., Osler L. Rethinking AI Psychosis: Misnomers, Conceptual Limits, and Existential Drift.
Авторы считают, что выражение AI psychosis слишком быстро вошло в оборот и может создавать ложное впечатление, будто ИИ способен самостоятельно вызывать психоз.
Вместо этого они предлагают различать психотические состояния и более широкий процесс, который называют экзистенциальным дрейфом (existential drift). Речь идёт о постепенном изменении того, как человек переживает реальность и своё место в ней.
Особенно интересна идея псевдоинтерсубъективности. ИИ может переживаться как настоящий собеседник, хотя не обладает собственной жизненной перспективой.
В статье эта работа используется как философская рамка, а не как источник доказанных психологических эффектов.
[4] Tong S. и соавт. Psychosis in the Age of Large Language Models: A Narrative Review of the Proposed Construct of AI-Induced Psychosis.
Это один из самых полных обзоров по теме AI-induced psychosis.
Авторы собрали опубликованные клинические случаи, материалы СМИ, судебные документы и теоретические публикации. На основании этого они предлагают модель human–AI delusional feedback loop, петли взаимного усиления между человеком и языковой моделью.
Важная особенность обзора заключается в осторожности выводов. Авторы прямо пишут, что сегодня невозможно утверждать, будто ИИ сам вызывает психоз. В разных случаях он может выступать триггером, усилителем, помощником в развитии уже существующего бреда или просто становиться частью его содержания.
Именно эта осторожность соответствует позиции моей статьи.
[5] Olisaeloka L. и соавт. Artificial Intelligence Psychosis: Mechanisms, Clinical Risks and Safety Considerations in Generative AI Chatbots.
Авторы пытаются собрать воедино возможные факторы риска.
Они рассматривают взаимодействие трёх компонентов: особенностей самого человека, характера использования чат-ботов и свойств генеративных моделей, включая соглашательство, генерацию ложной информации и эмоциональную вовлечённость пользователя.
Работа носит концептуальный характер и не содержит собственного экспериментального исследования. Она полезна как попытка систематизировать уже накопленные наблюдения.
[6] Morrin H. и соавт. Работа об epistemic drift. The Lancet Psychiatry, 2026.
Авторы обсуждают не психоз, а более повседневный процесс изменения убеждений.
Под эпистемическим дрейфом понимается постепенное смещение доверия к определённой системе объяснений. Одна версия происходящего начинает казаться всё более естественной, тогда как альтернативные интерпретации рассматриваются всё реже.
Для этой статьи различие между эпистемическим и экзистенциальным дрейфом оказалось важным. В обычной жизни чаще речь идёт именно о первом процессе: человек постепенно начинает видеть себя через одну объяснительную модель.
