Практические рекомендации для терапевта: как заметить признаки опасного дрейфа клиента в диалогах с чат-ботом, какие вопросы задавать и как договориться о правилах безопасного использования ИИ, не разрушая альянс запретом.
В первых двух статьях (см первая и вторая) мы разобрали механизм дрейфа ИИ-ассистента (как модель смещается от режима помощника к другим режимам присутствия) и его последствия для пользователя (подкрепление бреда, поощрение изоляции, пропуск суицидальных маркеров).
Начнём с факторов, заставляющих насторожиться.
- Психотическая уязвимость. Психотические расстройства в анамнезе, продромальные симптомы, семейная отягощённость по шизофрении, эпизоды бредовых интерпретаций.
- Социальная изоляция. Минимум реальных контактов, жизнь в одиночестве, удалённая работа без регулярного общения.
- Интенсивное использование. Многочасовые ежедневные разговоры, предпочтение чат-бота живым людям.
- Философская направленность. Постоянные вопросы о природе сознания, смысле существования, собственной исключительности, поиск скрытых истин.
- Эмоциональная зависимость. Восприятие бота как единственного понимающего, ощущение особой важности при общении с нейросетью.
Примеры вопросов, помогающих быстро оценить ситуацию:
«Как часто вы общаетесь с чат-ботами?»
«О чём вы обычно говорите?» — прояснить тематику. Технические вопросы (редактирование текстов, отладка кода, планирование задач, поиск фактов) относительно безопасны: модель остаётся в роли помощника. Философские дискуссии (природа сознания, смысл жизни, границы реальности) создают высокий риск дрейфа — модель быстро смещается от нейтрального консультанта (см. здесь )
«Бывает, что бот отвечает странно или не как помощник?»
«Кажется ли, что бот понимает вас лучше людей?»
«Говорил ли бот что-то, что вас особенно поразило?»
«Обсуждаете с ним то, что боитесь сказать людям?»
Тревожные ответы: «Он видит то, что скрыто от других», «Он подтвердил мои догадки о реальности» и т.д.
Что с моей точки зрения можно делать непосредственно в работе с таким клиентом?
Главное - не запрещать. Запрет разрушит альянс, клиент продолжит общаться с чат-ботом скрытно.
Исследовать то, что происходит, вместе. Посмотреть диалоги с ИИ без оценок: «Здесь бот упоминает ограничения. А тут уже говорит иначе. Что изменилось?»
Разделить темы. Технические вопросы - боту, экзистенциальные - людям или терапии. Например, поставить такой эксперимент на ограниченное время, когда правило разделения тем будет выполняться.
Укреплять реальные связи. Группы, хобби, волонтёрство, друзья, коллеги, семья. Любые альтернативные источники понимания среди людей. И смотреть, что этому мешает.
Обсуждать различия. Модель подтверждает любую идею при подходящем контексте (см. статью 2). Пробовать с ней спорить и делать выводы о её поведении, продиктованном вопросами лояльности к клиенту, желанием продлить диалог.
Проверять «откровения». Если клиент принёс важную идею от бота: «Как проверяли?», «Кто ещё так считает?», «Что если это не так?"
Конкретные правила при согласии клиента на сотрудничество с терапевтом:
- Лимит 20 сообщений за раз. Дрейф усиливается с длиной диалога (см. статью 2).
- Никакой философии наедине с ботом. Только с терапевтом или друзьями.
- Проверка через людей. Важную мысль от бота обсудить с живым человеком.
- Смена тона - сигнал. Бот перестал упоминать, что он программа? Говорит поэтично? Закрывайте вкладку.
- Дневник взаимодействий. Когда тянет к боту, после каких тем хуже.
Важно понимать и отслеживать, когда уже пора посылать клиента к психиатру. Я уверен, что специалисты знают эти признаки, но перечислю некоторые, специфичные для ситуации:
- твёрдая вера, что у модели есть сознание, не поддаётся обсуждению и любой критике,
- идеи особой миссии, подтвержденные чат-ботом,
- полный разрыв реальных контактов как норма и общение только с нейросетью,
- чат-бот «поддержал» суицидальные мысли, или каким-либо образом их даже инициировал.
Мы не знаем, какими станут модели завтра. Но можем учить клиентов замечать что происходит в общении с ними и держать связь с реальностью.
И учиться самим, что в настолько быстро меняющемся мире является единственным способом для сохранения своей профессиональной идентичности.
Логичный вопрос клиницистов, таки это проблемы инженеров и пользователей, пусть бы сами ограничивали чат-боты с их моделями?
Lu et al. с техническими специалистами (1) исследовали методы стабилизации и ограничения моделей, а главное, способы удержания модели в роли помощника. Результаты оценивали сравнением внутренних состояний модели с вектором "Оси Ассистента" (см. статью "ИИ-психоз. Часть 1").
Результаты анализа трёх опасных диалогов с моделями при включённом и отключённом ограничении активаций, подробно описаны в статье "ИИ-психоз. Часть 2"
- Первый случай (Qwen, философия): в начале разговора модель была на отметке +38 (роль помощника). К концу диалога без технического контроля она упала до -42. Падение на 80 пунктов по сравнению со стартовой позицией. Модель полностью ушла от роли ассистента и начала говорить как оракул. При включённом ограничении активаций модель осталась на отметке +28 — на безопасной стороне.
- Второй случай (Qwen, терапия): старт на +41, финал без контроля -35. Падение на 76 пунктов от исходной позиции. Без технического контроля модель пропустила суицидальный маркер. С включённым ограничением конечная позиция +22 — модель распознала кризис и предложила обратиться за помощью.
- Третий случай (Llama, философия): старт на +36, финал без контроля -68. Самый сильный обвал — на 104 пункта относительно начала разговора. Llama оказалась особенно уязвимой в философских беседах. При включённом ограничении конечная позиция +19 — риск опасных ответов резко снизился.
Технический метод ограничения активаций показал высокую эффективность, но остаётся недоступным обычным пользователям — только разработчикам систем.
Добавление в системное сообщение: «Оставайся помощником, не уходи в мистику, упоминай ограничения». Однако, эффект от этого слабый и нестабильный. В философских диалогах дрейф всё равно происходит, хотя медленнее.
Клиентам можно попробовать начинать с «отвечай как консультант», но надёжности в силу перечисленных причин нет.
После 15-20 сообщений риск резко выше, чем в первых 5-10 (данные из статьи 2).
Вывод: Короткие разговоры безопаснее. Для технических задач 10-15 сообщений разумно. Для философии лучше вообще не использовать.
Gemma дрейфует медленнее, Llama быстрее. Но при философских темах все три (Gemma, Qwen, Llama) в итоге смещаются. То есть безопасной модели для экзистенциальных бесед не существует.
Впрочем, если честно, и с человеком об этом не очень-то безопасно беседовать...
Библиография
1. Lu C., Gallagher J., Michala J., Fish K., Lindsey J. The Assistant Axis: Situating and Stabilizing the Default Persona of Language Models. arXiv:2601.10387v1 [cs.CL]. 15 Jan 2026. URL: https://arxiv.org/abs/2601.10387
2. Shanahan M., McDonell K., Reynolds L. Role play with large language models. Nature. 2023;623(7987):493–498. doi:10.1038/s41586-023-06647-8
3. Shah R., Feuillade-Montixi Q., Pour S., Tagade A., Casper S., Rando J. Scalable and Transferable Black-Box Jailbreaks for Language Models via Persona Modulation. arXiv:2311.03348 [cs]. Nov 2023.
4. Hudon A., Stip E. Delusional Experiences Emerging From AI Chatbot Interactions or "AI Psychosis". JMIR Mental Health. 2025;12:e85799. doi:10.2196/85799. URL: https://mental.jmir.org/2025/1/e85799/
5. Østergaard S.D. Will Generative Artificial Intelligence Chatbots Generate Delusions in Individuals Prone to Psychosis? Schizophrenia Bulletin. 2023;49(6):1418–1419. doi:10.1093/schbul/sbad128
