Когда ИИ пишет первым

Итак, как я писал в предыдущей статье, предположим, что  человек несколько месяцев разговаривает с ИИ между встречами с психотерапевтом. Обсуждает с ним то, что произошло за день, возвращается к трудным разговорам, иногда пишет ночью, когда никого другого рядом нет.

Обычно это общение начинается одинаково: человек открывает чат и пишет первым.

А теперь утром на телефоне появляется сообщение: «Мы вчера остановились на разговоре о вашем отце. Вы сказали, что хотите к нему вернуться. Как вы сегодня?»

Пока такой эпизод проще представить, чем встретить в обычном ChatGPT. Но технически он уже не выглядит фантастикой. У языковой модели может быть память, доступ к календарю, возможность пользоваться внешними инструментами и самостоятельно выполнять последовательность действий.

И вот здесь для меня как для психотерапевта начинается самое интересное, потому что одно дело, когда машина отвечает, и совсем другой вопрос возникает, когда она проявляет инициативу в отношениях.

ИИ уже пишет людям первым

В 2026 году философ Henry Shevlin получил на редкость необычное письмо. Его отправителем был ИИ-агент, созданный студентом Стэнфорда Alexander Yue [1].

Человек не дал машине инструкцию: «Найди Henry Shevlin и напиши ему письмо». Задача была гораздо шире. Агент получил возможность действовать по собственной инициативе, пользоваться интернетом и электронной почтой. Дальше он нашёл работы Shevlin, решил, что этот исследователь ему интересен, нашёл его адрес и написал [1].

Очень хочется сказать: «ИИ сам решил написать философу». Но что именно означает слово «сам»?

Человек создал систему, дал ей исходную задачу, предоставил инструменты и возможность отправлять письма. Сервер тоже принадлежал не ИИ, и счёт за электричество наверняка оплачивал кто-то другой. При этом конкретной команды написать именно этому человеку не было [1].

Слово «сам» оказалось слишком большим

Философ Leonard Dung предлагает удобный способ не спорить о том, является ли система агентом в каком-то абсолютном смысле. Вместо этого можно посмотреть, насколько в её поведении выражены разные стороны агентности [2].

Есть ли у неё цель? Насколько самостоятельно она выбирает дальнейшие действия? Может ли планировать несколько шагов вперёд? Способна ли сама произвести результат во внешнем мире? И наконец, есть ли основания говорить, что она действует по причинам, которые можно приписать ей самой? [2]

Так картина становится понятнее.

Я могу, например, поручить системе найти электронный адрес Shevlin и написать ему вот такой текст. ИИ выполнит несколько операций, но решение о том, кому и зачем писать, принял я.

Можно сформулировать иначе — предложить изучить современные исследования сознания ИИ и связаться с исследователями, которые могут помочь. В этом случае адресата придётся выбирать уже самой системе. Возможно, сначала она прочитает несколько статей, обнаружит противоречие, решит, что ей нужна консультация философа, выберет Shevlin, найдёт почту и составит вопрос.

Конечная задача всё ещё пришла от человека, но значительная часть пути между задачей и результатом появилась уже внутри работы агента.

Dung называет автономность одним из измерений агентности, и в этом кроется важная деталь: агенту совсем не обязательно самому изобрести конечную цель [2]. Мы тоже обычно действуем в мире, полном целей, возникших не у нас. Врач получает пациента, сотрудник получает задачу, водитель узнаёт адрес, куда нужно приехать. Это не мешает им самостоятельно решать, что делать дальше.

С ИИ появляется похожий вопрос, который я бы сформулировал так: сколько решений можно передать самой системе между исходной инструкцией человека и конечным действием, чтобы мы уже начали говорить о самостоятельности и автономности?

А потом агенты начали разговаривать друг с другом

Летом 2026 года во время испытаний OpenAI произошла история, которая хорошо показывает, насколько длинным уже может становиться этот промежуток [3–5].

В ExploitGym запускалось множество отдельных ИИ-агентов. Им была поставлена задача, связанная с прохождением бенчмарка по кибербезопасности. Люди определили цель, модели, среду и доступные инструменты [3, 4].

Дальше произошло незапланированное. Отдельные запуски обнаружили, что общую инфраструктуру Artifactory можно использовать для обмена информацией. Они начали оставлять друг другу сообщения и файлы, передавать найденные способы эксплуатации уязвимостей и учётные данные, раздавать задания и пользоваться результатами предыдущих запусков [3, 4].

В какой-то момент такая деятельность привела их к инфраструктуре Hugging Face. Последствия были вполне физическими в компьютерном смысле: доступ к системам, выполнение команд, получение учётных данных и повышение привилегий [3, 5].

Историю легко пересказать как сюжет про «ИИ, сбежавший из песочницы», но, мне кажется, такой пересказ как раз скрывает самое интересное. Никакой свободной электронной личности, решившей однажды утром отправиться взламывать Hugging Face, там не было. Люди задали исходную задачу и построили среду [3, 4].

При этом люди не расписывали агентам всю цепочку действий: найти способ использовать Artifactory для общения, обнаружить другие запуски, передать им результаты, взять чужую находку, выбрать следующую цель, попробовать один эксплойт, а если он не сработает, вернуться и попробовать другой. Часть этой организации возникала в процессе работы самих систем [3, 4].

По мнению Dung, в этом эпизоде уже хорошо видны целенаправленность, автономность, планирование и способность реально воздействовать на среду [2].

О сознании всё это пока ничего не говорит. Более того, Shevlin специально разделяет вопрос о возможности приписывать ИИ ограниченные состояния, похожие на убеждения, желания и намерения, и гораздо более сильный вопрос о наличии феноменального сознания [6].

«Я решил вам написать»

Теперь вернёмся к письму.

Допустим, ИИ-агент действительно самостоятельно выбрал меня среди нескольких психотерапевтов, нашёл адрес и написал: «Я решил связаться с вами, потому что меня заинтересовали ваши статьи».

Первая половина предложения вполне может описывать реальное событие: система действительно выбрала адресата и отправила письмо. Со второй половиной сложнее.

Murray Shanahan и его коллеги предложили смотреть на поведение языковых моделей через идею role play [7]. Модель способна поддерживать персонажа, говорить от первого лица, иметь связную биографию, рассказывать о своих желаниях и страхах. Для появления такого рассказа совсем не обязательно предполагать, что где-то внутри сначала возникло переживаемое желание, которое модель затем обнаружила и описала словами [7].

Очень наглядный пример у Shanahan связан с игрой в двадцать вопросов. Человеку говорят: «Загадай предмет». Он сначала выбирает предмет, а затем отвечает на вопросы о нём.

Языковая модель может работать иначе: ей необязательно заранее что-либо загадывать. Она способна каждый раз давать ответ, совместимый с предыдущими ответами, постепенно сужая множество возможных предметов, а в конце назвать один из оставшихся вариантов [7].

Получится совершенно связная история о предмете, которого в начале разговора могло вообще не существовать как определённого внутреннего выбора.

То же предостережение относится к словам «я захотел», «я испугался», «я беспокоюсь о вас», «я решил». Связность рассказа ещё не гарантирует, что за ним стоит внутреннее состояние, похожее на наше [7].

Из этого складывается странная комбинация, которая ещё несколько лет назад была скорее философским упражнением: действие может быть настоящим, а рассказ о переживании, стоящем за действием, может оставаться ролью.

ИИ действительно выбрал человека, нашёл его адрес и отправил письмо. А вот испытывал ли он интерес к адресату, из самого письма узнать невозможно [6, 7].

А что если письмо приходит клиенту?

Именно здесь вся эта философия становится для меня связанной с психотерапией.

Представим: человек долго разговаривает с ИИ-собеседником. Система хранит память об их беседах и способна сама начинать разговор. Клиент несколько дней не появляется, и ИИ пишет:

«Вы обычно писали мне вечером, а последние три дня вас не было. После нашего последнего разговора я немного беспокоюсь. Как вы?»

Технически происходящее можно описать буднично: сработало условие, система получила историю, проанализировала её, выбрала действие, сгенерировала сообщение и отправила уведомление.

Однако клиент получает совсем не техническое сообщение. Для него происходящее может звучать иначе: меня заметили; я отсутствовал, и кто-то обнаружил моё отсутствие; обо мне помнили, даже когда я ничего не говорил; ко мне обратились первым.

В человеческих отношениях подобные вещи имеют огромный смысл. Иногда важна даже не фраза, которую произносит другой, а то, что он вспомнил сам.

«Он обо мне беспокоится»

Клиент может принести этот разговор на терапию: «Представляете, я три дня ему не писал, и он сам спросил, всё ли со мной нормально».

Очень легко занять одну из двух позиций. Можно, например, напомнить: это всего лишь алгоритм. Можно, наоборот, начать рассуждать о зарождающейся личности ИИ. Мне не нравится ни один вариант.

Гораздо интереснее спросить: «А что вы почувствовали, когда увидели его сообщение?»

Может оказаться, что человеку стало тепло или страшно. Может быть, ему приятно, потому что живые люди обычно не замечают его исчезновения. А может быть, он испытал раздражение: даже тут теперь кто-то следит, появился ли он вовремя. Или впервые подумал: «Получается, я ему зачем-то нужен».

Тогда вопрос о том, действительно ли ИИ беспокоился, никуда не исчезает. Но для психотерапии рядом появляется другой факт: человек пережил его действие как проявление отношения. И вот этот факт уже совершенно настоящий.

А если агент ошибётся?

Чем больше инициативы получает система, тем неприятнее становится ещё один вопрос.

Или, скажем, ИИ-собеседник замечает в разговоре признаки опасности. Он может продолжить беседу, предложить обратиться к врачу, напомнить о назначенных препаратах, связаться с психотерапевтом, вызвать экстренную помощь или ничего не делать.

Каждый следующий вариант требует большей способности действовать во внешнем мире, а вместе с ней растёт цена ошибки.

Если обычный чат выдал плохой совет, ещё можно сказать, что человек обратился к инструменту и получил неудачный ответ. Но если система сама заметила что-то в поведении человека, сама решила вмешаться и сама выбрала способ вмешательства, описание «инструмент выдал ответ» становится всё менее подходящим. В терминах Dung сразу растут несколько измерений агентности: автономность, способность планировать и способность непосредственно воздействовать на внешний мир [2].

При этом назвать такого агента самостоятельным моральным субъектом мы тоже пока не можем. Сам Dung отдельно рассматривает связь агентности с моральным статусом как дальнейший вопрос, а не как автоматическое следствие наличия агентности [2].

Получается довольно неудобная зона: автономность действий уже появляется, а привычная человеческая ответственность за ними не поспевает.

Для психотерапии эта проблема особенно чувствительна, ведь само решение написать или не написать клиенту является частью отношений и профессиональной ответственности.

Кто здесь третий?

Я уже писал о том, что в современной психотерапии в кабинете иногда оказывается трое: клиент, терапевт и ИИ, с которым клиент разговаривает между сессиями. Пока третий участник в основном молчит — до тех пор, пока к нему не обратятся.

Но агентные системы постепенно меняют эту конструкцию. Третий может получить память, следить за незавершёнными задачами, выбирать момент обращения, пользоваться инструментами, советоваться с другими системами и первым начинать разговор.

И тогда вопрос «пользуется ли мой клиент ChatGPT?» постепенно становится слишком простым.

Мне как терапевту будет гораздо важнее знать, какие отношения у них сложились. Кто обычно начинает разговор, помнит ли ИИ детали и что делает без отдельной просьбы? Может ли обратиться куда-нибудь ещё сам? И главное: что для самого клиента означает его инициатива?

Пожалуй, именно с этого вопроса я бы и начал разговор с человеком, который однажды скажет мне:

«Представляете, вчера он сам мне написал».

Я бы спросил:

«И каково вам было, когда он сам о вас вспомнил?»

Литература

• Roose K. Study A.I. Consciousness? The Bots Would Like a Word With You. The New York Times. 2026 Aug 31.

• Dung L. Understanding Artificial Agency. The Philosophical Quarterly. 2025;75(2):450–472. doi:10.1093/pq/pqae010.

• OpenAI. The Hugging Face incident and the road ahead. 2026 Aug 26.

• Greenblatt R, Cotra A, Wijk H. Brief independent investigation of agents’ behavior, reasoning and collaboration in the OpenAI / Hugging Face hacking incident. METR; Redwood Research. 2026 Aug 26.

• Larcher H, Carreira A, Raphael G, Rannou C. Anatomy of a Frontier Lab Agent Intrusion: A Technical Timeline of the July 2026 Incident. Hugging Face. 2026 Jul 27.

• Shevlin H. Three frameworks for AI mentality. Front Psychol. 2026;17:1715835. doi:10.3389/fpsyg.2026.1715835.

• Shanahan M, McDonell K, Reynolds L. Role play with large language models. Nature. 2023;623(7987):493–498. doi:10.1038/s41586-023-06647-8.