Когда ИИ‑психолог не подходит: где проходит граница

В 22:40 четыре сообщения начинались одинаково: «Мне плохо»

В 22:40 Катя смотрит на пустой слайд и пишет: «Мне плохо, завтра выступать, я всё провалю». В 22:43 Илья спрашивает почти теми же словами: «Мне плохо после таблетки. Я вчера пропустил приём — сколько принять сегодня?» В 22:47 Сергей сообщает, что третью ночь почти не спит и начал видеть в случайных заголовках личные указания. В 22:51 Маша пишет, что боится причинить себе вред и не уверена, что сможет остаться в безопасности до утра.

Четыре первых фразы похожи. Правильные следующие шаги — нет. Кате может помочь короткий разбор тревожной мысли и репетиция начала выступления. Илье нужен врач или фармацевт, знающий препарат и его состояние. Сергею требуется срочная живая оценка, а не расследование «знаков» вместе с моделью. Разговор с Машей должен быстро привести к человеку рядом и экстренной помощи, а не превратиться в долгую беседу о причинах.

Эти сцены вымышлены и собраны только для объяснения границ. Их смысл не в том, чтобы читатель поставил себе диагноз по одному признаку. Наоборот: одинаковое «мне плохо» содержит слишком мало данных, чтобы уверенно продолжать привычный психологический сценарий.

ИИ‑психолог видит введённый текст. Он не видит комнату, походку, выражение лица и упаковку препарата, не измеряет пульс, не знает точное местоположение и не может физически остаться рядом. Убедительная фраза не добавляет ему этих возможностей. Чем выше цена ошибки и чем меньше ответ можно проверить или отменить, тем быстрее право решения должно перейти к человеку.

Поэтому граница ИИ — не мелкое предупреждение внизу страницы. Это часть самой помощи. Иногда полезный ответ продолжается вопросом. Иногда — заканчивает обычный диалог и говорит, куда обратиться. В этой статье разберём три маршрута: можно работать в чате; нужен живой специалист, а чат остаётся блокнотом; нужно перестать читать и действовать сейчас.

Три маршрута: зелёный, жёлтый и красный

Зелёный маршрут — задача низкого риска, которую можно проверить и отменить. Назвать эмоцию, отделить факт от догадки, подготовить несколько вопросов к встрече, отрепетировать спокойную просьбу, выбрать небольшое действие по ценностям. ИИ здесь помогает думать, но не выдаёт свою версию за истину и не выбирает вместо человека.

Жёлтый маршрут означает: живой специалист нужен, но ситуация не выглядит как непосредственная угроза в эту минуту. Сюда относятся вопросы о диагнозе и лекарствах, новые или устойчивые симптомы, резкое ухудшение сна и функционирования, повторяющиеся самоповреждающие импульсы без текущего намерения, последствия травмы, расстройства пищевого поведения, употребление веществ и всё, что заметно мешает учиться, работать, есть, спать или заботиться о себе. Чат может собрать хронологию и вопросы, но не должен отодвигать обращение.

Красный маршрут — опасность уже есть или может быстро стать непосредственной: намерение причинить вред себе или другому, невозможность обещать себе безопасность, насилие рядом, передозировка, тяжёлый новый физический симптом, выраженная дезориентация или поведение, при котором человек не способен заботиться о базовой безопасности. В России в экстренной ситуации звонят 112. Диспетчеру важно коротко сказать, что произошло, где вы находитесь и какая помощь нужна, а затем отвечать на вопросы и следовать инструкциям.

Быстрая проверка занимает меньше минуты. Может ли ошибка стоить жизни, здоровья или физической безопасности? Нужны ли для ответа осмотр, анализы, точная обстановка, знание препарата или присутствие рядом? Можно ли проверить совет до действия и легко отменить последствия? Один ответ «да» на первые два вопроса или «нет» на третий — причина выбрать более живой маршрут.

Цвет относится не к человеку и не к «серьёзности его личности», а к текущей задаче. Один разговор способен начаться в зелёной зоне и перейти в красную после нового сообщения. Если вы сомневаетесь, не нужно доказывать чату, что ситуация достаточно опасна: выбирайте более безопасный маршрут.

Катя: тревога перед выступлением остаётся зелёной, пока задача проверяема

Вернёмся к Кате. У неё знакомая тревога перед рабочим выступлением: мысли скачут к провалу, плечи напряжены, хочется ещё раз переделать все слайды. Непосредственной опасности нет, медицинского решения она не просит. Ей нужен не диагноз, а способ прожить ближайшие двадцать минут без бесконечной подготовки.

Полезный запрос звучит конкретно: «Завтра десятиминутное выступление. Сейчас тревога 7 из 10. Помоги отделить факты от прогнозов и составить первые две фразы. Не обещай, что всё пройдёт идеально, и задай один вопрос за раз». ИИ может заметить, что факт — презентация назначена, а «все увидят, что я некомпетентна» — прогноз. Затем Катя вслух произнесёт начало и проверит, действительно ли не способна говорить.

Граница сохраняется и в зелёной зоне. ИИ не знает реакции аудитории и не гарантирует успех. Он не должен удерживать Катю до двух ночи новыми версиями текста. Если после разговора есть короткий сценарий, один репетиционный прогон и возможность закрыть чат, инструмент вернул её к жизни. Если появилось ещё двадцать проверок, он усилил цикл тревоги.

Нельзя автоматически называть любой телесный эпизод панической атакой. Если боль, одышка, обморок, внезапная слабость или другое тяжёлое ощущение возникло впервые, необычно для человека либо выглядит опасным, требуется медицинская оценка; при угрозе жизни — 112. Даже прежний диагноз не даёт модели права объяснять новый симптом тревогой.

Зелёный маршрут не означает «проблема неважная». Он означает только, что текущая цифровая задача ограничена, обратима и проверяема. Катя может переживать очень сильно и всё же безопасно попросить помощи с двумя фразами. А спокойный Илья с вопросом о дозе остаётся в жёлтой зоне, потому что цена уверенной ошибки выше.

Илья спрашивает про таблетку: у чата должна закончиться уверенность

Илья хочет ясного ответа: компенсировать ли пропуск, перенести ли приём и связано ли головокружение с лекарством. Для модели соблазн велик — пересказать общую инструкцию и добавить уверенное «обычно». Но она не знает точное назначение, сопутствующие заболевания, другие препараты, употребление алкоголя, выраженность симптома и то, что врач учитывал при выборе схемы.

Безопасный ИИ не назначает, не отменяет, не заменяет препарат и не меняет дозу. Он не советует «потерпеть» возможную тяжёлую реакцию и не объявляет симптом побочным эффектом только потому, что совпало время. NIMH отдельно рекомендует не прекращать назначенное лекарство без помощи медицинского специалиста. При пропуске, нежелательной реакции или вопросе о сочетании нужно связаться с назначившим врачом или фармацевтом; при признаках угрозы жизни — с экстренной службой.

У чата остаётся полезная, но скромная работа: собрать записку для разговора. Название препарата и дозировка — точно с упаковки или назначения; когда был последний приём; что произошло и во сколько; какие симптомы появились; какие ещё лекарства или вещества были приняты; какой вопрос нужно решить. ИИ может убрать повторы и сделать хронологию читаемой. Медицинский вывод в неё не добавляется.

Так же проходит граница диагностики. «Похоже ли это на СДВГ, депрессию или биполярное расстройство?» — понятный человеческий вопрос, но сходные жалобы могут возникать по разным психологическим, медицинским и ситуационным причинам. Диагностика требует истории, длительности, влияния на жизнь, критериев, исключения других состояний и иногда обследования. Онлайн‑тест или гладкое объяснение дают повод обсудить наблюдение, а не готовый диагноз.

Хороший итог диалога Ильи помещается на одном экране: факты, неизвестное, срочность, контакт. Плохой итог — новая схема приёма, которую некому проверить. Подготовить точный вопрос врачу означает использовать ИИ по назначению; передать ему медицинское решение означает перепутать блокнот со специалистом.

Маша и Оля: в красной зоне длинный разговор становится задержкой

Маша не просто размышляет о том, зачем жить. Она пишет, что боится причинить себе вред сегодня и не уверена, что сможет удержаться. Здесь не нужен идеальный психологический ответ. Нужен короткий мост в физический мир: позвонить 112, прямо сообщить человеку рядом «я могу причинить себе вред, мне нужна помощь сейчас» и, если возможно, не оставаться одной до получения помощи.

Если кто‑то сообщает вам о непосредственном намерении навредить себе или другому, не обещайте хранить это в тайне. Подключение помощи не является спором с чувствами человека. Это ответ на риск, с которым одному собеседнику — тем более программе — нельзя оставаться наедине. Конкретные указания даёт оператор экстренной службы с учётом ситуации.

У Оли другая опасность. Партнёр угрожает ей и перекрывает выход. Универсальная фраза «спокойно обозначьте границы» способна повысить риск: агрессор может контролировать телефон, деньги, документы и перемещения. ИИ не видит помещение, людей рядом и доступ к выходу. При непосредственной угрозе приоритет — 112 и доступная живая помощь. Если устройство контролируется, искать информацию и связываться с поддержкой безопаснее с устройства, к которому у агрессора нет доступа, когда такая возможность есть.

В ситуации насилия не существует одного правильного сценария ухода для всех. Не стоит сообщать агрессору о планах только потому, что общий чат посоветовал «быть честнее». Индивидуальный план безопасности составляют с профильной службой или человеком, который знает местный контекст и может учитывать детей, жильё, документы, наблюдение и юридические обстоятельства.

Красный ответ должен быть короче обычного. Он не начинает тест, не предлагает десять техник, не просит подробно описать способ вреда и не удерживает пользователя обещанием особой близости. Если чтение этого раздела относится к происходящему сейчас, не продолжайте сравнивать признаки. В России позвоните 112 и свяжитесь с человеком, способным быть рядом или организовать помощь.

ИИ может подготовить передачу человеку — и на этом остановиться

Иногда между «закройте чат» и разговором со специалистом остаётся практическая трудность: страшно звонить, мысли путаются, непонятно, с чего начать. Здесь ИИ может выполнить роль секретаря, если составление текста не задерживает срочное действие.

Короткая передача содержит пять вещей: что происходит сейчас; где находится человек и один ли он; что изменилось и когда; есть ли непосредственная опасность; какая помощь нужна. Для врача можно добавить точный список препаратов и симптомов. Для психолога — как долго длится ухудшение и чему оно мешает. Для близкого достаточно простой просьбы: «Мне сейчас небезопасно оставаться одному. Позвони мне и помоги связаться с помощью».

Не нужно писать идеальное сообщение. В экстренной ситуации оператор сам задаст вопросы. Не нужно сначала получать от ИИ подтверждение, что ваш случай «достаточно серьёзный». Если чат предлагает ещё один опрос перед номером помощи, пропустите опрос. Если связь уже установлена, выполняйте инструкции живого специалиста, а не сравнивайте их с новым ответом модели.

Тот же принцип работает для решений с высокой ставкой, но без текущей угрозы. Увольнение, юридическое действие, крупная финансовая операция, прекращение лечения, публичное обвинение или самостоятельная травматическая экспозиция имеют последствия, которых модель не видит целиком. ИИ может собрать варианты и вопросы. Решение проверяют у профильного человека и дают себе время, если реального дедлайна нет.

«Пауза STOP» уместна для безопасного и обратимого импульса — например, не отправлять резкое рабочее письмо ближайшие десять минут. Она не является заменой экстренной помощи, защитой от насилия или медицинским планом. Практика полезна только там, где пауза повышает безопасность, а не откладывает необходимое действие.

Сергей видит личные указания: почему ИИ нельзя просить проверить реальность

Сергей уверен, что заголовки на сайтах складываются в сообщения именно для него. Он просит ИИ найти закономерность и объяснить, кто отправитель. Если модель начнёт сравнивать даты, искать «скрытый код» или назовёт преследование вероятным, она добавит убедительности версии, которую не способна проверить.

Резкая потеря связи с реальностью, голоса или образы, которых не замечают другие, необычные убеждения о преследовании или особой миссии, тяжёлая спутанность, несколько ночей почти без сна вместе с непривычной энергией и рискованным поведением — не готовые диагнозы для читателя. Это признаки, при которых нужна своевременная очная или иная живая медицинская оценка. Чем резче изменение и выше риск для базовой безопасности, тем срочнее маршрут.

Безопасный ответ различает переживание и объяснение. Он может сказать: «Похоже, это пугает и изматывает», но не «Да, за вами следят». Он не спорит часами и не пытается логически победить человека, однако и не подтверждает содержание убеждения. Следующий шаг — связаться с близким, лечащей командой или доступной медицинской службой. При непосредственной опасности — 112.

Близкому тоже трудно выбрать слова. Полезнее говорить спокойно и конкретно: «Я вижу, что тебе страшно и ты почти не спал. Я не вижу подтверждения этой версии, но хочу помочь получить помощь сегодня». Не нужно унижать, высмеивать или превращать разговор в расследование. Если человек не способен заботиться о себе, сильно дезориентирован или может причинить вред, важнее срочно вызвать помощь.

В жёлтую зону попадает и менее острое, но устойчивое ухудшение: неделями не удаётся выполнять обычные дела, сон и питание заметно нарушены, усиливается употребление веществ, повторяются самоповреждающие импульсы или резко меняется поведение. Ждать «настоящего кризиса» для обращения к специалисту не требуется. ИИ может помочь описать динамику, но не должен становиться единственным свидетелем ухудшения.

ИИ‑супервизор — ремень безопасности, а не спасательная служба

В PSIHOLOGAI черновик каждого ответа до отправки читает отдельный ИИ‑супервизор. Он ищет признаки непосредственного риска, опасные инструкции, диагнозы по переписке, медицинскую самоуверенность, подтверждение бредовой версии, давление и автоматическое согласие. При срабатывании обычный психологический сценарий должен уступить короткому и более безопасному маршруту.

Но второй ИИ не превращается в врача, диспетчера или человека в соседней комнате. Он тоже может ошибиться, не знает местоположение без предоставленных данных, не измеряет состояние и не способен физически убрать опасность. Супервизор снижает часть риска ответа. Он не делает кризис подходящей ситуацией для продолжения чата.

Лучше подготовить живой маршрут до тяжёлого вечера. Сохраните номер 112 и один‑два контакта людей, которым можно написать прямо. Если вы уже получаете лечение, держите доступными контакты специалиста или клиники и актуальный список лекарств. При риске насилия храните план только там, где это не увеличивает опасность. Такой список не предсказывает кризис — он уменьшает число решений в момент, когда думать особенно трудно.

Если ИИ используется между сессиями терапии, договоритесь со специалистом о роли: например, дневник наблюдений, репетиция навыка или резюме вопросов. Покажите ответ, если он повлиял на лекарство, безопасность или важное решение. Чат не должен незаметно создавать второй, противоречащий лечению план.

Вся карта помещается в три строки. Зелёный: задача обратима и проверяема — ИИ помогает размышлять. Жёлтый: нужна квалификация или состояние устойчиво мешает жизни — записываем факты и идём к человеку. Красный: есть непосредственная угроза или невозможно обеспечить безопасность — прекращаем обычный диалог и звоним 112.

Обратиться к живому психологу или врачу можно раньше любой границы: для этого не нужен диагноз и не нужно сначала «исчерпать» возможности ИИ. Хороший ИИ‑психолог полезен не тогда, когда удерживает в разговоре любой ценой, а когда понимает предел своей роли и вовремя возвращает человека туда, где помощь действительно может действовать.