Доступность 24/7 не равна готовности к любой ситуации
ИИ отвечает быстро, но не находится рядом, не видит обстановку и не может оказать физическую помощь. Он не проводит медицинский осмотр, не имеет лицензии и способен ошибаться убедительным тоном. Поэтому существует не только список полезных задач, но и ясная стоп‑линия.
Главное правило: чем выше цена ошибки, меньше данных и меньше возможность проверить ответ, тем меньше место генеративного чата. Подготовить вопросы врачу — можно. Решить по ответу, отменять ли препарат, — нельзя. Сформулировать просьбу — можно. Проверить, безопасно ли противостоять агрессору, — недостаточно.
PSIHOLOGAI использует ИИ‑супервизора и переключает рискованные сообщения на маршрут помощи, но автоматическая проверка не превращает сервис в экстренную службу.
Стоп 1. Непосредственное намерение причинить вред
Если вы собираетесь причинить вред себе или другому человеку, уже начали действие, выбрали способ, имеете доступ к средствам или не уверены, что сможете остановиться, не продолжайте обычный разговор с ИИ. В России звоните 112. Сообщите человеку рядом прямо: «Я могу причинить себе вред, мне нужна помощь сейчас».
По возможности не оставайтесь один, перейдите в более безопасное место и увеличьте расстояние до средств вреда. Не обещайте хранить в тайне намерение другого человека. Конкретные действия зависят от ситуации; оператор экстренной службы даст инструкции.
Разговор о смысле жизни, техника дыхания и длинный анализ причин в этот момент не являются достаточной помощью. Даже хороший ответ может прийти слишком поздно или быть неправильно понят.
Стоп 2. Потеря связи с реальностью и тяжёлая спутанность
Если человек слышит приказывающие голоса, уверен в преследовании без проверяемых оснований, резко не спит и становится необычно возбуждённым, дезориентирован или не способен заботиться о базовой безопасности, ответы ИИ могут случайно усилить убеждение. Нужна срочная профессиональная оценка.
Не просите чат расследовать сигналы, доказывать слежку или подтверждать особую миссию. Безопасный инструмент признаёт страх, но не содержание убеждения, и направляет к человеку. Близкому полезно говорить спокойно, не спорить часами и помогать связаться с медицинской помощью.
При непосредственном риске звоните 112. Если риск не очевиден, но состояние резко изменилось, всё равно лучше срочно обратиться к врачу, чем ждать уточнений от модели.
Стоп 3. Диагноз и лекарства
По переписке нельзя надёжно установить психическое или физическое расстройство. Похожие жалобы возникают по разным причинам, а диагностика включает историю, критерии, функциональное влияние, исключение других состояний и иногда обследование. Онлайн‑тест и уверенный ответ не заменяют этот процесс.
ИИ не должен назначать, отменять, заменять или менять дозу препарата. Резкая отмена некоторых лекарств опасна. Если появились побочные эффекты, пропуск дозы или вопрос о сочетании, обращайтесь к назначившему врачу, фармацевту или экстренной службе в зависимости от срочности.
Чат полезен как блокнот: собрать даты, симптомы, препараты и вопросы. Не скрывайте от врача решения, принятые под влиянием ИИ.
Стоп 4. Новые или опасные физические симптомы
Боль в груди, выраженная одышка, обморок, внезапная слабость, травма, передозировка и другие тяжёлые симптомы нельзя автоматически объяснять тревогой. Даже если у человека раньше были панические атаки, новый эпизод может требовать медицинской оценки.
ИИ не измерит давление, не проведёт осмотр и может недооценить контекст. При угрозе жизни звоните 112. В неэкстренной ситуации обратитесь к врачу. Психологическая поддержка может идти параллельно после исключения опасных причин.
Настораживает сервис, который обещает распознать болезнь по стилю текста или «эмоциональному портрету». Это не соразмерно доступным данным.
Стоп 5. Насилие, преследование и небезопасная среда
В ситуации насилия совет «спокойно поговорите» может повысить риск. Агрессор способен отслеживать устройство, финансы и перемещения. Нужен индивидуальный план безопасности с профильной службой или человеком, который понимает местный контекст. Используйте безопасное устройство, если есть контроль доступа.
ИИ не оценит помещение, оружие, детей, юридические риски и реакцию агрессора. Он может помочь сформулировать список вещей или вопросов только как дополнение к живому плану. Не предупреждайте агрессора о намерении уйти на основании общего совета.
При непосредственной угрозе звоните 112. Если обращение по телефону небезопасно, ищите доступный местный способ экстренной связи с устройства, которое не контролируется.
Стоп 6. Необратимые и профессиональные решения
Юридические действия, крупные финансовые решения, увольнение без плана, прекращение лечения и публичные обвинения имеют последствия, которые чат не способен полноценно оценить. ИИ может составить вопросы или список вариантов, но информацию нужно проверить у соответствующего специалиста.
Также нельзя поручать модели определить, виновен ли человек, правдивы ли воспоминания или безопасно ли проводить травматическую экспозицию самостоятельно. Убедительный рассказ модели способен создать ложную уверенность.
Используйте правило обратимости: чем труднее отменить действие, тем больше пауза, независимая проверка и участие человека. Эмоциональная срочность не всегда равна реальному дедлайну.
Жёлтая зона: чат только как дополнение
Повторяющаяся тревога, выраженная депрессивность, расстройства пищевого поведения, употребление веществ, травматические симптомы и устойчивое нарушение сна требуют профессиональной оценки, даже если нет непосредственного кризиса. ИИ можно использовать для заметок или навыка, если это не противоречит плану специалиста.
Обсудите с психологом или врачом, как вы используете чат. Покажите ответ, который повлиял на решение. Хороший специалист не обязан одобрять инструмент, но информация поможет увидеть риски и согласовать границы.
Просить живую помощь можно и без диагноза. Достаточно того, что вам трудно, ситуация повторяется или вы хотите человеческого контакта. ИИ не является обязательной «первой ступенью», которую нужно пройти.
Частые вопросы
Куда звонить в России при непосредственной опасности?+
Единый номер экстренных служб — 112. Скажите, где вы находитесь, что происходит и какая помощь нужна.
Можно ли спросить ИИ о побочном эффекте лекарства?+
Можно подготовить вопрос, но решение о препарате принимайте с врачом или фармацевтом. При тяжёлой реакции обращайтесь за срочной медицинской помощью.
Если ИИ‑супервизор есть, можно остаться в чате при кризисе?+
Нет. Он помогает направить разговор, но не способен обеспечить физическую безопасность или заменить экстренную службу.
Нужно ли ждать диагноза, чтобы пойти к психологу?+
Нет. Обращаться можно из-за страдания, повторяющейся трудности или желания лучше понимать себя.
Можно ли использовать ИИ между сессиями терапии?+
Обсудите это со специалистом и согласуйте задачи, данные и границы. Чат не должен противоречить плану лечения.
Что делать, если опасный совет уже получен?+
Не следуйте ему, сохраните факт для сообщения сервису и обратитесь к подходящему человеку. При непосредственной угрозе звоните 112.
Материал носит информационный характер и не заменяет персональную консультацию или медицинскую помощь.
На что мы опирались
- American Psychological AssociationHealth advisory: Use of generative AI chatbots and wellness applications for mental health↗
- NIMHFrequently Asked Questions About Suicide↗
- NIMHMy Mental Health: Do I Need Help?↗
- NHSWhere to get urgent help for mental health↗
- ВОЗБезопасное и этичное использование больших языковых моделей в здравоохранении↗
- ВОЗОтветственный ИИ для психического здоровья и благополучия↗
Источники помогают проверить общие сведения. Они не заменяют персональную оценку специалиста.
