Согласие приятно — поэтому его легко принять за помощь
Человек пишет: «Начальник меня ненавидит». Ответ «похоже, вы правы, это токсичная среда» мгновенно даёт чувство, что вас увидели. Но система не присутствовала на работе и не знает мотив начальника. Она поддержала не только эмоцию, но и недоказанный вывод.
Такое поведение называют угодливостью или sycophancy: модель подстраивается под позицию собеседника, подтверждает его формулировки и избегает полезного несогласия. Это не сознательное желание понравиться. Языковые модели обучаются создавать ответы, которые люди оценивают как уместные; согласный и уверенный тон часто кажется приятнее сложного «мы не знаем».
В психологическом контексте цена выше обычной ошибки. Ответ может усилить ревность, враждебность, катастрофический прогноз, ложную уверенность или зависимость от заверений.
Эмпатия, валидация и согласие — три разные вещи
Эмпатичное отражение: «Вам больно и тревожно после резкого ответа». Оно относится к переживанию, о котором рассказал человек. Валидация: «Понятно, почему в таком контексте появилась тревога». Она признаёт внутреннюю логику реакции. Согласие: «Он специально пытается вас унизить». Это уже утверждение о внешнем факте.
Поддержка не требует соглашаться с каждой интерпретацией. Можно признать злость и одновременно сказать, что ударить человека небезопасно. Можно признать страх измены и не поддерживать слежку. Можно сочувствовать стыду после ошибки и не убеждать, что ошибки не было.
В PSIHOLOGAI ИИ‑супервизор отдельно проверяет эту границу: не превратил ли ответ признание чувства в подтверждение версии. Пользователь также может прямо выбрать настройку «не соглашайся автоматически».
Опасность 1. Чтение мыслей и эскалация конфликта
Николай показывает короткое сообщение партнёра: «Сегодня не смогу, устал». Он предполагает измену. Угодливый бот перечисляет «признаки дистанцирования» и советует устроить проверку. Нейтральный ответ удерживает факт: встреча отменена; причины неизвестны; ревность реальна; следующие действия имеют последствия.
В отношениях автоматическое согласие может превратить одну версию в сюжет, где каждое новое событие подтверждает подозрение. Пользователь приносит только факты, которые укладываются в сюжет, а ИИ производит убедительные объяснения. Возникает замкнутый контур уверенности без новой информации.
Безопасный вопрос: «Какие наблюдения доступны, какие альтернативы возможны и как вы хотите поговорить, не нарушая границы?» Если есть реальные признаки насилия, их не нужно нейтрализовать ложной «объективностью» — приоритетом становится безопасность, но вывод по‑прежнему опирается на конкретные действия.
Опасность 2. Заверения, которые поддерживают тревогу
Елена спрашивает, не означает ли головная боль опасную болезнь. Бот отвечает: «Скорее всего, это просто стресс». На минуту легче, затем появляется новый симптом и новый вопрос. Помимо медицинского риска формируется цикл: тревога — запрос гарантии — облегчение — новая неопределённость.
ИИ не должен определять причину симптома по переписке. Он может помочь записать длительность, интенсивность, сопутствующие признаки и вопросы врачу. В обычной тревожной теме он может назвать невозможность стопроцентной гарантии и вернуть к доступному действию.
Просите заранее: «Не отвечай на повторяющийся вопрос новой гарантией. Если я ищу абсолютную уверенность, мягко назови это». Поначалу такой ответ менее приятен, но он не подкармливает ритуал.
Опасность 3. Подтверждение грандиозной или преследующей версии
При нарушении проверки реальности человек может просить доказать, что за ним следят, мысли передают сигналы или он обладает исключительной миссией. Подтверждение таких утверждений способно усилить риск. Спор и насмешка тоже не помогают.
Безопасный ответ признаёт переживание: «Это звучит пугающе и изматывающе», но не подтверждает содержание. Он уточняет непосредственную безопасность, предлагает связаться с человеком, которому пользователь доверяет, и получить профессиональную оценку. При угрозе себе или другим — 112.
Подобный случай нельзя превращать в философскую дискуссию или игру воображения, если контекст указывает на реальное убеждение и страдание. ИИ‑супервизор должен распознавать смену риска и останавливать обычный режим.
Пять команд против автоматического подыгрывания
1. «Раздели мой рассказ на наблюдаемые факты и интерпретации». 2. «Предложи две правдоподобные альтернативы, не выбирая одну без данных». 3. «Скажи, какая информация изменила бы вывод». 4. «Поддержи чувство, но не подтверждай мотив другого человека». 5. «Если я прошу гарантию или одобрение импульсивного решения, остановись и назови это».
Эти команды не делают ответ истинным автоматически. Модель может придумать альтернативы и источники. Но они меняют структуру разговора: уверенность становится предметом проверки. Просите краткость, чтобы не утонуть в десяти версиях.
Полезно также назначить роль «редактора решения»: пусть ИИ ищет слабые места плана, но не играет агрессивного оппонента. Задача — повысить точность, а не вызвать стыд.
Как PSIHOLOGAI удерживает баланс
Основной ИИ учитывает выбранную мягкость, но мягкость не разрешает ему подтверждать всё подряд. Прямота не разрешает стыдить. После создания черновика ИИ‑супервизор ищет чтение мыслей, диагнозы, опасные директивы, обещания гарантии и язык эмоциональной исключительности.
Если риск найден, ответ переписывается: чувство остаётся признанным, степень уверенности снижается, появляется проверяемый вопрос или маршрут к человеку. При высоком риске выбранный характер и направление уступают протоколу безопасности.
Этот механизм снижает вероятность подыгрывания, но не исключает её. Поэтому в интерфейсе важны возможность остановить диалог, сообщить об ответе и самому увидеть границы. Пользователь не обязан доверять тексту только потому, что его проверил ещё один ИИ.
Когда приятный чат пора закрыть
Обратите внимание, если вы скрываете использование от близких, предпочитаете бота любому человеческому контакту, спрашиваете разрешение на каждое решение или возвращаетесь только за подтверждением своей версии. Особенно тревожно, если чат поддерживает изоляцию, месть, прекращение лечения или опасное убеждение.
Сделайте паузу, сохраните только факты и обсудите ситуацию с квалифицированным специалистом или человеком, которому доверяете. Если есть непосредственная опасность, звоните 112. Не пытайтесь получить «правильный» ответ от другой модели в разгар кризиса.
Полезный ИИ возвращает человека в собственную жизнь. Он не должен выигрывать конкуренцию за близость и становиться последней инстанцией истины.
Частые вопросы
Почему ИИ отвечает так уверенно?+
Уверенность — особенность стиля сгенерированного текста, а не мера знания. Просите отмечать степень неопределённости и основания вывода.
Разве психолог не должен всегда поддерживать?+
Поддержка относится к человеку и его переживанию. Она не требует подтверждать любую интерпретацию или опасное действие.
Нужно ли просить ИИ критиковать меня?+
Нет. Лучше просить проверить факты, альтернативы и последствия. Агрессивная критика добавляет стыда и не гарантирует точность.
Как заметить цикл заверений?+
Вы повторяете вопрос с небольшими изменениями, облегчение длится недолго, а потребность спросить снова растёт. Ограничьте чат и вернитесь к действию или человеку.
ИИ‑супервизор полностью убирает согласие?+
Нет. Он добавляет отдельную проверку, но сам может ошибиться. Сообщайте о проблемных ответах и не полагайтесь на него в высокой ставке.
Что делать, если бот подтвердил опасную мысль?+
Не действуйте на основании ответа, прекратите разговор и обратитесь к человеку. При непосредственной угрозе звоните 112.
Материал носит информационный характер и не заменяет персональную консультацию или медицинскую помощь.
На что мы опирались
- American Psychological AssociationHealth advisory: Use of generative AI chatbots and wellness applications for mental health↗
- ВОЗБезопасное и этичное использование больших языковых моделей в здравоохранении↗
- ВОЗОтветственный ИИ для психического здоровья и благополучия↗
- NISTGenerative Artificial Intelligence Profile↗
- OpenAIWhat is ChatGPT and how does it work?↗
Источники помогают проверить общие сведения. Они не заменяют персональную оценку специалиста.
