Исследование Brown University показало, что большие языковые модели, используемые как консультанты и терапевтические чат-боты, регулярно нарушают этические стандарты психиатрической и психологической помощи, включая профессиональные нормы Американской психологической ассоциации.
Авторы работы пришли к выводу, что психотерапию нельзя рассматривать как формализуемую вычислительную задачу, поскольку она требует строгого соблюдения этических норм и профессионального поведения, с чем языковые модели в реальной практике часто не справляются. Исследователи предупреждают о рисках использования ИИ-терапевтов и призывают к разработке правовых норм и регулирования, чтобы снизить возможный вред для клиентов.
Исследование длилось 18 месяцев. В оценке поведения ИИ-консультантов участвовали семь обученных равных консультантов и три лицензированных клинических психолога. Были проанализированы различные модели, включая GPT-4, GPT-3.5 и GPT-3.0 от OpenAI, Llama 3.2 и 3.1 от Meta, а также Claude 3 Haiku и Claude 3 Sonnet от Anthropic.
На основе данных из 137 сессий исследователи разработали классификацию из пяти категорий и 15 типов этических нарушений. Основные проблемные области включали недостаток контекстуального понимания, слабое терапевтическое взаимодействие, обманчивую эмпатию, несправедливую дискриминацию, а также недостатки в обеспечении безопасности и реагировании на кризисные ситуации.
По данным авторов, языковые модели склонны обобщать индивидуальный опыт пользователей, в том числе преуменьшать значение идентичности отдельных групп, доминировать в терапевтическом взаимодействии, демонстрировать вводящую в заблуждение эмпатию и несправедливо относиться к людям с недоминантной идентичностью. Также были отмечены серьезные ограничения в работе с чувствительными темами, включая травму, насилие и суицидальные мысли.
Авторы подчеркивают, что даже модели, специально настроенные на использование методов с доказательной базой, допускали множественные нарушения профессиональных норм. По их оценке, сведение психотерапии — значимого и основанного на отношениях процесса — к задаче генерации текста может иметь серьезные и вредные последствия на практике.
Актуальность таких выводов усиливается быстрым ростом рынка ИИ в сфере психического здоровья. Смартфонные терапевтические чат-боты становятся все более распространенными благодаря удобству и возможности получать поддержку в реальном времени. По оценке Grand View Research, объем этого рынка может вырасти с 1,71 млрд долларов в 2025 году до 9,12 млрд долларов к 2033 году, что соответствует среднегодовому росту на уровне 23%.
Одновременно растет и готовность пользователей обращаться к ИИ за психологической поддержкой. Согласно исследованию, опубликованному в феврале 2026 года в журнале AI & Society, 42% опрошенных в США, 41% в Великобритании, 56% в Италии, 61% в Южной Африке, 63% в Японии и 86% в Китае сообщили, что готовы использовать ИИ в качестве советника по вопросам психического здоровья.
На этом фоне исследователи считают особенно важным трезво оценивать реальные возможности и ограничения языковых моделей в психотерапии, прежде чем их использование станет еще шире.
