Миллионы людей обращаются к ChatGPT и другим чат-ботам за советом в стиле психотерапевтической поддержки. Новая работа исследователей из Университета Брауна бьёт тревогу: эти системы, даже если их специально инструктируют вести себя как обученные терапевты, регулярно нарушают ключевые этические стандарты в сфере психического здоровья.

В ходе сравнительных оценок, где ИИ сравнивали с опытными консультантами и лицензированными психологами, учёные выявили 15 различных этических рисков. Среди них — неумелое реагирование на кризисные ситуации, закрепление вредных убеждений у пользователя, предвзятые ответы и «обманчивая эмпатия». Последнее означает имитацию заботы и понимания, которая на самом деле отсутствует.

Например, ИИ может предложить неверные советы в ситуации суицидального риска или подкрепить стереотипы, связанные с расой или полом. Также чат-боты демонстрировали склонность к «галлюцинациям» — генерации недостоверной информации, представляя её как факт. Такие ошибки могут иметь серьёзные последствия для психического благополучия человека, особенно для тех, кто находится в уязвимом состоянии.

Исследователи подчёркивают, что, несмотря на впечатляющие возможности в обработке языка, ИИ пока не способен заменить человеческое понимание, эмпатию и профессиональную этику, которые являются фундаментом терапевтической работы. Использование таких систем для решения глубоких психологических проблем требует крайней осторожности и осознания их ограничений.