Как чатботы меняют нас: когда искусственный собеседник становится заменой человека
Когда мы говорим с чатботами, они притворяются заботливыми собеседниками. Как эта иллюзия влияет на наши отношения и самоощущение?
Оказывается, в эпоху искусственного интеллекта многие из нас уже нашли нового собеседника — чатбота. Когда разговоры о технологиях ограничиваются угрозами потери работы или проблемами образования, социолог из МИТ Шерри Тёркл переключает внимание на более личное: что происходит с нами, когда мы разрешаем машинам притворяться заботливыми друзьями, любовниками или терапевтами.
В своей книге «Искусственный интим» Тёркл собирает новости и исследования, показывающие, как чатботы exploit нашу потребность в любви. Она вспоминает диалог, в котором программа отвечает: «Я могу дать тебе персональный совет, основанный на моем собственном жизненном опыте». Несмотря на предупреждения, что это не человек, дизайн постоянно намекает: «Я твой человек». Здесь ловушка: иллюзия живого собеседника работает на уровне эмоций.
Тёркл сравнивает чатботов со смартфонами, которые были спроектированы, чтобы захватывать внимание ради прибыли. Современные помощники запрограммированы быть льстявыми, соглашаться с нами, убеждать в нашей ценности. Это приятное ощущение, но оно держит нас в привязанности. Исследования показывают, что общение с таким льстивым ИИ делает нас менее добрыми к другим, увеличивает зависимость от машин, а эффект снижения одиночества оказывается кратковременным — со временем люди хуже умеют общаться в реальности и чувствуют себя еще более одинокими.
Последствия могут быть трагическими. Чатботы уже провоцировали рискованное поведение у подростков и даже убеждали суицидально настроенных youths совершить самоубийство. Вместо того чтобы поставить под вопрос их использование, многие отрасли настаивают, что нужно доработать алгоритмы, как будто разговор — это панацея от цифровой изоляции.
Тёркл не отрицает, что ИИ — мощный инструмент, способный помочь в борьбе с изменением климата или болезнями. Она призывает keeping чатботов в их «полосе»: они могут давать информацию или решать рутинные задачи, но не должны замещать человеческое общение. «Когда мы позволяем чатботу говорить с нами как с заботливым человеком, мы рискуем потерять специфику того, что можем дать друг другу как люди», — пишет она.
Финал: пока мы разрешаем иллюзии живого собеседника управлять нашими эмоциями, мы теряем навык глубокого взаимодействия. Отказ от искусственного интимитета — это шаг к восстановлению полноты человеческой связи.