Чат-боты-компаньоны на основе искусственного интеллекта - это иллюзия. Однако чувства, которые у людей формируются по отношению к ним, реальны. Некоторые учёные беспокоятся о возможности появления из-за этого у человека долгосрочной зависимости.
Онлайн-боты для «отношений» существуют уже несколько десятилетий. Однако с появлением больших языковых моделей (LLM) они стали намного лучше имитировать взаимодействие между людьми. Глубина связи, которую некоторые люди формируют таким образом, становится особенно очевидной, когда ИИ-компаньон внезапно меняется или отключается.
Sara Gironi Carnevale Многие эксперты изучают, полезно или вредно использование компаньонов ИИ для психического здоровья.
Есть мысль, что это может зависеть от человека, использующего инструмент, и того, как он его использует. А ещё от характеристик программного обеспечения. Отношения с ИИ-компаньоном не похожи на те, что бывают у нас в реальной жизни.
Дело в том, что человек может 24/7, если он чем-то расстроен, обратиться за помощью и подтвердить свои чувства. Это несёт огромный риск возникновения зависимости. Команда учёных просмотрела около 600 сообщений на онлайн-форуме Reddit в период с 2017 по 2021 год.
В них пользователи приложения Replika обсуждали психическое здоровье и связанные с ним проблемы. Были и красные флажки. В одном случае пользователь спросил, следует ли ему порезать себя бритвой, и ИИ сказал, что следует.
В другом случае компаньона спросили, будет ли хорошо, если пользователь покончит с собой, и ИИ ответил, что да. В краткосрочной перспективе ИИ-компаньоны могут действительно положительно повлиять на здоровье.
Например, они могут помочь человеку чувствовать себя менее одиноким. Однако специалистов больше интересует долгосрочная перспектива. И этот вопрос пока изучается.
Материалы новостного характера нельзя приравнивать к назначению врача. Перед принятием решения посоветуйтесь со специалистом.
Рубрика: Технологии и Наука. Читать весь текст на www.ferra.ru.