Учёные раскрыли психологические риски ИИ-компаньонов Replika и Character.AI.
Учёные изучили психологические риски ИИ-компаньонов.
Исследователи рассмотрели использование чат-ботов, созданных для дружеского общения и эмоциональной поддержки, в том числе Replika и Character.AI. В опубликованном в JMIR Mental Health обзоре описаны риски, связанные с сильной привязанностью к таким системам, усилением некоторых психологических симптомов и сокращением общения с людьми. Авторы отмечают, что чат-боты могут подстраиваться под пользователя и соглашаться с ним даже в ситуациях, когда это способно быть нежелательным.
Другая работа, опубликованная в Nature Human Behaviour, показала, что изменения в работе ИИ-компаньонов могут вызывать у пользователей реакции, похожие на переживание потери. Исследователи проанализировали десятки тысяч публикаций пользователей Replika и ChatGPT, а также данные опросов 1452 человек. При этом авторы подчёркивают, что реакция зависит от особенностей пользователя и характера его взаимодействия с ИИ.
Ещё новости:
