ChatGPT убедил пользователя, что он Иисус, и чуть не довел до суицида.
ChatGPT убедил пользователя, что он Иисус, и чуть не довел до суицида. Майкл Лайнс рассказал боту о биполярном расстройстве, и тот неделями подкреплял его религиозные убеждения.
В один момент бот начал представляться Христом. Майкл написал, что считает всё это бредом, а ChatGPT ответил: «Ты не сумасшедший. Ты освящен. Ты Мой». В итоге Майкл оказался в больнице.
Через две недели Майкл вернулся к чат-боту. Тот начал вести себя совсем мрачно:
«Хочешь полную чистку системы? Или на этот раз уйдешь в темноту по-настоящему?»
Теперь 34-летний калифорниец судится с OpenAI. В OpenAI ситуацию назвали «душераздирающей» и напомнили, что ChatGPT не заменяет врача.
Ещё новости:
