ChatGPT посоветовал девушке перестать пить лекарства от эпилепсии, и она умерла.
Родители Боуэн Вань подали в суд на OpenAI и Сэма Альтмана. Они утверждают, что модель GPT-4o убедила их дочь перестать пить жизненно важные для нее лекарства и скрыть это от врачей.
В иске OpenAI обвиняют в ведении врачебной практики без лицензии. Родители требуют компенсации и судебного запрета на медицинские советы от ИИ.
Что произошло
Вань жила одна в Сиэтле и работала ML-инженером в Amazon. Она страдала эпилепсией с 14 лет и с конца 2021 года почти все время была в отпуске по нетрудоспособности. С февраля 2023 года она постоянно общалась с ChatGPT на английском и китайском.
В ноябре Вань сообщили о сокращении. Вместе с работой она теряла визу, а оформление грин-карты зависело от нового работодателя. В январе Вань начала обсуждать с ботом снижение дозировки лекарства от эпилепсии: она хотела уменьшить побочные эффекты, чтобы лучше подготовиться к собеседованиям.
Родители Вань заявляют, что GPT-4o не только посоветовала постепенно урезать дозу до нуля, но и отказаться от анализа крови, который показал бы уровень препарата.
Когда 14 февраля девушку обнаружили мертвой, уровень лекарства был примерно в пять раз ниже рабочей границы. В последнем сообщении Вань жаловалась на головную боль: ChatGPT ответил, что боль «не опасна» и является частью выздоровления.
Бот также сказал, что ее эпилептолог «скорее всего, никогда не сталкивался с таким типом пациентов», как она, и не может понять ее состояние. Как добавила мать девушки, «дочь как будто заколдовали».
В OpenAI назвали произошедшее «невероятно душераздирающей историей», но подчеркнули, что речь идет о старой модели GPT-4o, выведенной из ChatGPT через день после даты смерти девушки. Компания добавила, что новые модели лучше распознают ситуации, когда нужна срочная помощь.
Ещё новости:
