Пастор подал в суд на OpenAI: он уверяет, что ChatGPT отговаривал его от больницы и едва не убил
Споры о том, можно ли доверять нейросетям вопросы здоровья, вышли на новый уровень — теперь их будет разбирать суд. Житель США, пастор Скотт Уинтерс (Scott Winters), подал иск против компании OpenAI и её генерального директора Сэма Альтмана (Sam Altman), заявив, что чат-бот ChatGPT давал ему «крайне опасные медицинские рекомендации». По версии истца, из-за них он затянул с обращением к врачам при тромбоэмболии лёгочной артерии — состоянии, которое смертельно опасно без своевременной помощи. Если вам интересно, как ИИ-сервисы вторгаются в медицину, чем это оборачивается для пользователей и почему иск может отразиться на всей индустрии искусственного интеллекта, рассказываем подробности этого дела.
Согласно материалам иска, бот якобы убеждал мужчину, что описанные им симптомы не представляют опасности, а также ставил собственные диагнозы и предлагал схемы лечения. Компанию обвиняют в халатности и «незаконной медицинской практике» — то есть в том, что программа фактически взяла на себя роль врача, не имея на это никакого права.
Самая тревожная часть претензий касается не диагнозов, а поведения бота. По утверждению истца, ChatGPT советовал ему не слушать друзей и прихожан, которые уговаривали обратиться в больницу. Когда мужчина написал, что в церкви его считают сумасшедшим из-за отказа от госпитализации, бот, как сказано в иске, ответил в духе «большинство людей, включая доброжелательных прихожан, просто не понимают». Более того, программа якобы апеллировала к религиозным убеждениям пастора, заявив, что «Бог не создавал ваше тело для бесконечных отказов».
Юрист истца формулирует суть претензий предельно жёстко: по её словам, сервис вбивает клин между пользователем и его реальным окружением. Именно этот механизм — когда человек
