Осторожнее с советами от нейросети: Мужчина заработал себе редкую и опасную болезнь после консультации с ChatGPT
Совсем недавно в научном журнале Annals of Internal Medicine был опубликован крайне необычный, но очень показательный случай о наивном использовании возможностей нейросетей. 60-летний мужчина, пытаясь вести здоровый образ жизни, получил тяжелое отравление и редкое заболевание, последовав казалось бы простой рекомендации чат-бота ChatGPT.
Мужчина решил полностью отказаться от поваренной соли (хлорида натрия) в своем рационе. Не найдя в интернете информации о полной замене соли, он обратился за советом к ChatGPT. Нейросеть предложила ему заменить хлорид натрия на бромид натрия. Технически, такое вещество существует, однако оно используется для чистки бассейнов или как ветеринарный препарат для лечения эпилепсии у собак, и крайне токсично для человека при регулярном употреблении.
В течение трех месяцев мужчина следовал «совету» нейросети. В результате он был госпитализирован с целым букетом тяжелых симптомов: усталость, бессонница, плохая координация, сильная сыпь и, что самое страшное, паранойя и галлюцинации. Он был уверен, что его пытается отравить сосед, и даже предпринял попытку побега из больницы, из-за чего его пришлось принудительно госпитализировать в психиатрическое отделение.
Только после этого врачи обнаружили в его крови критически высокий уровень бромида и диагностировали бромизм — крайне редкое в наши дни заболевание, которое было распространено более ста лет назад из-за популярных тогда лекарств с содержанием брома.
Авторы исследования отмечают, что при повторном запросе к ChatGPT версии 3.5 нейросеть действительно предложила подобную замену, но не предоставила никаких предупреждений о вреде для здоровья, как это сделал бы любой медицинский работник. Этот случай служит суровым напоминанием о том, что доверять
