Экономист Anthropic назвал "оптимальным" риск исчезновения человечества ради сверхразумного ИИ
Профессор экономики Стэнфордского университета Чэд Джонс, недавно присоединившийся к компании Anthropic, оказался в центре внимания после публикации материала Financial Times о его исследованиях, посвящённых экономике сверхразумного искусственного интеллекта.
В своей научной модели Джонс рассматривает сценарий, при котором развитие сверхразумного ИИ сопровождается примерно 33-процентной вероятностью исчезновения человечества, однако в оставшихся двух случаях уровень жизни людей может вырасти примерно в 55 раз. При использовании одной из классических экономических моделей полезности такой компромисс оказывается математически оптимальным, хотя сам расчёт не является рекомендацией к действию.
После появления публикации выводы исследователя вызвали бурную реакцию в сети. Многие пользователи заявили, что подобные расчёты выглядят абсурдно, поскольку ставят на одну чашу весов потенциальное технологическое процветание, а на другую — риск полного исчезновения человечества. В обсуждениях также напомнили, что теперь Джонс будет работать в Anthropic — компании, развивающей семейство моделей Claude.
В то же время часть экономистов и специалистов по ИИ выступила в защиту Джонса, подчеркнув, что его работа представляет собой теоретическое исследование последствий различных экономических моделей, а не призыв принимать подобный уровень риска как допустимый на практике.
