Разработчик систем защиты от ИИ-террора покинул Anthropic со словами «мир в опасности»
Глава исследовательского направления по безопасности ИИ в Anthropic Мринанк Шарма (Mrinank Sharma) опубликовал прощальное письмо коллегам и покинул компанию. Это уже третья публичная потеря в команде за последние полторы недели — ранее уход подтвердили инженер Харш Мехта (Harsh Mehta) и ведущий AI-ученый Бехнам Нейшабур (Behnam Neyshabur).
В прощальном письме коллегам он объяснил причину: он постоянно думает об угрозах, которые исходят от технологий, которые сам же и помогал создавать. Он не уточняет, о каких именно кризисах идет речь, но весь контекст письма указывает: он больше не верит, что индустрия способна контролировать риски, которые сама же генерирует.
Шарма признает: внутри компании, как и в обществе в целом, постоянно приходится отодвигать ценности в угоду «срочному» и «важному». И это касается не только бизнес-решений, но и личного выбора. На этом фоне сама Anthropic ведет переговоры об очередном раунде инвестиций, который может поднять оценку компании до $350 млрд, а на прошлой неделе выпустила Claude Opus 4.6 — модель с увеличенным контекстом и упором на офисные задачи.
В индустрии, где безопасность давно стала частью маркетингового пакета, люди, которые реально этим занимались, похоже, устают доказывать, что ценности должны управлять кодом. Сам Шарма в ближайшее время не планирует запускать стартап или переходить к конкурентам. Он хочет «заниматься работой, которая полностью соответствует его ценностям», и изучать поэзию.
Вы верите, что мы сможем удержать контроль над технологиями, которые усиливают возможности единиц — за счет безопасности миллионов? И так ли опасен ИИ на самом деле? Выскажитесь в комментариях.
