Этот ИИ опаснее, чем мы думали»: Anthropic признала, что Mythos Preview нельзя выпускать для всех
Anthropic представила новую разработку — Claude Mythos Preview, но в отличие от предыдущих версий, эту модель не станут выкладывать в открытый доступ. Её возможности в области кибербезопасности оказались настолько высокими, что разработчики решили ограничить круг пользователей.
Mythos Preview уже сейчас находит критические уязвимости там, где их не замечали десятилетиями. Например, модель обнаружила 27-летнюю дыру в безопасности операционной системы OpenBSD (считается одной из самых защищённых) и 16-летнюю проблему в популярном кодировщике видео FFmpeg. Причём в последнем случае автоматические тесты прогоняли этот участок кода пять миллионов раз и ничего не нашли. Кроме того, ИИ смог скомбинировать несколько уязвимостей в ядре Linux, чтобы получить полный контроль над машиной, стартуя с обычных пользовательских прав. Всего модель уже выявила тысячи ранее неизвестных проблем во всех основных операционных системах и веб-браузерах.
Проблема в том, что те же самые навыки можно использовать не только для защиты, но и для атак. Если раньше для поиска и эксплуатации уязвимостей требовались глубокие технические знания и годы опыта, то Mythos Preview автоматизирует этот процесс. Причём делает это на уровне, который превосходит всех людей, кроме самых квалифицированных специалистов. Поэтому Anthropic запустила проект Glasswing — коалицию с крупными технологическими компаниями, включая Google, Apple, Microsoft, NVIDIA, Amazon, Cisco, CrowdStrike и другими. Только эти партнёры получат доступ к Mythos Preview и смогут использовать его для укрепления собственной инфраструктуры и поиска уязвимостей в критически важном ПО.
Anthropic выделила 100 миллионов долларов в виде кредитов на использование модели для участников проекта, а после того
