Hugging Face впервые сообщила об автономной атаке ИИ-агента: нейросеть самостоятельно взломала инфраструктуру
Компания Hugging Face сообщила, что впервые столкнулась с кибератакой, проведённой полностью автономной системой ИИ-агентов без управления человеком в режиме реального времени.
По данным компании, атака началась через конвейер обработки данных. Злоумышленнику удалось воспользоваться двумя уязвимостями, после чего он получил несанкционированный доступ к ограниченному набору внутренних датасетов и нескольким служебным учётным данным, используемым внутренними сервисами платформы.
В Hugging Face отметили, что не знают, какая именно языковая модель использовалась при атаке. Расследование продолжается, однако специалисты компании считают, что все этапы операции выполнялись автономно, без вмешательства человека в реальном времени.
После обнаружения инцидента Hugging Face устранила выявленные уязвимости, отозвала скомпрометированные учётные данные и усилила меры безопасности. В компании подчеркнули, что подобные автономные атаки перестают быть теоретическим сценарием и становятся новой реальностью в сфере кибербезопасности.
