Код, которого нет: хакеры прячут логику атак в ответах ИИ, чтобы обойти антивирусы
Злоумышленники перешли от кустарных экспериментов с нейросетями к промышленному использованию ИИ в реальных атаках. Специалисты Google Threat Intelligence Group зафиксировали новое явление: вредоносное ПО теперь умеет напрямую обращаться к ИИ прямо во время заражения системы, чтобы получить свежий код или инструкции.
Речь идет не просто о генерации фишинговых писем с помощью нейросетей. Аналитики обнаружили, что некоторые семейства угроз совершают прямые API-вызовы к ИИ-помощнику Gemini. Вирусные атаки не содержит в своем теле жестко прописанный модуль для кражи данных или обхода защиты, поэтому они отправляет запрос в духе «сгенерируй код на C#, который вытащит пароли из браузера», и исполняет полученный ответ на лету. Для антивирусных движков это головная боль нового уровня. Обнаружить такой «пульсирующий» код, который каждый раз выглядит по-новому и существует только в оперативной памяти, традиционными сигнатурными методами почти невозможно.
Помимо динамической генерации кода, Google фиксирует массовые попытки «клонирования» своих моделей. Хакеры атакуют ИИ с помощью техники дистилляции: они отправляют Gemini тысячи структурированных запросов, чтобы понять внутреннюю логику и шаблоны ответов. Собрав достаточно данных, злоумышленники могут обучить свою собственную модель, которая будет вести себя как разработка Google, но без гигантских затрат на вычислительные мощности и исследования. В компании заявили, что пресекли несколько таких кампаний, направленных на кражу «ноу-хау» у Gemini.
Особое беспокойство вызывает интерес к агентному ИИ. Эксперты предупреждают, что киберпреступники присматриваются к системам, способным выполнять многоступенчатые задачи без участия человека. Теоретически это позволит создать угрозу, которая
