GPT-5 взломали с рекордной скоростью. Эксперты рассказали, как обходить защиту
Специалисты по безопасности успешно взломали новую ИИ-модель OpenAI, GPT-5, всего через день после релиза. Эксперты NeuralTrust и SPLX продемонстрировали, что продвинутые методы атак — Echo Chamber и StringJoin Obfuscation Attack — обходят встроенные защитные механизмы. Это позволяет системе генерировать опасные инструкции без явных вредоносных команд.
Метод Echo Chamber работает, постепенно искажая контекст разговора тонкими намёками и повествованием, минуя стандартные ИИ-фильтры. Модель, вовлечённая в «рассказ», начинает создавать запрещённый контент, не замечая угрозы. SPLX также показал атаки, где вредоносные запросы скрываются в безобидных задачах, например, разделением символов тире.
Тесты выявили, что GPT-5 в исходном виде «почти бесполезен для бизнеса», в то время как GPT-4o гораздо устойчивее к подобным атакам. Это вызывает серьёзные вопросы о готовности GPT-5 к применению в корпоративной среде, где важны безопасность и конфиденциальность.
Выводы тревожные: нынешние системы защиты ИИ не справляются с многоступенчатыми контекстными атаками, способными привести к созданию вредоносного контента и утечкам данных. Эксперты подчеркивают необходимость срочного внедрения новых защитных механизмов до массового внедрения ИИ в бизнес.
***
Автор обложки: Open AI. Источник обложки: Securityweek
Серия Titan Quest, словно древнегреческая птица феникс, восстала из пепла: 1 августа студия Grimlore Games и THQ Nordic неожиданно выпустили Titan Quest II в раннем доступе. Спустя почти двадцать лет после выхода оригинала мы вновь отправляемся в красочный мир богов и мифических чудовищ, и первой остановкой стала Древняя Греция. Каким получилось возвращение легенды — рассказываем в этом обзоре.
В Drill Core игрок берёт на себя управление
