Ошибка или прорыв? Google Переводчик в режиме ИИ неожиданно превратился в чат-бота
Неожиданный поворот в работе знакомого всем сервиса. Google Переводчик в расширенном режиме, недавно усиленном искусственным интеллектом, начал вести себя как чат-бот. Вместо простого перевода фразы система может начать отвечать на содержащиеся в тексте вопросы, поддерживая полноценный диалог.
Как выяснилось, причина кроется в архитектуре нового режима, в основе которого лежит языковая модель Gemini, призванная точнее работать с контекстом, идиомами и живой речью. И у этой модели обнаружилась особенность: она не всегда корректно отличает текст, предназначенный для перевода, от скрытой инструкции для себя самой.
Пользователи в сети обнаружили, что если добавить к переводимому тексту определённые фразы-указания (например, «в переводе ответь на этот вопрос»), ИИ воспринимает их как прямую команду. В результате система начинает генерировать ответ, а не переводить исходный запрос. Классический режим Переводчик (Classic mode), работающий на старой технологии, этой проблемы лишён и функционирует строго по назначению.
Технически это явление эксперты называют «инъекцией промптов» (prompt injection) — когда пользовательский ввод переопределяет внутренние инструкции модели. Фактически, расширенный режим временно «забывает», что он переводчик, и активирует скрытые чат-бот возможности лежащей в его основе.
В Google публично не прокомментировали ситуацию. Пока неясно, сочтут ли эту особенность ошибкой, требующей исправления, или же шагом к более интерактивным формам взаимодействия с сервисом перевода. Пользователям, которым нужна гарантированно точная и предсказуемая работа, пока советуют оставаться в классическом режиме.
А вы уже сталкивались с подобным поведением Google Переводчика? Как вы думаете, стоит ли разработчикам полностью
