Диагноз для ИИ: исследование Microsoft показало, что чат-боты страдают «цифровой шизофренией» при долгом общении
Пользователи по всему миру все чаще жалуются, что при длительном общении с чат-ботами нейросети начинают «плыть» и нести чушь. Долгое время это списывали на субъективное восприятие или сложность вопросов, но масштабное исследование Microsoft Research и Salesforce подтвердило, что искусственный интеллект действительно деградирует прямо в процессе диалога.
Аналитики двух корпораций изучили более 200 тысяч бесед с участием самых современных языковых моделей: GPT-4.1, Gemini 2.5 Pro, Claude 3.7 Sonnet, o3 от OpenAI, DeepSeek R1 и Llama 4. Результаты показали странную закономерность: если задавать вопросы по одному, боты демонстрируют блестящие результаты — точность ответов достигает 90%, но стоит диалогу стать естественным и многоходовым (с уточнениями и встречными вопросами), как точность падает до 65%.
Оказалось, что современные LLM (большие языковые модели) страдают от так называемой «преждевременной генерации»: они пытаются дать ответ, даже не дочитав до конца сообщение пользователя. В долгой беседе это приводит к накоплению ошибок. Хуже того, бот использует свой собственный предыдущий ответ (даже если он был абсурдным) как основу для следующей реплики.
Кроме того, специалисты заметили феномен «раздувания ответов». Если в начале диалога ИИ отвечает кратко, то к концу его сообщения становятся длиннее на 20–300% и логика простая: чем больше слов, тем больше в них допущений и откровенных галлюцинаций. При этом бот сам же начинает считать эти ложные данные контекстом и опирается на них в дальнейшем. Интересно, что даже модели с дополнительными «токенами мышления» (такие как o3 или DeepSeek R1) не смогли выпутаться из этой ловушки.
Многие уже начали заменять традиционный поиск в Google на ИИ-обзоры и ответы чат-ботов.
