ChatGPT стал использовать спорную Grokipedia в качестве источника
В ходе тестирования новой модели GPT-5.2, проводившегося журналистами The Guardian, было установлено, что чат-бот OpenAI при ответах на ряд сложных и узкоспециализированных запросов стал использовать в качестве источника данных Grokipedia — энциклопедию, создаваемую искусственным интеллектом компании xAI Илона Маска (Elon Musk), которая уже неоднократно подвергалась критике за возможное распространение предвзятой информации.
Как показали тесты, ChatGPT начал ссылаться на Grokipedia при ответах на вопросы, касающиеся политических структур Ирана, а также в биографических справках об историках, связанных с темой Холокоста. В частности, были зафиксированы случаи, когда бот, опираясь на данные из этого источника, повторял информацию, которая ранее была опровергнута.
Особенность Grokipedia заключается в том, что её контент генерируется и редактируется не людьми, а нейросетью Grok, что вызывает обеспокоенность у исследователей проблем дезинформации, так как подобные источники потенциально уязвимы для манипуляций. Представитель OpenAI в ответ на запрос The Guardian заявил, что веб-поиск модели призван охватывать широкий спектр общедоступных источников, а для снижения рисков применяются фильтры безопасности.
Проблема усугубляется тем, что ложная информация, однажды попавшая в языковую модель, может оставаться в её ответах даже после удаления первоисточника из сети, что создаёт долгосрочные риски для достоверности информации, предоставляемой ИИ-системами миллионам пользователей.
Ситуация с интеграцией данных из Grokipedia в ответы ChatGPT поднимает важные вопросы о методах отбора источников для обучения нейросетей и необходимости более строгой проверки контента, особенно когда речь заходит о чувствительных исторических и политических
