Discord заблокировал тысячи аккаунтов из-за скриншотов Minecraft, ошибочно принятых за запрещённый контент
Discord массово разблокировал тысячи аккаунтов после сбоя в системе модерации, из-за которого обычные изображения из Minecraft были ошибочно отмечены как материалы с детской эксплуатацией (CSAM).
По данным компании, проблема затронула более 8 тысяч пользователей. Многие из них были заблокированы после отправки скриншотов игровых инвентарей, таблиц, шахматных досок и других изображений с сеточной структурой.
Причиной стали ошибки в работе автоматической системы проверки контента. Из-за сходства изображений с известными запрещёнными материалами алгоритм начал помечать обычные картинки как потенциально опасные.
Ситуация получила огласку после того, как пользователи рассказали о массовых блокировках. Они утверждали, что система Discord ошибочно реагировала на любые изображения с квадратной сеткой — включая интерфейс инвентаря Minecraft.
В Discord признали проблему и заявили, что банить пользователей система не должна была. По словам компании, контент должен был временно блокироваться для проверки сотрудниками службы безопасности, однако из-за ошибки аккаунты получили полноценные ограничения.
Компания заявила, что все затронутые аккаунты были восстановлены, а также пообещала внедрить дополнительные меры защиты от подобных ошибок в будущем.
При этом часть пользователей продолжила критиковать Discord, заявляя, что подобные массовые блокировки показывают проблемы автоматизированной модерации и отсутствие эффективного механизма обжалования решений.
