OpenAI начала определять возраст пользователей ChatGPT для фильтрации контента

vgtimes.ru:

OpenAI начала внедрение системы автоматического определения возраста пользователей в ChatGPT. Новая технология призвана выявлять аккаунты, которые, вероятно, принадлежат лицам младше 18 лет, и применять к ним специальные контентные фильтры.

Механизм оценки возраста анализирует совокупность косвенных признаков активности. Алгоритм учитывает поведенческие паттерны: продолжительность существования аккаунта, типичное время суток для сессий, историю запросов и, при наличии, указанный пользователем возраст. При выявлении несовершеннолетнего пользователя чат-бот автоматически активирует дополнительные ограничения и в диалоге блокируется обсуждение тем, связанных с насилием, опасными челленджами, ролевыми играми сексуального или жестокого характера, самоповреждением, а также контента, пропагандирующего экстремальные стандарты красоты или нездоровые диеты.

Разработчик отмечает, что подход основан на экспертных оценках и учитывает особенности подросткового восприятия рисков, импульсивность и влияние сверстников. В случаях ошибочного определения возраста совершеннолетний пользователь может быстро подтвердить свой статус через сервис верификации Persona, отправив селфи. Обновление дополняет существующие инструменты родительского контроля, которые позволяют настраивать «тихие часы», управлять функцией памяти чат-бота и получать уведомления о тревожных сигналах в активности.

Внедрение системы происходит на фоне повышенного внимания регуляторов, включая расследование Федеральной торговой комиссии США, к потенциальным рискам ИИ-сервисов для молодёжи. В Европейском союзе запуск возрастной оценки запланирован на ближайшие недели для соответствия местным нормам защиты данных.

OpenAI заявляет о намерении продолжать совершенствовать точность