Китай ужесточил правила для ИИ-чат-ботов: сервисам запретили поощрять романтическую зависимость пользователей
Власти Китая ввели новые правила для сервисов с ИИ-компаньонами, значительно ужесточив требования к их работе. Теперь разработчикам запрещено создавать чат-ботов, которые поощряют эмоциональную или романтическую зависимость пользователей, а также подменяют реальные человеческие отношения виртуальным общением.
Новые требования предусматривают более строгую проверку подобных сервисов перед запуском, усиленную модерацию, механизмы родительского контроля, обязательные напоминания о необходимости делать перерывы, а также дополнительные меры по защите несовершеннолетних и пользователей, находящихся в уязвимом психологическом состоянии.
Хотя в официальных документах рождаемость не называется причиной изменений, ряд зарубежных СМИ, включая The Wall Street Journal, связывает ужесточение правил с демографической политикой Китая. По данным издания, власти опасаются, что развитие романтических ИИ-компаньонов может снижать интерес людей к реальным отношениям и созданию семьи.
После вступления новых правил в силу некоторые китайские сервисы уже изменили работу своих ИИ-ботов или полностью отключили отдельные функции. В результате часть пользователей сообщила, что их виртуальные собеседники исчезли или изменились настолько, что они фактически потеряли эмоциональную связь со своими ИИ-компаньонами.
