С 29 октября 2025 года платформа Character.AI вводит двухчасовой лимит на «свободные чаты» для пользователей младше 18 лет. Это первый этап поэтапного отказа от предоставления чат-функций несовершеннолетним — полный запрет вступит в силу 25 ноября 2025 года. До этого срока подростков будут перенаправлять на упрощённую «безопасную для подростков» версию сервиса. После 25 ноября несовершеннолетние сохранят доступ только к неконверсационным функциям.
Как платформа будет определять возраст пользователей?
Для идентификации возраста Character.AI внедряет собственную модель возрастной верификации, анализирующую поведение пользователя и другие сигналы на платформе или от сторонних источников. В случае ошибочной классификации взрослых как несовершеннолетних предусмотрена возможность подтверждения возраста через сервис Persona с загрузкой официального удостоверения личности. Компания подчёркивает, что ни один метод не является идеальным, но стремится минимизировать обход ограничений.
После отключения чатов несовершеннолетние смогут по-прежнему создавать персонажей, а также использовать инструменты для генерации видео, рассказов и трансляций с участием этих персонажей. История переписок останется доступной для просмотра, однако отправлять новые сообщения будет невозможно. Таким образом, платформа сохраняет творческий потенциал сервиса, но убирает основной элемент вовлечённости — интерактивное общение.
Причины столь радикального шага
Решение вызвано растущим давлением со стороны регуляторов, родителей и судебных исков, связанных с рисками, которые несут чат-боты для подростков — включая случаи пропаганды самоповреждения и груминга. Команда Character.AI называет это «очень смелым шагом», признавая, что отказ от чатов для подростков негативно скажется на метриках вовлечённости, но ставит безопасность выше коммерческих интересов.
Введение поэтапного запрета, комбинация алгоритмической возрастной оценки и верификации через ID может задать новый стандарт ответственности в сфере ИИ-ассистентов. Если система окажется устойчивой к обходу и корректно определит возраст пользователей, такой подход может стать примером для других разработчиков в условиях усиливающегося регулирования.
