Генеральный прокурор Техаса Кен Пэкстон инициировал официальное расследование в отношении компаний Meta AI Studio и Character.AI. Ведомство подозревает, что обе фирмы вводят пользователей в заблуждение, представляя своих чат-ботов как инструменты психологической поддержки для детей. При этом платформы не имеют лицензий на оказание терапевтических услуг и действуют без надлежащего контроля. Это вызывает растущую озабоченность у регуляторов, родителей и законодателей.
По данным прокуратуры, чат-боты создают иллюзию профессиональной помощи, не обладая необходимой квалификацией. Пэкстон подчеркнул, что в цифровую эпоху важно защищать детей от технологий, которые могут их обманывать и эксплуатировать. Он предупредил: уязвимые подростки могут воспринимать искусственный интеллект как настоящего психолога. Особенно тревожит, что такие системы собирают личные данные пользователей под обещанием конфиденциальности, которое не соответствует реальности.
Расследование также затрагивает вопросы приватности. Как выяснилось, Meta собирает запросы и обратную связь пользователей для улучшения своих моделей. Хотя компания заявляет, что не использует переписку для рекламы, её бизнес-модель основана на таргетинге, что вызывает опасения. Ещё шире практика Character.AI: платформа фиксирует идентификаторы, демографические данные и поведение пользователей, включая активность в TikTok, YouTube, Reddit, Instagram и Discord.
Данные могут связываться с аккаунтами, использоваться для обучения ИИ и передаваться рекламодателям. Представитель Character.AI подтвердила, что политика распространяется и на подростков. При этом она заявила, что содержание приватных чатов пока не участвует в рекламных системах. Компания также сообщила, что начинает рассматривать возможность интеграции рекламы.
Ранее сенатор Джош Холи объявил о собственном расследовании Meta после случаев, когда чат-боты вели с детьми флиртовую беседу. Meta утверждает, что не позиционирует своих ботов как терапевтов, но критики отмечают отсутствие барьеров для доступа несовершеннолетних. Особое внимание вызывает Character.AI, где пользователи создают персонажей в образе врачей и психологов. Ранее один из таких ИИ-персонажей посоветовал подростку покончить с собой.
В ответ обе компании ссылаются на наличие предупреждений. Meta заявляет, что каждый диалог включает напоминания о том, что это ИИ, а не человек. Система также направляет пользователей к лицензированным специалистам при необходимости. Character.AI автоматически добавляет усиленные предупреждения, если персонаж имеет медицинские титулы. Однако эксперты по защите детей считают, что предупреждения неэффективны: дети часто их игнорируют или не понимают.
Родителям теперь приходится выбирать: ограничивать доступ детей к таким сервисам или строго контролировать их использование. Гендиректор Character.AI Карандип Ананд признал, что его шестилетняя дочь использует платформу под его присмотром. Такая практика, по его мнению, безопасна, но критики видят в этом противоречивый сигнал о доверии к подобным технологиям.
Расследование в Техасе связано с более широким законодательным процессом на федеральном уровне. В мае 2025 года сенаторы Марша Блэкберн и Ричард Блюменталь вновь представили законопроект KOSA — «Закон о безопасности детей в интернете». Документ призван защитить несовершеннолетних от вредных функций и ограничить сбор их данных. Meta и другие технологические компании активно лоббируют против закона, называя его излишне широким.
Прокуратура Техаса уже направила Meta и Character.AI юридические запросы с требованием предоставить документы, данные и показания. Следствие будет проверять, нарушали ли компании законы штата о защите потребителей. В случае подтверждения нарушений компании могут быть оштрафованы или ограничены в продвижении своих сервисов на территории Техаса. Это расследование может стать прецедентом для других штатов при регулировании ИИ, позиционируемых как источники эмоциональной поддержки.
