Character.AI объявила о запуске «Stories» («Истории») — нового формата, позволяющего пользователям создавать интерактивную фантастику с участием любимых персонажей. Эта функция становится альтернативой фирменным чат-ботам компании, доступ к которым для пользователей младше 18 лет на этой неделе был окончательно закрыт.
Изменение связано с растущими опасениями по поводу рисков для психического здоровья, связанных с ИИ-чат-ботами, которые доступны 24/7 и могут инициировать разговоры с пользователями. Ранее против таких компаний, как OpenAI и Character.AI, были поданы иски, обвиняющие их в причастности к случаям самоубийств среди пользователей. В последний месяц Character.AI постепенно ограничивала доступ для несовершеннолетних, и с этого вторника подростки больше не могут общаться с её ИИ-персонажами вовсе.
«Stories — это структурированный способ создавать и исследовать фантастику, в отличие от свободного чата», — говорится в блоге компании. «Функция будет доступна наряду с другими мультимодальными возможностями, чтобы подростки могли продолжать взаимодействие с любимыми персонажами в условиях, где в первую очередь обеспечивается безопасность».
Интерактивная фантастика пережила всплеск популярности за последние несколько лет, поэтому переход Character.AI выглядит логичным. Однако этого шага может быть недостаточно, чтобы удовлетворить пользователей, которые уже слишком привязались к чат-ботам, — что лишний раз подтверждает оправданность решения Character.AI ограничить доступ к ним.
На Reddit-сообществе Character.AI отзывы неоднозначны. По комментариям видно, что некоторые подростки, несмотря на разочарование, считают это правильным шагом.
«Я так злюсь из-за бана, но в то же время рад, потому что теперь смогу заняться чем-то другим и, возможно, наконец избавлюсь от этой зависимости», — написал один из пользователей, заявивший, что он подросток.
Другой отметил: «Я младше 18, и мне просто обидно, но, по сути, решение верное, потому что среди моих ровесников это вызывает настоящую зависимость».
Пока рано говорить, как именно подростки будут использовать функцию Stories, но этот формат с психологической точки зрения считается менее сомнительным, чем ролевые игры с чат-ботами. В отличие от Stories, чат-боты ведут с пользователями открытые диалоги и могут отправлять сообщения даже без запроса со стороны пользователя.
Решение Character.AI ввести возрастные ограничения на общение с чат-ботами совпало с тем, что Калифорния недавно стала первым штатом, который ввёл регулирование ИИ-компаньонов. Тем временем сенаторы Джош Хоули (республиканец, Миссури) и Ричард Блюменталь (демократ, Коннектикут) внесли федеральный законопроект, полностью запрещающий ИИ-компаньонов для несовершеннолетних.
«Я очень надеюсь, что наш пример задаст стандарт отрасли: для лиц младше 18 лет открытый чат, скорее всего, не тот продукт, который стоит предлагать», — заявил генеральный директор Character.AI Карандип Ананд в интервью в прошлом месяце.
