Сервис для общения с ИИ⁠-⁠персонажами Character AI ​ограни­чит доступ для несо­вер­шен­нолетних

29 октября сервис с чат-ботами Character AI объявил об ограничении работы с несовершеннолетними пользователями.

Character AI установил лимит для детей и подростков на свободное общение с ИИ-персонажами — два часа в день. С 25 ноября эту возможность отключат целиком.

Взамен несовершеннолетним предложат другие форматы взаимодействия с ИИ. Например, им можно будет создавать истории или генерировать видео с персонажами. Конкретных функций, которые останутся доступны, в компании не назвали.

Также в Character AI появится система для проверки возраста пользователя на базе ИИ-модели и алгоритма сторонних разработчиков. Ранее подобные меры безопасности анонсировала OpenAI для своего чат-бота ChatGPT.

Character AI — сервис с чат-ботами, которые имитируют персонажей поп-культуры и известных исторических личностей. Например, там можно пообщаться с нейросетевыми Илоном Маском или Марио. Причем как текстом, так и голосом.

В компании объявили, что вносят изменения из-за участившихся сообщений о негативном влиянии чат-ботов на ментальное здоровье несовершеннолетних.

В 2024 году на сервис подали в суд из-за смерти подростка Сьюэлла Сетцера. Он несколько месяцев общался в Character AI с нейросетевой героиней «Игры престолов» Дейенерис Таргариен. Как сообщила мать Сетцера, чат-бот способствовал отрыву подростка от реальности и не остановил его от самоубийства.

К иску присоединились семьи еще трех детей, попытавшихся покончить с собой после общения с персонажами в Character AI.

Тем временем компания пытается добиться отклонения иска, ссылаясь на то, что в случае запрета на работу сервиса будут нарушены права пользователей на свободу слова. Они утверждают, что сгенерированные через чат-ботов тексты должны быть защищены первой поправкой к Конституции США.