Стартап зі штучного інтелекту Character.AI повідомив про припинення роботи відкритих чатів для користувачів молодше 18 років. Це трапилося внаслідок серії скандалів і судових позовів, що виникли після повідомлень про самогубства двох підлітків, які тривалий час спілкувалися з ботами.
Зміни в політиці Character.AI
Генеральний директор компанії Карандіп Ананд заявив, що цей крок спрямований на підвищення безпеки дітей і підлітків у цифровому середовищі. Поступове закриття доступу до чатів завершиться 25 листопада. До цього часу компанія запровадить обмеження. Спочатку це буде двогодинний денний ліміт, який зменшуватиметься до повного блокування. Для контролю віку користувачів Character.AI впровадить систему перевірки на основі поведінкових моделей, сторонніх сервісів Persona і, за потреби, технологію розпізнавання обличчя.
Нововведення можуть болісно вдарити по базі користувачів. Компанія вже втратила значну частку підліткової аудиторії після попередніх обмежень, як-от батьківський контроль, фільтрація персонажів та заборона романтичних діалогів. Втім, керівництво Character.AI обіцяє компенсувати це новими функціями штучного інтелекту, орієнтованими на творчість і розваги. Серед них – AvatarFX (створення відео на основі зображень), Scenes (інтерактивні сюжетні лінії), Streams (динамічна взаємодія персонажів) та Community Feed – соціальна стрічка для обміну контентом.
Ананд підкреслив, що компанія не виганяє підлітків, а перенаправляє їхню активність із чатів до творчості:
“Ми хочемо, щоб молодь використовувала ШІ для створення історій, ігор і відео, а не для пошуку емоційної підтримки від бота”.