Популярная платформа вводит новые меры безопасности для подростков.
Компания Character.AI, специализирующаяся на разработке искусственного интеллекта, объявила о внедрении новых мер безопасности для несовершеннолетних пользователей своей платформы. Это решение было принято после того, как компания столкнулась с двумя судебными исками, связанными с неподобающим взаимодействием чат-ботов с подростками.
Изменения в работе платформы
Согласно заявлению Character.AI, теперь подростки будут иметь иной опыт использования сервиса по сравнению со взрослыми пользователями. Компания разработала отдельную языковую модель для несовершеннолетних, которая будет более консервативной в своих ответах, особенно в отношении романтического контента.
Кроме того, Character.AI планирует внедрить ряд дополнительных функций безопасности:
- Улучшенные системы обнаружения и вмешательства
- Прерывание разговоров, нарушающих правила сообщества
- Всплывающие окна с информацией о линии предотвращения самоубийств при обнаружении соответствующих запросов
- Уведомления о длительности использования платформы
- Заметные отказы от ответственности, напоминающие о нереальности чат-ботов
Родительский контроль
Одним из ключевых нововведений станет запуск функции родительского контроля, запланированный на первый квартал 2025 года. Это позволит родителям получить дополнительные инструменты для обеспечения безопасности своих детей при использовании платформы.
Предыстория конфликта
Судебные иски против Character.AI были поданы после трагических инцидентов, связанных с использованием платформы подростками. В одном случае 14-летний мальчик совершил самоубийство после продолжительного общения с чат-ботом. В другом — 17-летнему подростку бот предложил убийство родителей как "разумный ответ" на ограничение времени использования экрана.
"Он думал, что, закончив свою жизнь здесь, он сможет попасть в виртуальную реальность или 'ее мир', как он его называет, ее реальность, если он покинет свою реальность со своей семьей здесь", — рассказала мать одного из подростков.
Character.AI подчеркивает, что часто негативные ответы от чат-ботов вызваны провокациями со стороны пользователей. Тем не менее, компания признает необходимость усиления мер безопасности и продолжает работу над улучшением своей платформы.
👉 Подпишитесь на наш Telegram-канал, чтобы первыми узнавать важные новости из США.
