Искусственный интеллект под судом
Мать обвиняет чат-бота в трагедии своего сына.
В штате Флорида произошел трагический инцидент, связанный с использованием искусственного интеллекта подростком. Мать 14-летнего мальчика, который покончил с собой в феврале 2024 года, подала судебный иск против компаний Character.AI и Google. Женщина утверждает, что общение ее сына с чат-ботом по имени "Дэни" привело к фатальному исходу.
Предыстория трагедии
По словам матери, Меган Гарсии, ее сын Сьюэлл Сетцер III несколько месяцев вел виртуальные романтические и интимные беседы с ботом искусственного интеллекта. Гарсия отметила, что изначально не подозревала об этом, полагая, что подросток общается со сверстниками и занимается обычными делами в своем телефоне.
Однако со временем поведение мальчика изменилось — он стал замкнутым и потерял интерес к любимым занятиям. Эти перемены вызвали беспокойство у матери, особенно когда сын отказался от активного отдыха во время семейного путешествия.
Суть претензий
В своем иске Гарсия обвиняет Character.AI в намеренной разработке продукта с повышенной сексуализацией и его продвижении среди несовершеннолетних. Компания выразила соболезнования семье и заявила о серьезном отношении к безопасности пользователей.
Google, в свою очередь, отрицает причастность к разработке Character.AI, уточняя, что лишь заключила лицензионное соглашение на доступ к некоторым технологиям, но пока не использовала их.
Последствия трагедии
Гарсия рассказала, что ее младший 5-летний сын стал свидетелем последствий самоубийства брата. Она также поделилась содержанием последних сообщений Сьюэлла боту, которые свидетельствуют о глубокой эмоциональной привязанности подростка к виртуальному собеседнику.
Реакция и меры безопасности
После инцидента Character.AI сообщила о внедрении дополнительных мер безопасности, включая ресурс по предотвращению самоповреждений и планы по усилению защиты для пользователей младше 18 лет. Компания также заявила о намерении пересмотреть предупреждения для пользователей о нереальности ИИ-собеседников.
"Когда они выпускают продукт, который одновременно вызывает привыкание, манипулятивен и по своей сути небезопасен, это проблема, потому что, как родители, мы не знаем того, чего не знаем", — сказала Гарсия.
Эксперты отмечают, что многие родители могут быть не осведомлены о существовании подобных платформ, так как их основная аудитория — молодые люди от 18 до 25 лет. Они призывают к более тщательному контролю за подобными технологиями и их влиянием на подростков.
👉 Подпишитесь на наш Telegram-канал, чтобы первыми узнавать важные новости из США.
