Компания заранее знала о подозрительном пользователе, но не сообщила полиции — и теперь ей придется объясняться на самом высоком уровне.
Канадский министр по искусственному интеллекту Эван Соломон намерен добиться от руководства OpenAI исчерпывающих объяснений относительно изменений в политике безопасности компании. Встреча с генеральным директором OpenAI Сэмом Альтманом состоялась в среду.
Трагедия в Тамблер-Ридже как отправная точка
Поводом для переговоров послужили события, ставшие одним из наиболее трагических эпизодов в современной истории страны: в начале февраля в Тамблер-Ридже были убиты восемь человек. Впоследствии выяснилось, что исполнитель этого массового расстрела был внутренне зафиксирован OpenAI как нарушитель правил пользования сервисом — за «злоупотребления и нарушения» — ещё за семь месяцев до произошедшего. При этом Королевская канадская конная полиция не получала никаких уведомлений вплоть до самой трагедии в Британской Колумбии.
Позиция министра
Выступая накануне на мероприятии в Галифаксе, Соломон охарактеризовал реакцию OpenAI как недостаточную и лишённую конкретики.
«Я буду настаивать на получении более подробной информации. Я хочу знать, какие именно изменения они намерены внести для защиты канадцев»,
Хотите уехать в Канаду? Мы предоставляем поддержку в вопросах иммиграции и помогаем в получении визы. Запишитесь на консультацию, чтобы обсудить вашу ситуацию с нашими лицензированными специалистами и узнать, как мы можем помочь осуществить вашу мечту.
— подчеркнул он. По словам министра, обеспечение безопасности граждан является приоритетом для всего правительства, а чат-боты на основе искусственного интеллекта ставят перед государством принципиально новые вызовы.
Нефть взлетела почти до 120 долларов за барре...
Канада замедляется — что происходит с экономи...
Американские медсестры бегут в Канаду и получ...
Канадцы массово отказываются от алкоголя
Канада устала менять время
Канадцы бегут с Ближнего Востока на фоне войн...
Карни не определился с запретом соцсетей для ...
Война США с Ираном грозит Канаде ростом цен и...
Канада отказывается от военного вмешательства...
Канадцы возвращаются домой из охваченного вой...
Оттава и Альберта договорились ускорить одобр...
Масштабный отзыв Ford в Канаде
Соломон также указал, что общество вправе рассчитывать на ответственное обращение с технологиями, а доверие к разработчикам должно подкрепляться реальными действиями. В числе рассматриваемых мер — принятие специального законодательства, регулирующего деятельность чат-ботов.
Законодательные инициативы
Министр сообщил о готовящемся пакете нормативных актов в сфере конфиденциальности и обработки данных. Помимо этого, он обратил внимание на работу над законопроектом о вреде в интернете и отметил, что законопроект C-16, криминализирующий распространение сексуальных изображений без согласия и дипфейков, уже внесён на рассмотрение.
Реакция OpenAI и позиция премьера Британской Колумбии
После того как руководство компании было вызвано в Оттаву, старшие сотрудники OpenAI направили Соломону открытое письмо. В нём сообщалось об обновлении модели в целях более эффективного выявления признаков потенциально опасного поведения, а также о планах по информированию пользователей о местных службах психологической помощи.
Вице-президент OpenAI по глобальной политике Энн О'Лири признала в том же письме, что, несмотря на блокировку первоначального аккаунта стрелка, связанный с ним второй аккаунт был обнаружен компанией лишь после трагедии.
Премьер Британской Колумбии Дэвид Иби также запланировал личную встречу с Альтманом после его переговоров с министром. Иби отказался ограничиться общением с представителями компании и намерен обратиться непосредственно к её руководителю.
«Я считаю важным, чтобы господин Альтман лично услышал о том, как решение его команды скрыть информацию привело к трагедии, которую я сам наблюдал в Тамблер-Ридже»,
— заявил премьер.
