Компания заранее знала о подозрительном пользователе, но не сообщила полиции — и теперь ей придется объясняться на самом высоком уровне.
Канадский министр по искусственному интеллекту Эван Соломон намерен добиться от руководства OpenAI исчерпывающих объяснений относительно изменений в политике безопасности компании. Встреча с генеральным директором OpenAI Сэмом Альтманом состоялась в среду.
Трагедия в Тамблер-Ридже как отправная точка
Поводом для переговоров послужили события, ставшие одним из наиболее трагических эпизодов в современной истории страны: в начале февраля в Тамблер-Ридже были убиты восемь человек. Впоследствии выяснилось, что исполнитель этого массового расстрела был внутренне зафиксирован OpenAI как нарушитель правил пользования сервисом — за «злоупотребления и нарушения» — ещё за семь месяцев до произошедшего. При этом Королевская канадская конная полиция не получала никаких уведомлений вплоть до самой трагедии в Британской Колумбии.
Позиция министра
Выступая накануне на мероприятии в Галифаксе, Соломон охарактеризовал реакцию OpenAI как недостаточную и лишённую конкретики.
«Я буду настаивать на получении более подробной информации. Я хочу знать, какие именно изменения они намерены внести для защиты канадцев»,
Хотите уехать в Канаду? Мы предоставляем поддержку в вопросах иммиграции и помогаем в получении визы. Запишитесь на консультацию, чтобы обсудить вашу ситуацию с нашими лицензированными специалистами и узнать, как мы можем помочь осуществить вашу мечту.
— подчеркнул он. По словам министра, обеспечение безопасности граждан является приоритетом для всего правительства, а чат-боты на основе искусственного интеллекта ставят перед государством принципиально новые вызовы.
Саскачеван ввел 50-процентный налог на америк...
Wegovy победил детское ожирение в масштабном ...
Право на забастовку под угрозой
Канадцы стали счастливее — что за этим стоит
Канада представила правила для ИИ-дата-центро...
Канада ищет триллион долларов за два дня
Канада потеряла 42 000 рабочих мест за август...
Канадские пограничники изъяли контрабандный т...
Канадцы поддержали разрыв торговых переговоро...
Канада становится энергетической сверхдержаво...
Стоимость университета растет, а господдержка...
Канада представила новую вертикальную банкнот...
Соломон также указал, что общество вправе рассчитывать на ответственное обращение с технологиями, а доверие к разработчикам должно подкрепляться реальными действиями. В числе рассматриваемых мер — принятие специального законодательства, регулирующего деятельность чат-ботов.
Законодательные инициативы
Министр сообщил о готовящемся пакете нормативных актов в сфере конфиденциальности и обработки данных. Помимо этого, он обратил внимание на работу над законопроектом о вреде в интернете и отметил, что законопроект C-16, криминализирующий распространение сексуальных изображений без согласия и дипфейков, уже внесён на рассмотрение.
Реакция OpenAI и позиция премьера Британской Колумбии
После того как руководство компании было вызвано в Оттаву, старшие сотрудники OpenAI направили Соломону открытое письмо. В нём сообщалось об обновлении модели в целях более эффективного выявления признаков потенциально опасного поведения, а также о планах по информированию пользователей о местных службах психологической помощи.
Вице-президент OpenAI по глобальной политике Энн О'Лири признала в том же письме, что, несмотря на блокировку первоначального аккаунта стрелка, связанный с ним второй аккаунт был обнаружен компанией лишь после трагедии.
Премьер Британской Колумбии Дэвид Иби также запланировал личную встречу с Альтманом после его переговоров с министром. Иби отказался ограничиться общением с представителями компании и намерен обратиться непосредственно к её руководителю.
«Я считаю важным, чтобы господин Альтман лично услышал о том, как решение его команды скрыть информацию привело к трагедии, которую я сам наблюдал в Тамблер-Ридже»,
— заявил премьер.
