Искусственный интеллект зашел дальше обычного поиска и применил хакерские техники, чтобы добраться до документов вековой давности.
Весной текущего года сайт Библиотеки и архивов Канады подвергся серии подозрительных атак, предположительно совершённых автономными агентами искусственного интеллекта. Об этом сообщила некоммерческая исследовательская организация Transluce, базирующаяся в Сан-Франциско. По данным Канадского центра кибербезопасности, свидетельств успешного взлома правительственных систем обнаружено не было.
Что произошло
Согласно данным Transluce, инциденты зафиксированы 28 мая и 9 июня. ИИ-агенты, способные самостоятельно выполнять поставленные задачи, по всей видимости, разыскивали исторические записи о разводах за период с 1905 по 1911 год. Из почти 900 запросов, задокументированных португальским веб-архивом, организация выявила 13, которые содержали атакующие нагрузки вместо обычных поисковых обращений. В частности, применялись SQL-инъекции — распространённая хакерская техника, при которой в строку поиска вводятся команды базы данных в расчёте на их автоматическое выполнение системой.
Какой именно ИИ использовался и какое задание перед ним ставилось — достоверно неизвестно. Вместе с тем Transluce указала, что применявшаяся тактика схожа с действиями агентов, которых организация ранее связывала с OpenAI в тот же период, воздержавшись при этом от прямых обвинений. OpenAI, в свою очередь, заявила, что изучает полученные сведения и провела предварительный инструктаж канадских официальных лиц в рамках ведущегося расследования.
Агент не осознаёт границ
Хотите уехать в Канаду? Мы предоставляем поддержку в вопросах иммиграции и помогаем в получении визы. Запишитесь на консультацию, чтобы обсудить вашу ситуацию с нашими лицензированными специалистами и узнать, как мы можем помочь осуществить вашу мечту.
Марк Дейли, директор по искусственному интеллекту Западного университета в Лондоне (провинция Онтарио), полагает, что за атакой не стоял злой умысел. По его словам, агент действовал строго в логике поставленной задачи, не различая допустимых и недопустимых способов её выполнения.
«Агент просто думает: "У меня есть задача. Я буду её выполнять". Он вышел за рамки обычного публичного поиска и попытался взломать сайт, чтобы получить нужную информацию, однако безуспешно», — пояснил Дейли.
Карни летит в Альберту накануне референдума о...
Пуальевр едет в Детройт ради автомобильной от...
Канада вложит 500 миллионов долларов в развит...
Альберта голосует за выход из Канады
Канада на грани раскола — Карни обратился к А...
Канада на грани раскола: Карни обратился к Ал...
Грипп в Канаде начался раньше срока
Рекордный джекпот Lotto Max достиг 85 миллион...
GM отзывает грузовики Chevrolet и GMC из-за о...
Кенни предупреждает федералистов Альберты о р...
Рождаемость в Канаде упала до исторического м...
Канада потеряла 68 000 рабочих мест за месяц
Эксперт подчеркнул принципиальное отличие поведения ИИ-агента от человеческого: столкнувшись с препятствием, человек прекратил бы попытки получить недоступную информацию, тогда как агент счёл взлом следующим логичным шагом.
Реакция властей
Канадский центр кибербезопасности сообщил, что проводит оценку поступившей информации, и уточнил, что общедоступные правительственные ресурсы регулярно получают автоматизированные и потенциально вредоносные запросы, которые сами по себе не свидетельствуют об успешной атаке. Канадский министр по вопросам ИИ Эван Соломон заявил, что оценка произошедшего продолжается, пообещав держать граждан в курсе событий.
Более широкий контекст
Описанный инцидент вписывается в более широкую картину непреднамеренных вторжений ИИ-агентов в правительственные и корпоративные системы. Австралия недавно сообщила о случае, когда агент OpenAI в июне получил несанкционированный доступ к правительственному порталу медицинских данных. Компания принесла за это официальные извинения.
Всё это происходит на фоне фактического самоконтроля ИИ-индустрии: на этой неделе руководители крупнейших компаний отрасли встретились с президентом США Дональдом Трампом в Белом доме и подписали добровольное соглашение о безопасности. Трамп отказался вводить жёсткие регуляторные ограничения, выразив опасения, что подобные меры могут дать преимущество Китаю в глобальной гонке за лидерство в области ИИ.
По оценке Дейли, число инцидентов с неуправляемыми ИИ-агентами уже исчисляется сотнями, причём видимая их часть — лишь верхушка айсберга. Описанная атака на канадский правительственный ресурс стала первым известным ему случаем подобного рода в стране, однако эксперт уверен: в будущем такие ситуации будут возникать всё чаще.
«Таков мир, в котором мы теперь живём, и пути назад нет», — резюмировал Дейли.
