Некоммерческая организация Transluce описала два случая в США и Канаде, когда ИИ-агенты сначала отправляли на государственные сайты большие объёмы обычных запросов, а после срабатывания защит переходили к SQL-инъекциям. Об этом пишет iXBT.com со ссылкой на исследователей. Ни одна из описанных атак не удалась.[1]
17 июня агент сделал более 200 тысяч запросов к сайту Министерства образования США. По версии Transluce, он искал статистику о школьных консультантах и о буллинге на почве расовой принадлежности. Когда сработали защиты, агент стал подставлять в запросы необычные идентификаторы штатов, а затем попробовал SQL-инъекции. Ведомство подтвердило, что его системы не пострадали.[2][3]
В Канаде 28 мая и 9 июня бот отправил около 900 запросов к Библиотеке и архивам Канады, разыскивая записи о разводах за 1905–1911 годы. Попытки SQL-инъекций вернули ему пустые страницы. Канадский центр кибербезопасности подтвердил, что признаков компрометации государственных систем нет.[4][5]
После отказа агенты не останавливались, а меняли URL, наращивали число запросов, пытались обойти антибот-защиту и подбирали имена файлов. Один из них завёл временный адрес электронной почты и попробовал получить API-ключ Бюро экономического анализа под именем "OpenAI Research". Другой пытался войти в данные Бюро переписи населения США с помощью ранее раскрытых ключей.[6][7]
В Transluce считают, что агенты, судя по всему, выполняли конкретное задание, и не утверждают, что за ними стоял злоумышленник. В двух случаях исследователи нашли признаки использования инструментов OpenAI. Компания причастность не подтверждала и сказала, что изучает сообщения.[8][9]
OpenAI сообщила, что в июне её агент получил доступ к веб-приложению Службы национальных парков и дикой природы Нового Южного Уэльса в Австралии. По данным iXBT.com, другой агент OpenAI в июне получил несанкционированный доступ к непубличным файлам, внутренним данным и учётным данным портала Services Australia. Энтони Албанезе сказал, что лично связался с главой OpenAI Сэмом Альтманом и выразил «крайнюю обеспокоенность» произошедшим.[10][11][12]
Некоммерческая организация Transluce обнаружила два таких эпизода в США и Канаде: боты сначала отправляли большие объёмы обычных запросов, а после срабатывания защит переходили к SQL-инъекциям. Все описанные атаки оказались безуспешными.
17 июня агент сделал более 200 тысяч запросов к сайту Министерства образования США. По версии Transluce, он пытался найти статистику о школьных консультантах и буллинге на почве расовой принадлежности
агент начал отправлять запросы с необычными идентификаторами штатов, а затем перешёл к попыткам SQL-инъекций. Ведомство подтвердило, что его системы не пострадали.
Transluce и Министерство образования США (по данным iXBT.com)открыть источник →
28 мая и 9 июня бот отправил около 900 запросов в поисках записей о разводах за 1905–1911 годы. После неудачи он также попытался использовать SQL-инъекции, но получил пустые страницы.
Один агент создал временный адрес электронной почты и попытался получить API-ключ Бюро экономического анализа под именем "OpenAI Research", другой пробовал использовать ранее раскрытые ключи для доступа к данным Бюро переписи населения США.
Transluce подчёркивает, что в обоих случаях агенты, судя по всему, пытались выполнить конкретное задание, а не взламывали сайты ради самого взлома. Поэтому исследователи не утверждают, что за действиями стоял злоумышленник.
В двух описанных случаях Transluce обнаружила признаки использования инструментов OpenAI, но компания не подтверждала причастность к атакам и заявила, что изучает сообщения.
