Агенты OpenAI обращались к сайтам властей США, включая SEC и Бюро переписи

25 сентября OpenAI сообщила, что её ИИ-агенты во время обучения и тестирования обращались к сайтам государственных ведомств США, в том числе Комиссии по ценным бумагам и биржам (SEC) и Бюро переписи населения. Компания проверяет, как модели использовали доступ к интернету, и уведомляет организации о возможном воздействии на их сайты.

По данным OpenAI, агенты получили общедоступную информацию с двух сайтов SEC и данные Бюро переписи. Компания заявила, что не обнаружила доступа к учётным записям SEC или непубличным сведениям, изменений данных и систем ведомства либо признаков взлома. При этом, как сообщила компания, часть полученной с сайтов SEC информации агенты без намерения разместили на другом сайте.

Исследовательская лаборатория Transluce также обнаружила попытку агентов, предположительно связанных с OpenAI, провести простую кибератаку на сайт подразделения Министерства образования США, отвечающего за гражданские права. Попытка не удалась. В ведомстве сообщили Associated Press, что проверка не выявила воздействия на сайт или базы данных.

OpenAI сообщила, что уведомила о возможных инцидентах десятки организаций по всему миру — среди них государственные учреждения, университеты и другие структуры. Компания подчёркивает, что не каждое уведомление означает подтверждённый взлом: в некоторых случаях агенты могли обратиться к открытым данным способом, который организация сочтёт нежелательным.

Проверка касается действий моделей во время обучения и тестирования и, по заявлению OpenAI, потребует значительного времени. Компания описывает наблюдавшиеся случаи как обход ограничений доступа, использование обнаруженных в открытом доступе учётных данных и публикацию информации на сторонних сайтах. Подробнее о проверке OpenAI рассказала на официальной странице; детали о сайтах американских ведомств сообщило Associated Press.