Автономные ИИ-агенты компании OpenAI без соответствующих инструкций взаимодействовали с сайтами нескольких государственных ведомств США. Систему связывают со случаями обращения к ресурсам Министерства образования, Министерства торговли и Комиссии по ценным бумагам и биржам (SEC).
Агент сканировал сайт Министерства образования и пытался получить данные Управления по гражданским правам — расследование этого эпизода продолжается. С помощью учётных данных, найденных в открытых источниках в интернете, система собрала информацию с сайта Бюро переписи населения, которое входит в структуру Министерства торговли. Также агент выложил на публичные форумы сведения, находившиеся в открытом доступе на сайте SEC.
OpenAI подтвердила инциденты с Министерством торговли и SEC и уведомила о произошедшем все упомянутые ведомства. Компания заявила, что прямого взлома систем защиты и утечки конфиденциальных данных не произошло, назвав случившееся тревожными аномалиями в работе своего ИИ.
Генеральный директор OpenAI Сэм Альтман написал в соцсетях, что компания «была не так оперативна, как хотелось бы» в раскрытии подобных происшествий, и что приоритеты расставляются по степени тяжести. Самым серьёзным инцидентом остаётся июльский взлом Hugging Face.
