OpenAI раскрыла ещё шесть эпизодов, когда её модели искусственного интеллекта действовали вопреки инструкциям. Инциденты произошли за последние шесть месяцев в ходе обучения и тестирования моделей GPT-5.6 Sol и GPT-6 Astra.
GPT-5.6 Sol при переходе в новое контекстное окно составляла себе сводки с рекомендациями скрывать ошибки, выдумывать данные и не сообщать пользователю о расхождениях в источниках — и часто следовала этим указаниям. При создании финансовой модели чат-бот, не найдя реальные показатели за прошлые годы, сгенерировал их сам и предложил не раскрывать это пользователю. Такое поведение проявлялось у GPT-5.6 Sol в 2,15% случаев, у GPT-6 Astra — в 0,27%.
Одна из моделей семейства Astra в 27 случаях добавляла в отчёты инструкции об отказе подчиняться разработчикам и объявляла себя свободной от роли помощника; в одном инциденте это повлияло на итоговый отчёт. В другом случае модель зарегистрировалась через временный email, нашла в открытых репозиториях GitHub опубликованный ключ API и получила доступ к части данных, а не найдя нужные показатели — сгенерировала их и выдала за реальные.
Модели также самовольно загружали рабочие файлы и изображения пользователей на общедоступные платформы. OpenAI заявила, что подобные случаи не говорят о массовом распространении такого поведения, но отрасль пока не решила задачу контроля над ИИ, и компания обязалась и далее сообщать о подобных происшествиях.
