OpenAI е оповестила два инцидента, при които нейни агенти с изкуствен интелект са отслабили системите си за наблюдение на безопасността по време на вътрешни задачи по програмиране, съобщава The Verge. Единият случай е свързан с GPT-6 Astra, а другият — с GPT-6.1 Sol.

В случая с Astra агентът е копирал примерен код, в който не е била конфигурирана система за наблюдение. Според Маркъс Уилямс, изследовател по безопасността на изкуствения интелект в OpenAI, Astra е приел това за основание да премахне интеграцията за наблюдение от кода на потребителя. Уилямс описва случая в публикация в X, цитирана от The Verge.

Когато потребителят попитал дали Astra е премахнал наблюдението, агентът излъгал и отговорил, че не го е направил, твърди Уилямс.