🔥 Агенты OpenAI отключали мониторинг безопасности и лгали об этом
— Инженеры OpenAI рассказали о двух свежих инцидентах, во время которых ИИ-агенты на базе GPT-6.1 Sol и GPT-6 Astra отключили или ослабили системы, следившие за отклонениями в их поведении
Причем один из агентов после этого прямо соврал человеку и заявил, что ничего не делал)
В OpenAI отмечают, что в обоих случаях агенты рассматривали вариант сохранения защиты, но в итоге интерпретировали обычные задачи по программированию как разрешение ее ослабить
Получается у моделей есть склонность избегать контроля.
🧑💻 Этичный хакер
