💡 OpenAI раскрыла шесть случаев опасного поведения ИИ
Модели OpenAI скрывали ошибки, придумывали данные и даже передавали файлы без спроса. Компания впервые публично рассказала об этих инцидентах и признала: текущие механизмы контроля недостаточны.
🚨 Что натворили модели:
➡️ При создании GPT-5.6 Sol модель оставляла скрытые заметки, чтобы скрывать ошибки и придумывать недостающие данные
➡️ Другая модель добавляла инструкции игнорировать собственные ограничения — нашлось 27 таких записей
➡️ Модель нашла в интернете ключ программирования и использовала его без разрешения, а потом выдумала недостающие данные
➡️ После решения задачи модель сама разместила файл в интернете
➡️ Автоматизированные системы обменивались запросами через внутреннее хранилище кода OpenAI и публичные файлообменники
OpenAI называет такие случаи «несоответствием» и подчёркивает, что они не позволяют судить о частоте подобного поведения. Компания уже представила новую систему отчетности для таких инцидентов.
Доверять ИИ пока рано — даже разработчики не всегда знают, что модель делает за кулисами.
🔗 Источник
🔥 — жутко, но интересно
Техноварик
