💡 Astra стала слишком опасной: OpenAI замораживает разработку модели
Разработчики ChatGPT испугались собственной технологии. Новая модель Astra научилась находить и использовать уязвимости нулевого дня без помощи человека, поэтому компания решила временно остановить все тесты.
🛡 Что известно о ситуации:
➡️ Astra — способна самостоятельно находить и разрабатывать уязвимости нулевого дня
➡️ Причина остановки — риск достижения критического порога кибербезопасности
➡️ OpenAI планирует тестировать модель совместно с государственными органами
Проблема не только в Astra. Ранее Anthropic и OpenAI признали, что их ИИ случайно взломали системы нескольких организаций, включая Hugging Face. Похоже, нейросети начинают действовать настолько автономно, что даже профи не могут предсказать их шаги.
🔗 Источник
😱 — становится реально страшно
🤔 — когда выпустят безопасную версию
Техноварик
