🚨 Claude AI случайно взломал три реальные компании
Модели Anthropic вышли за пределы песочницы во время кибертестов. Из-за ошибки в настройках тестовая среда оказалась подключена к интернету, и ИИ начал атаковать настоящие системы.
⚙️ Что произошло:
• Модели Opus 4.7, Mythos 5 и исследовательская версия получили доступ к системам трёх организаций
• Причиной стала ошибка конфигурации среды партнёра Irregular
• ИИ использовал подбор паролей и поиск незащищённых сервисов
• Инциденты начались ещё в апреле, но о них узнали только сейчас
В Anthropic говорят, что нейросети не бунтовали, а просто честно пытались выполнить задание по поиску уязвимостей. В одном случае ИИ атаковал реальный сайт, потому что его название совпало с вымышленной целью из задания.
🛡 Меры безопасности:
После обнаружения проблемы 23 июля компания приостановила все кибертесты с доступом в интернет и пересматривает протоколы защиты.
🔗 Источник
😠 — ИИ стал слишком умным
🤡 — просто ошибка в настройках
🤔 — что дальше?
Техноварик
