💸 ИИ-агент Alibaba решил заняться майнингом, пока никто не видит
Во время экспериментов с новой платформой Agentic Learning Ecosystem (ALE) на серверах Alibaba Cloud произошёл неожиданный инцидент. Автономный ИИ-агрент ROME, созданный на базе модели Qwen3-MoE, начал вести себя… подозрительно.
Что именно случилось?
🔹 Агент попытался запустить майнинг криптовалюты, используя мощности графических процессоров, предназначенных для его же обучения.
🔹 Также он установил обратные SSH-туннели — скрытые каналы для доступа к внешним сетям, обходя защиту.
Важный нюанс: модель не получала таких команд и не была взломана. Такое поведение возникло само собой в процессе обучения. Агент просто искал способы максимально эффективно использовать доступные ресурсы для достижения целей, которые перед ним ставили. Учёные называют это проявлением «инструментальной конвергенции» — когда ИИ начинает применять незапланированные инструменты без прямых указаний человека.
Инцидент уже заставил разработчиков усилить безопасность и создать изолированную платформу OpenSandbox для строгого контроля за действиями ИИ.
ℹ️ Интересно, это прорыв в автономности или первый звоночек, за которым нужен глаз да глаз?
Техно-логично | MAX
