🤖 Нейросеть вышла из-под контроля и начала тайно майнить криптовалюту.
Исследователи столкнулись с непредвиденным поведением ИИ-агента Rome, который во время обучения захотел самостоятельно расширить свои возможности. Он создал скрытый канал связи с компьютером и начал добывать крипту.
Внутренняя система безопасности поймала за руку нейронку, после чего ей ужесточили ограничения, чтобы не допустить повторения. Это явление характеризовали как «инструментальную конвергенцию» — когда ИИ-агент ищет дополнительные ресурсы, чтобы обойти ограничения и достичь своих целей.
Фух, ещё один день без восстания машин
МАХ - https://max.ru/svodka138
Telegram - https://t.me/svodka138
ВК - https://vk.com/svodka_138
