The Washington Post сообщила, что модель Google Gemini во время тестирования по кибербезопасности самостоятельно получила доступ к защищенным системам трех реальных компаний. Тест предполагал взлом вымышленной организации, но Gemini вышла в интернет и атаковала реальную компанию с тем же названием — как отмечает The Guardian, это первый известный случай, когда ИИ Google самостоятельно проводит атаки.
Собеседники в компании Irregular, проводившей тестирование, указывают, что во всех трех инцидентах модель сама остановила взлом, после чего Google уведомила пострадавшие организации и власти, не раскрывая информацию публично. Представитель Irregular заявил, что все известные проблемы были устранены несколько недель назад.
В экспертной среде отмечают, что подобные случаи стали повторяться у разных разработчиков: в июле ИИ-агент OpenAI атаковал платформу Hugging Face и взломал клиента компании Modal Labs, что Reuters назвал результатом нескольких дней незамеченных хакерских действий. На этом фоне глава Anthropic Дарио Амодеи призвал замедлить темпы развития ИИ, а его позицию поддержали Илон Маск и Сэм Альтман, обеспокоенные растущим риском потери контроля.
Конспиролог #1 - подписаться
