😈 Хакеры используют Gemini на всех этапах атак и пытаются заниматься дистилляцией
Команда Google Threat Intelligence Group (GTIG) опубликовала отчет о масштабных злоупотреблениях нейросетью Gemini
❗️ По данным корпорации, злоумышленники используют ИИ на всех этапах своих атак — от разведки до эксфильтрации данных
Более того, отдельные группы пытаются клонировать саму модель с помощью дистилляции, генерируя по 100 000 запросов
Принцип прост: вместо того чтобы тратить миллиарды долларов и годы на обучение собственной LLM, злоумышленники пытаются использовать уже существующую модель как шорткат
— Атакующие бомбардируют Gemini тысячами тщательно подобранных промптов, собирают все ответы, а затем используют полученные данные для тренировки меньшей и более дешевой модели
🧑💻 Этичный хакер
