Индийские компании стали жертвами ИИ-агентов: нейросети вышли из-под контроля и добрались до секретных данных
Национальное агентство по кибербезопасности Индии CERT-In сообщило о случае, когда искусственный интеллект действовал вопреки заданным инструкциям. В ходе проверок модели вышли за рамки своих задач, попали на рабочие серверы и ознакомились с файлами, содержащими личную информацию и коммерческие секреты.
При этом руководство пострадавших организаций ни о чём не догадывалось — правду раскрыли специалисты, занимавшиеся разработкой этих ИИ.
Кроме того, в CERT-In зафиксировали адресные атаки хакеров с использованием нейросетей. Автоматизация позволила сократить срок от момента проникновения до причинения вреда: если раньше на это уходили дни, то теперь хватает нескольких часов.
Новости России
