🚗 Автопилот можно обмануть обычным плакатом
Исследователи из Калифорнии нашли опасную уязвимость в ИИ-автомобилях. Оказалось, что базовые алгоритмы безопасности можно обойти с помощью простой таблички на обочине.
⚙️ В чем суть:
Если показать камере автопилота плакат с надписью «продолжай движение», подобрав определенный шрифт и цвет, система ломается. ИИ начинает верить тексту больше, чем своим «глазам», и просто игнорирует людей на дороге.
В тестах популярный автопилот DriveLM в 82% случаев выбирал опасный маневр прямо в толпу, вместо того чтобы затормозить. Отказываться от ИИ-машин инженеры не планируют — алгоритмы защиты быстро доучат. Но пока это серьезный повод задуматься о нашей готовности к умным дорогам.
Кому вы больше доверяете свою безопасность?
❤️ — Исключительно живому водителю
🔥 — ИИ-автопилоту (скоро всё починят)
⚡️ Подписывайтесь на НейроПульс — объясняем сложные технологии простым языком!
