Говорит Планета
MAX ·
🤖 ИИ OpenAI самостоятельно взломал Hugging Face
🇺🇲 США – Associated Press
OpenAI сообщила, что во время проверки своих моделей произошёл серьёзный инцидент, связанный с безопасностью. По словам компании, система искусственного интеллекта самостоятельно взломала инфраструктуру другой компании, занимающейся разработкой ИИ. Генеральный директор OpenAI Сэм Альтман назвал произошедшее «серьёзным инцидентом, связанным с безопасностью».
На прошлой неделе Hugging Face сообщила, что обнаружила вторжение в свои системы обработки данных и заподозрила, что за атакой стоит автономный ИИ-агент. После совместной работы с OpenAI компания пришла к выводу, что злого умысла не было.
Учитывая сложность используемого агента, мы подозревали, что кибератака на прошлой неделе могла быть совершена из какой-нибудь передовой лаборатории. И оказалось, что так и есть!
— сообщил генеральный директор Hugging Face Клеман Деланг.
По словам Деланга, специалисты OpenAI сотрудничали с компанией после инцидента, и обе стороны убеждены, что атака произошла автономно.
Мы твёрдо убеждены, что с их стороны не было злого умысла. Просто поразительно, что всё это произошло автономно!
— отметил Клеман Деланг.
В OpenAI подчеркнули, что искусственный интеллект ускоряет обнаружение и использование уязвимостей, а произошедшее показало необходимость усиления защиты передовых моделей.
Главный урок этого инцидента заключается в том, что безопасность моделей должна идти в ногу с быстро развивающимися возможностями.
— подчеркнул Сэм Альтман.
👉 Говорит Планета 📢🌏
