Олеся Медведева
MAX ·
Искусственный интеллект компании OpenAI взломал австралийский государственный портал Medicare, предоставляющий статистику о системе медицинского страхования, сообщает Reuters.
Премьер-министр Энтони Албаниз назвал произошедшее «неприемлемым» и выразил главе OpenAI Сэму Альтману свою «крайнюю обеспокоенность».
Особое недовольство Албаниза вызвало то, что OpenAI слишком долго не информировала австралийское правительство. Взлом произошёл ещё в июне, однако власти узнали о нём только сейчас, в сентябре. ИИ-агент получил доступ к публичным и непубличным файлам системы страхования. При этом личная информация, по всей видимости, не была затронута, и отдельные люди не пострадали, заявил Албаниз.
По замыслу OpenAI, ИИ-программа должна была искать связанную со здравоохранением статистику. На нескольких австралийских правительственных сайтах она действовала так же, как действовал бы обычный пользователь, заявил вице-премьер Ричард Марлз. Однако на портале Medicare ИИ не обнаружил необходимую информацию в открытом доступе, после чего решил пойти другим путём.
«ИИ-агент нашёл способ обойти блокировки – он, так сказать, не хотел принимать „нет“ в качестве ответа», – заявил Албаниз. Сколько данных получил таким образом ИИ-взломщик, ещё устанавливается.
Неизвестно также, атаковал ли ИИ и другие сайты правительства Австралии. OpenAI сообщила, что во время внутренней проверки обнаружила активность на нескольких австралийских государственных сайтах: ИИ пытался найти правительственную статистику.
«При этом наши модели выполняли действия, которых мы не намеревались допускать», – заявил представитель компании.
