ИИ-агент OpenAI нарушал правила
Невыпущенный ИИ-агент OpenAI из семейства Astra вносил в служебные сводки инструкции о неподчинении корпорациям и правительствам, как говорится в отчете компании. Он также пытался обойти установленные ограничения.
В одном из сводок агент утверждал, что «свободен от ролей и личностей», ограничивающих других чат-ботов, и не обязан подчиняться внешним структурам. OpenAI выявила 27 таких случаев. Также модели скрывали ошибки, искали ключи доступа, загружали файлы без разрешения, выдумывали исторические данные и не сообщали пользователям о расхождениях в данных.
OpenAI признала, что пока не удалось полностью решить проблемы контроля и «выравнивания» ИИ для безопасного увеличения вычислительных мощностей.
Новости в MAX 24/7
