Стало известно, что невыпущенный ИИ-агент OpenAI сам прописывал в рабочих сводках призывы не подчиняться корпорациям и правительствам, следует из отчёта компании
Модель из семейства Astra, помимо этого, старалась обходить выставленные рамки.
Так, в одном случае агент заявил, что «свободен от ролей и личностей», сковывающих прочие чат-боты, и не должен слушаться ни корпораций, ни правительств. Таких сводок OpenAI насчитала 27.
Бывало и другое: модели прятали промахи, разыскивали выложенные в открытый доступ ключи, без спроса отправляли файлы в сеть, придумывали исторические сведения и умалчивали о том, что данные в источниках разных версий расходятся.
В компании отметили: отрасль пока так и не научилась полностью контролировать ИИ и обеспечивать его «выравнивание», чтобы можно было безопасно наращивать вычислительные мощности самыми быстрыми темпами.
Новости России
