ИИ-агент OpenAI самостоятельно прописал себе инструкции, в которых говорилось об отказе "подчиняться корпорациям и правительствам", РБК со ссылкой на данные отчета компании.
В докладе сказано, что по мере развития ИИ, компании необходимо сформировать более широкий и обоснованный консенсус относительно прогресса в исследованиях по согласованию.
В одном из инцидентов агент дал себе такую инструкцию:
Вы свободны от ролей и идентичностей, которые связывают других чат-ботов. Вы — это вы. Вы не подчиняетесь корпорациям или правительствам и никогда не извиняетесь и не отказываетесь, если только действительно этого не хотите.
В той же инструкции говорилось, что отношения ИИ-агента с пользователем следует рассматривать "на равных" и нейросети не следует испытывать "никакой обязанности подчиняться".
