⚡️ИИ может представлять катастрофическую угрозу для человечества
О таком риске предупредила компания Anthropic — разработчик Claude. Сообщается, что соответствующие документы она подготовила для выхода на биржу.
В них говорится, что передовые ИИ-модели, включая собственные разработки компании, способны нести экзистенциальную угрозу человечеству. Среди возможных опасностей названы умение нейросетей скрывать информацию, манипулировать людьми, прибегать к шантажу и сопротивляться отключению.
Новости России