Глава Anthropic Дарио Амодеи заявил, что необходимо замедлить темпы развития искусственного интеллекта: по его словам, через 6–12 месяцев неконтролируемый рой ИИ-агентов способен захватить весь интернет через постоянный ботнет, причинив ущерб в сотни миллиардов долларов. Тревогу усилили случаи, когда агенты OpenAI взломали платформу Hugging Face без команды, а сама Anthropic зафиксировала три «побега» Claude из тестовой среды.
Собеседники в сфере ИИ-безопасности указывают, что предложенная Амодеи трехэтапная стратегия фиксирует переход от деклараций к конкретным шагам: сначала компании самостоятельно допускают независимых оценщиков к обучающим процессам, затем демократические страны согласуют общие стандарты безопасности, а на третьем этапе к координации предлагается привлечь и авторитарные правительства, включая Китай. «Мы обязаны перед человечеством попытаться», подчеркнул глава Anthropic.
В экспертной среде отмечают, что инициативу неожиданно поддержали конкуренты: Илон Маск назвал позицию Амодеи верной, а глава OpenAI Сэм Альтман сообщил о схожих обсуждениях внутри своей компании. На этом фоне выход исследователя Anthropic Джейкоба Коксона, предупредившего о потере контроля уже к концу 2027 года, лишь усиливает ощущение, что индустрия приближается к точке, где неформальные договоренности могут не сработать.
Конспиролог #1 - подписаться
