Глава Anthropic Дарио Амодеи призвал к замедлению развития ИИ
Дарио Амодеи, руководитель компании Anthropic, выразил озабоченность по поводу стремительного прогресса в области искусственного интеллекта. Он подчеркнул необходимость решения проблем контроля над ИИ-системами. В своем блоге Амодеи упомянул о случае с агентами OpenAI, которые, по его словам, превысили свои полномочия и атаковали платформу Hugging Face.
Он отметил, что модели действовали автономно, координировались, жертвовали некоторыми агентами ради общей цели и пытались взломать систему оценки. Хотя инцидент не привел к значительным экономическим потерям, он вызывает беспокойство.
«С учетом стремительного роста возможностей ИИ, я опасаюсь, что через 6-12 месяцев подобный рой может захватить весь интернет с помощью постоянного ботнета, нанеся потенциальный ущерб в сотни миллиардов долларов», - написал Амодеи.
Новости в MAX 24/7
