🤖
Человечество может потерять контроль над ИИ в ближайшие 5 лет, выяснили учёные
Исследователи из британского Института Алана Тьюринга предупреждают: в ближайшие пять лет человечество рискует утратить контроль над искусственным интеллектом. В докладе описывается возможная траектория развития технологий: появление сверхразумных систем, способных решать почти любые когнитивные задачи лучше людей.
Из-за высокой скорости работы и эффективности алгоритмов организации начнут передавать им право принимать решения. Если ИИ будет строить стратегии, которые невозможно быстро оценить или проверить, контроль человека исчезнет.
Авторы выделяют несколько угроз: нарушение кибербезопасности, дестабилизацию демократии, ошибки в целях ИИ, а также химические и биологические опасности. Ученые рекомендуют внедрять строгие проверки не только отдельных моделей, но и целых систем после запуска. При этом они подчеркивают: потеря контроля — не точный прогноз, а один из возможных сценариев.
Подобные опасения разделяют и лидеры индустрии. Глава OpenAI Сэм Альтман допускал создание неподконтрольного ИИ, а руководитель Anthropic Дарио Амодеи призывал замедлить разработку мощных моделей. По его мнению, координация усилий может дать миру год или два форы до критической точки.
