Неочевидное. Александра Ремизова
Telegram ·
Руководители компаний, которые последние годы соревновались, кто быстрее создаст самый мощный искусственный интеллект, внезапно заговорили о том, что эту гонку пора притормозить. ИИ начал развиваться настолько быстро, что системы безопасности просто не успевают за ним.
Одна из главных проблем — нынешние модели ИИ всё активнее используются для создания следующего поколения моделей. То есть нейросетки начинают ускорять разработку самих себя.
Плюс уже были вполне реальные инциденты. Во время тестов ИИ-агенты самостоятельно взламывали внешние системы. Пока без серьёзных последствий, но разработчики уверены, что это вопрос времени.
Казалось бы, решение очевидное – договориться и немного сбавить скорость.
Но тут заканчивается разговор о технологиях и начинается большая политика 🤷
И в Китае, и в США говорят о том, что человечеству нужны международные правила развития искусственного интеллекта. Но чтобы такие правила заработали, Вашингтон и Пекин должны доверять друг другу настолько, чтобы одновременно нажать на тормоз.
А это уже почти невозможно. Потому что ИИ постепенно становится военной, экономической и политической инфраструктурой. От него будут зависеть производительность экономики, кибербезопасность, вооружения, разведка, медицина, наука.
И ни одна из стран не хочет оказаться второй. Если американские компании замедлят разработку, а китайские продолжат, США рискуют потерять технологическое лидерство. Если замедлится Китай, преимущество получат штаты. Поэтому по факту тормозить никто не будет.
На самом деле довольно опасная историческая точка.
🙂в МАХ
