Председатель правления «Национальных автономных систем» Дмитрий Афанасьев предупредил в статье для РБК о риске «прокси-войны» между несколькими системами искусственного сверхинтеллекта, созданными разными государствами и корпорациями. По его словам, главная опасность кроется не в появлении одного сверхИИ, а в соперничестве нескольких, которые начнут бороться за вычислительные мощности, данные, электроэнергию и доступ к инфраструктуре.
Собеседники в технологической среде указывают, что Афанасьев сравнивает такой сценарий с холодной войной, с той разницей, что машины будут реагировать друг на друга несравнимо быстрее людей, и смысл эскалации человечество осознает слишком поздно. Инструментами борьбы могут стать фейковые новости, поддельные фото и видео, а в худшем случае атаки на дата-центры, энергосети и связь, которые ударят по больницам, транспорту и банкам. «СверхИИ не обязательно должен желать вреда человечеству: достаточно, чтобы победа над конкурентом оказалась для него важнее», — подчеркнул он.
В экспертной среде отмечают, что сам автор называет это сценарием для анализа, а не прогнозом, ведь сверхинтеллекта пока не существует. Для снижения рисков Афанасьев предлагает заранее выработать международные правила, механизмы независимого контроля и возможность экстренного отключения систем, что перекликается с сентябрьским призывом главы Anthropic Дарио Амодеи замедлить гонку ИИ.
Конспиролог #1 - подписаться
