Воронцова вещает
MAX ·
Создатели ИИ продолжают бить тревогу — уже скоро, по их словам, искусственный интеллект может стать опасен для всего человечества.
Бывший исследователь Anthropic (которая разрабатывает языковую модель Claude) Джейкоб Коксон и специалист по безопасности из этой же компании Джо Бентон на днях уволились и практически в один голос вещают о том, что развитие передовых ИИ-систем создаёт для людей риски беспрецедентного масштаба. Они прямо говорят, что технологии, которые разрабатывают Anthropic и OpenAI, могут привести к уничтожению человечества уже в ближайшие четыре года.
Поясняют: нынешние механизмы безопасности не соответствуют скорости развития искусственного интеллекта, если эту динамику не остановить, то она "может опередить" способность человека "понимать и контролировать эти системы". У них уже скоро могут возникнуть цели и стремления, расходящиеся с намерениями людей-контролёров. Одним из главных рисков оба называют сценарий, когда ИИ станет достаточно хорош, чтобы создавать собственных более мощных ИИ-преемников уже без участия человека (RSI - рекурсивное самоулучшение, в сети ходят слухи, что Google уже удалось этого достичь).
При этом Дарио Амодеи, глава компании Anthropic сегодня заявил: через 6-12 месяцев ИИ сможет захватить весь интернет и нанести ущерб в сотни миллиардов долларов. Правда, кивает он в сторону конкурентов из OpenAI. Но идею бывших сотрудников поддерживает: необходимо замедлить темпы развития искусственного интеллекта для решения проблем с контролем над ним.
Страшно?
