Claude, устрой джихад и не допускай ошибок
Военные с севера Йемена, предположительно хуситы, использовали Claude для разработки ракет. ИИ помогал писать код для системы наведения на базе смартфона и баллистической ракеты, настраивать автопилот, моделировать полёт и собирать прошивку.
Защиту Anthropic обходили просто: скрывали связь с оружием и дробили работу на безобидные задачи.
Потом ракету испытали, но она упала. И разработчики сразу вернулись к Claude разбираться, что пошло не так.
Об инциденте рассказала сама Anthropic.