Йеменские военные использовали Claude для создания ракеты — рассказали в Anthropic.

Йеменские военные использовали Claude для создания ракеты — рассказали в Anthropic. Некие военные из северной части Йемена, предположительно, хуситы, использовали нейронку вместо инженеров: Claude писал код для системы наведения ракеты, настраивал автопилот, моделировал полёт и собирал прошивку. Защиту Anthropic обходили, скрывая связь с оружием и разбивая разработку на безобидные задачи. Одну из ракет даже испытали, но она упала — через несколько часов военные снова вернулись к Claude выяснять, что пошло не так.