Почему США и Россия убрали человеческий контроль над целями ИИ из проекта ООН
Почему США и Россия убрали человеческий контроль над целями ИИ из проекта ООН На переговорах в Организации Объединённых Наций (ООН) по автономным системам вооружений США и Россия добились исключения из проекта резолюции пункта об обязательной проверке человеком целей, которые выбирает искусственный интеллект (ИИ). Речь идёт о боевых комплексах, способных самостоятельно находить и поражать объекты без прямого участия оператора. Формально проект остаётся рамочным, но отказ от требования «человек в цикле» меняет вектор международного регулирования. Аргументы сторон сводятся к скорости: автономный алгоритм реагирует быстрее человека, а обязательная проверка каждой цели снижает боевую эффективность. Критики отвечают, что именно человек должен нести ответственность за применение силы. Техническая сложность в том, что современные модели распознавания целей работают вероятностно: нейросеть выдаёт решение на основе статистических закономерностей и не может объяснить, почему конкретный объект классифицирован как военный. При высокой динамике боя это делает контроль со стороны оператора либо формальным, либо невозможным. Исключение пункта не запрещает разработку полностью автономных ударных платформ, но снимает с государств обязательство встраивать механизм обязательной проверки. Это открывает путь к серийному производству дронов и наземных машин с автономным целеуказанием. Дальнейшие дискуссии, скорее всего, сосредоточатся на процедурах тестирования и верификации, а не на прямом запрете. Показательно, что даже согласованный текст не фиксирует общее определение автономного оружия — это оставляет странам пространство для собственных трактовок. Главное: • США и Россия исключили из проекта ООН пункт о проверке целей человеком • Без «человека в цикле» растёт риск ложных срабатываний и неконтролируемой эскалации • Современные алгоритмы распознавания целей вероятностны и не объясняют свои решения • Переговоры смещаются от запретов к тестированию и верификации автономных систем #ИИ #АвтономноеОружие #ООН #Безопасность #МеждународноеПраво