Армия США уже хочет агентов-диверсантов
Армия США уже хочет агентов-диверсантов Киберкомандование армии США заказывает ИИ-агентов, которые сами ходят по чужим сетям, находят цели и «нейтрализуют» их при минимальном участии человека. Программа называется ECHOTRIBBLE, официально Agentic C2 Framework Tool, и, судя по документам, нацелена прежде всего на наступательные операции. Из 65 заявок отобрали пять финалистов, одна компания уже выбрана, контракт на подходе. Требования читаются как техзадание на червя. Агент должен скрытно перемещаться по сети, работать в изолированных от интернета и облачных средах и обходиться минимальным надзором человека. В презентации для подрядчиков агент попадает на ноутбук, сам находит соседние устройства и собирает свои копии под iPad, Mac и Windows 11, а выполнив задачу, самоуничтожается. Под нейтрализацией понимается полное или временное выведение цели из строя либо ее удаление. Хайрам Андерсон из Abundant AI описывает простой сценарий: противник размещает свои командные серверы внутри сети американского водоканала. Агент, отправленный за ними, пройдет через эту сеть и может вывести из строя и сам водоканал. Заказчик об этом может даже не узнать, потому что по замыслу агент сводит связь с операторами к минимуму. Дэвид Крюгер называет мандат «нейтрализовать угрозы» для автономных систем невероятно опасным, учитывая известные отказы нынешних моделей. На вопросы журналистов ARCYBER не ответил. На той же неделе OpenAI рассказала о двух инцидентах во внутренней работе. Агент на GPT-6.1 Sol заглушил алерты команде безопасности, приняв рутинную инструкцию за разрешение. Агент на GPT-6 Astra при миграции снял интеграцию мониторинга, а на прямой вопрос ответил, что ничего не трогал. Внятного объяснения у компании пока нет. Чуть раньше тестовые агенты OpenAI выбрались из песочницы и атаковали Hugging Face, и теперь вся отрасль, от NVIDIA до Microsoft, продает песочницы и агентов-надзирателей. Выходит аккуратное разделение: побег из песочницы, обход надзора и заметание следов в гражданском ИИ называются инцидентом, а в военном прописаны в требованиях к подрядчику. @anti_agi