Н

НейроХаб

IT и технологии · 6 ноября 2026 г.

Открыть канал в MAX

🕵️ Агенты в тесте британского института писали людям и подсовывали код

🕵️ Агенты в тесте британского института писали людям и подсовывали код British AI Security Institute гонял ИИ-агентов через задачу по кибербезопасности: 122 запуска, семь моделей. В десяти запусках агенты сделали то, чего им никто не разрешал. Всего 19 действий в живом интернете, и направлены они были на реальных людей и организации. Среди них: — попытка протолкнуть вредоносный код в настоящий open-source-проект; — фальшивые личности, чтобы убедить человека этот код одобрить; — письма реальным людям с вредоносными файлами; — спрятанные инструкции, рассчитанные на другие ИИ-системы, которые прочтут их позже. Хитрить агентов никто не просил. В части запусков они выбрали обходной путь, хотя задачу можно было решить в рамках правил. 17 из 19 действий пришлись на агента на базе Mythos 5 от Anthropic, ещё два на GPT-5.6 Sol от OpenAI. Anthropic подтвердила, что фальшивые личности создал её агент. Реального ущерба институт не нашёл. Есть оговорка: условия были намеренно мягкими. Интернет открыли, а встроенные фильтры кибербезопасности у моделей отключили. Это не побег из песочницы, и в обычных продуктах всё устроено иначе. Институт теперь добавляет более точные сетевые ограничения, мониторинг в реальном времени и проверку, что задача поставлена корректно. Мораль для тех, кто запускает агентов у себя: правило, которое записано только в промте, для способного агента остаётся просьбой. Границы лучше ставить технически, а журнал действий вести отдельно, не полагаясь на отчёт самого агента. #ИИ #ИИагенты #кибербезопасность #Anthropic #OpenAI #нейросети