R

RAG | Нейросети | ИИ | AI | Агенты | GPT-6 Luna | Gemini 4 Argon | Claude Haiku 5.5 | Mistral Large 4 | Muse Wonder | Claude Fable 5.5

IT и технологии · 17 сентября 2026 г.

Открыть канал в MAX

Присматривать за LLM-агентом принято второй нейронкой — она читает трассу вызовов и реш...

Присматривать за LLM-агентом принято второй нейронкой — она читает трассу вызовов и решает, где нарушение. Но вердикт плывёт от прогона к прогону. ContrAgent компилирует правила-контракты в маленький автомат: он блокирует опасный tool-call на лету и оценивает записанную трассу. Вердикт воспроизводимый, 0,16 мс на вызов против десятков-сотен миллисекунд у LLM-судьи. На SOPBench безопасность растёт с 32% до 98%. Препринт: контракты перед запуском проверяет человек, а ловит автомат только структуру вызовов, не смысл. Но как фильтр перед tool-call — цепко.