😈 Инструмент для тестирования LLM-приложений, оценки качества ответов и проверки безоп...
😈 Инструмент для тестирования LLM-приложений, оценки качества ответов и проверки безопасности ИИ-систем Promptfoo — это open-source фреймворк для автоматизированного тестирования промптов, ИИ-агентов и RAG-систем. Он позволяет сравнивать модели, проверять устойчивость к атакам и выявлять уязвимости, включая prompt injection, jailbreak и утечки конфиденциальных данных. ➖Поддерживает автоматизированный AI Red Teaming, генерацию adversarial-тестов, сравнение моделей и интеграцию проверок в CI/CD. Результаты тестирования доступны в виде отчётов, помогающих обнаруживать проблемы до выхода приложения в production. ➡️https://github.com/promptfoo/promptfoo #Tool #AI #LLM #RedTeam #Injection #Engineering #Pentest #RAG #DevSecOps // @nsis // max.ru/nsis