🖥 Почему для разбора инцидентов мы выбрали RAG, а не файнтюнинг | Привет, друг. На свя...
🖥 Почему для разбора инцидентов мы выбрали RAG, а не файнтюнинг | Привет, друг. На связи Эллиот. LLM в контуре SOC — это освобождение сотрудника от части рутины. Связка промт‑инжиниринга, валидации и RAG — это проще, быстрее и эффективнее, чем файнтюнинг. Можно ли автоматизировать первичный разбор, не отдавая данные во внешнюю LLM и не превращая внедрение в многомесячный проект по файнтюнингу? Мы попробовали это сделать с помощью локальной LLM, RAG и второго прохода с валидатором. — В данном материале рассмотрим, как устроен этот процесс, почему мы выбрали RAG вместо файнтюнинга и какие проблемы обнаружили уже после внедрения. ⏺ Ссылка на чтиво #SOC #IT #LLM #AI #RAG | Mr. Robot
368 просмотров