ΠŸΠ΅Ρ€Π΅ΠΉΡ‚ΠΈ ΠΊ содСрТимому
ΠœΠ°ΠΊΡΠΈΠΌΠ΅Ρ‚Π΅Ρ€

πŸ€’ Guardrails для LLM обходят, поэтому ΠΎΠ΄Π½ΠΈΡ… ΠΈΡ… ΠΌΠ°Π»ΠΎ

πŸ€’ Guardrails для LLM обходят, поэтому ΠΎΠ΄Π½ΠΈΡ… ΠΈΡ… ΠΌΠ°Π»ΠΎ Π€ΠΈΠ»ΡŒΡ‚Ρ€Ρ‹ Π½Π° Π²Ρ…ΠΎΠ΄Π΅ ΠΌΠΎΠ΄Π΅Π»ΠΈ обходят с частотой Π΄ΠΎ 100% – ΠΎΠ΄Π½Π° прослойка prompt injection Π½Π΅ Π΄Π΅Ρ€ΠΆΠΈΡ‚, ΠΈ SOC Π½ΡƒΠΆΠ½Π° Π½Π΅ стСна, Π° Π³Π»ΡƒΠ±ΠΈΠ½Π° ΠΎΠ±ΠΎΡ€ΠΎΠ½Ρ‹ ΠΈ Π΄Π΅Ρ‚Π΅ΠΊΡ‚ самих ΠΏΠΎΠΏΡ‹Ρ‚ΠΎΠΊ ΠΈΠ½ΡŠΠ΅ΠΊΡ†ΠΈΠΈ. Guardrails ловят Ρ‚ΠΈΠΏΠΎΠ²ΠΎΠ΅, Π½ΠΎ Π½Π΅ Π΄Π°ΡŽΡ‚ Π³Π°Ρ€Π°Π½Ρ‚ΠΈΠΈ: ΠΏΡ€ΠΎΠΏΡƒΡ‰Π΅Π½Π½Ρ‹ΠΉ ΠΎΠ±Ρ…ΠΎΠ΄ бСсполСзно Ρ„ΠΈΠ»ΡŒΡ‚Ρ€ΠΎΠ²Π°Ρ‚ΡŒ, Ссли Π·Π° Π½ΠΈΠΌ Π½ΠΈΠΊΡ‚ΠΎ Π½Π΅ Π½Π°Π±Π»ΡŽΠ΄Π°Π΅Ρ‚. β€” Π’ ΡΡ‚Π°Ρ‚ΡŒΠ΅ ΠΌΡ‹ Ρ€Π°Π·Π±Π΅Ρ€Π΅ΠΌ Ρ‡Π΅Ρ‚Ρ‹Ρ€Ρ‘Ρ…ΡΠ»ΠΎΠΉΠ½ΡƒΡŽ Π°Ρ€Ρ…ΠΈΡ‚Π΅ΠΊΡ‚ΡƒΡ€Π°Ρƒ Π·Π°Ρ‰ΠΈΡ‚Ρ‹ LLM, ΠΏΡ€Π°Π²ΠΈΠ»Π° коррСляции Π² SIEM для обнаруТСния ΠΈΠ½ΡŠΠ΅ΠΊΡ†ΠΈΠΉ ΠΈ hardening-чСклист ΠΈΠ· 12 ΠΏΡƒΠ½ΠΊΡ‚ΠΎΠ². 🎀 Π§Ρ‚ΠΈΠ²ΠΎ #LLMSecurity #PromptInjection #BlueTeam / White Hat / max.ru/kind_hack

230 просмотров

Канал Π² ΠΊΠ°Ρ‚Π°Π»ΠΎΠ³Π΅ ΠœΠ°ΠΊΡΠΈΠΌΠ΅Ρ‚Π΅Ρ€Π°

903 подписчиков Β· IT ΠΈ Ρ‚Π΅Ρ…Π½ΠΎΠ»ΠΎΠ³ΠΈΠΈ

Π”Ρ€ΡƒΠ³ΠΈΠ΅ ΠΏΡƒΠ±Π»ΠΈΠΊΠ°Ρ†ΠΈΠΈ ΠΊΠ°Π½Π°Π»Π°

ΠŸΠΎΠΏΡƒΠ»ΡΡ€Π½Ρ‹Π΅ ΠΏΡƒΠ±Π»ΠΈΠΊΠ°Ρ†ΠΈΠΈ ΠΊΠ°Π½Π°Π»Π°

Π•Ρ‰Ρ‘ ΠΏΠΎ Ρ‚Π΅ΠΌΠ΅ Β«IT ΠΈ Ρ‚Π΅Ρ…Π½ΠΎΠ»ΠΎΠ³ΠΈΠΈΒ»

Π§ΠΈΡ‚Π°Ρ‚ΡŒ дальшС

Π”Π²Π° Ρ€Π°Π·Π° Π² нСдСлю свСТиС посты этого ΠΊΠ°Π½Π°Π»Π° β€” Π½Π° ΠΏΠΎΡ‡Ρ‚Ρƒ ΠΈ Π² Π»ΠΈΡ‡Π½ΡƒΡŽ Π»Π΅Π½Ρ‚Ρƒ. Π‘Π΅Π· ΠΏΠΎΠ²Ρ‚ΠΎΡ€Π½ΠΎΠ³ΠΎ поиска ΠΊΠ°Π½Π°Π»Π° Π²Ρ€ΡƒΡ‡Π½ΡƒΡŽ.