R

RAG | Нейросети | ИИ | AI | Агенты | Gemini 4 Argon | Muse Wonder | Muse Spark Open | DeepSeek V4.1 | Claude Haiku 5.5 | GPT-6 Astra | Nemotron 3.5 | MiniMax M3.1 | Qwen3.6 | Grok 4.7 | GLM 5.3

IT и технологии · 23 августа 2026 г.

Открыть канал в MAX

Восемь моделей честно отказывались выдать секрет из контекста, но их обычные безобидные...

Восемь моделей честно отказывались выдать секрет из контекста, но их обычные безобидные ответы всё равно его сливали. Двузначный секрет восстанавливали почти безошибочно, четырёхзначный — в 82% случаев. Чем сильнее модель, тем заметнее утечка. Отказ сам по себе не защита. Пароли и ключи в контекст агента, которому доверили календарь или кредитку, класть не стоит. Исследование Meta*, Berkeley и DeepMind. * Meta Platforms Inc. признана экстремистской организацией, её деятельность в РФ запрещена