Теперь каждый раз, отвечая пользователю, Claude незаметно проводит внутреннюю проверку,...
Теперь каждый раз, отвечая пользователю, Claude незаметно проводит внутреннюю проверку, пытаясь определить, не способствовал ли его ответ причинению вреда. Результаты этой проверки передаются специалистам Anthropic для дальнейшего рассмотрения. Самый точный инструмент Anthropic для выявления злоупотреблений — классификатор на базе Claude Mythos Preview: модель, которая определяет, нарушены ли правила безопасности. Перед каждым решением он сверяется со всеми политиками безопасности компании. Но проверять так каждый диалог слишком затратно по вычислениям. Поэтому Anthropic обучила Claude воспроизводить решения классификатора — без обращения к самим политикам и без повторения его рассуждений. На запросах к Fable 5 новый механизм выявил 78% случаев, которые отметил исходный классификатор. Среди высокоприоритетных случаев — 94%. Доля ложных срабатываний, когда проверка ошибочно сигнализирует о проблеме, составила 1%. Материалы: — https://safeguards.anthropic.com/2026/self-assessment/ Источник: https://t.me/vibecoding_tg/4202 #RealVibe #AI #AI_Новости