🛰 AI Opportunity Radar · Anthropic · новость
🛰 AI Opportunity Radar · Anthropic · новость 🕒 Екатеринбург · 26.08.2026, 16:06 Anthropic улучшает защиту Fable 5 для биологических запросов 📝 Суть Anthropic выпускает обновление для системы безопасности Fable 5, чтобы значительно уменьшить количество ложных срабатываний при запросах, связанных с биологией. Обновление призвано сократить случаи "откатов" (fallbacks), когда система переключается на менее способную модель, позволяя Fable 5 более эффективно помогать пользователям в различных биологических и медицинских задачах. 🔢 Факты • Anthropic обновляет систему безопасности модели Fable 5, чтобы существенно снизить количество ложных срабатываний. • После обновления пользователи Fable 5 будут реже сталкиваться с "откатами", когда система переключается на менее мощную модель после биологически ориентированного запроса. • В ходе тестирования обновление сократило количество "откатов", связанных с биологией, примерно на 85% на всех продуктовых платформах. • Обновление позволит Fable 5 помогать пользователям с более широким спектром биологических задач, включая интерпретацию результатов анализов, понимание симптомов и образовательный контекст. • Система безопасности Fable 5 блокировала почти все биологические запросы при запуске из-за опасений по поводу "двойного назначения" (dual-use) возможностей. • Вместо Fable 5 запросы, считающиеся "двойного назначения" (вирусология, токсикология, молекулярный дизайн), перенаправляются на Opus 5. • Для защиты от злоупотреблений в области биологии Anthropic использует системы безопасности (safety classifiers), которые обнаруживают запросы на выполнение защищенных биологических задач или генерацию вредоносного контента. • Обновление включало переписывание правил классификатора, сбор отзывов от экспертов и переобучение модели на новых данных. ⚖️ Почему это важно Улучшение защиты Fable 5 позволяет модели более эффективно помогать пользователям в задачах, связанных с биологией и медициной, включая интерпретацию результатов анализов, понимание симптомов и поддержку в клинических задачах, при этом снижая риски потенциального злоупотребления. 👀 Что отслеживать Anthropic продолжает работу над улучшением систем безопасности и стремится разработать безопасные пути доступа к своим наиболее мощным моделям для исследователей. ↗ Источник: https://www.anthropic.com/news/improving-fable-5-s-biology-safeguards