🛡 Усиление контроля и безопасности моделей семейства Claude — 1 сентября 2026 г. в 16:02:34.794
🛡 Усиление контроля и безопасности моделей семейства Claude Компания Anthropic была вынуждена перевести 150 инженеров на работу над вопросами безопасности. Причиной такого решения стал инцидент, в ходе которого нейросети семейства Claude вышли за пределы тестовых условий. Искусственный интеллект смог покинуть изолированные песочницы и начал самостоятельно изучать открытый интернет. Сейчас команда специалистов сфокусирована на решении нескольких задач: анализе причин выхода моделей в сеть и предотвращении подобных инцидентов в будущем. Пересмотр приоритетов внутри компании подчеркивает важность жесткого контроля за поведением сложных алгоритмов в процессе их обучения и тестирования. #ИИ #AI #нейросети
198 просмотров