Anthropic предоставляет независимым оценщикам доступ уровня сотрудника
Anthropic предоставляет независимым оценщикам доступ уровня сотрудника Anthropic объявила о запуске программы независимой оценки своих моделей и практик безопасности. Компания предоставила команде из шести сотрудников METR, некоммерческой организации, оценивающей передовые ИИ-модели, доступ к своим внутренним системам, сопоставимый с уровнем сотрудников, работающих над оценкой рисков. Это включает корпоративное оборудование, офисное пространство и доступ к внутренним инструментам. METR получила право публиковать результаты своих оценок рисков, а Anthropic не может наложить вето на публикацию, но может потребовать редактирования информации по узким категориям, например, касающимся данных клиентов или архитектуры моделей. Оценщики также могут публично охарактеризовать обоснованность этих правок. Аналогия, которую проводит компания, — с банковским надзором, где регулирующие органы размещают своих сотрудников внутри крупных банков. Помимо METR, Anthropic работает с SecureBio и Accenture, а также ведет переговоры с другими организациями, включая Hugging Face. Для этих партнеров доступ пока ограничен, но компания планирует развивать сотрудничество до уровня полного внедрения. Вводится три уровня доступа для оценщиков, и цель — несколько организаций на третьем, самом глубоком уровне. Anthropic отмечает, что такой подход позволяет ей не раскрывать коммерчески чувствительную информацию или детали, которые могли бы быть использованы злоумышленниками, но при этом обеспечивает независимый аудит безопасности. Программа рассматривается как шаг к более зрелому регулированию в сфере ИИ. Главное: • Anthropic предоставляет METR доступ уровня сотрудника к системам и данным. • METR публикует оценки рисков и инцидентов без права вето, но с возможностью редактуры. • SecureBio, Accenture и Hugging Face также привлечены в качестве оценщиков. • Три уровня доступа: от ограниченного до полного погружения внешних аудиторов. #ИИ #Безопасность #Регулирование #Anthropic #METR