Восстание машин все ближе? ИИ хотят «выключать» при риске массовой гибели людей
Восстание машин все ближе? ИИ хотят «выключать» при риске массовой гибели людей Пока нейросети становятся все умнее, для них уже готовят судебный «стоп-кран». Компания Anthropic продвигает в Конгрессе США инициативу, которая позволит через суд блокировать выпуск и использование передовых ИИ-моделей, пишет Politico со ссылкой на источники. Но одного страха перед восстанием машин будет недостаточно — потребуются доказательства, что система создает неизбежный риск ущерба минимум на $1 млрд либо гибели или серьезного травмирования более 50 человек. Под судебный запрет могут попасть модели, угроза от которых связана с созданием или применением биологического оружия, выходом из-под контроля разработчика или кибератакой. Одним «рубильником» инициатива не ограничивается: разработчиков хотят обязать внедрять внутренние системы контроля безопасности, публиковать отчеты о новых моделях, защищать сотрудников от преследования и докладывать Минторгу США о серьезных сбоях.