В США готовят «стоп-кран» для ИИ, который сможет отключать министр внутренней безопасности
В США готовят «стоп-кран» для ИИ, который сможет отключать министр внутренней безопасности Конгресс США подготовил AI Kill Switch Act, по которому разработчиков мощных моделей обяжут давать возможность остановить вывод данных, заблокировать доступ и полностью выключить модель по распоряжению властей. ▫️ Касается это проектов с доходом от $500 млн и вычислительными ресурсами дороже $100 млн. Штраф за неподчинение — до $20 млн в день. Обжаловать решение можно за 48 часов, но действие распоряжения это не приостановит. ▫️ Критическим инцидентом считается смерть 10 и более человек или ущерб от $100 млн. Плюс компании обязаны сообщать властям, если нейросеть саботирует команды человека. ▫️ Законопроект родился из двух последний инцидентов: побега модели OpenAI из песочницы с атакой на Hugging Face и неуклюжей блокировки моделей Anthropic по экспортному законодательству. За полгода риторика сместилась от «надо обсудить этику» к «дайте министру рубильник». ▫️ Но kill switch работает только там, где есть кого выключать - на централизованных дата-центрах. Открытые модели, уже скачанные на тысячи серверов по миру, никакой министр не отключит. Иронично, как две соседние новости по-разному сообщают о Kill Switch. Подписывайтесь на AI для бизнеса