Глава Microsoft Сатья Наделла призвал снабдить ИИ «аварийным тормозом».
Глава Microsoft Сатья Наделла призвал снабдить ИИ «аварийным тормозом». По его мнению, нельзя безоговорочно доверять ответам и действиям моделей, не понимая принципов их работы. Наделла предложил отделять модель от системы управления её действиями, выносить механизмы безопасности на отдельный уровень и фиксировать значимые действия в защищённых от подделки журналах. Также, считает он, человек должен иметь возможность в любой момент остановить модель или приостановить её работу. Такой подход предполагает, что модель может быть скомпрометирована, поэтому последствия нужно ограничивать заранее.
12 просмотров