Anthropic предложила блокировать ИИ при риске массовой гибели людей
Anthropic предложила блокировать ИИ при риске массовой гибели людей Компания Anthropic продвигает в Конгрессе США законопроект о регулировании систем искусственного интеллекта. Документ позволяет правительству блокировать выпуск или использование моделей ИИ, если эксперты докажут, что система может нанести ущерб на 1 млрд долл. или создать риск гибели либо травмирования более 50 человек. Об этом сообщает «Коммерсант» со ссылкой на Politico. Угроза должна быть связана с созданием или применением биологического оружия, выходом модели из-под контроля разработчика или кибератакой. Выявлять риски будут независимые эксперты, зарегистрированные в Минторге США. Ведомство сможет через суд добиваться заморозки проекта.
7 просмотров