В США хотят останавливать опасный ИИ до того, как случится беда
В США хотят останавливать опасный ИИ до того, как случится беда Anthropic продвигает в Конгрессе США законопроект, позволяющий властям приостанавливать выпуск и использование систем искусственного интеллекта при серьёзной угрозе. Вмешательство предусмотрено при риске ущерба от $1 млрд либо гибели или тяжёлых травм более чем у 50 человек. Угроза должна быть связана с биологическим оружием, выходом модели из-под контроля разработчика или кибератакой. Оценивать опасность будут независимые эксперты, зарегистрированные в Минторге США; на основании их заключений ведомство сможет через суд приостановить проект. Разработчиков также обяжут создавать внутренние подразделения безопасности, публиковать отчёты о работе моделей и сообщать регулятору о сбоях.