Почему законопроект Anthropic о безопасности ИИ вступает в силу только после 50 смертей
Почему законопроект Anthropic о безопасности ИИ вступает в силу только после 50 смертей Компания Anthropic, разработчик языковой модели Claude, предложила собственный вариант регулирования искусственного интеллекта. Ключевая особенность документа — пороговые значения, при которых включаются обязательные меры контроля. Речь идет о 50 подтвержденных смертях или ущербе в 1 миллиард долларов, вызванных применением ИИ-систем. До достижения этих порогов регулирование остается добровольным. Такой подход вызывает вопросы у экспертов. С одной стороны, он позволяет не тормозить инновации на ранних стадиях, когда риски незначительны. С другой — порог в 50 смертей выглядит этически спорным: фактически закон легализует определенный уровень вреда как приемлемый. Кроме того, оценка причинно-следственной связи между действием ИИ и конкретным ущербом может быть крайне сложной, что создает почву для манипуляций. Вероятно, Anthropic стремится найти баланс между безопасностью и развитием технологии, но предложенный механизм вызывает больше вопросов, чем ответов. Пока неясно, как именно будут фиксироваться инциденты, кто будет проводить расследования и какие санкции последуют после превышения порогов. Без четких процедур законопроект рискует остаться декларацией о намерениях. Главное: • Порог активации: 50 смертей или ущерб $1 млрд. • До порога регулирование добровольное, что критикуют. • Этическая проблема: легализация определенного уровня вреда. • Сложность установления причинно-следственных связей. • Неопределенность процедур расследования и санкций. #ИИ #Безопасность #Регулирование #Anthropic