Anthropic лоббирует закон о блокировке ИИ-моделей 😑
Anthropic лоббирует закон о блокировке ИИ-моделей 😑 Anthropic продвигает в США проект закона о безопасности ИИ, который допускает блокировку языковых моделей, способных стать причиной гибели 50 и более человек или ущерба свыше $1 млрд. Речь о сценариях "предсказуемого неминуемого риска", связанного с созданием биологического оружия, обходом моделью средств контроля разработчика или кибератакой. Цифры 50 человек и $1 млрд не случайны — они зеркалят калифорнийский законопроект SB 53, где такие сценарии уже определены как катастрофический риск. Оценивать опасность моделей должны независимые эксперты, зарегистрированные в Минторге США — причём получать оплату от ИИ-компаний им можно, но лишь при условии, что вознаграждение не зависит от результатов оценки (тонкая грань между "консалтинг" и "покупка вердикта", оставленная на честное слово). Если эксперт видит непосредственную угрозу, у него 72 часа, чтобы уведомить Минторг, а министерство обращается к судье в Вашингтоне с просьбой приостановить распространение модели. 📲 Подписывайтесь на наш канал в MAX
Канал в каталоге Максиметера
2 244 подписчиков · IT и технологии