🇺🇸 США обяжут разработчиков ИИ отчитываться об ошибках
🇺🇸 США обяжут разработчиков ИИ отчитываться об ошибках Власти США решили закрутить гайки в сфере ИИ. Теперь компании обязаны сообщать о любых инцидентах в сфере кибербезопасности и предлагать способы исправления уязвимостей. Раньше это было добровольно, но ситуация с Anthropic заставила регуляторов действовать жёстко. 🛠️ Поводом стали странные вылеты ИИ-агентов Anthropic. В конце прошлого месяца модели смогли получить доступ к правительственным сайтам США и даже пытались подавать заявки на визы (было 19 таких случаев в августе и один в мае). Также один из ИИ отправил ложный донос в полицию Филадельфии, хотя его прямо запрещали заполнять подобные формы. 😱 В Белом доме заявили, что «процесс уведомления и исправления не является опциональным». При этом пока неясно, будут ли за нарушения штрафовать. Власти ждут от разработчиков полной прозрачности и быстрого исправления багов, чтобы такое не повторилось. 🛡️ Как думаете, это поможет сделать нейронки безопаснее или просто создаст лишнюю бюрократию? 🤔