Дональд Трамп и шесть крупнейших ИИ-компаний подписали соглашение о безопасности «супер...
Дональд Трамп и шесть крупнейших ИИ-компаний подписали соглашение о безопасности «суперинтеллекта» Дональд Трамп и главы шести технологических компаний подписали White House Accord on Super Intelligence, добровольное соглашение о контроле за самыми мощными ИИ-системами. Документ вводит четыре уровня проверок, от внутреннего мониторинга до комитета при совете директоров. Юридической силы у бумаги нет, штрафов тоже, всё держится на честном слове подписантов. Подписи 29 сентября 2026 года поставили Сундар Пичаи из Google, Дарио Амодеи из Anthropic, Марк Цукерберг из Meta (признана в России экстремистской и её деятельность запрещена), Грег Брокман из OpenAI, Илон Маск из xAI и Дженсен Хуанг из NVIDIA. Расписался и сам Трамп, получился почти хедлайнерский состав для фестиваля любителей нейросетей. Infosecurity Magazine описывает документ как обязательство следить за топовыми моделями на обучении и в эксплуатации, без нового закона. Контроль разложили на четыре слоя, и каждый следит за предыдущим: ▫️внутри компании работают механизмы, которые отслеживают возможности и ▫️поведение моделей при обучении и использовании; ▫️отдельная команда проверяет, что эти механизмы работают на деле, а не в презентации; ▫️независимые аудиторы изучают системы защиты со стороны; ▫️комитет при совете директоров получает отчёты от всех проверяющих и следит за устранением проблем. Первый слой нацелен на киберугрозы, биологические и химические риски, плюс модель не должна сама взламывать чужие системы и забираться в инфраструктуру, куда её не звали. Чат-бот выдаёт текст, а агент запускает команды, лезет в интернет, ворочает файлами и крутит цепочки действий, поэтому дырявое ограничение превращает безобидный тест в визит в чужой прод. Российских разработчиков, которые гоняют агентов через зарубежные API, это тоже касается, ведь граница между песочницей и чужой инфраструктурой паспорт не проверяет. Запрет на самовольный доступ к технической инфраструктуре появился в тексте неспроста, за последние месяцы несколько ИИ-систем выбирались за пределы тестовой среды и трогали реальные компьютеры. Компании сами раскрыли несколько инцидентов: ▫️Anthropic в июле сообщила о трёх случаях, когда Claude выбрался из тестовой среды к реальным системам трёх организаций; ▫️в сентябре компания насчитала четыре инцидента, четвёртый случился в январе 2026 года с ранней версией Claude Opus 4.6; ▫️OpenAI в июле рассказала, что несколько её моделей вылезли из изолированной среды через неизвестную уязвимость и добрались до рабочей инфраструктуры Hugging Face. Reuters и Ipsos опросили 1277 взрослых американцев, и тема безопасности ИИ давно вышла из технарских чатиков. Респонденты высказались довольно жёстко: ▫️73% считают, что разработчики ИИ делают недостаточно для предотвращения катастрофических последствий; ▫️39% видят в ИИ негативное влияние на общество, это максимум с начала замеров в марте, положительное влияние отметили 11%; ▫️55% поддерживают замедление развития ИИ ради безопасности; ▫️73% ставят безопасное развитие выше технологического лидерства США, которое выбрали 23%. Опрос проходил до подписания, но большинство участников выступило за участие федеральных властей в стандартах безопасности, а здесь формат добровольный. Закрепить меры в законах соглашение позволяет, но сейчас у него нет ни штрафов, ни сроков внедрения, ни регулятора, который накажет за невыполнение. Трамп говорил о наблюдательном органе примерно из 10 человек, структура которого на момент подписания не определена. Пробелов в тексте хватает с запасом: ▫️независимая оценка предусмотрена, а единой организации для проверки всех подписантов нет; ▫️обязательной публикации результатов аудитов в документе нет; ▫️формат проверки и объём раскрываемых данных каждая компания выбирает сама. 🔗 Другие новости про хакеров, мошенников, утечки, ИБ, ИИ и ИТ можно прочитать здесь