ИИ дошёл до Совбеза ООН. Кто будет контролировать самые мощные модели? — 25 сентября 2026 г. в 11:43:56.963
ИИ дошёл до Совбеза ООН. Кто будет контролировать самые мощные модели? 23 сентября Совет Безопасности ООН провёл отдельное заседание об искусственном интеллекте и международной безопасности. Перед Совбезом выступили Сэм Альтман, Дарио Амодеи и Йошуа Бенжио. На этот раз разговор вышел далеко за рамки дипфейков, кибератак и автономного оружия: обсуждали передовые модели, ИИ-агентов и риск потери человеком контроля над их действиями. Если коротко, повестка Совбеза вокруг ИИ развивалась так: • 2023 — первая официальная дискуссия: возможности генеративного ИИ, дезинформация, киберриски и автономное оружие. • 2024 — акцент на военном применении ИИ, человеческом контроле над системами вооружений и необходимости международных правил. • 2025 — безопасное и ответственное использование ИИ рассматривают уже как постоянную часть международной повестки безопасности. • 2026 — фокус смещается на то, как контролировать наиболее мощные модели и автономных агентов. ✔️ И остаётся вопрос (который мы слышим уже давно): кто будет устанавливать эти правила? Параллельно с многосторонней дискуссией в ООН США и Китай договорились развивать отдельный диалог по безопасности ИИ и обсуждают специальную линию связи для серьёзных ИИ-инцидентов. Следующая встреча запланирована в Шэньчжэне в течение двух месяцев. На этом фоне складываются две возможные траектории: (1) регулирование военного применения и стратегических рисков — прежде всего через диалог США и Китая, (2) общие этические принципы и базовые нормы — через международные институты. Само заседание новых обязательных норм не установило. О контроле над ИИ уже давно говорят и технологические компании, и государства, и международные организации — остаётся ждать, когда разговоры превратятся в работающие механизмы. #colab_новости