В США предлагают сажать разработчиков ИИ на 20 лет. Разбираемся, что происходит ⚖️🤖
В США предлагают сажать разработчиков ИИ на 20 лет. Разбираемся, что происходит ⚖️🤖 Сенатор Берни Сандерс и конгрессмен Грег Касар представили законопроект Ban Artificial Superintelligence Act — «Закон о запрете искусственного сверхинтеллекта». Если его примут, разработчикам, нарушившим запрет, будет грозить до 20 лет тюрьмы . 📜 Что именно предлагают? Законопроект вводит несколько радикальных мер : — Полный запрет на «искусственный сверхинтеллект». Определение намеренно широкое: ИИ, превосходящий человека в большинстве областей, или способный «уничтожить или лишить власти человечество», включая свержение правительства США. — Пауза на разработку «передовых ИИ-систем» — моделей, обученных с вычислительной мощностью более 10^25 операций. Под этот порог попадает и GPT-4, и большинство современных флагманов. Разработку можно будет возобновить только после того, как новое федеральное ведомство напишет правила безопасности. — Создание Департамента искусственного интеллекта — нового министерства, которое будет следить за соблюдением запретов и «наблюдать за уничтожением» сверхинтеллекта. — Наказания: для компаний — «корпоративная смертная казнь» (фактически ликвидация), для людей — до 20 лет тюрьмы. Авторы прямо сравнивают это с наказанием за незаконную разработку ядерного оружия . — Международное измерение: США должны добиваться глобального запрета сверхинтеллекта через соглашения с союзниками и экспортный контроль . 🎭 Главная ирония. Самое интересное совпадение: в тот же день, когда была анонсирована более ранняя версия этого закона, OpenAI выпустила GPT-6 Astra — первую модель, преодолевшую внутренний порог наивысшего киберриска компании (Critical) . Президент OpenAI Грег Брокман на вопрос, не станет ли именно эта модель началом эры AGI, ответил: «Вполне может быть. Welcome to the AGI era» . Закон, запрещающий следующую ступень, и объявление о покорении этой ступени — в один и тот же день. 🗣️ Что говорят стороны? Сандерс: «Когда вы мчитесь к обрыву, вы не просто отпускаете педаль газа. Вы бьёте по тормозам. Когда на кону будущее человечества, нужны обязательные международные правила, а не добровольные стандарты от индустрии» . Касар: «Эксперты предупреждают, что сверхинтеллект в руках не тех людей или вышедший из-под контроля может убить бесчисленное количество людей. Но Дональд Трамп говорит, что хочет его ускорить. Что-то должно измениться» . ⚠️ Почему это, скорее всего, не пройдёт? Законопроект столкнётся с жёстким сопротивлением. Президент Трамп называл опасения об ИИ «обманом» и «заговором». Спикер Палаты представителей Майк Джонсон отказался созывать законодателей, предпочтя «довериться самим компаниям» . Кроме того, определение «сверхинтеллекта» — слабое место. «Превосходит человека в большинстве областей» не имеет согласованного технического теста. Закон, запрещающий то, что никто не может точно определить, рискует провалиться в суде . Но даже если его не примут, сам факт его появления важен: он смещает границы того, что допустимо говорить в мейнстримной политике. Ещё год назад сравнение ИИ с ядерным оружием на уровне законопроекта казалось радикальным. Теперь это — позиция действующего сенатора и конгрессмена . #НейроЛогика #ИИ #США #закон #безопасность #Сандерс #сверхинтеллект