СуперИИ хотят начать регулировать. Что это значит для мира? — 18 сентября 2026 г. в 06:15:41.808
СуперИИ хотят начать регулировать. Что это значит для мира? Разговор про опасность искусственного интеллекта постепенно меняется. Ещё недавно обсуждали дипфейки, авторские права и то, сколько профессий заберёт ChatGPT. Теперь руководители крупнейших ИИ-компаний говорят о необходимости тормозить развитие самых мощных моделей. Глава Anthropic Дарио Амодеи предложил замедлить наращивание возможностей супер-моделей и создать систему независимого контроля. Глава Microsoft AI Мустафа Сулейман: будущий сверхразум должен оставаться инструментом человека, принимать отключение и не превращаться в самостоятельного субъекта со своими интересами. Вроде есть решение, нет? Лицензировать самые мощные модели. Обязательно тестировать их перед выпуском. Заставлять компании сообщать о странном поведении систем. Не давать автономному ИИ прямой доступ к оружию, биолабораториям, энергетике и другой критической инфраструктуре. Можно вообще создать условное МАГАТЭ для искусственного интеллекта. Международную структуру, которая проверяет крупнейшие дата-центры, вычислительные мощности и соблюдение каких-то общих правил. Технически всё это вполне можно придумать. Проблема в другом. Как заставить всех соблюдать правила одновременно? США при Трампе считают ИИ технологической гонкой, которую Америка должна выиграть. Белый дом последовательно выступает против регулирования, которое может замедлить американских разработчиков относительно Китая. Китай одновременно вводит достаточно жёсткие правила по контенту, данным и безопасности, говорит о необходимости сохранять ИИ под человеческим контролем. Но, стоит признать, тоже совершенно не выглядит страной, которая добровольно остановит технологическое развитие и подарит лидерство США. Получается классическая проблема коллективного действия. Допустим, США замораживают следующую модель на полгода для дополнительной проверки. А Китай не замораживает. Или наоборот. Очень быстро осторожность начинает восприниматься не как ответственность, а как стратегическое отставание. И вот здесь вся красивая конструкция регулирования начинает рассыпаться. Потому что ИИ - это уже не просто коммерческая технология. Это потенциально военная разведка, кибербезопасность, управление дронами, разработка лекарств, промышленность, финансы. США и Китай уже обсуждают даже необходимость специальных ограничений вокруг использования ИИ в ядерных и военных системах. Т.е. от государства требуется сказать конкуренту: я сейчас специально буду развиваться медленнее, потому что это безопаснее для человечества. Так (к сожалению) международная политика обычно не работает. Но и нельзя сказать, что глобальное регулирование невозможно. Самые мощные ИИ-системы требуют огромных дата-центров, дорогих ускорителей, облачной инфраструктуры и электричества. Это не технология, которую условный стартап может незаметно собрать в гараже. Поэтому контроль над чипами, вычислительными мощностями и крупными облачными платформами действительно даёт государствам охранительный рычаг. И, мне кажется, именно здесь в ближайшие годы появится главный политический конфликт вокруг ИИ. Кто согласится первым ограничить собственный сверхразум, если конкурент продолжит развивать свой? С климатом человечество могло позволить себе десятилетиями торговаться о процентах выбросов. С ИИ такой роскоши может не оказаться. Причём опасность здесь не в том, что сегодняшний чат-бот завтра проснётся и станет злодеем из фильма. Опасность значительно прозаичнее. Возможности систем могут расти быстрее, чем способность государств осознать, что именно они уже умеют, кто за это отвечает и где находится кнопка "стоп". Есть ли она в принципе. Т.е. системы не выйдут из под контроля, а создадут новый контроль и будут оценивать вышли ли мы из под него.