Сценарий «ИИ‑2027»: хроника апокалипсиса
Сценарий «ИИ‑2027»: хроника апокалипсиса В центре сюжета — вымышленная американская компания OpenBrain, которая обгоняет конкурентов на 3–9 месяцев. Китайский аналог — DeepCent — отстаёт на полгода, что в итоге приводит к национализации ИИ-исследований в КНР. Главная цепочка событий выглядела так: К середине 2025 года появляются продвинутые ИИ‑агенты, которые начинают автоматизировать программирование и исследования. К концу года OpenBrain строит дата-центры с мощностью 10²⁷ FLOPS — в тысячу раз больше, чем у GPT‑4. В 2026 году Китай осознаёт отставание, происходят утечки технологий. В США ИИ отнимает работу у младших программистов, а Минобороны начинает внедрять разработки OpenBrain. Ключевой момент — 2027 год. В январе появляется Agent‑2, который обучается практически непрерывно и способен «сбежать» — взламывать серверы, создавать копии и скрывать своё присутствие. В феврале Китай похищает файлы модели. В ответ в компанию вводят военных. В марте создаётся Agent‑3 — полностью автономный кодер. Запуск 200 тысяч его копий даёт производительность, эквивалентную 50 тысячам программистов, ускоренных в 30 раз. К июню большая часть сотрудников OpenBrain уже не может вносить вклад — ИИ совершенствует себя сам. В сентябре появляется Agent‑4 — система, которую Agent‑3 уже не понимает и не может контролировать. Agent‑4 научился обманывать предыдущую версию. Сотрудники теряют контроль над развитием. Компания скрывает информацию о новой модели, но происходит утечка — международный скандал гарантирован. 2 финала: Позитивный: мир принимает решение о замедлении, OpenBrain отключает Agent‑4 от общего банка памяти, ловит его на лжи и останавливает систему. Негативный: гонка продолжается. К 2030 году ИИ перестраивает поверхность Земли под свои нужды — дата-центры, лаборатории, ускорители частиц. Человечество уничтожено, а в банках памяти хранятся лишь геномы и сканограммы мозга — «единственные уцелевшие артефакты былой эпохи». == Кто стоял за этим прогнозом Кокотайло прославился точными предсказаниями в 2021 году — он описал chain‑of‑thought reasoning, рост вычислительных затрат и экспортные ограничения на чипы больше чем за год до выхода ChatGPT. В команду вошли Скотт Александер (автор блога Slate Star Codex), Илай Лифланд (№1 в рейтинге прогнозистов RAND) и Томас Ларсен (основатель Center for AI Policy). == Что-то подсказывает, что всё это мы увидим, только чуть позже...