Бывший исследователь OpenAI: «Я отказался от $2 млн, чтобы предупредить мир — у нас ест...
Бывший исследователь OpenAI: «Я отказался от $2 млн, чтобы предупредить мир — у нас есть 70% шанс на вымирание» ⚠️🧠 Дэниел Кокотайло сделал этот выбор. Бывший исследователь OpenAI, он видел изнутри, как создаётся самый мощный интеллект в истории. И он ушёл — потому что понял: компания, которую он считал «хорошими парнями», гонится вовсе не за спасением человечества. Теперь он говорит то, что руководители ИИ-лабораторий скрывают за PR-обещаниями: сверхразум может появиться до 2030 года, почти каждая профессия исчезнет, а шанс на катастрофу — 70%. И у нас есть всего несколько лет, чтобы изменить курс. 🔴 История с $2 млн: цена свободы слова. Кокотайло пришёл в OpenAI в 2022 году как исследователь по управлению ИИ. В 2024 году он уволился и столкнулся с выбором: подписать соглашение о неразглашении и недискриминации компании или потерять акции на $2 млн, что составляло 80% его состояния на тот момент. Он отказался подписывать документ. «Этот опыт изменил моё восприятие OpenAI. Компания, которая заявляет, что работает на благо всего человечества, требует от сотрудников подписывать такие соглашения. Это удивительное лицемерие», — заявил он в интервью. Позже, когда информация просочилась, сотрудники OpenAI начали требовать объяснений, и компания разрешила Кокотайло сохранить акции. Однако сам он считает, что это был ответ на публичный резонанс, а не на внутреннюю этику. 🧠 Что такое «рекурсивное самоулучшение»? В центре прогнозов Кокотайло — концепция рекурсивного самоулучшения ИИ. Он объясняет: современные ИИ-системы — это не традиционный код, а «искусственные нейронные сети», которые «выращиваются» через обучение на данных, а не пишутся человеком. «Мы не можем заглянуть внутрь сети и понять, как она работает. Мы просто продолжаем делать её больше и кормить большим количеством данных, надеясь, что всё будет хорошо. Это похоже на создание нового вида, который мы не понимаем». Ключевая идея: компании стремятся создать ИИ, способный автоматизировать процесс собственной разработки. Как только такой ИИ появится, начнётся «интеллектуальный взрыв» — быстрый, неконтролируемый рост возможностей. По оценкам Кокотайло, этот процесс может развернуться в период с 2027 по 2030 год. В более позднем интервью он уточнил, что «середина» его прогнозов сдвинулась к 2029 году, а ключевые этапы, по новым оценкам, сместились к началу 2030-х. 🛡️ Четыре сценария будущего: от коллапса до утопии. Кокотайло и его команда в AI Futures Project разработали несколько сценариев развития событий: План D («Гонка») — компании продолжают развивать ИИ на максимальной скорости без оглядки на риски. План C («Умеренное замедление») — США и их союзники замедляются на несколько месяцев ради безопасности, но стремятся сохранить лидерство над Китаем. План B («Активное сдерживание») — замедление США в сочетании с активными действиями по сдерживанию китайских ИИ-программ — от экспортного контроля до кибератак. План A («Проверяемое замедление») — главный и наиболее оптимистичный сценарий. Он предполагает международное регулирование, прозрачность и создание системы, при которой выгоды от ИИ распределяются справедливо через «гражданские дивиденды» для всех жителей, чтобы компенсировать массовую потерю рабочих мест. Кокотайло подчёркивает: это сложно, но возможно. 🌍 Что мы можем сделать? Кокотайло призывает не впадать в апатию. Шанс 70% на катастрофу означает, что 30% — это шанс на благополучный исход. По его словам, этот шанс можно увеличить, если общественность перестанет игнорировать проблему и начнёт требовать от политиков принятия мер — международных соглашений и регулирования, которое замедлит гонку ИИ-лабораторий. #НейроЛогика #ИИ #безопасность #OpenAI #будущее #риски #инсайдер