Джеффри Хинтон, Йошуа Бенджио и еще два десятка исследователей выпустили статью про инт...
Джеффри Хинтон, Йошуа Бенджио и еще два десятка исследователей выпустили статью про интеллектуальный взрыв Интеллектуальный взрыв — сценарий, в котором ИИ ускоряет разработку следующих моделей, сжимая годы прогресса в месяцы. Работа вышла в Кембридже; у неё 22 автора, включая главного научного сотрудника OpenAI Якуба Пачоцки и сооснователя Anthropic Джека Кларка. Отправная точка — изменения, которые уже происходят в лабораториях. По данным работы, с начала 2025 года доля кода, написанного моделями в Anthropic, выросла с единиц процентов до более 80%. За полгода доля R&D-задач — исследований и разработки, — которые ИИ выполняет автономно, увеличилась с 1% до 26%. Дальше авторы описывают самоускоряющийся цикл: модели увеличивают число исполнителей исследовательских задач, те улучшают модели, и цикл повторяется. По их оценке, вычислительных ресурсов одной лаборатории хватит на эквивалент миллионов исследователей высшего уровня. Если исторические темпы отдачи от исследований сохранятся, после полной автоматизации прогресс ускорится в 10 раз примерно за полтора года. Этот сценарий может не реализоваться: ограничителями могут стать вычислительные ресурсы, данные или длительность претрейнов — предварительного обучения моделей. Но авторы считают риски серьёзными: общество не успеет адаптироваться, люди потеряют контроль над моделями, а лидер гонки получит чрезмерный перевес. Регуляторам предлагают обязать лаборатории отчитываться об автоматизации R&D и допускать внешних аудиторов к проверке моделей ещё до внутреннего деплоя — начала использования внутри лаборатории. Механизмы замедления тоже предлагают подготовить заранее: ограничивать прирост способностей моделей за заданный период, предусмотреть возможность приостанавливать конкретные вычислительные нагрузки в датацентрах и заключать международные соглашения с проверкой исполнения. Позиция авторов: если интеллектуальный взрыв начнётся, принимать эти решения будет уже поздно. Работа: https://casp.ac/reports/intelligence-explosion Источник: https://t.me/data_secrets/10094 #RealVibe #AI #AI_Новости