Сингулярность откладывается?
Сингулярность откладывается? Все спекуляции вокруг «взрыва интеллекта», который должен произойти при превышении критической массы ИИ в мире, держатся на одном неочевидном допущении: автоматизируя исследования с помощью ИИ, мы получим миллионы виртуальных учёных, и в результате прогресс полетит по экспоненте не зная преград, to the moon. Исследование Epoch AI показывает, что не так с этим допущением. Если мыслить в парадигме обычного производства: если рядом с одним станком поставить второй, то выпуск удвоится. С исследованиями так не работает: посади две команды решать одну задачу, и вторая просто повторит первую. Отдача от роста числа исследователей упирается не в их количество, а в то, насколько работу можно раздробить на независимые куски, прогнать параллельно и собрать обратно в единое целое. И вот тут кроется проблема, которую обычно не принимают во внимание: даже миллион гениальных ИИ-агентов не придут ни к чему путному без координации их действий. Способность делить, координировать и сшивать их работу — это отдельная технология, и она развивается своим темпом, в целом, медленнее, чем технология самих ИИ-агентов. Проблема упирается не в количество компьюта. Тут нельзя просто перебрать все варианты сразу и взять лучший. У экспериментов есть последовательная глубина: часть шагов физически обязана ждать результата предыдущих. Больше чипов — больше параллельных потоков, но в какой-то момент это перестает ускорять общий поток решения задачи. Время не сжимается количеством. Отсюда три возможных пути. Если технология координации будет поспевать за ростом числа агентов — сингулярность пойдёт по классическому сценарию. Если отстанет, но всё ещё будет обгонять фронтир — мы получим сингулярность, растянутую во времени. Если же координирования будет едва хватать на поддержание обычного темпа — автоматизация R&D просто немного разгонит прогресс, забудьте про экспоненту. У ИИ-агентов есть реальное преимущество — их проще синхронизировать, чем людей: одинаковые веса, общая память, никто не уйдёт к конкурентам. Это может дать разовый скачок в параллелизуемости. Но разовый скачок — не бесконечный потолок. Вопрос, с какой скоростью растёт сама эта координационная технология, почти не изучен — и именно от ответа на него зависит, будет ли сингулярность резким взрывом тезнологий или растянутым, управляемым процессом. @anti_agi