Инструкцию к ИИ-агентам написали в 1994 году — 23 июля 2026 г. в 08:40:48.881
Инструкцию к ИИ-агентам написали в 1994 году За тридцать лет до нынешних ИИ-агентов редактор журнала Wired Кевин Келли закрыл книгу «Out of Control» главой из девяти законов - принципов, по которым из простого само собирается сложное: пчелиный рой, экономика, эволюция, живой организм. Сегодня список читается как язык, которым мы описываем поведение ИИ-агентов. Келли - первый исполнительный редактор Wired, пришёл в журнал ещё до его запуска. «Out of Control» вышла до массового интернета и описывала мир распределённых, самоуправляемых, роевых систем. Это и есть природа, которую мы пытаемся воспроизвести в агентных архитектурах - Келли разобрал её задолго до того, как она стала нашей рабочей задачей. Девять законов (в карточках - с авторскими формулировками): 1. Распредели бытие. 2. Управляй снизу вверх. 3. Возделывай возрастающую отдачу. 4. Расти сборкой из простого. 5. Держи богатую периферию. 6. Чти свои ошибки. 7. Не гонись за оптимумом, держи много целей. 8. Живи в устойчивом неравновесии. 9. Пусть правила меняют себя сами. Три закона попадают в сегодняшние узкие места. Управляй снизу вверх. Когда всё связано со всем, события идут одновременно и обходят любой центр. Рой ведёт себя сам, и на быстрых массовых изменениях только рой и способен справиться. Система из сотни агентов, работающих параллельно, не управляется единой командой сверху - управление приходится закладывать в локальные правила каждого агента. Возделывай возрастающую отдачу. Каждое применение идеи, навыка, приёма усиливает его и делает вероятнее следующее применение - положительная обратная связь, снежный ком. У Келли это «тем, кто имеет, будет дано». В агентах это те самые циклы: агент делает шаг, результат оценивается по заданным критериям и возвращается на вход следующего шага. Замкнутая управленческая петля с оценкой результата - механизм, который превращает разовое действие в нарастающее улучшение. Чти свои ошибки. Келли описывает эволюцию как систематическое управление ошибками: выход за пределы привычного метода неотличим от ошибки. Агент, который никогда не ошибается, ничего нового и не найдёт. Ошибку приходится делать управляемой частью процесса. Строя агентные системы, мы собираем нечто более близкое к живой системе, чем к механизму. Управление держится на локальных правилах агентов. Выживание - компромисс многих целей сразу. Ошибка встроена в работу как топливо, её культивируют. Теория сложности стала повседневной реальностью каждого, кто запустил агента в реальную работу. Самый сильный закон Келли поставил девятым: правила меняют себя сами. Система улучшается по своим правилам, а со временем переписывает и сами эти правила - у Келли это вершина, глубокая эволюция, где меняется даже механизм собственного изменения. Сегодня об этом спорят всерьёз. Агенты уже переписывают собственный код и промпты, и в индустрии обсуждают паузу, пока безопасность не догонит скорость. Во всех сегодняшних примерах цель и критерий оценки всё ещё задаёт человек - но человек в петле не спасает, если он не поспевает за самой петлёй. Келли писал руководство, как из ничего сделать нечто. Похоже, заодно он описал и то, как это нечто однажды может перестать нуждаться в авторе. Смотрим в будущее с оптимизмом. Реймер | AI Трансформация Бизнеса