Попросил ИИ быть осторожнее, он стал делать меньше
Попросил ИИ быть осторожнее, он стал делать меньше Увидел на Хабре эксперимент, который объясняет одну мою давнюю боль. Человек взял агента, который чинит баги в коде, и добавил ему в инструкцию четыре разумных правила: «подумай, прежде чем писать», «сначала простое решение», «меняй точечно», «работай на результат». Всё правильно, всё из умных книжек. Итог на ста задачах: без правил агент чинил 45-49 багов, с правилами 40-43. Минус 13%. Зато сломанного кода стало почти ноль: 0,1% вместо 4%. То есть правила сработали как тормоза. Агент стал аккуратнее, реже ломал старое, но и реже доводил до конца. Времени и шагов у него столько же, а часть ушла на «подумать». Как по мне, вывод тут не «правила вредны», а «каждая строка в инструкции что-то стоит». Тормоза нужны, когда машина несётся. Если она и так еле едет, тормоза её просто остановят. Что я поменял у себя после этого. Убрал из инструкций всё, что добавлял «на всякий случай». Оставил только то, что закрывает конкретную проблему, которая уже случалась. Инструкция стала вдвое короче, агент заметно бодрее. https://habr.com/ru/companies/otus/articles/1083366/ А у вас в промтах есть правила «на всякий случай»? Сколько их?)
Канал в каталоге Максиметера
1 240 подписчиков · IT и технологии