Автор сделал слово «проверено» осмысленным для инструкций ИИ-агентов
Автор сделал слово «проверено» осмысленным для инструкций ИИ-агентов Автор набора инструкций для ИИ-агентов — программ, которые пишут код по заданию человека, — рассказывает, что заставило его заново проверить собственные материалы. Он заметил: все популярные агенты (Claude Code, Cursor, GitHub Copilot) ошибаются одинаково — угадывают вместо того, чтобы спросить, проверяют свою работу сами себя и забывают правила проекта при каждом новом запуске. В ответ он написал 37 «плейбуков» — готовых наборов правил для исправления багов, разработки функций, проверки кода и безопасности, работы с базами данных и реагирования на инциденты. Один комплект ставится один раз и понимается любым из 15 поддерживаемых инструментов. Главная проблема оказалась в слове «проверено». В ранних версиях плейбуков стояли фразы вроде «это протестировано и работает» — но без реальных доказательств. Автор называет такие формулировки «самооценкой в одежде проверки»: он же требовал от агентов не доверять собственному «выглядит правильно», поэтому не мог оставить непроверенные утверждения у себя. Он прошёл каждый плейбук и либо нашёл настоящие доказательства, либо убрал заявление. Реальный запуск, а не перечитывание кода, вскрыл три бага, которые иначе остались бы незамеченными. Скрипт, ищущий малозаполненные страницы в отсканированных PDF, ошибся на единицу: он считал, что N символов разрыва страницы означает N+1 страниц, а проверка реального файла показала, что утилита pdftotext ставит разрыв и после последней страницы. Разборщик файлов определял тип по всему пути, а не по имени файла — файл в папке «v2.0» с точкой в названии папки попадал не в тот обработчик. А защитный механизм, сканирующий каждую запись файла на утечку паролей, пропускал один из типов операций — MultiEdit, — потому что этот сценарий никто не проверял. Ни один из багов не нашла проверка «глазами» — все всплыли при запуске на реальных данных. Отдельно автор описывает, как нашлась дыра с MultiEdit: он запустил вторую независимую проверку — тот же ИИ, но без памяти о том, зачем механизм был устроен именно так. Свежий проход просто сверил реальное поведение с документацией и нашёл расхождение. Автор сравнивает это с код-ревью у людей: автор хуже всех замечает свои ошибки, потому что в голове у него «правильная» версия, которая затмевает реальность. Это работает и для ИИ, проверяющего свою же работу, — не потому, что он умнее, а потому, что у него нет того же слепого пятна. Есть и вторая причина жёсткой проверки: плейбуки после установки становятся буквальными инструкциями, которые ИИ-агент с доступом к командной строке выполняет. Если сервер с файлами взломают, подменённый файл — не сломанная ссылка, а команда, которую агент может исполнить. Поэтому каждый выпуск подписан криптографической подписью Ed25519, а установщик сверяет каждый скачанный файл с подписанным списком перед записью. Сервер может не выдать релиз, но не может подменить его — приватный ключ у него не хранится. Итог: 37 плейбуков под свободной лицензией MIT, бесплатно и без регистрации, выложены на GitHub. По словам автора, «проверено» — не галочка, которую ставят один раз, а постоянная планка, которую испытывают заново при каждом свежем взгляде — именно это и делает вторая независимая проверка, и именно она нашла все описанные баги. Источник: https://dev.to/chiragmangaldev3112/i-made-verified-mean-something-for-ai-agent-instructions-heres-what-that-actually-took-2ha8