⚠️ Нейронка знает все мои правила, но всё равно косячит. Нужен сторож.
⚠️ Нейронка знает все мои правила, но всё равно косячит. Нужен сторож. Возьмем какое нибудь совсем простое правило, например: прежде чем лезть в интернет за поиском инфы, поищи на моем компе и в обсидиан. Я как только клоду это не прописывал, но за 2 месяца нейронка нарушила его 60 раз. Однажды три раза подряд искала мне скутеры по всему интернету, хотя готовая подборка лежала у меня в папке "Скутеры" на рабочем столе. В этом плане нейронка похожа на человека. Есть привычное удобное поведение и она его делает. Просто уговорами отучить сложно, но можно закодировать) ✳️ Есть такая штука в клауд коде и кодексе: сторож, еще его называют хук. ↪️ Это маленькая программа, которая смотрит, что нейронка собралась сделать, и может просто запретить. Договориться с ним нейронка не может. Работает прекрасно, благодаря сторожу клод сперва ищет инфу в мое базе, а только потом в интернете. Еще пример: некоторые типы РК нейронка у меня уже собирает сама, а вот запустить кампанию или отправить объявления на модерацию не может. Сторож эту команду не пропускает. Нейронка зовет человека, чтобы проверить РК. ⚙️ Чтобы сделать сторож, достаточно попросить нейронку: «поставь сторожа/хук, который не даёт тебе делать X, далее некое условие или вообще без него». Код она напишет сама. Потом попросите её специально нарушить правило и посмотрите, остановит ли. У меня на данный момент 63 сторожа, которые не дают нейронке вести себя как вздумается. А это значит чтобы было как минимум 63 ситуации, когда простые инструкции не сработали. На самом деле много больше, тк сторожа отлично понимают похожие ситуации и не дают ИИ делать что вздумается.
Канал в каталоге Максиметера
35 подписчиков · Маркетинг