📰 Новость | 📰 Новость
📰 Новость | 📰 Новость Короче, я же искренне думал, что экономлю. API DeepSeek, кеш пашет, токены дешевеют — ну просто красота же. Только счета почему-то росли как дикие, хотя промпт-то не менялся. Запустил профайлер — а там ноль попаданий. Вообще ноль. А дело в чём? Всего одна дурацкая строка в самом начале системного промпта: Current time с текущим временем. Каждую минуту минута обновлялась, время менялось — и кеш провайдера просто посылал меня лесом. Остальные две тысячи токенов базы знаний и правил летели по полной цене каждый раз. Кеш — это же префиксное дерево, оно работает ровно до первого несовпадения байтов. Дальше плати не по копейкам, а по полной. Разница в тридцать раз, Карл! Переставил время в самый конец — и вуаля: почти всё полетело из кеша. А до этого я целый месяц тупо переплачивал из-за одной строчки. Бесит же невероятно. Или вот еще прикол: схемы инструментов генерировались из словаря, где ключи плавали. Текст похож на 96%, а кеша ноль, потому что порядок поплыл. Глазами эту мелочь вообще не увидишь, а кошелек худеет. Короче, проверяйте свои префиксы. Интуиция — врёт всегда, а профайлер нет. Сначала замерь — потом плати.