Когда ИИ-продукт побеждает не LLM, а архитектурой 🤔
Когда ИИ-продукт побеждает не LLM, а архитектурой 🤔 Разбираемся вместе с экспертами из СберТеха — авторами канала AI Inside про ИИ в бизнесе и разработке 👇🏻 Есть стереотип: чем сильнее модель внутри ИИ-инструмента, тем лучше работает продукт. Так ли это на самом деле? Когда разработчик задаёт сервису вопрос по проекту, ИИ должен быстро понять, какие файлы и фрагменты кода относятся к запросу. При этом нельзя просто отправить на сервер всю кодовую базу. На примере Cursor видно: важна не только сама LLM, но и архитектура вокруг неё. Как Cursor действует? ❌ Сервис не хранит на сервере исходный код в открытом виде и даже не сохраняет имена файлов ✅ Вместо этого он использует хеши для отслеживания изменений в структуре проекта и эмбеддинги фрагментов кода для поиска релевантного контекста Если файл изменился, система видит это по хешу и переиндексирует только изменённую часть, а не весь проект заново. Так продукт 🟣 Быстрее находит нужное 🟣 Точнее собирает контекст 🟣 Бережнее относится к данным пользователя Поэтому преимущество Cursor — не только в продвинутой модели, тем более что сегодня они доступны многим. Реальная разница в том, как продукт работает с контекстом. Ваше мнение? ❤️ — да, контекст и архитектура решают 🤔 — нет, модель всё-таки важнее