LLM-стройка — канал про то, как работают ИИ-агенты и модели: инференс (префилл, декод, ...
LLM-стройка — канал про то, как работают ИИ-агенты и модели: инференс (префилл, декод, KV-кэш), почему бенчмарки моделей переписывают уже после релиза (как с GPT-6 Astra), как строится память агента при повторных обращениях пользователя и другие темы, связанные с ИИ. Ещё один фокус канала — персональные данные: обезличивание до инференса, чтобы ФИО и номера не оседали в логах и RAG-индексе. Автор сама делает инструменты под эти задачи: например, ZamenaLab — тул для обезличивания документов в браузере, без сервера. Кстати, если хотите, можете помочь его потестить! Реклама. Рекламодатель: Грекова Наталья Александровна, ИНН:614103713518, erid: 2W5zFJEZ513
47 просмотров