R

RAG | Нейросети | ИИ | AI | Агенты | GPT-6.1 Sol | GPT-6 Astra | Gemini 4 Argon | Claude Haiku 5.5 | Muse Wonder | MiniMax M3.1 Flash | DeepSeek V4.1 | DeepInfer | Mercury 3 | Beam 1.0 | Nemotron 3.5

IT и технологии · 20 августа 2026 г.

Открыть канал в MAX

Ollama — отличный способ запустить локальную модель. Две команды, готовый API в стиле O...

Ollama — отличный способ запустить локальную модель. Две команды, готовый API в стиле OpenAI. Но как только начинаешь выжимать скорость, упираешься в стены обёртки. Модели лежат в blob-формате, который читает только Ollama. Один параллельный слот по умолчанию, в лицензии про llama.cpp — ни слова. А llama.cpp v0.1.0 уже закрыл разрыв: --hf-repo грузит модель с HuggingFace, есть веб-чат, router-mode и MCP. Вы ещё на Ollama?