🦙 llama.cpp: локальный ИИ одной командой — без тяжёлой оболочки
🦙 llama.cpp: локальный ИИ одной командой — без тяжёлой оболочки llama.cpp запускает языковые и мультимодальные модели на своём компьютере. Проект работает на CPU, поддерживает ускорение через разные видеобэкенды и распространяется по лицензии MIT. Быстрый старт на Windows: 1. Откройте страницу Releases и скачайте готовый архив Windows x64 CPU. Это самый простой вариант для первого запуска. 2. Распакуйте архив в отдельную папку и откройте в ней PowerShell. 3. Запустите пример из официального README: llama cli -hf ggml-org/Qwen3.5-0.8B-GGUF Команда загрузит модель с Hugging Face и откроет локальный диалог. Если программа не добавлена в PATH, запускайте llama.exe из распакованной папки. Что важно проверить заранее: • свободное место на диске и объём оперативной памяти; • лицензию конкретной модели — она может отличаться от лицензии llama.cpp; • источник архива: используйте только официальный репозиторий. Официальный репозиторий: https://github.com/ggml-org/llama.cpp Готовые сборки: https://github.com/ggml-org/llama.cpp/releases Что разобрать следующим? А — выбор GGUF-модели Б — ускорение на видеокарте В — запуск локального API Напишите букву в комментариях 👇 Сохраните инструкцию, чтобы попробовать локальный ИИ на своём ПК. #первыйхаб #технологии #ИИ #локальныемодели #GitHub