MorcoreAi🌐 | Новости из мира искусственного интеллекта✅
IT и технологии · 7 сентября 2026 г.
CMF: как запускать LLM локально под одну задачу — 7 сентября 2026 г. в 08:01:24.560
CMF: как запускать LLM локально под одну задачу Нужна нейросеть для математики? Большая LLM умеет и код, переводы, ответы на вопросы. Большая часть памяти при этом простаивает. CMF превращает большую LLM (языковую модель) в специалиста по одной задаче. Формат оставляет активными только нужные части модели. В тесте с дифференциальными уравнениями активными остались около 20% весов — параметров модели. Точность выросла. Попробовать можно дома. Установи Cortiq: cargo install cortiq-cli Конвертируй модель и проверь файл: cortiq convert --model Qwen/Qwen3-0.6B --quant q4tp --output qwen.cmf cortiq verify qwen.cmf Затем задай вопрос: cortiq run qwen.cmf --prompt 'Реши x²=9' --greedy --no-think Формат использует mmap: компьютер подгружает только нужные данные. Так можно собрать модель под одну задачу и запустить её на своём компьютере. #ИИ #LLM #CMF #ЛокальныйИИ