Агентов пять, а компьютер опять занят. NVIDIA добавила в PAIR поддержку llama.cpp: тепе...
Агентов пять, а компьютер опять занят. NVIDIA добавила в PAIR поддержку llama.cpp: теперь работу можно раздавать и машинам с этим движком, без ручного хозяйства из отдельных адресов. В PAIR 1.0 можно поставить llama.cpp, скачать совместимую GGUF-модель с Hugging Face и подключить компьютер к общей очереди. До этого PAIR уже работал с Ollama и LM Studio — новость именно в расширении связки. Один запрос выполняет одна подходящая машина. Пока первая занята, независимую задачу можно отправить второй. Windows, Linux и Mac разрешено смешивать; модели и движки всё равно должны подходить каждому устройству. Две видеокарты по 8 ГБ от этого не становятся одной на 16. PAIR распределяет работу, а не склеивает память. Инструкция запуска начинается с обычного установщика. Дальше — подключить движок, загрузить модель и отправить пробный запрос. Для тех, у кого по дому уже расползлось несколько локальных ИИ, полезное обновление: хотя бы диспетчер у них теперь общий.