Второй ноутбук с RTX наконец может перестать быть дорогой подставкой под кружку.
Второй ноутбук с RTX наконец может перестать быть дорогой подставкой под кружку. NVIDIA выложила PAIR: штуку, которая разбрасывает независимые запросы ИИ-агента по нескольким домашним или офисным машинам. PAIR подсовывает привычный endpoint Ollama или LM Studio — агента переписывать не надо. Главное не дорисовать магию: PAIR не склеивает видеопамять, не запускает одну огромную модель на трёх слабых GPU и не режет один запрос на части. Это диспетчер: один запрос — одна подходящая машина. Выигрыш появляется, когда несколько агентов или задач идут параллельно. В демо NVIDIA три устройства прошли пять субзадач за 8:48 вместо 18 минут. Это их стенд, не обещание «в два раза быстрее у всех». Код, бета и ограничения лежат в репозитории PAIR.
22 просмотров