6 сентября, 08:46#ИИ и нейросети9 мин

NVIDIA выпустила PAIR: домашние компьютеры работают как один ИИ-узел

NVIDIA выпустила бесплатный инструмент Personal AI Router, сокращённо PAIR. Он находит в вашей локальной сети компьютеры с подходящими видеокартами и раскидывает между ними запросы к нейросетям, которые вы запускаете у себя на компьютере. Игровой ПК занят игрой, и задачи уходят на ноутбук; освободился, и снова получает работу. В демонстрации NVIDIA сценарий с пятью помощниками на двух компьютерах отработал за 3 минуты 48 секунд вместо 6 минут 18 секунд на одном. Данные при этом остаются внутри домашней сети, а интернет нужен только чтобы скачать саму модель.

Коротко

NVIDIA выпустила Personal AI Router (PAIR) — бесплатный инструмент с открытым исходным кодом под лицензией Apache 2.0.
Он находит совместимые компьютеры в локальной сети и распределяет между ними запросы к нейросетям.
Это не объединение видеопамяти: запустить модель, которая не помещается в одну видеокарту, добавив второй компьютер, нельзя.
Поддержка: видеокарты GeForce RTX 20-й серии и новее, профессиональные RTX PRO, системы DGX Spark и компьютеры Apple с чипами M4 и новее.
Работает с популярными программами локального запуска моделей — Ollama и LM Studio.
Подключение устройств — по шестизначному коду, трафик между ними шифруется (mTLS).
Запросы, файлы и контекст остаются в домашней сети и не отправляются в облако; интернет нужен только для загрузки моделей.
Если на компьютере запустили игру или тяжёлый рендер, планировщик временно обходит этот узел и возвращает ему задачи, когда тот освободится.
В демонстрации NVIDIA сценарий с пятью помощниками на модели Qwen3.6 35B A3B и двух ПК с RTX 5090 выполнился за 3 минуты 48 секунд против 6 минут 18 секунд на одном компьютере.
🔎 Бета-версия доступна для Windows, macOS и Linux, есть и оконный, и терминальный вариант.

Что значит «запустить нейросеть локально» и почему это вообще обсуждают

Привычный способ работы с нейросетью — облачный: вы пишете запрос в браузере, он уходит на чужие серверы, ответ приходит обратно. Вы платите за подписку или за объём запросов, а ваши данные покидают ваш компьютер.

Локальный запуск: устроен иначе. Модель скачивается на ваш компьютер и работает на вашей видеокарте. Плюсы в том, что ничего не уходит наружу и нет платы за каждый запрос. Минусы в том, что нужна мощная видеокарта, а модели, которые помещаются в домашнее «железо», слабее облачных флагманов.

Инференс — слово, которое постоянно попадается в таких новостях. Это работа уже обученной модели: она получает запрос и выдаёт ответ. Обучение это дорогая разовая история, а инференс происходит каждый раз, когда вы что-то спрашиваете.

Видеопамять (VRAM): память видеокарты. Именно в неё загружается модель, и именно её объём определяет, какую модель вы вообще сможете запустить.

Программы вроде Ollama и LM Studio это оболочки, которые скачивают модель и дают ей интерфейс. Дальше в дело вступает то, о чём новость: у одного человека дома может быть несколько машин, а работает всегда одна.

Что произошло

NVIDIA представила PAIR — бесплатный инструмент с открытым кодом, который автоматически находит совместимые компьютеры в локальной сети, связывает их и распределяет между ними запросы к локальным нейросетям.

Несмотря на слово «роутер» в названии, это не сетевое устройство, а программа. Она встаёт между вашим приложением и программами локального запуска моделей и решает, на какую машину отправить очередной запрос.

Важное ограничение, которое стоит понять сразу: PAIR не объединяет видеопамять разных компьютеров в одну. Модель, которая не влезает в вашу видеокарту, не влезет и в две: она просто не запустится. Инструмент решает другую задачу: чтобы независимые запросы не стояли в очереди к одной видеокарте.

Как это работает по шагам:

устройства находят друг друга в локальной сети;
сопряжение проходит по шестизначному коду, после чего связь между ними шифруется;
при новом запросе планировщик смотрит на длину очереди, загрузку видеокарты и на то, загружена ли уже нужная модель в память конкретной машины;
если на компьютере запустили игру или тяжёлый рендер, задачи туда временно не идут; освободился, и снова идут.

Между машинами передаются только запрос и ответ, поэтому обычной домашней сети хватает: Wi-Fi или кабеля.

Кому и зачем это нужно

Главный сценарий, ради которого всё затевалось, это агенты, то есть помощники, которые не отвечают одним сообщением, а разбивают задачу на десяток мелких и выполняют их по очереди. На одной видеокарте эти мелкие задачи выстраиваются в очередь, и помощник работает медленно.

Цифра из демонстрации NVIDIA: сценарий с пятью вспомогательными помощниками на модели Qwen3.6 35B A3B, запущенный на двух компьютерах с видеокартами RTX 5090, отработал за 3 минуты 48 секунд вместо 6 минут 18 секунд на одной машине.

Заодно NVIDIA упростила установку таких помощников на Windows: для Hermes Agent, Perplexity Portable Computer и OpenClaw, про который мы писали отдельно. Настройка локальной модели на видеокарте с 24 ГБ памяти теперь занимает несколько кликов вместо ручной сборки окружения.

Второй сценарий: параллельная работа нескольких человек: у каждого свой разговор с моделью, и они не мешают друг другу.

Третий: вынос вычислений. Вы играете или монтируете видео на основном компьютере, а фоновые задачи уходят на второй.

Что поддерживается	Подробности
Видеокарты NVIDIA	GeForce RTX 20-й серии и новее, RTX PRO (архитектура Turing и новее), DGX Spark
Компьютеры Apple	чипы M4 и новее
Программы запуска моделей	Ollama, LM Studio
Операционные системы	Windows, macOS, Linux
Интерфейс	оконный и терминальный
Лицензия	Apache 2.0, открытый исходный код

Что это значит для тех, кто работает из России

Для нашего читателя здесь два практичных смысла, и оба не про домашний кластер из четырёх компьютеров.

Данные: локальный запуск означает, что переписка с клиентами, договоры и внутренние документы не уезжают на чужие серверы. Для компаний, которые работают с персональными данными, это не вопрос удобства, а вопрос требований к обработке.

Расходы: у локальной модели нет платы за запросы: заплатили один раз за «железо» и электричество. При постоянной работе помощников это меняет экономику, особенно если облачный доступ вы оплачиваете через посредников с наценкой.

Трезво о минусах. Модели, которые помещаются в домашнюю видеокарту, слабее облачных флагманов, но для рутинной работы с текстом их обычно хватает, для сложного анализа часто нет. Видеокарты уровня RTX 5090 в России стоят дорого, и окупаться такая покупка будет только при реальном потоке задач. А PAIR — это бета: инструмент новый, и на нём стоит проверять сценарии, а не строить рабочий процесс всей компании.

Какие открытые модели сейчас пригодны для локальной работы и чем они отличаются от закрытых, мы разбирали в материале про открытые нейросети.

Что сделать на этой неделе

Посмотрите, какие видеокарты стоят в компьютерах, которые у вас уже есть: PAIR работает с RTX 20-й серии и новее.
Поставьте на одну машину Ollama или LM Studio и запустите небольшую открытую модель: это займёт вечер.
Прогоните на ней три свои типовые задачи и честно сравните с тем, чем пользуетесь сейчас.
Если задач много и одна машина не тянет, попробуйте связать вторую через PAIR и замерьте время на том же сценарии.
Отдельно решите, какие данные вы вообще не хотите отправлять в облако: с них и начинается смысл локального запуска.

Частые вопросы

PAIR ускорит одну большую модель?
Нет. Он не объединяет видеопамять и не делит одну модель между компьютерами. Он распределяет независимые запросы между машинами.

Нужен ли интернет?
Для работы — нет, всё происходит внутри локальной сети. Интернет нужен только для скачивания моделей.

Данные уходят в облако?
Нет. Запросы, файлы и контекст остаются в домашней сети, соединения между устройствами шифруются.

Подойдёт ли мой компьютер?
Нужны видеокарты GeForce RTX 20-й серии и новее, профессиональные RTX PRO, системы DGX Spark или компьютеры Apple с чипами M4 и новее.

Сколько это стоит?
Инструмент бесплатный и с открытым кодом. Платить придётся только за «железо» и электричество: видеокарты, которые уже стоят дома, и счёт за свет.

Промпт: решить, что переносить на локальную нейросеть, а что оставить в облаке

Вставьте в любую нейросеть. Опишите свои задачи, данные и технику — получите разбор, где локальный запуск оправдан, а где он только добавит хлопот.

Промпт

Ты — технический консультант, который помогает выбрать между облачной нейросетью и локальной по трём основаниям: данные, деньги, качество.

ЗАДАЧА
Разобрать мои рабочие задачи и разложить их на те, которые стоит перенести на локальную модель, и те, которые лучше оставить в облаке.

ЧТО Я ДАЮ
— задачи, где использую нейросеть: [список]
— какие данные в них попадают: [персональные данные клиентов, договоры, внутренние документы, публичная информация]
— объём в месяц: [число запросов или страниц]
— сколько плачу сейчас: [сумма и за что]
— какая техника есть: [компьютеры, видеокарты, объём видеопамяти]
— кто будет этим заниматься: [есть ли человек, готовый настраивать]

С ЧЕГО НАЧИНАЕШЬ
Если я не знаю объёма видеопамяти или модели видеокарты, объясни, как это посмотреть, и спроси меня. Недостающие данные уточняй, а не выдумывай.

ПРОТОКОЛ
1. Раздели задачи по чувствительности данных: что нельзя отправлять наружу, что можно.
2. Для каждой задачи оцени, хватит ли качества открытой модели, которая помещается в мою видеокарту.
3. Посчитай текущие расходы на облако по этим задачам за год.
4. Посчитай расходы на локальный вариант: техника, электричество, время на настройку и поддержку.
5. Назови задачи, где перенос оправдан, и задачи, где он даст только потерю качества.
6. Опиши минимальный первый шаг: одна задача, одна модель, один способ проверить результат.
7. Перечисли риски: обновления, поддержка, что делать, если машина занята или сломалась.

ФОРМАТ ОТВЕТА
Сначала таблица: задача — чувствительность данных — качество локальной модели — вердикт. Затем расчёт по деньгам за год. В конце — первый шаг и список рисков.

ПРАВИЛА
— не советуешь покупать технику, пока не посчитана экономия;
— честно говоришь, когда локальная модель по качеству не тянет задачу;
— требования к обработке персональных данных ставишь выше экономии;
— первый шаг предлагаешь такой, который можно сделать за вечер.

Способ зарабатывать на ИИ

Зарабатывайте на создании сайтов и ИИ-агентов