Nvidia PAIR объединяет домашние GPU в кластер для ИИ-агентов — вдвое быстрее, бесплатно

Новый бесплатный инструмент от Nvidia под названием PAIR — Personal AI Router — маршрутизирует задачи ИИ-агентов между несколькими компьютерами в вашей домашней сети, превращая коллекцию игровых ПК, рабочих станций и даже Mac в единый кластер для инференса. Идея достаточно проста: большинство компьютеров, нагруженных ИИ, большую часть времени простаивают, а локальные задачи ИИ всё чаще строятся вокруг агентов, которые порождают десятки независимых подзадач одновременно. PAIR соединяет эти свободные циклы.

Программа работает как прозрачный прокси поверх Ollama и LM Studio — двух самых популярных инструментов для локального инференса, — поэтому существующие настройки не требуют изменений в коде. После установки на каждую машину PAIR использует mDNS — тот же протокол, с помощью которого принтер появляется в сети, — чтобы автоматически обнаруживать совместимые устройства. Ведущий агент отправляет свою работу как обычно, а PAIR решает, какая машина обработает какую подзадачу, исходя из того, какие модели доступны на каждой машине. Одинаковая конфигурация на всех машинах не требуется: игровой ПК с Llama 3.3 и ноутбук с Mistral могут сотрудничать над одной задачей.

Опубликованный Nvidia бенчмарк наглядно демонстрирует разницу: задача с пятью субагентами, занявшая 18 минут на одном ноутбуке RTX Spark, была выполнена за 8 минут 48 секунд на кластере из трёх устройств. Это примерно двукратное ускорение без единой строки кода и без оплаты облачных вычислений. Прирост масштабируется в зависимости от количества машин и характера нагрузки — выигрывают больше всего задачи, которые распадаются на множество параллельных частей.

Конфиденциальность — второй аргумент в пользу инструмента, и он более весомый. Каждый запрос, файл и фрагмент контекста агента остаются в вашей домашней сети. Ничто не отправляется в облачный сервис инференса; нет ни API-ключа, ни учёта использования, ни компании, получающей ваши запросы. Для тех, кто запускает агентов на чувствительных документах — юридических набросках, медицинских записях, личной переписке — это различие важнее цифр бенчмарков.

Ограничения реальны. PAIR не гарантирует качество обслуживания: если машина, на которую вы рассчитывали, задействует свой GPU для игры или экспорта видео, PAIR перераспределяет эту нагрузку на то, что доступно. Инструмент открыто рассчитан на длительные задачи с гибкими сроками, а не на приложения, где задержка должна быть предсказуемой. Кроме того, это бета-версия. Nvidia ориентирует его на энтузиастов, у которых есть хотя бы одно совместимое устройство — видеокарта GeForce RTX 20-й серии или новее, либо Apple M4-серии, — и которые уже умеют работать с Ollama.

PAIR — это бесплатный инструмент с открытым исходным кодом, доступный в бета-версии для Windows, macOS и Linux. Nvidia не объявила дорожную карту по гарантиям качества обслуживания или дату стабильного релиза. Практический минимум для получения выгоды — две машины с производительным оборудованием, что исключает большинство однокомпьютерных конфигураций. Для пользователей, которые уже запускают Ollama на нескольких устройствах дома, порог входа достаточно низок, чтобы оправдать эксперимент.

Теги: nvidia, ИИ-агенты, локальный ИИ, открытый исходный код, Ollama, PAIR