Nvidia PAIR samler hjemmets GPU’er til et AI-kluster — dobbelt hastighed, gratis

Et nyt gratis værktøj fra Nvidia ved navn PAIR — Personal AI Router — fordeler AI-agentopgaver på tværs af flere computere på dit hjemmenetværk og behandler din samling af gaming-pc’er, arbejdsstationer og endda Mac-computere som én samlet inferensklynge. Ideen er enkel nok: De fleste AI-tunge computere står ubrugte hen det meste af tiden, mens lokale AI-arbejdsbelastninger i stigende grad er bygget op omkring agenter, der på én gang opretter snesevis af uafhængige delopgaver. PAIR forbinder den ledige regnekraft.

Softwaren fungerer som en gennemsigtig proxy oven på Ollama og LM Studio, de to mest populære værktøjer til lokal inferens, så eksisterende opsætninger ikke kræver kodeændringer. Når PAIR er installeret på hver maskine, bruger det mDNS — den samme protokol, som din printer anvender til at dukke op på netværket — til automatisk at finde kompatible enheder. En ledende agent indsender sit arbejde som normalt, og PAIR afgør, hvilken maskine der håndterer hvilken delopgave, ud fra hvilke modeller den enkelte maskine har til rådighed. Maskinerne behøver ikke have identiske opsætninger: En gaming-pc, der kører Llama 3.3, og en bærbar computer med Mistral kan samarbejde om den samme opgave.

Det benchmark, Nvidia har offentliggjort, gør forskellen konkret: En opgave med fem underagenter, som tog 18 minutter på én enkelt RTX Spark-bærbar, blev færdig på 8 minutter og 48 sekunder i en klynge med tre enheder. Det svarer til omtrent en 2×-forøgelse af hastigheden uden at ændre en eneste linje kode eller betale for cloud-compute. Gevinsten skalerer med antallet af maskiner og arbejdsbelastningens karakter — opgaver, der kan deles op i mange parallelle dele, får mest ud af løsningen.

Privatliv er det andet salgsargument, og det er det mest holdbare. Hver prompt, fil og bid af agentkontekst bliver på dit hjemmenetværk. Intet sendes videre til en cloudbaseret inferenstjeneste; der er ingen API-nøgle, ingen forbrugsafregning og ingen virksomhed, der modtager dine forespørgsler. For alle, der kører agenter på følsomme dokumenter — juridiske udkast, medicinske notater, personlig korrespondance — betyder den skelnen mere end benchmarktal.

Forbeholdene er reelle. PAIR tilbyder ingen garanteret tjenestekvalitet: Hvis den maskine, du regnede med, aktiverer sin GPU til et spil eller en videoeksport, omfordeler PAIR den arbejdsbelastning til det, der ellers er tilgængeligt. Værktøjet er åbenlyst udviklet til langvarige opgaver, hvor fristen er fleksibel, ikke til applikationer, hvor latenstiden skal være forudsigelig. Det er også betasoftware. Nvidia retter det mod entusiaster med mindst én kompatibel maskine — et GeForce RTX 20-serie-kort eller nyere, eller Apple M4-serie-silicium — og med forventningen om, at de allerede ved, hvordan man bruger Ollama.

PAIR er gratis, open source og tilgængelig i beta nu på tværs af Windows, macOS og Linux. Nvidia har ikke annonceret en køreplan for QoS-garantier eller en dato for en stabil udgivelse. Den praktiske bundgrænse for at få udbytte af det er to maskiner med kompetent hardware, hvilket udelukker de fleste opsætninger med én enkelt computer. For brugere, der allerede kører Ollama på mere end én enhed derhjemme, er adgangsbarrieren lav nok til at retfærdiggøre eksperimentet.

Tags: nvidia, Open Source, AI-agenter, lokal AI, Ollama, PAIR