AI & computing › Agentic AI & autonome agents
Nvidia's gratis tool bundelt je huis-pc's tot eigen AI-cluster
Nvidia introduceert Personal AI Router (PAIR), gratis software die de rekenkracht van meerdere computers in huis samenvoegt voor lokale AI-taken. Een laptop, gamepc en MacBook kunnen zo samen dienen als privé-datacenter voor kunstmatige intelligentie, zonder dat data de deur uitgaat.
Nvidia heeft een nieuwe tool aangekondigd die onbenutte rekenkracht in huishoudens moet activeren. Personal AI Router, kortweg PAIR, is geen fysiek apparaat maar open-source software die computers op hetzelfde netwerk opspoort, met elkaar verbindt en gezamenlijk laat rekenen aan AI-taken. Denk aan het lokaal draaien van taalmodellen via programma's als Ollama en LM Studio, of aan complexere agentic AI-taken waarbij een programma zelfstandig meerdere stappen uitvoert.
Hoe werkt PAIR?
De software werkt met de meeste Nvidia GeForce RTX-kaarten vanaf de 20-serie, met professionele RTX Pro-kaarten en met de DGX Spark-systemen van het bedrijf. Ook Apple-computers met een M4-chip of nieuwer doen mee. PAIR gebruikt apparaten alleen als ze stilstaan: zodra iemand bijvoorbeeld gaat gamen op de desktop, trekt het systeem zich automatisch terug van die machine. Werk wordt verdeeld over de beschikbare computers, wat volgens Nvidia knelpunten voorkomt die ontstaan als één GPU alle taken alleen moet doen.
Een treasure trove aan gratis rekenkracht
Tijdens een presentatie schetste Nvidia-productmanager Seth Schneider een fictief gezin met verschillende krachtige apparaten: een vader met een RTX-laptop en een DGX Spark-desktop, een moeder met een RTX 5090-laptop, een dochter met een gamepc en een zoon met een MacBook Pro. Samen zou dit huishouden goed zijn voor ongeveer 165 teraflops aan onbenutte rekenkracht, ook als je de stroomkosten meerekent. Nvidia noemt dit "een schatkist aan gratis tokens" die nu grotendeels ongebruikt in huiskamers staat.
Beveiliging en beschikbaarheid
Omdat apparaten via het thuisnetwerk met elkaar praten, moet de verbinding veilig zijn. PAIR koppelt computers met een zescijferige code en beveiligt het verkeer vervolgens met mTLS, een vorm van wederzijdse versleuteling waarbij beide apparaten elkaars identiteit controleren. De bètaversie van PAIR is vanaf nu gratis beschikbaar voor Windows, Linux en macOS.
Volgens Nvidia is de tool vooral bedoeld voor huishoudens met bijvoorbeeld één laptop en één gamepc, niet per se voor de extreme scenario's uit de marketingpresentatie. Daarnaast kondigt het bedrijf aan dat drie AI-agentapps - Perplexity Portable Computer, Hermes Agent en OpenClaw - straks eenvoudiger lokaal in te stellen zijn op Windows-pc's met Nvidia-hardware, zodat gebruikers met een paar klikken een lokale AI-agent kunnen opzetten.
Achtergrond & begrippen
Wat betekent dit voor de toekomst? PAIR laat zien dat bedrijven op zoek gaan naar manieren om AI dichter bij de gebruiker te laten draaien, zonder dat gevoelige data naar een extern datacenter hoeft. Als dit soort thuisclusters aanslaan, kan dat de vraag naar dure clouddiensten voor lichtere AI-taken verminderen en gebruikers meer controle geven over hun eigen data.
- PAIR (Personal AI Router)
- Gratis software van Nvidia die meerdere computers in een netwerk verbindt zodat ze samen AI-taken kunnen uitvoeren.
- Inference
- Het proces waarbij een getraind AI-model daadwerkelijk antwoorden of resultaten genereert, in tegenstelling tot het trainen van het model.
- Teraflops
- Een maat voor rekenkracht: het aantal biljoenen rekenkundige bewerkingen dat een chip per seconde kan uitvoeren.
- mTLS (mutual TLS)
- Een beveiligingsprotocol waarbij twee apparaten elkaars identiteit controleren voordat ze versleuteld met elkaar communiceren.
- Ollama en LM Studio
- Populaire programma's waarmee gebruikers AI-taalmodellen lokaal op hun eigen computer kunnen draaien.
- DGX Spark
- Een compact AI-rekensysteem van Nvidia, bedoeld voor ontwikkelaars die zware AI-taken lokaal willen uitvoeren.
Bronnen
Dit artikel is met behulp van AI geschreven op basis van bovenstaande bronnen en is geen letterlijke vertaling. Zo werkt onze redactie.
