XPU: de koepelterm voor de nieuwe generatie computerchips
Een XPU is geen specifiek soort chip, maar een verzamelnaam voor allerlei soorten rekenchips die samen een computer of server aandrijven. De letter X staat voor een onbekende variabele, net als in een wiskundige vergelijking: vul je een C in, dan krijg je een CPU (de centrale processor van een computer). Vul je een G in, dan krijg je een GPU (oorspronkelijk bedoeld voor beeldschermen en games, tegenwoordig vooral bekend van kunstmatige intelligentie). XPU is dus de koepel boven al die letters: het is elke chip die een deel van het rekenwerk voor zijn rekening neemt.
Een goede analogie is een verhuisbedrijf dat niet meer alleen bestelbusjes gebruikt, maar ook fietskoeriers, vrachtwagens en een kraanwagen, elk gespecialiseerd in een deel van de klus. Vroeger deed één processor, de CPU, vrijwel al het denkwerk in een computer. Nu wordt steeds vaker gespecialiseerd gereedschap ingezet: een GPU voor beeldherkenning en AI-training, een chip voor netwerkverkeer, een chip die alleen is toegesneden op één specifieke taak. XPU is de term die de industrie gebruikt om over al dat gespecialiseerde gereedschap tegelijk te praten, zonder steeds te hoeven zeggen "CPU, GPU, FPGA en AI-accelerator".
Wat is het precies?
Om XPU te begrijpen, helpt het om de belangrijkste chipfamilies op een rij te zetten. De CPU (central processing unit) is de alleskunner: hij voert instructies snel na elkaar uit en is goed in afwisselende, complexe taken. De GPU (graphics processing unit) is juist gespecialiseerd in duizenden simpele berekeningen tegelijk, wat hem ideaal maakt voor beeldbewerking en, sinds enkele jaren, het trainen van AI-modellen. Een FPGA (field-programmable gate array) is een chip waarvan de interne bedrading na fabricage nog herprogrammeerbaar is, handig als een taak vaak verandert. Een ASIC (application-specific integrated circuit) is precies het tegenovergestelde: een chip die voor één specifieke taak is vastgebakken in silicium, wat hem extreem snel en zuinig maakt voor die ene taak, maar nutteloos voor iets anders. Een NPU (neural processing unit) is een voorbeeld van zo'n ASIC, toegespitst op AI-berekeningen, en een DPU (data processing unit) is gespecialiseerd in netwerk- en opslagverkeer.
Al deze chips kunnen naast elkaar in één systeem zitten, bijvoorbeeld een laptop met een CPU en een aparte AI-chip, of een datacenter met duizenden CPU's en GPU's samen. Dat heet heterogeneous computing: rekenkracht die niet uit één soort chip bestaat, maar uit een mix. Het probleem is dat elke chipsoort meestal zijn eigen programmeertaal en gereedschap heeft. Een programmeur die code voor een GPU schrijft, moet die vaak grotendeels herschrijven om diezelfde taak op een andere chip te laten draaien. De XPU-gedachte probeert dat te verhelpen: één programmeermodel dat automatisch de juiste chip aanspreekt, zodat ontwikkelaars niet voor elke chip apart hoeven te programmeren.
Wat wil men ermee bereiken?
De aanleiding is dat de wetten van de chipindustrie aan het veranderen zijn. Decennialang gold de vuistregel dat processors elke twee jaar ongeveer twee keer zo snel werden, bekend als de wet van Moore. Die vooruitgang vertraagt: transistors kunnen niet oneindig kleiner worden gemaakt. Chipmakers zoeken hun winst daarom niet langer alleen in snellere alleskunners, maar in specialisatie: een chip die is toegesneden op één taak, is vaak veel sneller en zuiniger in energieverbruik dan een alleskunner die dezelfde taak erbij doet.
Tegelijk brengt die versnippering een praktisch probleem met zich mee. Bedrijven willen niet vastzitten aan één chipleverancier, met name omdat de markt voor AI-chips sterk wordt gedomineerd door één speler (Nvidia, met zijn programmeerplatform CUDA). Een gemeenschappelijke, chipoverstijgende programmeerlaag zou softwaremakers in staat stellen code één keer te schrijven en die op chips van verschillende fabrikanten te laten draaien. Dat is het uiteindelijke doel achter de XPU-gedachte: niet één wondertechniek, maar een strategie om verschillende soorten rekenkracht praktisch bruikbaar en onderling inwisselbaar te maken.
Voorbeelden uit de praktijk
Intel is de partij die de term XPU het meest actief heeft gebruikt om zijn eigen strategie te beschrijven. Het bedrijf lanceerde in 2020 oneAPI, een programmeerplatform dat ontwikkelaars in staat moet stellen dezelfde code te schrijven voor Intels CPU's, GPU's en FPGA's. OneAPI leunt zwaar op SYCL, een open programmeerstandaard van de Khronos Group (dezelfde organisatie achter de grafische standaard OpenGL), bedoeld als chipneutraal alternatief voor Nvidia's CUDA.
Een concreet voorbeeld van heterogene rekenkracht in de praktijk is de supercomputer Aurora bij het Argonne National Laboratory in de Verenigde Staten. Dit systeem combineert Intel Xeon-processors met Intel's Ponte Vecchio-gpu's (verkocht onder de naam Data Center GPU Max) tot een van de krachtigste rekenclusters ter wereld, gebouwd om onder meer klimaatmodellen en medisch onderzoek te versnellen. Ook Intels overname van het Israëlische Habana Labs in 2019 past in dit plaatje: de daaruit voortgekomen Gaudi-chips zijn AI-accelerators die naast Intels CPU's en GPU's als extra type XPU worden aangeboden aan datacenters.
Buiten Intel gebruiken andere bedrijven de term XPU minder expliciet, maar volgen ze dezelfde logica. Google ontwikkelt sinds 2016 eigen AI-chips (TPU's, tensor processing units) voor zijn eigen datacenters, en Amazon doet hetzelfde met zijn Trainium- en Inferentia-chips. Dit zijn stuk voor stuk voorbeelden van gespecialiseerde rekeneenheden naast de klassieke CPU, ook al noemen die bedrijven het zelf geen "XPU".
Hoe ver is de techniek?
De onderliggende chips zelf, CPU's, GPU's, AI-accelerators, zijn allang volwassen en op grote schaal in gebruik. Wat nog volop in ontwikkeling is, is het tweede deel van de belofte: een echt chipneutrale, universele programmeerlaag waarmee software probleemloos van de ene naar de andere chipsoort overstapt. In de praktijk blijft CUDA, Nvidia's eigen en gesloten platform, veruit het populairst onder AI-ontwikkelaars, mede omdat het al jaren goed onderhouden wordt en een groot ecosysteem aan bibliotheken heeft. OneAPI en SYCL winnen wel terrein, maar hebben die dominantie tot nu toe niet doorbroken.
Intels eigen roadmap laat bovendien zien dat de weg naar een echt uniforme XPU-chip hobbelig is. Het bedrijf kondigde met Falcon Shores een chip aan die CPU- en GPU-onderdelen letterlijk op één stuk silicium zou combineren, maar paste die plannen in de loop van 2024 aan: het idee van één gecombineerde chip werd losgelaten ten gunste van een chip die zich puur op AI-rekenwerk richt. Ook vertrok Raja Koduri, de topman die jarenlang de gezichtsbepaler was van Intels grafische en XPU-strategie, in 2022 bij het bedrijf. Dat neemt niet weg dat het bredere idee, meerdere soorten chips naast elkaar gebruiken en zoveel mogelijk met dezelfde software aansturen, inmiddels breed geaccepteerd is in de industrie; alleen het tempo en de exacte uitvoering van Intels eigen plannen zijn onzekerder gebleken dan het bedrijf aanvankelijk suggereerde.
Wie werken eraan?
Intel is de partij die de term XPU het meest heeft gepromoot, als onderdeel van zijn bredere strategie om naast processors ook grafische chips, AI-accelerators en programmeersoftware te leveren. Nvidia en AMD zijn onmisbaar in dezelfde discussie: Nvidia domineert de markt voor AI-GPU's en het bijbehorende CUDA-platform, terwijl AMD met zijn eigen open platform ROCm een alternatief probeert te bieden. De Khronos Group, een samenwerkingsverband van chipbedrijven, beheert de open standaard SYCL die aan de basis ligt van chipneutrale programmeermodellen.
Op onderzoeksvlak spelen nationale laboratoria zoals het Argonne National Laboratory (Verenigde Staten) een grote rol, omdat supercomputers zoals Aurora in de praktijk laten zien wat heterogene rekenkracht kan opleveren voor wetenschappelijk onderzoek. Ook cloudbedrijven als Google, Amazon en Microsoft ontwikkelen in toenemende mate hun eigen gespecialiseerde chips voor hun datacenters, wat de bredere trend achter het XPU-denken verder versterkt, ook zonder dat zij zelf de term gebruiken.