Heterogene rekenarchitectuur: waarom de ene chip niet meer genoeg is
Stel je een bouwplaats voor. Vroeger stuurde je één manusje-van-alles op elke klus af: leidingen leggen, muren metselen, bedrading aansluiten. Dat werkte, maar traag en inefficiënt. Tegenwoordig stuur je specialisten: een loodgieter voor de leidingen, een elektricien voor de bedrading, een metselaar voor de muren. Elk doet precies waar hij goed in is, en samen zijn ze veel sneller klaar dan die ene generalist ooit zou zijn.
Zoiets gebeurt er ook in computerchips. Lange tijd deed één type processor, de CPU (central processing unit), vrijwel al het rekenwerk in een computer of telefoon. Maar moderne taken zoals kunstmatige intelligentie, videobewerking of 3d-graphics vragen om heel verschillend soort rekenwerk. Daarom bouwen fabrikanten nu systemen met meerdere, gespecialiseerde typen rekeneenheden die samenwerken. Dat heet heterogene rekenarchitectuur: heterogeen betekent letterlijk 'ongelijksoortig'. Het is inmiddels de standaard in vrijwel elke smartphone, laptop en supercomputer.
Wat is het precies?
Een 'gewone' CPU is een generalist: hij kan bijna elke taak aan, stap voor stap, maar is niet extreem snel in iets specifieks. Een GPU (graphics processing unit, oorspronkelijk ontworpen voor beeldschermbeelden) is juist een specialist in het tegelijk uitvoeren van duizenden simpele, gelijksoortige berekeningen. Dat maakt een GPU ideaal voor taken die zich goed laten opsplitsen in kleine, parallelle stukjes, zoals het trainen van AI-modellen of het renderen van 3d-graphics.
Naast CPU en GPU bestaan er nog meer gespecialiseerde rekeneenheden. Een NPU of TPU (neural/tensor processing unit) is toegesneden op de wiskunde achter neurale netwerken. Een DSP (digital signal processor) is gespecialiseerd in geluids- en signaalverwerking. Een FPGA (field-programmable gate array) is een chip waarvan de interne schakelingen achteraf herprogrammeerbaar zijn, handig voor taken die vaak veranderen. In een heterogeen systeem zitten meerdere van deze eenheden naast elkaar, vaak op één en dezelfde chip, en verdeelt software het werk automatisch over de eenheid die er het beste voor is toegerust.
Een cruciale technische horde daarbij is het geheugen. Als CPU en GPU elk hun eigen, gescheiden geheugen hebben, moeten gegevens steeds gekopieerd worden tussen die twee, wat tijd en energie kost. Nieuwere ontwerpen gebruiken daarom unified memory (gedeeld geheugen): één geheugenpool die alle rekeneenheden rechtstreeks kunnen aanspreken, zonder omweg. Dit vraagt om snelle interne verbindingen, zoals Nvidia's NVLink-C2C of de open industriestandaard UCIe (Universal Chiplet Interconnect Express), die verschillende chipblokken ('chiplets') van mogelijk verschillende fabrikanten met elkaar laat communiceren alsof het één chip is.
Wat wil men ermee bereiken?
De drijfveer is voor een groot deel natuurkundig. Decennialang werden chips sneller doordat transistors, de schakelaartjes waaruit een chip bestaat, steeds kleiner gemaakt konden worden (bekend als de wet van Moore). Dat proces loopt tegen fysieke grenzen aan: transistors zijn inmiddels een paar nanometer klein, en verder verkleinen wordt exponentieel duurder en moeilijker. Tegelijk groeit de vraag naar rekenkracht, vooral door AI, juist explosief.
Heterogene architectuur is een manier om toch meer prestaties te halen zonder alleen te vertrouwen op kleinere transistors. Door taken naar gespecialiseerde hardware te sturen, kun je per taak veel meer rekenwerk verrichten per verbruikte watt. Dat is niet alleen goed voor de batterijduur van een telefoon, maar ook essentieel voor datacenters en supercomputers, waar stroomverbruik en warmteafvoer de grootste praktische beperkingen zijn geworden. Kortom: het doel is meer rekenkracht, met minder energie, binnen de grenzen die de natuurkunde stelt.
Voorbeelden uit de praktijk
De Cell-processor, ontwikkeld door IBM, Sony en Toshiba en gebruikt in de PlayStation 3 (2006), wordt vaak genoemd als vroeg, invloedrijk voorbeeld: één hoofdkern combineerde met acht gespecialiseerde 'Synergistic Processing Elements' voor parallel rekenwerk.
Apple's M1-chip (2020) bracht heterogene architectuur naar de massamarkt in laptops: CPU-kernen, GPU-kernen en een 'Neural Engine' voor machine learning delen hetzelfde unified memory op één chip, wat de M-serie een grote sprong in energiezuinigheid opleverde ten opzichte van eerdere Intel-chips in Mac-computers.
Google's Tensor Processing Units, sinds 2016 in gebruik in Google's eigen datacenters, zijn chips die specifiek zijn toegesneden op de berekeningen achter machinaal leren. Een afgeleide variant, de Google Tensor-chip, zit sinds de Pixel 6 (2021) ook in Google's eigen smartphones, naast een reguliere CPU en GPU.
AMD's Instinct MI300A, aangekondigd in 2023, combineert CPU-kernen, GPU-kernen en gedeeld high-bandwidth-geheugen op één chippakket. Deze chip vormt de basis van de supercomputer El Capitan bij het Lawrence Livermore National Laboratory in de Verenigde Staten, die behoort tot de snelste supercomputers ter wereld.
Nvidia's Grace Hopper Superchip (GH200) combineert een op ARM gebaseerde CPU met een Hopper-GPU via de snelle NVLink-C2C-verbinding, en wordt ingezet voor grootschalige AI-training in datacenters.
Hoe ver is de techniek?
Heterogene rekenarchitectuur is geen toekomstbeeld meer, maar dagelijkse realiteit: vrijwel elke smartphone-chip (van Apple, Qualcomm, Samsung en anderen) combineert al jaren CPU, GPU, NPU en DSP op één stuk silicium. In datacenters en supercomputers is de omslag recenter en gaat die nog steeds door: combinatiechips zoals de MI300A en GH200 zijn pas sinds 2023-2024 in grote aantallen operationeel.
De grootste obstakels zijn niet zozeer conceptueel als wel praktisch. Software moet weten welk stukje werk naar welke rekeneenheid te sturen, en dat automatisch en efficiënt laten verlopen is complex; programmeurs moeten vaak nog handmatig optimaliseren. Ook het combineren van verschillende chiplets van uiteenlopende fabrikanten op één pakket, zoals UCIe beoogt mogelijk te maken, staat nog in een relatief vroeg stadium: de standaard werd pas in 2022 gepubliceerd en de industrie werkt nog aan brede, onderlinge compatibiliteit. Onzeker is ook hoever de energiewinst op termijn doorzet naarmate systemen complexer worden en de onderlinge datacommunicatie tussen al die gespecialiseerde eenheden zelf weer stroom gaat kosten.
Wie werken eraan?
Aan de kant van de chipontwerpers lopen Nvidia, AMD, Intel, Apple, Qualcomm en Google voorop, elk met eigen combinatiechips voor laptops, telefoons of datacenters. De feitelijke productie van deze geavanceerde chips gebeurt grotendeels bij gespecialiseerde fabrikanten zoals het Taiwanese TSMC, dat de meeste van bovengenoemde ontwerpen daadwerkelijk bakt.
Op onderzoeksgebied spelen instituten als het Belgische imec en het Franse CEA-Leti een belangrijke rol in fundamenteel chiponderzoek, naast universiteiten wereldwijd die werken aan nieuwe chip- en geheugenarchitecturen. In de Verenigde Staten investeert onder meer onderzoeksbureau DARPA al langer in heterogene en herconfigureerbare architecturen voor toepassingen variërend van AI tot defensie.
Beleidsmatig speelt met name de Europese Unie een rol via de Chips Act (aangenomen in 2023), die met publieke en private investeringen de Europese chipproductie en -kennis wil versterken. Ook de Verenigde Staten en China voeren, elk vanuit eigen motieven rond technologische zelfstandigheid, actief industriebeleid gericht op geavanceerde chipproductie en -ontwerp.