Wafer-scale chip: een hele siliciumschijf als één processor
Een computerchip begint altijd als een dunne, ronde schijf van bijna zuiver silicium: een 'wafer', meestal zo'n 30 centimeter in doorsnee. Normaal gesproken drukt een fabriek honderden of duizenden identieke chipontwerpen op die ene schijf, waarna de wafer wordt versneden tot losse vierkantjes: de chips die uiteindelijk in je telefoon, laptop of server terechtkomen. Een wafer-scale chip doet iets radicaal anders: die snijdt de wafer niet in stukken, maar gebruikt de hele schijf als één enkele, gigantische chip.
Het verschil is te vergelijken met een vel postzegels. Normaal scheur je de zegels langs de perforatie los en gebruik je ze los van elkaar. Bij een wafer-scale chip laat je het hele vel intact en plak je het in zijn geheel op een envelop, zodat alle 'zegels' met elkaar verbonden blijven en supersnel met elkaar kunnen 'praten' zonder dat er ergens een schaar of naad tussen zit. Voor toepassingen waarbij duizenden rekenkernen voortdurend gegevens moeten uitwisselen, zoals het trainen van kunstmatige intelligentie, scheelt dat enorm veel tijd en energie.
Wat is het precies?
Een gewone processor, zoals de chip in een laptop, is een klein rechthoekje van hooguit een paar honderd vierkante millimeter. Fabrikanten houden chips bewust klein, omdat een wafer tijdens productie nooit helemaal foutloos is: er zitten altijd microscopische onzuiverheden of afwijkingen in het silicium. Hoe groter een individuele chip, hoe groter de kans dat zo'n defect ergens binnen die chip valt en het hele exemplaar onbruikbaar maakt.
Bij een wafer-scale chip is dat probleem niet verdwenen, maar wordt het anders opgelost. In plaats van kleine chips te maken die je weggooit bij een defect, ontwerpt de fabrikant de hele wafer als één netwerk van tienduizenden identieke, kleine rekenblokken (cores) met extra reservecapaciteit. Wordt tijdens productie een defect blok gevonden, dan schakelt de besturingssoftware dat blok simpelweg uit en routeert het dataverkeer eromheen, via reservepaadjes die al in het ontwerp zitten. Zo blijft het gros van de wafer bruikbaar, ook al is die nooit voor honderd procent foutloos.
Het resultaat is een chip die vele malen groter is dan gebruikelijk: waar een topprocessor voor een laptop ergens tussen de 100 en 800 vierkante millimeter meet, is een wafer-scale chip meer dan 46.000 vierkante millimeter groot, ongeveer zo groot als een bord. Daardoor passen er honderdduizenden rekenkernen op, met razendsnelle, korte verbindingen ertussen in plaats van de trage, energieverslindende bedrading die nodig is om losse chips via een printplaat met elkaar te verbinden.
Wat wil men ermee bereiken?
De belangrijkste drijfveer is een knelpunt dat 'de geheugenmuur' of, breder, het 'dataverplaatsingsprobleem' wordt genoemd. In moderne computersystemen kost het vaak meer tijd en energie om gegevens van de ene chip naar de andere te sturen dan om de eigenlijke berekening uit te voeren. Bij het trainen van grote AI-modellen, waarbij miljarden rekenkernen voortdurend tussenresultaten moeten uitwisselen, wordt dat een serieuze rem op de snelheid.
Door alle rekenkernen op één ononderbroken stuk silicium te plaatsen, vallen de langzame verbindingen tussen losse chips grotendeels weg. Signalen hoeven niet meer via printplaten, connectoren en kabels te reizen, maar blijven binnen dezelfde wafer. Dat levert in theorie een veel hogere bandbreedte en lagere vertraging op, en vaak ook minder energieverbruik per berekening.
Een tweede doel is eenvoud op systeemniveau. Eén wafer-scale chip kan het werk overnemen van honderden losse chips die anders met complexe bekabeling en netwerkprotocollen aan elkaar geknoopt zouden moeten worden. Dat maakt het bouwen van AI-supercomputers in theorie compacter en beheersbaarder, al blijft koeling en stroomvoorziening van zo'n energiehongerige superchip een aanzienlijke technische uitdaging op zich.
Voorbeelden uit de praktijk
Het Amerikaanse bedrijf Cerebras Systems is de bekendste speler op dit gebied. In 2019 bracht het de Wafer Scale Engine (WSE-1) uit: destijds de grootste chip ooit gemaakt, met circa 1,2 biljoen transistors en 400.000 rekenkernen op een enkele wafer. In 2021 volgde de WSE-2, met dankzij een fijner productieproces ongeveer 2,6 biljoen transistors en 850.000 kernen, en in 2024 de WSE-3, met naar verluidt zo'n 4 biljoen transistors, verdeeld over 900.000 kernen en tientallen gigabytes supersnel geheugen direct op de chip.
Cerebras' systemen draaien inmiddels bij onderzoeksinstellingen zoals het Argonne National Laboratory en Lawrence Livermore National Laboratory in de Verenigde Staten, die ze gebruiken voor wetenschappelijke simulaties en AI-onderzoek. Samen met het in de Verenigde Arabische Emiraten gevestigde AI-bedrijf G42 bouwde Cerebras bovendien de Condor Galaxy-supercomputers, aangekondigd vanaf 2023, waarin meerdere van deze wafer-scale systemen worden gekoppeld tot rekenclusters voor AI-training.
Tesla koos voor een verwante, maar niet identieke aanpak met zijn AI-trainingssysteem Dojo, aangekondigd in 2021 en de jaren daarna verder uitgerold. In plaats van één ononderbroken stuk silicium plaatst Tesla tientallen losse 'D1'-chips dicht op elkaar op een gedeelde drager, een zogeheten 'training tile', met dank aan geavanceerde verpakkingstechniek (InFO_SoW, oftewel Integrated Fan-Out System on Wafer) van chipfabrikant TSMC. Het is dus eerder 'meerdere chips die zich als één wafer gedragen' dan een echte monolithische wafer-scale chip zoals bij Cerebras, maar het onderliggende idee, zo min mogelijk afstand en vertraging tussen rekenkernen, is hetzelfde.
Ook historisch is er een belangrijk voorbeeld, al liep dat minder goed af: in het begin van de jaren tachtig probeerde het bedrijf Trilogy Systems, opgericht door computerpionier Gene Amdahl, al een wafer-scale mainframechip te bouwen. Het project strandde midden jaren tachtig doordat de productietechniek van die tijd simpelweg te veel defecten per wafer opleverde om het idee betaalbaar te maken. Dat maakt de huidige generatie wafer-scale chips ook een voorbeeld van hoe verbeterde productietechniek en slimmere defectcompensatie een decennia oud, ooit mislukt idee alsnog haalbaar hebben gemaakt.
Hoe ver is de techniek?
Wafer-scale chips zijn geen labcuriositeit meer, maar ook geen mainstreamtechniek. Cerebras' systemen zijn commercieel verkrijgbaar en draaien bij een beperkt aantal grote klanten, vooral onderzoeksinstellingen, overheidslabs en enkele bedrijven die zware AI-trainingstaken uitvoeren. Voor de gemiddelde datacenteroperator blijven gewone grafische chips (gpu's) van bijvoorbeeld Nvidia en AMD voorlopig de standaardkeuze, onder meer omdat het bijbehorende softwareplatform daar veel volwassener en breder ondersteund is.
De grootste technische horde blijft de balans tussen chipgrootte en opbrengst (yield): hoe groter de chip, hoe lastiger en duurder het is om elk exemplaar met voldoende werkende rekenkernen te produceren, ondanks slimme reservecapaciteit. Ook koeling is een reëel probleem: een chip die honderden keren groter is dan gebruikelijk, verbruikt en produceert ook navenant veel meer warmte, wat om gespecialiseerde, vaak vloeistofgekoelde systemen vraagt.
Daarnaast is het niet vanzelfsprekend dat bestaande software zomaar overweg kan met zo'n ongebruikelijke chiparchitectuur. Ontwikkelaars moeten programma's vaak specifiek aanpassen of laten compileren voor het wafer-scale ontwerp, wat de instapdrempel verhoogt vergeleken met de meer gestandaardiseerde wereld van reguliere gpu's. Toch neemt de belangstelling toe naarmate AI-modellen groter worden en de vraag naar rekenkracht sneller groeit dan de traditionele chipschaling kan bijbenen, wat wafer-scale techniek voorlopig relevant houdt als een van de opties om dat probleem aan te pakken.
Wie werken eraan?
Cerebras Systems, gevestigd in Sunnyvale, Californië, is de meest zichtbare pionier en enige partij die op dit moment commerciële, echt monolithische wafer-scale chips verkoopt. De feitelijke productie gebeurt bij het Taiwanese TSMC, 's werelds grootste chipfabrikant, dat ook de geavanceerde verpakkingstechniek levert waarop projecten zoals Tesla's Dojo leunen.
Tesla ontwikkelt Dojo in eigen huis, met TSMC als productie- en verpakkingspartner, specifiek voor het trainen van de AI-modellen achter zijn zelfrijdende systemen. In de Verenigde Arabische Emiraten investeert het staatsgesteunde AI-bedrijf G42 fors in Cerebras-gebaseerde infrastructuur via het Condor Galaxy-project. Aan de afnemerskant zijn Amerikaanse nationale onderzoekslaboratoria zoals Argonne en Lawrence Livermore, die vallen onder het Amerikaanse ministerie van Energie, belangrijke gebruikers voor wetenschappelijke simulaties.
Verder onderzoek naar wafer-scale en aanverwante 'system-on-wafer'-technieken vindt plaats bij chipfabrikanten als TSMC en Intel, die eigen geavanceerde verpakkingstechnieken ontwikkelen (respectievelijk InFO_SoW en Foveros-achtige technieken) die wafer-scale-achtige voordelen kunnen opleveren zonder de risico's van één enkele, monolithische chip. Academisch onderzoek naar defecttolerante, grootschalige chipontwerpen loopt al decennia, onder meer aan Amerikaanse universiteiten, en vormt de wetenschappelijke basis waarop bedrijven als Cerebras voortbouwen.