Chiplets verdelen een complexe processor in kleinere gespecialiseerde dies en gebruiken vervolgens geavanceerde verpakking om ze als één systeem te laten functioneren.
Een chipletprocessor verdeelt één complexe chip in meerdere kleinere stukken en verbindt deze binnen hetzelfde package.
In plaats van elke CPU-kern, geheugencontroller, grafisch blok en input/outputfunctie op één enorm stuk silicium te produceren, kunnen ontwerpers gespecialiseerde dies afzonderlijk bouwen en combineren.
Dit kan productieverspilling verminderen, verschillende functies verschillende productieprocessen laten gebruiken en één architectuur eenvoudiger schaalbaar maken. Het creëert ook een nieuw probleem: meerdere chips moeten zich gedragen als één geheel.
De traditionele aanpak: één monolithische die
Een conventionele processor wordt opgebouwd als één siliciumdie. Die die kan het volgende bevatten:
- rekenkernen
- cache
- geheugencontrollers
- graphics
- display-engines
- PCIe
- en andere input/outputfuncties.
Een monolithisch ontwerp heeft belangrijke voordelen. Gegevens kunnen zich binnen de die verplaatsen via nauw geïntegreerde verbindingen. Het systeem is eenvoudiger als één fysiek onderdeel te behandelen. Latentie en softwaregedrag kunnen voorspelbaarder zijn. Het nadeel wordt zichtbaar naarmate de die groter wordt. Siliciumwafers bevatten onvermijdelijke defecten. Een klein defect kan een veel groter stuk waardevol silicium onbruikbaar maken. Op elke wafer passen ook minder grote dies.
Hoe groter en complexer de processor wordt, hoe moeilijker het is om deze efficiënt te produceren.
Chiplets verdelen het risico
Stel je een grote processor voor die is verdeeld in vier kleinere dies. Als een defect een kleine die treft, kunnen de andere goede dies mogelijk nog steeds worden gebruikt. Kleinere stukken passen ook efficiënter op de wafer. Dit kan het productie-rendement verbeteren en de kosten voor het produceren van één zeer grote processor verlagen. De stukken hoeven niet identiek te zijn. Een package kan bijvoorbeeld het volgende combineren:
- dies voor high-performance computing
- een input/output-die
- graphics
- AI-versnelling
- cache
- en gespecialiseerde interfaces.
Elk blok wordt een onderdeel van een gebouw.
Verschillende taken kunnen verschillende productieprocessen gebruiken
Het meest geavanceerde productieproces is duur en niet voor elke functie even nuttig. Krachtige CPU-cores kunnen profiteren van kleinere transistors. I/O-circuits, analoge functies en geheugeninterfaces hebben mogelijk niet hetzelfde geavanceerde proces nodig. Sommige kunnen beter of voordeliger werken op een volwassen node. Met chiplets kunnen ontwerpers voor elke taak het geschikte proces gebruiken.
AMD’s RDNA 3-grafische ontwerp combineerde bijvoorbeeld een grafische rekendie van 5 nm met geheugen-cachedies van 6 nm. Het doel was niet simpelweg meer onderdelen te creëren. Het ging erom verschillende functies op processen te plaatsen die daarvoor geschikt zijn. Intel beschrijft hetzelfde bredere idee als heterogene integratie: chiplets combineren die voor verschillende functies zijn gebouwd en mogelijk verschillende procestechnologieën gebruiken.
CPU’s maakten chiplets vertrouwd
AMD’s Zen-processorfamilies hielpen chipletontwerp gangbaar te maken in desktop- en server-CPU’s. Een Ryzen- of EPYC-pakket kan een of meer dies met core-complexen combineren met een afzonderlijke input/output-die. Die aanpak maakt het eenvoudiger om het aantal cores op te schalen. Een mainstream desktopprocessor kan één of twee rekendies gebruiken. Een serverprocessor kan er veel meer gebruiken rond een centraal I/O-systeem. Het bedrijf hoeft niet voor elk aantal cores één enorme, unieke monolithische die te ontwerpen. Hetzelfde bouwblok kan in meerdere producten terugkomen.
GPU’s zijn moeilijker op te splitsen
Grafische workloads zijn afhankelijk van enorme hoeveelheden gegevens die tussen rekeneenheden, cache en geheugen worden verplaatst. Het opsplitsen van een GPU kan daardoor latentie- en bandbreedteproblemen veroorzaken. AMD’s RDNA 3-architectuur gebruikte een centrale grafische rekendie die was verbonden met afzonderlijke geheugen-cachedies. Het bedrijf verklaarde dat de verbinding ertussen kon werken met maximaal 5,3 TB/s. Dat is een theoretische piekwaarde van de fabrikant, geen werkelijke gamingdoorvoer. Het illustreert de schaal van de vereiste verbinding.
Een chiplet-GPU kan zich niet gedragen als meerdere losjes verbonden grafische kaarten. De dies hebben snelle, coherente communicatie nodig, zodat software het product als één GPU kan behandelen. Daarom is grafisch chipletontwerp niet simpelweg “de CPU-methode opnieuw gebruiken”.
Verpakking wordt onderdeel van de architectuur
Zodra de processor is opgesplitst, wordt de verpakking die hem verbindt van cruciaal belang. Traditionele verbindingen in de verpakking bieden mogelijk niet genoeg bandbreedte of energie-efficiëntie. Geavanceerde benaderingen zijn onder andere:
2,5D-integratie
Meerdere dies liggen naast elkaar en communiceren via een interposer of een laag voor high-density-herverdeling.
3D-stapeling
De ene die bevindt zich boven de andere, waardoor veel kortere verticale verbindingen ontstaan.
Hybride benaderingen
Logica, cache en geheugen kunnen naast en boven elkaar worden geplaatst via verschillende packagingtechnologieën. Intels Foveros-familie is een voorbeeld van geavanceerde 2,5D- en 3D-integratie. AMD combineert chiplets ook met geavanceerde packaging in CPU-, GPU- en acceleratorproducten. Het pakket is niet langer slechts het object dat het silicium beschermt. Het bepaalt hoe het systeem communiceert, stroom ontvangt en warmte afvoert.
Waarom maken we niet alles tot een chiplet?
Chiplets brengen hun eigen kosten met zich mee.
Communicatie-overhead
Gegevens die tussen dies worden verplaatst, kunnen meer tijd en energie kosten dan verplaatsingen binnen één die.
Packagingkosten
Geavanceerde interposers, bonding en assemblage kunnen duur zijn.
Warmtedichtheid
Het stapelen van dies kan warmteafvoer moeilijker maken.
Testen
Elke chiplet en het uiteindelijke pakket moeten worden getest. Eén slecht onderdeel kan het geassembleerde product nog steeds beïnvloeden.
Software en planning
Het besturingssysteem en de toepassingen moeten mogelijk rekening houden met verschillen in latentie, cache of de plaatsing van cores.
Productomvang
Een kleine, goedkope processor kan goedkoper en eenvoudiger zijn als één monolithische die.
Chiplets zijn een ontwerpmiddel, geen universele upgrade.
Zijn chiplets automatisch sneller?
Nee. Chiplets kunnen een veel grotere of meer gespecialiseerde processor economisch haalbaar maken. Dat systeem kan sneller zijn omdat het meer cores, cache, geheugen of versnelling bevat. De chipletindeling brengt ook communicatie-overhead met zich mee. Een goed ontworpen monolithische chip kan beter presteren dan een slecht ontworpen systeem met meerdere dies. De prestaties hangen af van:
- architectuur
- werklast
- interconnect
- cache
- geheugen
- packaging
- software
- en energieverbruik.
Het voordeel is flexibiliteit en schaalbaarheid, niet gratis snelheid.
Waarom ze belangrijk zijn voor AI
AI-versnellers hebben enorme rekenkracht, geheugen met hoge bandbreedte en snelle verbindingen tussen meerdere verwerkingseenheden nodig. Chiplets stellen ontwerpers in staat om rekendies, I/O, cache, geheugen met hoge bandbreedte en gespecialiseerde versnelling te combineren. AMD's CDNA-architectuur gebruikt geavanceerde packaging om chiplettechnologieën en HBM te combineren in datacenter-versnellers. De bredere industrie beweegt ook in de richting van open standaarden voor chiplet-interconnects, zodat dies van verschillende ontwerpteams, of uiteindelijk verschillende bedrijven, via gemeenschappelijke interfaces kunnen communiceren. Dat kan processors modulairder maken, hoewel commerciële, beveiligings- en compatibiliteitsuitdagingen aanzienlijk blijven.
Wat dit verandert voor kopers
De meeste kopers hoeven geen processor te kiezen omdat deze monolithisch is of uit chiplets bestaat. De nuttige resultaten zijn indirect: meer cores voor een bepaalde prijs, grotere caches, betere productschaalbaarheid, meer gespecialiseerde accelerators en meer concurrentie tussen productieprocessen. Chiplets kunnen ook ongewoon gedrag verklaren. Een processor kan verschillende latenties hebben tussen groepen cores. Een GPU kan sterk afhankelijk zijn van zijn cache en interconnect. Een ontwerp met gestapelde cache kan andere thermische limieten hebben dan een conventionele versie. De architectuur is belangrijk wanneer deze de werkelijke werklast verandert, niet omdat “chiplet” in de marketing verschijnt.
De toekomst is waarschijnlijk gemengd
Sommige processors blijven monolithisch. Andere combineren meerdere chiplets. Weer andere stapelen cache of geheugen verticaal. Grote AI-systemen kunnen zoveel packages zo nauw met elkaar verbinden dat de grens tussen chip, module en computer minder duidelijk wordt. Het doel is niet om het grootste aantal onderdelen te creëren. Het doel is om elke functie op het juiste silicium onder te brengen, deze economisch te produceren en alles snel genoeg met elkaar te verbinden zodat de gebruiker één systeem ervaart.
Chiplets veranderen de manier waarop processors worden gebouwd, omdat ontwerpers hierdoor niet langer één enorme die als enige route naar een krachtige chip hoeven te beschouwen. De kleinere onderdelen zijn op zichzelf niet de doorbraak. De doorbraak is dat ze kunnen samenwerken. Lees waarom grafisch geheugen strategisch steeds belangrijker wordt of ontdek GPUsed's enterprise- en datacenterhardware.