Chiplets opdeler en kompleks processor i mindre specialiserede dies og bruger derefter avanceret emballering til at få dem til at fungere som ét system.
En chiplet-processor opdeler én kompleks chip i flere mindre dele og forbinder dem derefter i den samme pakke.
I stedet for at fremstille hver CPU-kerne, hukommelsescontroller, grafikblok og input/output-funktion på ét enormt stykke silicium kan designerne bygge specialiserede dies separat og kombinere dem.
Det kan reducere spild i produktionen, lade forskellige funktioner bruge forskellige produktionsprocesser og gøre én arkitektur lettere at skalere. Det skaber også et nyt problem: Flere chips skal fungere som én.
Den traditionelle tilgang: én monolitisk die
En konventionel processor er bygget som én enkelt siliciumdie. Dien kan indeholde:
- beregningskerner
- cache
- hukommelsescontrollere
- grafik
- displaymotorer
- PCIe
- og andre input/output-funktioner.
Et monolitisk design har vigtige fordele. Data kan bevæge sig i dien gennem tæt integrerede forbindelser. Systemet er lettere at håndtere som én fysisk komponent. Ventetid og softwareadfærd kan være mere forudsigelige. Ulempen viser sig, når dien bliver større. Siliciumwafere indeholder uundgåelige defekter. En lille defekt kan ødelægge et meget større stykke værdifuldt silicium. Store dies kan også være der færre gange på hver wafer.
Jo større og mere kompleks processoren bliver, desto sværere er den at fremstille effektivt.
Chiplets fordeler risikoen
Forestil dig en stor processor opdelt i fire mindre dies. Hvis en defekt rammer én lille die, kan de andre fungerende dies stadig være anvendelige. Mindre dele udnyttes også mere effektivt på waferen. Det kan forbedre udbyttet i produktionen og reducere omkostningerne ved at fremstille en meget stor samlet processor. Delene behøver ikke være identiske. En pakke kan kombinere:
- dies til højtydende databehandling
- en input/output-die
- grafik
- AI-acceleration
- cache
- og specialiserede grænseflader.
Hver blok bliver til en komponent i bygningen.
Forskellige opgaver kan bruge forskellige fremstillingsprocesser
Den mest avancerede fremstillingsproces er dyr og lige nyttig til alle funktioner. Højtydende CPU-kerner kan drage fordel af mindre transistorer. I/O-kredsløb, analoge funktioner og hukommelsesgrænseflader har muligvis ikke brug for den samme avancerede proces. Nogle kan fungere bedre eller mere økonomisk på en moden node. Chiplets lader designere bruge den passende proces til hver opgave.
AMD's RDNA 3-grafikdesign kombinerede for eksempel en 5 nm-grafikberegnings-die med 6 nm-hukommelses-cache-dies. Formålet var ikke blot at skabe flere dele. Det handlede om at placere forskellige funktioner på processer, der passer til dem. Intel beskriver den samme bredere idé som heterogen integration: at kombinere chiplets, der er bygget til forskellige funktioner og potentielt bruger forskellige procesteknologier.
CPU'er gjorde chiplets velkendte
AMD's Zen-processorserier var med til at gøre chipletdesign almindeligt i desktop- og server-CPU'er. En Ryzen- eller EPYC-pakke kan kombinere en eller flere dies med kernekomplekser med en separat I/O-die. Denne tilgang gør det lettere at skalere antallet af kerner. En mainstream-desktopprocessor bruger muligvis én eller to beregningsdies. En serverprocessor kan bruge mange flere omkring et centralt I/O-system. Virksomheden behøver ikke designe én enorm, unik monolitisk die for hvert kerneantal. Den samme byggesten kan indgå i flere produkter.
GPU'er er sværere at opdele
Grafikbelastninger afhænger af enorme mængder data, der flyttes mellem beregningsenheder, cache og hukommelse. Opdeling af en GPU kan derfor skabe problemer med latenstid og båndbredde. AMD's RDNA 3-arkitektur brugte en central grafikberegnings-die, der var forbundet med separate hukommelses-cache-dies. Virksomheden oplyste, at forbindelsen mellem dem kunne fungere ved op til 5,3 TB/s. Det er et maksimalt tal fra producenten, ikke den reelle gennemstrømning i spil. Det illustrerer størrelsesordenen af den nødvendige forbindelse.
En chiplet-GPU kan ikke fungere som flere løst forbundne grafikkort. Diesene har brug for hurtig, sammenhængende kommunikation, så softwaren kan behandle produktet som én GPU. Derfor er chiplet-grafikdesign ikke bare at “bruge CPU-metoden igen”.
Indpakningen bliver en del af arkitekturen
Når processoren først er opdelt, bliver den pakke, der forbinder den, kritisk vigtig. Traditionelle forbindelser i pakken giver muligvis ikke tilstrækkelig båndbredde eller energieffektivitet. Avancerede tilgange omfatter:
2,5D-integration
Flere dies sidder ved siden af hinanden og kommunikerer gennem en interposer eller et højtdensitets-redistributionslag.
3D-stabling
Den ene die placeres oven på den anden, hvilket skaber meget kortere lodrette forbindelser.
Hybride tilgange
Logik, cache og hukommelse kan placeres ved siden af og oven på hinanden gennem flere pakningsteknologier. Intels Foveros-familie er et eksempel på avanceret 2.5D- og 3D-integration. AMD kombinerer også chiplets med avanceret pakningsteknologi i CPU-, GPU- og acceleratorprodukter. Pakken er ikke længere blot den genstand, der beskytter siliciumet. Den bestemmer, hvordan systemet kommunikerer, modtager strøm og leder varme væk.
Hvorfor gøre alt til chiplets?
Chiplets medfører deres egne omkostninger.
Kommunikationsomkostninger
Data, der flyttes mellem dies, kan tage mere tid og energi end data, der flyttes inden for én die.
Omkostninger ved pakningsteknologi
Avancerede interposere, sammenbinding og samling kan være dyrt.
Varmetæthed
Stabling af dies kan gøre det vanskeligere at lede varmen væk.
Test
Hvert chiplet og den færdige pakke skal testes. Én dårlig komponent kan stadig påvirke det samlede produkt.
Software og planlægning
Operativsystemet og programmerne skal muligvis tage højde for forskelle i latenstid, cache eller placering af kerner.
Produktets størrelse
En lille, billig processor kan være billigere og enklere som én monolitisk die.
Chiplets er et designværktøj, ikke en universel opgradering.
Er chiplets automatisk hurtigere?
Nej. Chiplets kan gøre en meget større eller mere specialiseret processor økonomisk mulig. Systemet kan være hurtigere, fordi det indeholder flere kerner, mere cache, mere hukommelse eller mere acceleration. Selve chiplet-opbygningen medfører også kommunikationsomkostninger. En veldesignet monolitisk chip kan yde bedre end et dårligt designet system med flere dies. Ydeevnen afhænger af:
- arkitektur
- arbejdsbelastning
- forbindelse
- cache
- hukommelse
- pakningsteknologi
- software
- og strømforbrug.
Fordelen er fleksibilitet og skalerbarhed, ikke gratis hastighed.
Hvorfor de er vigtige for AI
AI-acceleratorer kræver enorm regnekraft, hukommelse med høj båndbredde og hurtige forbindelser mellem flere behandlingsblokke. Chiplets gør det muligt for en designer at kombinere: beregningsdies, I/O, cache, hukommelse med høj båndbredde og specialiseret acceleration. AMD's CDNA-arkitektur bruger avanceret pakningsteknologi til at kombinere chiplet-teknologier og HBM i datacenteracceleratorer. Hele branchen bevæger sig også mod åbne standarder for chiplet-forbindelser, så dies fra forskellige designteams eller på sigt forskellige virksomheder kan kommunikere via fælles grænseflader. Det kan gøre processorer mere modulære, selvom kommercielle, sikkerhedsmæssige og kompatibilitetsmæssige udfordringer stadig er betydelige.
Hvad dette ændrer for købere
De fleste købere behøver ikke vælge en processor, fordi den er monolitisk eller chiplet-baseret. De nyttige resultater er indirekte: flere kerner til en given pris, større caches, bedre skalering af produkter, flere specialiserede acceleratorer og større konkurrence på tværs af fremstillingsprocesser. Chiplets kan også forklare usædvanlig adfærd. En processor kan have forskellig latenstid mellem grupper af kerner. En GPU kan være stærkt afhængig af sin cache og sammenkobling. Et design med stablet cache kan have andre termiske grænser end en konventionel version. Arkitekturen er vigtig, når den ændrer den reelle arbejdsbelastning, ikke fordi »chiplet« optræder i markedsføringen.
Fremtiden bliver sandsynligvis blandet
Nogle processorer vil fortsat være monolitiske. Andre vil kombinere flere chiplets. Nogle vil stable cache eller hukommelse vertikalt. Store AI-systemer kan forbinde så mange pakker så tæt, at grænsen mellem chip, modul og computer bliver mindre tydelig. Målet er ikke at skabe flest mulige dele. Det er at placere hver funktion på det rigtige silicium, fremstille det økonomisk og forbinde alt hurtigt nok til, at brugeren oplever ét samlet system.
Chiplets ændrer måden, processorer bygges på, fordi de gør det muligt for designere at holde op med at betragte én enorm die som den eneste vej til en kraftig chip. De mindre dele er ikke i sig selv det afgørende gennembrud. Gennembruddet består i at få dem til at fungere sammen. Læs, hvorfor grafik-hukommelse bliver strategisk vigtig, eller udforsk GPUsed's hardware til virksomheder og datacentre.