Chiplets delar upp en komplex processor i mindre specialiserade kretsar och använder sedan avancerad kapsling för att få dem att fungera som ett enda system.
En chipletprocessor delar upp ett komplext chip i flera mindre delar och ansluter dem sedan i samma kapsel.
I stället för att tillverka varje CPU-kärna, minnesstyrenhet, grafikblock och in-/utmatningsfunktion på en enda enorm kiseldel kan konstruktörer bygga specialiserade kretsar separat och kombinera dem.
Detta kan minska tillverkningssvinnet, låta olika funktioner använda olika produktionsprocesser och göra en arkitektur enklare att skala. Det skapar också ett nytt problem: flera chip måste fungera som ett.
Det traditionella tillvägagångssättet: en monolitisk krets
En konventionell processor byggs som en enda kiseldie. Den kretsen kan innehålla:
- beräkningskärnor
- cache
- minnesstyrenheter
- grafik
- skärmmotorer
- PCIe
- och andra in-/utmatningsfunktioner.
En monolitisk konstruktion har viktiga fördelar. Data kan förflyttas inom kretsen genom tätt integrerade anslutningar. Systemet är enklare att hantera som en enda fysisk komponent. Fördröjning och programvarans beteende kan bli mer förutsägbara. Nackdelen uppstår när kretsen blir större. Kiselskivor innehåller oundvikliga defekter. Ett litet fel kan förstöra en mycket större del av värdefullt kisel. Stora kretsar får också plats färre gånger på varje kiselskiva.
Ju större och mer komplex processorn blir, desto svårare blir den att tillverka effektivt.
Chiplets delar upp risken
Föreställ dig en stor processor som delas upp i fyra mindre kretsar. Om ett fel påverkar en liten krets kan de andra fungerande kretsarna fortfarande vara användbara. Mindre delar passar också effektivare på kiselskivan. Det kan förbättra tillverkningsutbytet och minska kostnaden för att producera en mycket stor processor totalt sett. Delarna behöver inte vara identiska. Ett kapslat paket kan kombinera:
- kretsar för högpresterande beräkningar
- ett in-/utmatningschip
- grafik
- AI-acceleration
- cache
- och specialiserade gränssnitt.
Varje block blir en byggkomponent.
Olika uppgifter kan använda olika tillverkningsprocesser
Den mest avancerade tillverkningsprocessen är dyr och lika användbar för alla funktioner. Högpresterande CPU-kärnor kan dra nytta av mindre transistorer. Kretsar för in-/utmatning, analoga funktioner och minnesgränssnitt behöver kanske inte samma ledande processteknik. Vissa kan fungera bättre eller mer ekonomiskt på en mogen processnod. Chiplets låter konstruktörer använda rätt process för varje uppgift.
AMD:s RDNA 3-grafikdesign kombinerade till exempel en 5 nm-grafikberäkningsdie med 6 nm-minnescache-dies. Poängen var inte bara att skapa fler delar. Det handlade om att placera olika funktioner på processnoder som passar dem. Intel beskriver samma bredare idé som heterogen integrering: att kombinera chiplets som är byggda för olika funktioner och potentiellt använder olika processtekniker.
CPU:er gjorde chiplets välbekanta
AMD:s Zen-processorserier bidrog till att göra chipletdesign vanlig i stationära datorer och servrar. En Ryzen- eller EPYC-kapsling kan kombinera en eller flera kärnkomplexdies med en separat in-/utmatningsdie. Det gör det enklare att skala antalet kärnor. En processor för vanliga stationära datorer kan använda en eller två beräkningsdies. En serverprocessor kan använda många fler runt ett centralt I/O-system. Företaget behöver inte utforma en enda enorm och unik monolitisk die för varje kärnantal. Samma byggblock kan förekomma i flera produkter.
GPU:er är svårare att dela upp
Grafikarbetslaster är beroende av att enorma datamängder flyttas mellan beräkningsenheter, cache och minne. Att dela upp en GPU kan därför skapa problem med latens och bandbredd. AMD:s RDNA 3-arkitektur använde en central grafikberäkningsdie som var ansluten till separata minnescache-dies. Företaget uppgav att förbindelsen mellan dem kunde fungera med upp till 5,3 TB/s. Det är ett maximalt värde från leverantören, inte den verkliga genomströmningen i spel. Det illustrerar omfattningen på den anslutning som krävs.
En chiplet-GPU kan inte fungera som flera löst sammankopplade grafikkort. Chipdieserna behöver snabb och koherent kommunikation så att programvaran kan behandla produkten som en enda GPU. Därför handlar chipletbaserad grafikdesign inte bara om att ”använda CPU-metoden igen”.
Kapslingen blir en del av arkitekturen
När processorn har delats upp blir kapslingen som kopplar samman den kritiskt viktig. Traditionella ledningsbanor i kapslingen kanske inte ger tillräcklig bandbredd eller energieffektivitet. Avancerade metoder omfattar:
2,5D-integrering
Flera chipdies placeras bredvid varandra och kommunicerar via en interposer eller ett högdensitetslager för omfördelning.
3D-stapling
En krets placeras ovanpå en annan, vilket skapar mycket kortare vertikala anslutningar.
Hybridlösningar
Logik, cache och minne kan placeras bredvid och ovanpå varandra genom flera olika kapslingstekniker. Intels Foveros-familj är ett exempel på avancerad 2.5D- och 3D-integration. AMD kombinerar också chiplets med avancerad kapslingsteknik i produkter baserade på CPU, GPU och acceleratorer. Kapslingen är inte längre bara det som skyddar kislet. Den avgör hur systemet kommunicerar, tar emot ström och leder bort värme.
Varför göra allt till chiplets?
Chiplets medför egna kostnader.
Kommunikationskostnader
Data som flyttas mellan kretsar kan ta mer tid och energi än data som flyttas inom en enda krets.
Kostnad för kapsling
Avancerade mellanskikt, sammanfogning och montering kan vara kostsamma.
Värmetäthet
Att stapla kretsar kan göra det svårare att leda bort värme.
Testning
Varje chiplet och den färdiga kapslingen måste testas. En enda bristfällig komponent kan fortfarande påverka den monterade produkten.
Programvara och schemaläggning
Operativsystemet och programmen kan behöva förstå skillnader i fördröjning, cache eller placering av kärnor.
Produktens skala
En liten och billig processor kan vara billigare och enklare som en enda monolitisk krets.
Chiplets är ett konstruktionsverktyg, inte en universell uppgradering.
Är chiplets automatiskt snabbare?
Nej. Chiplets kan göra en mycket större eller mer specialiserad processor ekonomiskt möjlig. Systemet kan vara snabbare eftersom det innehåller fler kärnor, mer cache, mer minne eller mer acceleration. Själva chiplet-uppbyggnaden medför också kommunikationskostnader. Ett välkonstruerat monolitiskt chip kan överträffa ett dåligt utformat system med flera kretsar. Prestandan beror på:
- arkitektur
- arbetsbelastning
- sammankoppling
- cache
- minne
- kapslingsteknik
- programvara
- och strömförbrukning.
Fördelen är flexibilitet och skalbarhet, inte gratis prestanda.
Varför de är viktiga för AI
AI-acceleratorer kräver enorm beräkningskraft, minne med hög bandbredd och snabba länkar mellan flera bearbetningsblock. Chiplets gör det möjligt för en konstruktör att kombinera: beräkningskretsar, I/O, cache, minne med hög bandbredd och specialiserad acceleration. AMD:s CDNA-arkitektur använder avancerad kapslingsteknik för att kombinera chiplet-teknik och HBM i acceleratorer för datacenter. Hela branschen rör sig också mot öppna standarder för chiplet-sammankoppling, så att kretsar från olika utvecklingsteam, eller så småningom olika företag, kan kommunicera via gemensamma gränssnitt. Det kan göra processorer mer modulära, även om kommersiella utmaningar, säkerhetsutmaningar och kompatibilitetsproblem fortfarande är betydande.
Vad detta förändrar för köpare
De flesta köpare behöver inte välja processor utifrån om den är monolitisk eller chipletbaserad. De användbara resultaten är indirekta: fler kärnor till ett visst pris, större cacheminnen, bättre produktskalning, mer specialiserade acceleratorer och större konkurrens mellan tillverkningsprocesser. Chiplets kan också förklara ovanligt beteende. En processor kan ha olika fördröjning mellan kärngrupper. En GPU kan vara starkt beroende av sin cache och sitt sammankopplingssystem. En design med staplad cache kan ha andra termiska begränsningar än en konventionell version. Arkitekturen är viktig när den förändrar den faktiska arbetsbelastningen, inte för att ordet ”chiplet” förekommer i marknadsföringen.
Framtiden blir sannolikt blandad
Vissa processorer kommer att förbli monolitiska. Andra kommer att kombinera flera chiplets. Vissa kommer att stapla cache eller minne vertikalt. Stora AI-system kan koppla samman så många paket så tätt att gränsen mellan chip, modul och dator blir mindre tydlig. Målet är inte att skapa flest möjliga delar. Det är att placera varje funktion på rätt kisel, tillverka det ekonomiskt och koppla samman allt tillräckligt snabbt för att användaren ska uppleva ett enda system.
Chiplets förändrar hur processorer byggs, eftersom de gör det möjligt för konstruktörer att sluta se ett enda enormt chip som den enda vägen till ett kraftfullt chip. De mindre delarna är inte i sig själva genombrottet. Genombrottet är att få dem att fungera tillsammans. Läs varför grafikminne blir strategiskt viktigt eller utforska GPUsed:s företags- och datacenterhårdvara.