Průvodce GPUsed

Chipletová konstrukce: Proč procesory a grafické karty používají menší části

Zkontroloval z hlediska faktické a provozní přesnosti.

Čiplety rozdělují složitý procesor na menší specializované čipy a poté pomocí pokročilého pouzdření zajišťují, aby fungovaly jako jeden systém.

Procesorové pouzdro sestavené z několika propojených čipletů CPU a GPU
Čiplety rozdělují jeden velký procesor na propojené části; pouzdření a komunikace se pak stávají součástí architektury.

Čipletový procesor rozděluje jeden složitý čip na několik menších částí a poté je propojuje uvnitř stejného pouzdra.

Místo výroby každého procesorového jádra, řadiče paměti, grafického bloku a vstupně-výstupní funkce na jednom obrovském kusu křemíku mohou návrháři vyrábět specializované čipy samostatně a následně je kombinovat.

To může snížit výrobní odpad, umožnit využití různých výrobních procesů pro různé funkce a usnadnit škálování jedné architektury. Vzniká však nový problém: několik čipů se musí chovat jako jeden.

Tradiční přístup: jeden monolitický čip

Klasický procesor se vyrábí jako jediný křemíkový čip. Tento čip může obsahovat:

  • výpočetní jádra
  • mezipaměť
  • řadiče paměti
  • grafika
  • grafické jednotky
  • PCIe
  • a další vstupně-výstupní funkce.

Monolitický návrh má významné výhody. Data se mohou v rámci čipu pohybovat prostřednictvím těsně integrovaných spojů. Systém lze snadněji vnímat jako jednu fyzickou součást. Latence a chování softwaru mohou být předvídatelnější. Nevýhoda se projeví, když se čip zvětšuje. Křemíkové wafery obsahují nevyhnutelné vady. Malá vada může znehodnotit mnohem větší kus cenného křemíku. Na každý wafer se také vejde méně velkých čipů.

Čím větší a složitější procesor je, tím obtížnější je jeho efektivní výroba.

Čiplety rozdělují riziko

Představte si velký procesor rozdělený na čtyři menší čipy. Pokud jednu malou část postihne výrobní vada, ostatní funkční čipy mohou být stále použitelné. Menší části se také na wafer vejdou efektivněji. To může zvýšit výtěžnost výroby a snížit náklady na výrobu velmi velkého procesoru jako celku. Jednotlivé části nemusí být totožné. Jeden pouzdřený celek může kombinovat:

  • čipy pro vysoce výkonné výpočty
  • vstupně-výstupní čip
  • grafika
  • Akcelerace umělé inteligence
  • mezipaměť
  • a specializovaná rozhraní.

Každý blok se stává stavební součástí.

Různé úlohy mohou využívat různé výrobní procesy

Nejpokročilejší výrobní proces je drahý a není stejně užitečný pro každou funkci. Vysoce výkonná jádra CPU mohou těžit z menších tranzistorů. Obvody vstupů/výstupů, analogové funkce a paměťová rozhraní nemusí potřebovat stejně pokročilý proces. Některé mohou lépe nebo úsporněji fungovat na vyzrálejším výrobním uzlu. Čiplety umožňují návrhářům použít pro každý úkol vhodný proces.

Grafický návrh AMD RDNA 3 například kombinoval 5nm graficko-výpočetní čip s 6nm čipy paměťové cache. Smyslem nebylo pouze vytvořit více částí. Šlo o použití různých funkcí na procesech, které jim vyhovují. Intel stejnou širší myšlenku popisuje jako heterogenní integraci: kombinování čipletů vytvořených pro různé funkce a případně využívajících odlišné výrobní technologie.

CPU zpopularizovala čiplety

Procesorové rodiny AMD Zen pomohly rozšířit návrh s čiplety v běžných stolních počítačích a serverových CPU. Pouzdro Ryzen nebo EPYC může kombinovat jeden či více čipů komplexu jader se samostatným čipem vstupů/výstupů. Tento přístup usnadňuje škálování počtu jader. Běžný desktopový procesor může používat jeden nebo dva výpočetní čipy. Serverový procesor jich může mít kolem centrálního systému I/O mnohem více. Společnost nemusí navrhovat jeden obrovský jedinečný monolitický čip pro každý počet jader. Stejný stavební blok se může objevit v několika produktech.

GPU se rozdělují obtížněji

Grafické úlohy závisí na obrovském množství dat, která se přesouvají mezi výpočetními jednotkami, cache a pamětí. Rozdělení GPU proto může způsobit problémy s latencí a propustností. Architektura AMD RDNA 3 používala centrální graficko-výpočetní čip propojený se samostatnými čipy paměťové cache. Společnost uvedla, že propojení mezi nimi mohlo pracovat rychlostí až 5,3 TB/s. Jde o špičkovou hodnotu uváděnou výrobcem, nikoli o skutečnou propustnost při hraní. Ukazuje však měřítko potřebného propojení.

GPU s čiplety se nemůže chovat jako několik volně propojených grafických karet. Čipy potřebují rychlou a koherentní komunikaci, aby software mohl produkt vnímat jako jedno GPU. Proto návrh grafiky s čiplety není jednoduše „znovu použít postup z CPU“.

Pouzdro se stává součástí architektury

Jakmile je procesor rozdělen, propojení, které jej spojuje, se stává kriticky důležitým. Tradiční spoje v pouzdře nemusí poskytovat dostatečnou propustnost ani energetickou účinnost. Mezi pokročilé přístupy patří:

Integrace 2,5D

Několik čipů je umístěno vedle sebe a komunikuje prostřednictvím interposeru nebo vysokohustotní redistribuční vrstvy.

3D vrstvení

Jeden čip je umístěn nad druhým, čímž vznikají mnohem kratší vertikální spoje.

Hybridní přístupy

Logiku, mezipaměť a paměť lze pomocí několika technologií pouzdření umístit vedle sebe i nad sebe. Příkladem pokročilé 2,5D a 3D integrace je rodina Intel Foveros. AMD také kombinuje čiplety s pokročilým pouzdřením u produktů s CPU, GPU a akcelerátory. Pouzdro už není jen objektem, který chrání křemík. Určuje, jak systém komunikuje, přijímá napájení a odvádí teplo.

Proč neudělat čiplet úplně ze všeho?

Čiplety mají i vlastní náklady.

Režie komunikace

Přenos dat mezi čipy může vyžadovat více času a energie než přenos uvnitř jednoho čipu.

Náklady na pouzdření

Pokročilé interposery, spojování a montáž mohou být nákladné.

Hustota tepla

Vrstvení čipů může ztížit odvod tepla.

Testování

Každý čiplet i výsledné pouzdro je třeba otestovat. Jedna vadná součást může stále ovlivnit sestavený produkt.

Software a plánování

Operační systém a aplikace možná budou muset rozumět rozdílům v latenci, mezipaměti nebo umístění jader.

Měřítko produktu

Malý levný procesor může být jako jeden monolitický čip levnější a jednodušší.

Čiplety jsou návrhový nástroj, nikoli univerzální vylepšení.

Jsou čiplety automaticky rychlejší?

Ne. Čiplety mohou ekonomicky umožnit mnohem větší nebo specializovanější procesor. Takový systém může být rychlejší, protože obsahuje více jader, mezipaměti, paměti nebo akcelerace. Samotné uspořádání čipletů také přináší režii komunikace. Dobře navržený monolitický čip může překonat špatně navržený systém s více čipy. Výkon závisí na:

  • architektura
  • pracovní zátěž
  • propojení
  • mezipaměť
  • paměť
  • pouzdření
  • software
  • a spotřeba energie.

Výhodou je flexibilita a škálovatelnost, nikoli výkon zdarma.

Proč jsou důležité pro umělou inteligenci

Akcelerátory umělé inteligence potřebují obrovský výpočetní výkon, paměť s vysokou propustností a rychlé propojení mezi několika výpočetními bloky. Čiplety umožňují návrháři kombinovat: výpočetní čipy, I/O, mezipaměť, paměť s vysokou propustností a specializovanou akceleraci. Architektura AMD CDNA využívá pokročilé pouzdření ke kombinaci čipletových technologií a paměti HBM v datacentrových akcelerátorech. Celé odvětví také směřuje k otevřeným standardům pro propojování čipletů, aby spolu čipy z různých návrhářských týmů nebo nakonec i různých společností mohly komunikovat prostřednictvím společných rozhraní. Díky tomu by procesory mohly být modulárnější, ačkoli obchodní, bezpečnostní a kompatibilitní výzvy zůstávají značné.

Co to mění pro kupující

Většina kupujících nemusí vybírat procesor podle toho, zda je monolitický, nebo založený na čipletech. Užitečné výsledky jsou nepřímé: více jader za danou cenu, větší cache, lepší škálování produktů, specializovanější akcelerátory a větší konkurence mezi výrobními procesy. Čiplety mohou také vysvětlit neobvyklé chování. Procesor může mít mezi skupinami jader různou latenci. GPU může být silně závislé na své cache a propojovací sběrnici. Konstrukce s vrstvenou cache může mít jiné teplotní limity než konvenční verze. Architektura je důležitá tehdy, když mění chování při skutečné zátěži, ne proto, že se v marketingu objevuje slovo „chiplet“.

Budoucnost bude pravděpodobně kombinovaná

Některé procesory zůstanou monolitické. Jiné zkombinují několik čipletů. Některé budou vertikálně vrstvit cache nebo paměť. Velké systémy umělé inteligence mohou propojovat tolik pouzder tak těsně, že hranice mezi čipem, modulem a počítačem nebude tak zřejmá. Cílem není vytvořit co největší počet částí. Jde o to umístit každou funkci na správný křemík, vyrábět jej ekonomicky a vše propojit dostatečně rychle, aby uživatel vnímal jeden systém.

Čiplety mění způsob konstrukce procesorů, protože konstruktérům umožňují přestat považovat jediný obrovský čip za jedinou cestu k výkonnému procesoru. Samotné menší části nejsou průlomem. Průlomem je jejich vzájemné fungování. Přečtěte si, proč grafická paměť nabývá strategického významu, nebo si prohlédněte podnikový a datacentrový hardware GPUsed.

More Blog GPUsed