Sirupalat jakavat monimutkaisen prosessorin pienemmiksi erikoistuneiksi siruiksi ja käyttävät sitten kehittynyttä kotelointia saadakseen ne toimimaan yhtenä järjestelmänä.
Siruprosessori jakaa yhden monimutkaisen sirun useiksi pienemmiksi osiksi ja yhdistää ne samaan kotelointiin.
Sen sijaan, että jokainen suoritinydin, muistiohjain, grafiikkalohko ja syöte-/tulotoiminto valmistettaisiin yhdelle valtavalle piikappaleelle, suunnittelijat voivat rakentaa erikoistuneet sirut erikseen ja yhdistää ne.
Tämä voi vähentää valmistushukkaa, mahdollistaa eri toimintojen valmistamisen eri tuotantoprosesseilla ja helpottaa yhden arkkitehtuurin skaalaamista. Samalla syntyy uusi ongelma: useiden sirujen on toimittava yhtenä kokonaisuutena.
Perinteinen lähestymistapa: yksi monoliittinen siru
Tavanomainen prosessori rakennetaan yhtenä piisiruna. Siru voi sisältää:
- laskentaytimiä
- välimuisti
- muistiohjaimia
- grafiikka
- näyttömoottoreita
- PCIe
- ja muita syöte-/tulotoimintoja.
Monoliittisella rakenteella on tärkeitä etuja. Tietoa voidaan siirtää sirun sisällä tiiviisti integroitujen yhteyksien kautta. Järjestelmää on helpompi käsitellä yhtenä fyysisenä komponenttina. Viive ja ohjelmiston toiminta voivat olla ennustettavampia. Haitta tulee esiin sirun kasvaessa. Piikiekoissa on väistämättömiä vikoja. Pieni vika voi pilata paljon suuremman arvokkaan piin kappaleen. Suurille siruille mahtuu myös vähemmän kappaleita kullekin kiekolle.
Mitä suuremmaksi ja monimutkaisemmaksi prosessori kasvaa, sitä vaikeampaa sen tehokas valmistaminen on.
Sirupalat jakavat riskin
Kuvittele suuri prosessori, joka on jaettu neljään pienempään siruun. Jos vika vaikuttaa yhteen pieneen siruun, muut ehjät sirut voivat silti olla käyttökelpoisia. Pienemmät osat myös sopivat kiekolle tehokkaammin. Tämä voi parantaa valmistuksen saantoa ja pienentää erittäin suuren kokonaisprosessorin valmistuskustannuksia. Osien ei tarvitse olla samanlaisia. Pakkaus voi yhdistää esimerkiksi:
- tehokkaan laskennan siruja
- syöte-/tulosirun
- grafiikka
- Tekoälyn kiihdytys
- välimuisti
- ja erikoistuneita liitäntöjä.
Jokaisesta sirusta tulee rakennusosa.
Eri tehtävissä voidaan käyttää erilaisia valmistusprosesseja
Edistynein valmistusprosessi on kallis, eikä se ole yhtä hyödyllinen kaikissa toiminnoissa. Suorituskykyiset CPU-ytimet voivat hyötyä pienemmistä transistoreista. I/O-piirit, analogiset toiminnot ja muistiliitännät eivät välttämättä tarvitse yhtä edistyksellistä prosessia. Jotkin niistä voivat toimia paremmin tai taloudellisemmin kypsällä prosessisolmulla. Sirupohjainen suunnittelu antaa suunnittelijoille mahdollisuuden käyttää kuhunkin tehtävään sopivaa prosessia.
Esimerkiksi AMD:n RDNA 3 -grafiikkasuunnittelu yhdisti 5 nm:n grafiikka- ja laskentasuulakkeen 6 nm:n muisti- ja välimuistisuulakkeisiin. Tarkoituksena ei ollut vain luoda lisää osia, vaan sijoittaa eri toiminnot niille sopiviin valmistusprosesseihin. Intel kuvaa samaa laajempaa ideaa heterogeeniseksi integraatioksi: eri toimintoihin rakennettujen sirujen yhdistämiseksi ja mahdollisesti eri valmistusteknologioiden käyttämiseksi.
CPU:t tekivät sirupohjaisesta suunnittelusta tuttua
AMD:n Zen-prosessoriperheet auttoivat tuomaan sirupohjaisen suunnittelun yleiseksi työpöytä- ja palvelinprosessoreissa. Ryzen- tai EPYC-paketti voi yhdistää yhden tai useamman ydinryhmäsuulakkeen erilliseen I/O-suulakkeeseen. Tämä lähestymistapa helpottaa ytimien määrän kasvattamista. Tavallisessa työpöytäprosessorissa voidaan käyttää yhtä tai kahta laskentasuulaketta. Palvelinprosessori voi käyttää paljon useampia keskitetyn I/O-järjestelmän ympärillä. Yhtiön ei tarvitse suunnitella yhtä valtavaa ja ainutlaatuista monoliittista suulaketta jokaiselle ydinmäärälle. Sama rakennuspalikka voi esiintyä useissa tuotteissa.
GPU:ita on vaikeampi jakaa
Grafiikkakuormat edellyttävät valtavien tietomäärien siirtämistä laskentayksiköiden, välimuistin ja muistin välillä. GPU:n jakaminen voi siksi aiheuttaa viive- ja kaistanleveysongelmia. AMD:n RDNA 3 -arkkitehtuuri käytti keskitettyä grafiikka- ja laskentasuulaketta, joka oli yhdistetty erillisiin muisti- ja välimuistisuulakkeisiin. Yhtiön mukaan niiden välinen yhteys pystyi toimimaan jopa nopeudella 5.3TB/s. Kyseessä on valmistajan ilmoittama huippuarvo, ei todellinen pelien siirtonopeus. Se havainnollistaa tarvittavan yhteyden mittakaavaa.
Sirupohjainen GPU ei voi toimia kuin useat löyhästi yhdistetyt näytönohjaimet. Suulakkeiden on viestittävä nopeasti ja koherentisti, jotta ohjelmisto voi käsitellä tuotetta yhtenä GPU:na. Siksi sirupohjainen grafiikkasuunnittelu ei ole yksinkertaisesti “CPU-menetelmän käyttämistä uudelleen”.
Paketoinnista tulee osa arkkitehtuuria
Kun prosessori jaetaan osiin, sen yhdistävä paketointi muuttuu erittäin tärkeäksi. Perinteiset paketoinnin johdotukset eivät välttämättä tarjoa riittävää kaistanleveyttä tai energiatehokkuutta. Edistyneitä lähestymistapoja ovat:
2,5D-integraatio
Useat suulakkeet sijaitsevat vierekkäin ja viestivät toistensa kanssa välittäjän tai suuritiheyksisen uudelleenjakokerroksen kautta.
3D-pinoaminen
Yksi siru sijaitsee toisen päällä, mikä luo paljon lyhyemmät pystysuuntaiset yhteydet.
Hybridilähestymistavat
Logiikka, välimuisti ja muisti voidaan sijoittaa vierekkäin ja päällekkäin useiden pakkausteknologioiden avulla. Intelin Foveros-tuoteperhe on esimerkki kehittyneestä 2.5D- ja 3D-integraatiosta. AMD yhdistää chipletit myös kehittyneeseen pakkaustekniikkaan CPU-, GPU- ja kiihdytintuotteissaan. Pakkaus ei enää ole vain piitä suojaava rakenne. Se määrittää, miten järjestelmä viestii, saa virtaa ja poistaa lämpöä.
Miksi kaikkea ei valmisteta chipleteinä?
Chipletit aiheuttavat myös omat kustannuksensa.
Viestinnän ylimääräinen kuormitus
Siruista toiseen siirtyvän datan käsittely voi viedä enemmän aikaa ja energiaa kuin yhden sirun sisällä tapahtuva siirto.
Pakkauskustannukset
Kehittyneet interposeri-rakenteet, liittäminen ja kokoonpano voivat olla kalliita.
Lämmöntiheys
Sirujen pinoaminen voi vaikeuttaa lämmön poistamista.
Testaus
Jokainen chiplet ja lopullinen pakkaus on testattava. Yksi viallinen komponentti voi edelleen vaikuttaa koottuun tuotteeseen.
Ohjelmisto ja ajoitus
Käyttöjärjestelmän ja sovellusten on ehkä ymmärrettävä erot viiveessä, välimuistissa tai ytimien sijoittelussa.
Tuotteen mittakaava
Pieni ja edullinen suoritin voi olla halvempaa ja yksinkertaisempaa valmistaa yhtenä monoliittisena siruna.
Chipletit ovat suunnittelutyökalu, eivät yleispätevä päivitys.
Ovatko chipletit automaattisesti nopeampia?
Ei. Chipletit voivat tehdä paljon suuremman tai erikoistuneemman suorittimen valmistamisesta taloudellisesti mahdollista. Järjestelmä voi olla nopeampi, koska siinä on enemmän ytimiä, välimuistia, muistia tai kiihdytystä. Chiplet-rakenne itsessään aiheuttaa myös viestinnän ylimääräistä kuormaa. Hyvin suunniteltu monoliittinen siru voi olla suorituskykyisempi kuin huonosti suunniteltu usean sirun järjestelmä. Suorituskyky riippuu seuraavista:
- arkkitehtuuri
- työkuorma
- yhteenliitäntä
- välimuisti
- muisti
- pakkaustekniikka
- ohjelmisto
- ja virrankulutus.
Etuna ovat joustavuus ja skaalautuvuus, eivät ilmaiset tehot.
Miksi ne ovat tärkeitä tekoälyn kannalta
Tekoälykiihdyttimet tarvitsevat valtavasti laskentatehoa, suuren kaistanleveyden muistia ja nopeita yhteyksiä useiden prosessointilohkojen välillä. Chipletit mahdollistavat suunnittelijalle seuraavien yhdistämisen: laskentasuorittimet, I/O, välimuisti, suuren kaistanleveyden muisti ja erikoistunut kiihdytys. AMD:n CDNA-arkkitehtuuri käyttää kehittynyttä pakkaustekniikkaa chiplet-teknologioiden ja HBM-muistin yhdistämiseen datakeskusten kiihdyttimissä. Koko ala siirtyy myös kohti avoimia chiplet-yhteenliitäntöjen standardeja, jotta eri suunnittelutiimien tai lopulta eri yritysten valmistamat suorittimet voivat viestiä yhteisten rajapintojen kautta. Tämä voisi tehdä suorittimista modulaarisempia, vaikka kaupalliset, tietoturvaan liittyvät ja yhteensopivuuteen liittyvät haasteet ovat edelleen huomattavia.
Mitä tämä muuttaa ostajien kannalta
Useimpien ostajien ei tarvitse valita prosessoria sen perusteella, onko se monoliittinen vai chiplet-pohjainen. Hyödyt näkyvät epäsuorasti: enemmän ytimiä tietyllä hinnalla, suuremmat välimuistit, parempi tuotteen skaalautuvuus, erikoistuneemmat kiihdyttimet ja suurempi kilpailu eri valmistusprosessien välillä. Chipletit voivat myös selittää epätavallista toimintaa. Prosessorissa voi olla erilainen viive eri ydinryhmien välillä. Grafiikkasuoritin voi olla vahvasti riippuvainen välimuististaan ja liitäntärakenteestaan. Pinotulla välimuistilla varustetulla rakenteella voi olla erilaiset lämpörajoitukset kuin perinteisellä versiolla. Arkkitehtuurilla on merkitystä silloin, kun se muuttaa todellista työkuormaa, ei siksi, että markkinointitekstissä esiintyy sana ”chiplet”.
Tulevaisuus on todennäköisesti yhdistelmä
Jotkin prosessorit pysyvät monoliittisina. Toiset yhdistävät useita chiplettejä. Jotkin pinoavat välimuistia tai muistia pystysuunnassa. Suuret tekoälyjärjestelmät voivat yhdistää niin monta pakettia niin tiiviisti, että sirun, moduulin ja tietokoneen välinen raja hämärtyy. Tavoitteena ei ole luoda mahdollisimman suurta määrää osia. Tavoitteena on sijoittaa kukin toiminto oikealle piille, valmistaa se taloudellisesti ja yhdistää kaikki riittävän nopeasti, jotta käyttäjä kokee järjestelmän yhtenä kokonaisuutena.
Chipletit muuttavat prosessorien rakentamistapaa, koska niiden ansiosta suunnittelijat voivat lakata pitämästä yhtä valtavaa sirua ainoana reittinä tehokkaan piirin rakentamiseen. Pienemmät osat eivät itsessään ole läpimurto. Läpimurto on niiden saaminen toimimaan yhdessä. Lue, miksi grafiikkamuistista on tulossa strategisesti tärkeää, tai tutustu GPUsedin yritys- ja konesalilaitteistoon.