Ръководство за GPUsed

Чиплети, обяснено: защо процесорите и графичните процесори използват по-малки части

Прегледано от за фактическа и оперативна точност.

Чиплетите разделят сложния процесор на по-малки специализирани кристали, след което използват усъвършенствано опаковане, за да ги накарат да работят като една система.

Процесорен пакет, сглобен от няколко свързани чиплета на CPU и GPU
Чиплетите разделят един голям процесор на свързани части; опаковането и комуникацията след това стават част от архитектурата.

Процесорът с чиплети разделя един сложен чип на няколко по-малки части, след което ги свързва в един и същ пакет.

Вместо да произвеждат всяко процесорно ядро, контролер на паметта, графичен блок и входно-изходна функция върху една огромна силициева плочка, конструкторите могат да изработят отделно специализирани кристали и да ги комбинират.

Това може да намали производствените отпадъци, да позволи на различните функции да използват различни производствени процеси и да улесни мащабирането на една архитектура. Създава се обаче нов проблем: няколко чипа трябва да работят като един.

Традиционният подход: един монолитен кристал

Конвенционалният процесор е изграден като един силициев кристал. Този кристал може да съдържа:

  • изчислителни ядра
  • кеш
  • контролери на паметта
  • графика
  • графични енджини
  • PCIe
  • и други входно-изходни функции.

Монолитният дизайн има важни предимства. Данните могат да се придвижват в кристала чрез тясно интегрирани връзки. Системата се възприема по-лесно като един физически компонент. Латентността и поведението на софтуера могат да бъдат по-предвидими. Недостатъкът се проявява, когато кристалът стане по-голям. Силициевите пластини съдържат неизбежни дефекти. Малък дефект може да унищожи много по-голямо парче ценен силиций. Големите кристали също се разполагат по-малко пъти върху всяка пластина.

Колкото по-голям и по-сложен става процесорът, толкова по-трудно е да се произвежда ефективно.

Чиплетите разпределят риска

Представете си голям процесор, разделен на четири по-малки кристала. Ако дефект засегне един малък кристал, останалите изправни кристали все още могат да се използват. По-малките части също се разполагат по-ефективно върху пластината. Това може да подобри производствения добив и да намали разходите за производство на много голям процесор като цяло. Частите не е необходимо да са идентични. Един пакет може да комбинира:

  • кристали за високопроизводителни изчисления
  • кристал за входно-изходни операции
  • графика
  • Ускоряване на изкуствения интелект
  • кеш
  • и специализирани интерфейси.

Всеки блок се превръща в компонент на системата.

Различните задачи могат да използват различни производствени процеси

Най-усъвършенстваният производствен процес е скъп и не е еднакво полезен за всяка функция. Високопроизводителните CPU ядра могат да се възползват от по-малки транзистори. Схемите за вход/изход, аналоговите функции и интерфейсите за паметта може да не се нуждаят от същия най-съвременен процес. Някои от тях могат да работят по-добре или по-икономично при зрял технологичен възел. Чиплетите позволяват на проектантите да използват подходящия процес за всяка задача.

Графичният дизайн RDNA 3 на AMD например комбинира 5nm кристал за графични изчисления с 6nm кристали за кеша на паметта. Идеята не беше просто да се създадат повече части. Целта беше различните функции да се реализират по подходящи за тях технологични процеси. Intel описва същата по-широка идея като хетерогенна интеграция: комбиниране на чиплети, създадени за различни функции и потенциално използващи различни технологични процеси.

CPU направиха чиплетите познати

Процесорните фамилии Zen на AMD помогнаха дизайнът с чиплети да стане широко разпространен при настолните и сървърните CPU. Един пакет Ryzen или EPYC може да комбинира един или повече кристали с изчислителни комплекси с отделен кристал за вход/изход. Този подход улеснява мащабирането на броя ядра. Един масов настолен процесор може да използва един или два изчислителни кристала. Сървърният процесор може да използва много повече около централна I/O система. Компанията не трябва да проектира един огромен уникален монолитен кристал за всеки брой ядра. Един и същ основен блок може да се използва в няколко продукта.

Графичните процесори се разделят по-трудно

Графичните натоварвания зависят от преместването на огромни количества данни между изчислителните блокове, кеша и паметта. Затова разделянето на графичен процесор може да създаде проблеми със закъснението и пропускателната способност. Архитектурата RDNA 3 на AMD използва централен кристал за графични изчисления, свързан с отделни кристали за кеша на паметта. Компанията заяви, че връзката между тях може да работи със скорост до 5.3TB/s. Това е максимална стойност от производителя, а не реалната пропускателна способност при игри. Тя показва мащаба на необходимата връзка.

Графичен процесор с чиплети не може да работи като няколко слабо свързани графични карти. Кристалите се нуждаят от бърза, кохерентна комуникация, така че софтуерът да може да възприема продукта като един графичен процесор. Ето защо графичният дизайн с чиплети не е просто „да използваме отново метода за CPU“.

Корпусът става част от архитектурата

След като процесорът бъде разделен, корпусът, който го свързва, става от критично значение. Традиционните връзки в корпуса може да не осигурят достатъчна пропускателна способност или енергийна ефективност. Усъвършенстваните подходи включват:

2.5D интеграция

Няколко кристала са разположени един до друг и комуникират чрез интерпозер или високоплътен слой за преразпределение.

3D подреждане

Един кристал се намира над друг, като така се създават много по-къси вертикални връзки.

Хибридни подходи

Логиката, кешът и паметта могат да бъдат разположени един до друг и един над друг чрез няколко технологии за пакетиране. Семейството Foveros на Intel е пример за усъвършенствана 2.5D и 3D интеграция. AMD също комбинира чиплети с усъвършенствано пакетиране при продуктите за CPU, GPU и ускорители. Корпусът вече не е просто обектът, който защитава силиция. Той определя как системата комуникира, получава захранване и отвежда топлината.

Защо всичко да не бъде чиплет?

Чиплетите въвеждат и свои разходи.

Комуникационни разходи

Данните, които се преместват между кристалите, могат да изискват повече време и енергия от преместването в рамките на един кристал.

Разходи за пакетиране

Усъвършенстваните интерпозери, свързването и сглобяването могат да бъдат скъпи.

Топлинна плътност

Подреждането на кристали един върху друг може да затрудни отвеждането на топлината.

Тестване

Всеки чиплет и крайният корпус трябва да бъдат тествани. Един некачествен компонент все пак може да повлияе на сглобения продукт.

Софтуер и планиране

Операционната система и приложенията може да трябва да разбират разликите в латентността, кеша или разположението на ядрата.

Мащаб на продукта

Малък и евтин процесор може да бъде по-евтин и по-прост като един монолитен кристал.

Чиплетите са инструмент за проектиране, а не универсално подобрение.

Чиплетите автоматично ли са по-бързи?

Не. Чиплетите могат да направят икономически осъществим много по-голям или по-специализиран процесор. Тази система може да е по-бърза, защото съдържа повече ядра, кеш, памет или ускорение. Самото чиплетно разпределение също въвежда комуникационни разходи. Добре проектиран монолитен чип може да надмине зле проектирана система с няколко кристала. Производителността зависи от:

  • архитектура
  • работно натоварване
  • взаимосвързване
  • кеш
  • памет
  • пакетиране
  • софтуер
  • и консумацията на енергия.

Предимството е гъвкавостта и мащабирането, а не безплатната производителност.

Защо са важни за AI

AI ускорителите се нуждаят от огромна изчислителна мощ, памет с висока пропускателна способност и бързи връзки между няколко изчислителни блока. Чиплетите позволяват на проектантите да комбинират: изчислителни кристали, I/O, кеш, памет с висока пропускателна способност и специализирано ускоряване. Архитектурата CDNA на AMD използва усъвършенствано пакетиране, за да комбинира чиплетни технологии и HBM в ускорителите за центрове за данни. По-широката индустрия също преминава към отворени стандарти за взаимосвързване на чиплети, така че кристали от различни проектантски екипи или в крайна сметка от различни компании да могат да комуникират чрез общи интерфейси. Това би могло да направи процесорите по-модулни, въпреки че търговските предизвикателства, тези по сигурността и съвместимостта остават значителни.

Какво се променя за купувачите

Повечето купувачи не трябва да избират процесор само защото е монолитен или базиран на чиплети. Полезните резултати са косвени: повече ядра за дадена цена, по-големи кешове, по-добро мащабиране на продуктите, по-специализирани ускорители и по-голяма конкуренция между производствените процеси. Чиплетите могат също да обяснят необичайно поведение. Процесорът може да има различна латентност между групите ядра. Графичният процесор може да зависи силно от своя кеш и междусистемната връзка. Дизайнът със стекван кеш може да има различни топлинни ограничения в сравнение с конвенционалната версия. Архитектурата има значение, когато променя реалното работно натоварване, а не защото „чиплет“ се появява в маркетинга.

Бъдещето вероятно ще бъде смесено

Някои процесори ще останат монолитни. Други ще комбинират няколко чиплета. При някои кешът или паметта ще бъдат разположени вертикално. Големите AI системи може да свързват толкова плътно множество корпуси, че границата между чип, модул и компютър да стане по-малко очевидна. Целта не е да се създаде възможно най-голям брой елементи. Целта е всяка функция да бъде разположена върху подходящия силиций, производството да е икономически ефективно и всичко да бъде свързано достатъчно бързо, така че потребителят да възприема една система.

Чиплетите променят начина, по който се изграждат процесорите, защото позволяват на проектантите да престанат да разглеждат един огромен кристал като единствения път към мощен чип. По-малките елементи сами по себе си не са пробивът. Пробивът е да бъдат накарани да работят заедно. Прочетете защо графичната памет става стратегически важна или разгледайте корпоративния хардуер и хардуера за центрове за данни на GPUsed.

More Блог на GPUsed