Τα chiplet χωρίζουν έναν σύνθετο επεξεργαστή σε μικρότερα εξειδικευμένα die και στη συνέχεια χρησιμοποιούν προηγμένη συσκευασία, ώστε να λειτουργούν σαν ένα ενιαίο σύστημα.
Ένας επεξεργαστής με chiplet χωρίζει ένα σύνθετο chip σε αρκετά μικρότερα τμήματα και στη συνέχεια τα συνδέει μέσα στο ίδιο πακέτο.
Αντί να κατασκευάζουν κάθε πυρήνα CPU, ελεγκτή μνήμης, τμήμα γραφικών και λειτουργία εισόδου/εξόδου σε ένα τεράστιο κομμάτι πυριτίου, οι σχεδιαστές μπορούν να κατασκευάζουν ξεχωριστά εξειδικευμένα die και να τα συνδυάζουν.
Αυτό μπορεί να μειώσει τα απόβλητα κατασκευής, να επιτρέψει σε διαφορετικές λειτουργίες να χρησιμοποιούν διαφορετικές διαδικασίες παραγωγής και να διευκολύνει την κλιμάκωση μιας αρχιτεκτονικής. Δημιουργεί όμως και ένα νέο πρόβλημα: πολλά chip πρέπει να λειτουργούν σαν ένα.
Η παραδοσιακή προσέγγιση: ένα μονολιθικό die
Ένας συμβατικός επεξεργαστής κατασκευάζεται ως ένα ενιαίο die πυριτίου. Αυτό το die μπορεί να περιλαμβάνει:
- υπολογιστικοί πυρήνες
- cache
- ελεγκτές μνήμης
- γραφικά
- μηχανές απεικόνισης
- PCIe
- και άλλες λειτουργίες εισόδου/εξόδου.
Ο μονολιθικός σχεδιασμός έχει σημαντικά πλεονεκτήματα. Τα δεδομένα μπορούν να μετακινούνται μέσα στο die μέσω στενά ολοκληρωμένων συνδέσεων. Το σύστημα είναι ευκολότερο να αντιμετωπιστεί ως ένα ενιαίο φυσικό στοιχείο. Η καθυστέρηση και η συμπεριφορά του λογισμικού μπορεί να είναι πιο προβλέψιμες. Το μειονέκτημα εμφανίζεται καθώς το die γίνεται μεγαλύτερο. Τα wafer πυριτίου περιέχουν αναπόφευκτα ελαττώματα. Ένα μικρό ελάττωμα μπορεί να καταστρέψει ένα πολύ μεγαλύτερο τμήμα πολύτιμου πυριτίου. Τα μεγάλα die χωρούν επίσης λιγότερες φορές σε κάθε wafer.
Όσο μεγαλύτερος και πιο σύνθετος γίνεται ο επεξεργαστής, τόσο δυσκολότερα κατασκευάζεται αποδοτικά.
Τα chiplet κατανέμουν τον κίνδυνο
Φανταστείτε έναν μεγάλο επεξεργαστή χωρισμένο σε τέσσερα μικρότερα die. Αν ένα ελάττωμα επηρεάσει ένα μικρό die, τα άλλα λειτουργικά die μπορεί να παραμείνουν αξιοποιήσιμα. Τα μικρότερα τμήματα χωρούν επίσης πιο αποδοτικά πάνω στο wafer. Αυτό μπορεί να βελτιώσει την απόδοση κατασκευής και να μειώσει το κόστος παραγωγής ενός πολύ μεγάλου συνολικού επεξεργαστή. Τα τμήματα δεν χρειάζεται να είναι πανομοιότυπα. Ένα πακέτο μπορεί να συνδυάζει:
- die υπολογιστών υψηλών επιδόσεων
- ένα die εισόδου/εξόδου
- γραφικά
- Επιτάχυνση AI
- cache
- και εξειδικευμένες διασυνδέσεις.
Κάθε τμήμα γίνεται δομικό στοιχείο.
Διαφορετικές εργασίες μπορούν να χρησιμοποιούν διαφορετικές διαδικασίες κατασκευής
Η πιο προηγμένη τεχνολογία κατασκευής είναι ακριβή και δεν είναι εξίσου χρήσιμη για κάθε λειτουργία. Οι πυρήνες CPU υψηλών επιδόσεων μπορούν να επωφεληθούν από μικρότερα τρανζίστορ. Τα κυκλώματα εισόδου/εξόδου, οι αναλογικές λειτουργίες και οι διεπαφές μνήμης μπορεί να μη χρειάζονται την ίδια τεχνολογία αιχμής. Ορισμένα μπορούν να λειτουργούν καλύτερα ή οικονομικότερα σε μια ώριμη τεχνολογία κατασκευής. Τα chiplets επιτρέπουν στους σχεδιαστές να χρησιμοποιούν την κατάλληλη τεχνολογία για κάθε εργασία.
Ο σχεδιασμός γραφικών RDNA 3 της AMD, για παράδειγμα, συνδύαζε ένα die υπολογισμού γραφικών 5nm με dies cache μνήμης 6nm. Στόχος δεν ήταν απλώς η δημιουργία περισσότερων κομματιών. Ήταν η τοποθέτηση διαφορετικών λειτουργιών σε τεχνολογίες κατασκευής κατάλληλες για καθεμία. Η Intel περιγράφει την ίδια ευρύτερη ιδέα ως ετερογενή ενοποίηση: συνδυασμός chiplets κατασκευασμένων για διαφορετικές λειτουργίες και ενδεχομένως με χρήση διαφορετικών τεχνολογιών κατασκευής.
Οι CPU έκαναν τα chiplets οικεία
Οι οικογένειες επεξεργαστών Zen της AMD βοήθησαν να γίνει ο σχεδιασμός με chiplets ευρέως διαδεδομένος σε CPU desktop και server. Ένα package Ryzen ή EPYC μπορεί να συνδυάζει ένα ή περισσότερα dies συμπλέγματος πυρήνων με ένα ξεχωριστό die εισόδου/εξόδου. Αυτή η προσέγγιση διευκολύνει την κλιμάκωση του αριθμού των πυρήνων. Ένας επεξεργαστής desktop ευρείας αγοράς μπορεί να χρησιμοποιεί ένα ή δύο dies υπολογισμού. Ένας επεξεργαστής server μπορεί να χρησιμοποιεί πολύ περισσότερα γύρω από ένα κεντρικό σύστημα I/O. Η εταιρεία δεν χρειάζεται να σχεδιάζει ένα τεράστιο, μοναδικό μονολιθικό die για κάθε αριθμό πυρήνων. Το ίδιο δομικό στοιχείο μπορεί να εμφανίζεται σε αρκετά προϊόντα.
Οι GPU είναι δυσκολότερο να διαχωριστούν
Τα workloads γραφικών εξαρτώνται από τεράστιες ποσότητες δεδομένων που μετακινούνται μεταξύ μονάδων υπολογισμού, cache και μνήμης. Επομένως, ο διαχωρισμός μιας GPU μπορεί να δημιουργήσει προβλήματα καθυστέρησης και bandwidth. Η αρχιτεκτονική RDNA 3 της AMD χρησιμοποίησε ένα κεντρικό die υπολογισμού γραφικών, συνδεδεμένο με ξεχωριστά dies cache μνήμης. Η εταιρεία δήλωσε ότι η διασύνδεση μεταξύ τους μπορούσε να λειτουργεί με ταχύτητα έως 5.3TB/s. Πρόκειται για μέγιστη τιμή του κατασκευαστή και όχι για πραγματικό throughput σε παιχνίδια. Δείχνει την κλίμακα της σύνδεσης που απαιτείται.
Μια GPU με chiplets δεν μπορεί να λειτουργεί σαν αρκετές χαλαρά συνδεδεμένες κάρτες γραφικών. Τα dies χρειάζονται γρήγορη επικοινωνία με συνοχή, ώστε το λογισμικό να αντιμετωπίζει το προϊόν ως μία GPU. Γι’ αυτό ο σχεδιασμός γραφικών με chiplets δεν είναι απλώς «χρησιμοποίησε ξανά τη μέθοδο της CPU».
Το packaging γίνεται μέρος της αρχιτεκτονικής
Μόλις ο επεξεργαστής χωριστεί, το package που τον συνδέει αποκτά κρίσιμη σημασία. Οι παραδοσιακές διαδρομές του package μπορεί να μην προσφέρουν αρκετό bandwidth ή ενεργειακή αποδοτικότητα. Οι προηγμένες προσεγγίσεις περιλαμβάνουν:
Ενοποίηση 2,5D
Αρκετά dies τοποθετούνται το ένα δίπλα στο άλλο και επικοινωνούν μέσω ενός interposer ή ενός επιπέδου ανακατανομής υψηλής πυκνότητας.
Στοίβαξη 3D
Ένα καλούπι τοποθετείται πάνω από ένα άλλο, δημιουργώντας πολύ μικρότερες κατακόρυφες συνδέσεις.
Υβριδικές προσεγγίσεις
Η λογική, η cache και η μνήμη μπορούν να τοποθετούνται δίπλα και πάνω από το ένα το άλλο μέσω διαφόρων τεχνολογιών συσκευασίας. Η οικογένεια Foveros της Intel αποτελεί παράδειγμα προηγμένης ολοκλήρωσης 2.5D και 3D. Η AMD συνδυάζει επίσης chiplet με προηγμένη συσκευασία σε προϊόντα CPU, GPU και επιταχυντών. Η συσκευασία δεν είναι πλέον απλώς το αντικείμενο που προστατεύει το πυρίτιο. Καθορίζει τον τρόπο με τον οποίο το σύστημα επικοινωνεί, λαμβάνει ισχύ και απομακρύνει θερμότητα.
Γιατί να μην είναι τα πάντα chiplet;
Τα chiplet συνεπάγονται δικό τους κόστος.
Επιβάρυνση επικοινωνίας
Η μεταφορά δεδομένων μεταξύ καλουπιών μπορεί να απαιτεί περισσότερο χρόνο και ενέργεια από τη μεταφορά μέσα σε ένα μόνο καλούπι.
Κόστος συσκευασίας
Οι προηγμένοι παρεμβολείς, η συγκόλληση και η συναρμολόγηση μπορεί να είναι δαπανηρά.
Πυκνότητα θερμότητας
Η στοίβαξη καλουπιών μπορεί να δυσκολέψει την απομάκρυνση θερμότητας.
Έλεγχος
Κάθε chiplet και η τελική συσκευασία πρέπει να ελέγχονται. Ένα ελαττωματικό εξάρτημα μπορεί και πάλι να επηρεάσει το συναρμολογημένο προϊόν.
Λογισμικό και προγραμματισμός
Το λειτουργικό σύστημα και οι εφαρμογές μπορεί να χρειάζεται να κατανοούν τις διαφορές στην καθυστέρηση, την cache ή την τοποθέτηση των πυρήνων.
Κλίμακα προϊόντος
Ένας μικρός και οικονομικός επεξεργαστής μπορεί να είναι φθηνότερος και απλούστερος ως ένα ενιαίο μονολιθικό καλούπι.
Τα chiplet είναι εργαλείο σχεδιασμού, όχι καθολική αναβάθμιση.
Είναι τα chiplet αυτόματα ταχύτερα;
Όχι. Τα chiplet μπορούν να καταστήσουν οικονομικά εφικτό έναν πολύ μεγαλύτερο ή πιο εξειδικευμένο επεξεργαστή. Το σύστημα αυτό μπορεί να είναι ταχύτερο επειδή περιέχει περισσότερους πυρήνες, περισσότερη cache, μνήμη ή επιτάχυνση. Η ίδια η διάταξη των chiplet εισάγει επίσης επιβάρυνση επικοινωνίας. Ένα καλά σχεδιασμένο μονολιθικό chip μπορεί να ξεπεράσει σε απόδοση ένα κακώς σχεδιασμένο σύστημα πολλαπλών καλουπιών. Η απόδοση εξαρτάται από:
- αρχιτεκτονική
- φόρτος εργασίας
- διασύνδεση
- cache
- μνήμη
- συσκευασία
- λογισμικό
- και ισχύ.
Το πλεονέκτημα είναι η ευελιξία και η κλιμάκωση, όχι η δωρεάν ταχύτητα.
Γιατί έχουν σημασία για την τεχνητή νοημοσύνη
Οι επιταχυντές τεχνητής νοημοσύνης χρειάζονται τεράστια υπολογιστική ισχύ, μνήμη υψηλού εύρους ζώνης και γρήγορες συνδέσεις μεταξύ πολλών μπλοκ επεξεργασίας. Τα chiplet επιτρέπουν σε έναν σχεδιαστή να συνδυάσει: καλούπια υπολογισμού, I/O, cache, μνήμη υψηλού εύρους ζώνης και εξειδικευμένη επιτάχυνση. Η αρχιτεκτονική CDNA της AMD χρησιμοποιεί προηγμένη συσκευασία για να συνδυάζει τεχνολογίες chiplet και HBM σε επιταχυντές κέντρων δεδομένων. Ο ευρύτερος κλάδος κινείται επίσης προς ανοιχτά πρότυπα διασύνδεσης chiplet, ώστε καλούπια από διαφορετικές ομάδες σχεδιασμού ή, τελικά, από διαφορετικές εταιρείες να μπορούν να επικοινωνούν μέσω κοινών διεπαφών. Αυτό θα μπορούσε να κάνει τους επεξεργαστές πιο αρθρωτούς, αν και οι εμπορικές προκλήσεις, οι προκλήσεις ασφάλειας και συμβατότητας παραμένουν σημαντικές.
Τι αλλάζει αυτό για τους αγοραστές
Οι περισσότεροι αγοραστές δεν χρειάζεται να επιλέξουν επεξεργαστή επειδή είναι μονολιθικός ή βασίζεται σε chiplet. Τα χρήσιμα αποτελέσματα είναι έμμεσα: περισσότεροι πυρήνες σε δεδομένη τιμή, μεγαλύτερες cache, καλύτερη κλιμάκωση προϊόντων, πιο εξειδικευμένοι επιταχυντές και εντονότερος ανταγωνισμός μεταξύ διαδικασιών κατασκευής. Τα chiplet μπορούν επίσης να εξηγήσουν ασυνήθιστη συμπεριφορά. Ένας επεξεργαστής μπορεί να έχει διαφορετική καθυστέρηση μεταξύ ομάδων πυρήνων. Μια GPU μπορεί να εξαρτάται σε μεγάλο βαθμό από την cache και τη διασύνδεσή της. Μια σχεδίαση με stacked cache μπορεί να έχει διαφορετικά θερμικά όρια από μια συμβατική έκδοση. Η αρχιτεκτονική έχει σημασία όταν αλλάζει τον πραγματικό φόρτο εργασίας, όχι επειδή η λέξη «chiplet» εμφανίζεται στο μάρκετινγκ.
Το μέλλον πιθανότατα θα είναι μικτό
Ορισμένοι επεξεργαστές θα παραμείνουν μονολιθικοί. Άλλοι θα συνδυάζουν πολλά chiplet. Κάποιοι θα τοποθετούν τη μνήμη cache ή τη μνήμη κατακόρυφα. Μεγάλα συστήματα τεχνητής νοημοσύνης μπορεί να συνδέουν τόσα πολλά πακέτα τόσο στενά, ώστε τα όρια μεταξύ chip, μονάδας και υπολογιστή να γίνονται λιγότερο σαφή. Στόχος δεν είναι να δημιουργηθούν όσο το δυνατόν περισσότερα κομμάτια. Είναι να τοποθετηθεί κάθε λειτουργία στο κατάλληλο πυρίτιο, να κατασκευαστεί οικονομικά και να συνδεθούν όλα αρκετά γρήγορα, ώστε ο χρήστης να βιώνει ένα ενιαίο σύστημα.
Τα chiplet αλλάζουν τον τρόπο κατασκευής των επεξεργαστών, επειδή επιτρέπουν στους σχεδιαστές να πάψουν να θεωρούν ότι ένα τεράστιο die είναι η μόνη οδός για ένα ισχυρό chip. Τα μικρότερα κομμάτια δεν αποτελούν από μόνα τους την καινοτομία. Η καινοτομία είναι να λειτουργούν μαζί. Διαβάστε γιατί η μνήμη γραφικών αποκτά στρατηγική σημασία ή εξερευνήστε το εταιρικό υλικό και το υλικό κέντρων δεδομένων της GPUsed.