NVIDIA ανακοίνωσε μια νέα κατηγορία υπερυπολογιστών με μεγάλη ποσότητα μνήμης - τον υπερυπολογιστή NVIDIA DGX που βασίζεται σε superchips NVIDIA GH200 Grace Hopper και συστήματα μεταγωγής NVIDIA NVLink. Έχει σχεδιαστεί για την ανάπτυξη μοντέλων επόμενης γενιάς για εφαρμογές παραγωγής Όλα συμπεριλαμβάνονται, συστήματα συστάσεων και φόρτος εργασίας ανάλυσης δεδομένων.
Τεράστιος χώρος μνήμης NVIDIA Το DGX GH200 χρησιμοποιεί τεχνολογία σύνδεσης NVLink με το σύστημα μεταγωγής NVLink για να συνδυάσει 256 superchips GH200, τα οποία ως αποτέλεσμα λειτουργούν ως μια ενιαία GPU. Αυτό παρέχει 1 exaflop απόδοσης και 144 TB κοινόχρηστης μνήμης, σχεδόν 500 φορές περισσότερο από την προηγούμενη γενιά NVIDIA DGX A100, το οποίο παρουσιάστηκε το 2020.
"Γεννητικός Όλα συμπεριλαμβάνονται, τα μεγάλα γλωσσικά μοντέλα και τα συστήματα συστάσεων είναι οι ψηφιακές μηχανές της σύγχρονης οικονομίας, δήλωσε ο ιδρυτής και διευθύνων σύμβουλος NVIDIA Τζένσεν Χουάνγκ. – Οι υπερυπολογιστές DGX GH200 AI ενσωματώνουν υπερσύγχρονες τεχνολογίες επιτάχυνσης υπολογιστών και δικτύωσης NVIDIAνα διευρύνουν τα όρια της ΑΙ».
Όπως αναφέρεται σε δελτίο τύπου στην ιστοσελίδα της εταιρείας, τα superchips GH200 εξαλείφουν την ανάγκη για μια παραδοσιακή σύνδεση CPU-GPU PCIe. Συνδυάζουν τον επεξεργαστή NVIDIA Arm-based Grace και GPU NVIDIA H100 Tensor Core σε μία θήκη. Αυτό αυξάνει το εύρος ζώνης μεταξύ GPU και CPU κατά 7 φορές, μειώνει σημαντικά την κατανάλωση ενέργειας και παρέχει 600 GB αρχιτεκτονικής GPU Hopper για νέους υπερυπολογιστές. Η αρχιτεκτονική DGX GH200 παρέχει 48 φορές περισσότερο εύρος ζώνης NVLink από την προηγούμενη γενιά.
Το Google Cloud αναμένεται να Meta και Microsoft θα είναι από τους πρώτους που θα αποκτήσουν πρόσβαση στο DGX GH200 και θα εξερευνήσουν τις δυνατότητές του στη δημιουργία φόρτου εργασίας AI. Ο κατασκευαστής σκοπεύει επίσης να παρέχει το σχέδιο DGX GH200 ως δείγμα σε παρόχους υπηρεσιών cloud, ώστε να μπορούν να το προσαρμόσουν για την υποδομή τους.
«Η δημιουργία προηγμένων μοντέλων παραγωγής απαιτεί καινοτόμες προσεγγίσεις στην υποδομή τεχνητής νοημοσύνης», δήλωσε ο αντιπρόεδρος υπολογιστών στο Google Cloud Mark Lohmeyer. "Η νέα κλίμακα της NVLink και η μνήμη superchip Grace Hopper αντιμετωπίζουν βασικά σημεία συμφόρησης σε μεγάλης κλίμακας τεχνητή νοημοσύνη και ανυπομονούμε να εξερευνήσουμε τις δυνατότητές της για το Google Cloud και τις πρωτοβουλίες παραγωγής τεχνητής νοημοσύνης".
Corporate Vice President for Azure Infrastructure in Microsoft Ο Girish Bablani σημείωσε τις δυνατότητες του DGX GH200 για εργασία με σύνολα δεδομένων terabyte, τα οποία θα επιτρέψουν στους προγραμματιστές να διεξάγουν έρευνα σε μεγαλύτερη κλίμακα και σε επιταχυνόμενες ταχύτητες.
Η εταιρεία δημιουργεί επίσης έναν υπερυπολογιστή NVIDIA Helios με βάση το DGX GH200 για τους ερευνητές και τις ομάδες ανάπτυξης. Θα είναι εξοπλισμένο με τέσσερα συστήματα DGX GH200 και το καθένα θα διασυνδέεται με ένα δίκτυο Quantum-2 InfiniBand για την αύξηση της απόδοσης δεδομένων για την εκπαίδευση μεγάλων μοντέλων τεχνητής νοημοσύνης. Το Helios θα περιλαμβάνει 1024 Grace Hopper superchips και αναμένεται να τεθεί σε λειτουργία μέχρι το τέλος του έτους.
Λογισμικό NVIDIA Το Base Command παρέχει διαχείριση ροής εργασιών τεχνητής νοημοσύνης, διαχείριση συμπλέγματος εταιρικού επιπέδου, βιβλιοθήκες που επιταχύνουν την υποδομή υπολογιστών, αποθήκευσης και δικτύου και λογισμικό συστήματος βελτιστοποιημένο για φόρτους εργασίας AI. Περιλαμβάνεται επίσης το λογισμικό AI Enterprise, το οποίο παρέχει πάνω από 100 πλαίσια, προεκπαιδευμένα μοντέλα και εργαλεία ανάπτυξης για την απλούστευση της ανάπτυξης και ανάπτυξης της τεχνητής νοημοσύνης παραγωγής, συμπεριλαμβανομένης της γενετικής τεχνητής νοημοσύνης Όλα συμπεριλαμβάνονται, όραση υπολογιστή, ομιλία AI και πολλά άλλα.
υπερυπολογιστές NVIDIA Το DGX GH200 θα είναι διαθέσιμο μέχρι το τέλος του έτους.
Διαβάστε επίσης: