Μετάβαση στο περιεχόμενο
36 C
Athens
Δευτέρα, 28 Ιουλίου 2025

Ο υπερυπολογιστής Eos της NVIDIA έσπασε το δικό του ρεκόρ εκπαίδευσης AI

Η εκπαίδευση ενός μεγάλου γλωσσικού μοντέλου μπορεί να διαρκέσει εβδομάδες, μήνες, ακόμη και χρόνια για να ολοκληρωθεί ανάλογα με το hardware. Γι’ αυτό και όταν επιτυγχάνεται σπουδαία πρόοδος, είναι κάτι αξιοσημείωτο.

Την Τετάρτη, η NVIDIA παρουσίασε την πιο πρόσφατη έκδοση του υπερυπολογιστή της Eos, ο οποίος τροφοδοτείται από περισσότερες από 10.000 H100 Tensor Core GPUs και είναι σε θέση να εκπαιδεύσει ένα μοντέλο GPT-3 με 175 δισεκατομμύρια παραμέτρους σε 1 δισεκατομμύριο τοκενς σε λιγότερο από τέσσερα λεπτά. Αυτό είναι τρεις φορές πιο γρήγορο από το προηγούμενο ρεκόρ στον βιομηχανικό πρότυπο της AI MLPerf, το οποίο η NVIDIA είχε πετύχει μόλις πριν από έξι μήνες.

Το Eos χρησιμοποιεί 10.752 GPUs που συνδέονται με το δίκτυο Infiniband της NVIDIA και 860 τεραμπάιτ υψηλής ταχύτητας μνήμης για να παρέχει 40 exaflops υπολογιστική ισχύ AI. Η συνολική αρχιτεκτονική στο cloud αποτελείται από 1344 κόμβους – ατομικούς διακομιστές στους οποίους οι εταιρείες μπορούν να ενοικιάσουν πρόσβαση για περίπου $37.000 τον μήνα για την επέκταση των δυνατοτήτων τους στην τεχνητή νοημοσύνη χωρίς να χρειάζεται να δημιουργήσουν τη δική τους υποδομή.

Συνολικά, η NVIDIA έκανε έξι ρεκόρ σε εννέα δοκιμές benchmark: με 3,9 λεπτά για το GPT-3, 2,5 λεπτά για να εκπαιδευτεί ένα μοντέλο Stable Diffusion χρησιμοποιώντας 1.024 Hopper GPUs, 1 λεπτό για το DLRM, 55,2 δευτερόλεπτα για το RetinaNet, 46 δευτερόλεπτα για το 3D U-Net και μόλις 7,2 δευτερόλεπτα για το μοντέλο BERT-Large.

Η NVIDIA έσπευσε να σημειώσει ότι η έκδοση 175 δισεκατομμυρίων παραμέτρων του GPT-3 που χρησιμοποιήθηκε στη συγκριτική αξιολόγηση δεν είναι η επανάληψη πλήρους μεγέθους του μοντέλου (ούτε το μοντέλο Stable Diffusion). Το μεγαλύτερο GPT-3 προσφέρει περίπου 3,7 τρισεκατομμύρια παραμέτρους και είναι απλά πολύ μεγάλο και δυσκίνητο για χρήση σε δοκιμή συγκριτικής αξιολόγησης. Για παράδειγμα, θα χρειαζόταν 18 μήνες για να το εκπαιδεύσετε στο παλαιότερο σύστημα A100 με 512 GPU αλλά το Eos χρειάζεται μόλις οκτώ ημέρες.

Αντίθετα, η NVIDIA και η MLCommons, η οποία διαχειρίζεται το πρότυπο MLPerf, αξιοποιούν μια πιο συμπαγή έκδοση που χρησιμοποιεί 1 δισεκατομμύριο tokens (η μικρότερη μονάδα παρονομαστή δεδομένων που κατανοούν τα συστήματα παραγωγής τεχνητής νοημοσύνης).

Η NVIDIA εστιάζει συνεχώς στις δυνατότητες και τις εφαρμογές της AI τους τελευταίους μήνες. «Βρισκόμαστε στη στιγμή του iPhone για την τεχνητή νοημοσύνη», δήλωσε ο διευθύνων σύμβουλος Jensen Huang κατά τη διάρκεια της κεντρικής ομιλίας του στο GTC τον Μάρτιο. Εκείνη την εποχή, η εταιρεία ανακοίνωσε το σύστημα cloud DGX της, το οποίο κατανέμει κομμάτια της επεξεργαστικής ισχύος του υπερυπολογιστή — συγκεκριμένα με οκτώ τσιπ H100 ή A100 με 60 GB VRAM (640 μνήμη συνολικά). Η εταιρεία επέκτεινε το χαρτοφυλάκιο υπερυπολογιστών της με την κυκλοφορία του DGX GH200 στην Computex τον Μάιο.

ΠΗΓΗ

ΣΧΕΤΙΚΑ ΑΡΘΡΑ

Leave a reply

εισάγετε το σχόλιό σας!
παρακαλώ εισάγετε το όνομά σας εδώ

ΠΡΟΣΦΑΤΑ ΑΡΘΡΑ

Ηλεκτρικά οχήματα με αυτονομία 5.000 χλμ ίσως σύντομα γίνουν πραγματικότητα

Το μεγαλύτερο πρόβλημα με τα ηλεκτρικά οχήματα είναι η αυτονομία, σε συνδυασμό με το αρκετά υποανάπτυκτο δίκτυο ταχυφορτιστών. Τα περισσότερα οχήματα προσφέρουν μια αυτονομία...

Το Samsung Galaxy Z Fold7 περνά με επιτυχία σκληρές δοκιμασίες αντοχής

Το νέο Samsung Galaxy Z Fold7 υποβλήθηκε στο γνωστό τεστ αντοχής του YouTuber JerryRigEverything, όπου δοκιμάστηκε σε γρατζουνιές, κάμψη και κάψιμο. Αν και τα foldable...

Πώς Λειτουργούν στην Πραγματικότητα τα Τουρνουά

Όταν δεν παίζετε μόνο εναντίον των πιθανοτήτων, σε ένα καζίνο, αλλά ανταγωνίζεστε επιπλέον με άλλους παίκτες, κάτι διαφορετικό αναδύεται στην ατμόσφαιρα. Αυτός είναι ο...

Prime Digital : Η νέα Digital δύναμη στην Κατασκευή Ιστοσελίδων κατέφθασε

Η Prime Digital Agency είναι το νέο και πολλά υποσχόμενο κεφάλαιο στον κόσμο του digital design, της κατασκευής ιστοσελίδων και της στρατηγικής online παρουσίας....

Το Μικρότερο “ΠΡΑΓΜΑΤΙΚΟ” Air Condition του “ΚΟΣΜΟΥ”!? (με κομπρέσορα) EnjoyCool Link2 Portable Outdoor A/C

Είναι τόσο ιδιαίτερο που σπάνια βλέπεις κάτι αντίστοιχο Είναι για ένα πολύ ιδιαίτερο κοινό... τους "Φανατικούς" Campers που συνήθως ο εξοπλισμός τους είναι για βραβείο...

ΤΕΛΕΥΤΑΙΕΣ ΠΡΟΣΦΟΡΕΣ

Το Μικρότερο “ΠΡΑΓΜΑΤΙΚΟ” Air Condition του “ΚΟΣΜΟΥ”!? (με κομπρέσορα) EnjoyCool Link2 Portable Outdoor A/C

Είναι τόσο ιδιαίτερο που σπάνια βλέπεις κάτι αντίστοιχο Είναι για ένα πολύ ιδιαίτερο κοινό... τους "Φανατικούς" Campers που συνήθως ο εξοπλισμός τους είναι για βραβείο...

NVR… Χωρίς… NVR!?!? Story Time και … Είναι μια λύση! Reolink Hub 1 (Video)

Πως θα σου φαινόταν να έχεις ασύρματες με μπαταρία και ηλιακό πάνελ κάμερες και να μπορούσες να καταγράφεις τοπικά μέσα στο σπίτι σου γρήγορα...

Τα Ακουστικά της “ΤΥΧΗΣ”… τα κάνεις δικά σου ή τα διεκδικείς… Από Ελλάδα Recci TYCHE W56 και Giveaway

Ένα ζευγάρι ακουστικών in ear τύπου airpods... πολύ ιδιαίτερου σχεδιασμού, κατασκευασμένα από μέταλλο που σε κάνουν να θέλεις να τα βάλεις στην συλλογή σου...

Η πιο “ΕΞΥΠΝΗ” Κλειδαριά Πόρτας σε 5 Λεπτά!? Στα 159€ ΚΟΜΠΛΕ!!! Νέα WELOCK Touch63

Αν σκεφτείς λίγο Out of the Box έχω την αίσθηση πως ακόμη και σαν δοκιμή αξίζει και στο τέλος θα με δικαιώσεις... Οι ευκολίες και...

Το ΚΟΡΥΦΑΙΟ μικρό Ηλεκτρικό Ποδήλατο “ΛΟΓΩ ΤΙΜΗΣ”… Στα 316€ ΚΟΜΠΛΕ!!! HilleMiles Mile 1

Είναι όμορφο, ποιοτικό, πανάλαφρο, πρακτικό, αναδιπλούμενο, και ΒΑΣΕΙ ΤΙΜΗΣ στα 316€ κομπλέ (σχεδόν ΜΙΣΗ ΤΙΜΗ ΕΛΛΑΔΑΣ που παίζει στα 560€) και απόλυτης λογικής ίσως...