- Δυνατότητα εκτέλεσης μοντέλων με έως και 200B παραμέτρων χάρη στο υπερτσιπ GB10 Grace Blackwell και την ενοποιημένη μνήμη του.
- Απλοποιημένη εγκατάσταση μέσω του οδηγού πρώτης εκκίνησης, διαθέσιμη τόσο σε λειτουργία επιφάνειας εργασίας όσο και σε λειτουργία συσκευής δικτύου.
- Ανάπτυξη μοντέλων χρησιμοποιώντας κοντέινερ Ollama και NVIDIA NIM, διευκολύνοντας τη χρήση τοπικής τεχνητής νοημοσύνης χωρίς τη σύνταξη κώδικα.
- Δυνατότητα κλιμάκωσης της απόδοσης συνδέοντας δύο μονάδες για την προσέγγιση μοντέλων με παραμέτρους έως και 405B.
Πώς να εκτελέσετε το πρώτο σας μοντέλο τεχνητής νοημοσύνης στο DGX Spark χωρίς να ξέρετε πώς να προγραμματίζετε; Αν είστε περίεργοι να δημιουργήσετε το δικό σας εργαστήριο τεχνητής νοημοσύνης στο σπίτι χωρίς να χρειάζεται να περιπλέξετε τη ζωή σας με ατελείωτες γραμμές κώδικα, το NVIDIA DGX Spark Είναι πιθανώς το μηχάνημα που περιμένατε. Δεν είναι απλώς ένας ισχυρός υπολογιστής, αλλά ένας πραγματικός υπερυπολογιστής τσέπης σχεδιασμένο έτσι ώστε οποιοσδήποτε ενθουσιώδης ή επαγγελματίας να μπορεί να εκτελεί τεράστια γλωσσικά μοντέλα χωρίς να βασίζεται στο cloud και κρατώντας τα δεδομένα σας κλειδωμένα.
Το πιο εκπληκτικό πράγμα σχετικά με αυτήν τη συσκευή είναι ότι συγκεντρώνει την ισχύ ενός κέντρου δεδομένων σε ένα μικροσκοπικό πλαίσιο που χωράει στην παλάμη του χεριού σας, με την τροφοδοσία του... GB10 Grace Blackwell υπερτσιπΕίτε θέλετε έναν βοηθό προγραμματισμού που δεν θα κολλάει είτε ένα αυτόνομο σύστημα πρακτόρων που λειτουργεί ενώ κοιμάστε, το Spark σας επιτρέπει να το κάνετε. αναπτύξτε την Τεχνητή Νοημοσύνη τοπικά με εκπληκτική ευκολία, εξαλείφοντας εκείνο το τεχνικό εμπόδιο που συνήθως τρομάζει όσους δεν ξέρουν να προγραμματίζουν.
Τι κρύβεται κάτω από το καπό του DGX Spark;
Για να καταλάβετε γιατί αυτή η συσκευή είναι τόσο ξεχωριστή, πρέπει να κοιτάξετε μέσα της. Στην καρδιά της βρίσκεται το προαναφερθέν υπερτσιπ Grace Blackwell, το οποίο προσφέρει απόδοση έως και... 1 PFLOP στο FP4Αλλά αυτό που πραγματικά κάνει τη διαφορά είναι 128 GB ενοποιημένη μνήμη (αν και υπάρχει μια πιο οικονομική έκδοση των 64GB), η οποία επιτρέπει στην CPU και την GPU να μοιράζονται δεδομένα χωρίς να χάνουν χρόνο σε εσωτερικά αντίγραφα. Αυτό είναι το κλειδί για την εκτέλεση μοντέλων έως 200 δισεκατομμύρια παράμετροι σε μία μόνο μονάδα.
Όσον αφορά τη συνδεσιμότητα, δεν έχουν παραλείψει τίποτα: περιλαμβάνει Wi-Fi 7, 10 GbE Ethernet και την ισχυρή κάρτα γραφικών NVIDIA ConnectX για διασύνδεση με άλλα μηχανήματα. Αν χρειάζεστε περισσότερο χώρο, διαθέτει έως και 4 TB αποθηκευτικού χώρου NVMe, επεκτάσιμο μέσω θυρών Type-C. Ωστόσο, να είστε προσεκτικοί με την τροφοδοσία: θα πρέπει να χρησιμοποιείτε μόνο το αριστερή θύρα USB-C για να το τροφοδοτήσουν, αφού τα άλλα δεν έχουν σχεδιαστεί για να λαμβάνουν ενέργεια.
Εκκίνηση: Από το κουτί μέχρι την πρώτη εκκίνηση
Όταν ανοίξετε το κουτί, θα βρείτε τη μονάδα Spark, τα καλώδια τροφοδοσίας και ένα κάρτα γρήγορης εκκίνησηςΑυτή η κάρτα είναι απόλυτο χρυσάφι αν αποφασίσετε να διαμορφώσετε τη συσκευή χωρίς οθόνη, καθώς περιέχει το SSID και τον κωδικό πρόσβασης για το προσωρινό σημείο πρόσβασης Wi-Fi. Για όσους προτιμούν την κλασική προσέγγιση, η διαδρομή επιφάνειας εργασίας Είναι το πιο απλό: συνδέετε μια οθόνη HDMI, ένα πληκτρολόγιο, ένα ποντίκι και μια πρίζα ρεύματος και πατάτε το κουμπί λειτουργίας.
Το σύστημα θα σας καθοδηγήσει σε μια οδηγός εγκατάστασης Είναι πολύ εύχρηστο. Επιλέγετε τη γλώσσα, τη ζώνη ώρας και δημιουργείτε τον λογαριασμό χρήστη σας. Ένα κρίσιμο σημείο είναι η λήψη του λογισμικού: η ομάδα θα κατεβάσει το Επίσημη εικόνα NVIDIA αυτόματα. Σε καμία περίπτωση δεν πρέπει να απενεργοποιήσετε το μηχάνημα κατά τη διάρκεια αυτής της διαδικασίας, καθώς το σύστημα θα επανεκκινηθεί αρκετές φορές και κόψτε την εγκατάσταση Θα μπορούσε να καταστήσει τον εξοπλισμό άχρηστο.
Προηγμένη διαμόρφωση και απομακρυσμένη πρόσβαση
Αν είστε από εκείνους τους ανθρώπους που προτιμούν να αφήνουν το μηχάνημα σε μια γωνία και να το ελέγχουν από τον φορητό υπολογιστή τους, το λειτουργία χωρίς γραφική διεπαφή Είναι δική σας επιλογή. Όταν το ενεργοποιείτε χωρίς οθόνη, το Spark δημιουργεί το δικό του δίκτυο Wi-Fi. Συνδέεστε σε αυτό, εισάγετε τη διεύθυνση URL που αναγράφεται στην κάρτα εγκατάστασης και ολοκληρώνετε τον οδηγό από το πρόγραμμα περιήγησής σας. Μόλις είστε έτοιμοι, η συσκευή συνδέεται στο οικιακό σας δίκτυο και το σημείο πρόσβασης εξαφανίζεται, το οποίο είναι... ένα σημάδι ότι όλα πήγαν καλά.
Για τη διαχείριση του συστήματος, το Spark συνοδεύεται από Το OpenSSH είναι ενεργοποιημένο από προεπιλογή στο Ubuntu 24.04. Μπορείτε να αποκτήσετε πρόσβαση σε αυτό μέσω τερματικού χρησιμοποιώντας τη διεύθυνση IP ή το όνομα κεντρικού υπολογιστή mDNS (όπως όνομα_κεντρικού_σπινθήρα.local). Επιπλέον, έχετε το Πίνακας ελέγχου DGX στη θύρα 11000 για την παρακολούθηση του υλικού και την πρόσβαση στο JupyterLab και το σύστημα του Συγχρονισμός NVIDIA το οποίο διευκολύνει μια απρόσκοπτη σύνδεση με το VS Code.
Πώς να εκτελέσετε το πρώτο σας μοντέλο χωρίς να ξέρετε πώς να προγραμματίζετε
Τώρα για το διασκεδαστικό μέρος. Για να λειτουργήσει η Τεχνητή Νοημοσύνη, το Spark χρησιμοποιεί Λιμενεργάτης Έχει ήδη προρυθμιστεί με το κιτ εργαλείων NVIDIA. Για να αποφύγετε την εγγραφή ιδρώτας Σε κάθε εντολή, το πρώτο βήμα είναι να προσθέσετε τον χρήστη σας στην ομάδα Docker εκτελώντας μερικές απλές εντολές στο τερματικό. Μόλις γίνει αυτό, μπορείτε να εκκινήσετε ένα κοντέινερ PyTorch για να επαληθεύσετε ότι το GPU και CUDA Αντιδρούν σωστά.
Αν δεν θέλετε να αγγίξετε τον κώδικα, η πιο γρήγορη διαδρομή είναι να εγκαταστήσετε Ολάματο οποίο σας επιτρέπει να κατεβάσετε και να εκτελέσετε μοντέλα όπως το Llama ή το Qwen με βασικές εντολές. Μια άλλη επαγγελματική επιλογή είναι... Δοχεία NIM της NVIDIA από τον κατάλογο NGC, ο οποίος προσφέρει βελτιστοποιημένα, έτοιμα προς χρήση μοντέλα. Αν ψάχνετε για κάτι ακόμα πιο οπτικό, εργαλεία όπως Unsloth Desktop Ενσωματώνουν την εξαγωγή συμπερασμάτων και τη βελτιστοποίηση σε μια ενιαία εφαρμογή για υπολογιστές, καθιστώντας την Τεχνητή Νοημοσύνη τόσο προσβάσιμη όσο οποιοδήποτε άλλο πρόγραμμα.
Προτεινόμενα μοντέλα και δυνατότητες πρακτορείων
Ανάλογα με τον στόχο σας, ορισμένα μοντέλα λάμπουν περισσότερο από άλλα. Για τον προγραμματισμό, το μοντέλο Muse Glimmer από την Meta Είναι ένα διαμάντι, καθώς είναι βελτιστοποιημένο για πάντα ενεργούς πράκτορες και εργασίες τοπικού προγραμματισμού. Αν ψάχνετε για καθαρή ταχύτητα για εξειδικευμένους πράκτορες, το Nemotron 3.5 Lightning Προσφέρει εξαιρετικά γρήγορη δημιουργία token και είναι πλήρως προσαρμόσιμο μέσω ανοιχτών βαρών.
Για τους πιο απαιτητικούς χρήστες, υπάρχουν μοντέλα όπως Λιμνοθάλασσα AI δίπλα στην πισίνα S 2.1σχεδιασμένο για προγραμματιστικές εργασίες που μπορούν να διαρκέσουν ώρες ή DeepSeek-V4-Flash Για όσους χρειάζονται τεράστια παράθυρα περιβάλλοντος. Το εκπληκτικό είναι ότι το Spark σάς επιτρέπει να εκτελείτε αυτά τα μοντέλα σε Μορφή NVFP4Βελτιστοποίηση της μνήμης χωρίς απώλεια ακρίβειας, επιτρέποντας στην Τεχνητή Νοημοσύνη να λειτουργεί ομαλά ακόμη και σε πολύπλοκες εργασίες.
Αύξηση ισχύος: Το σύμπλεγμα multi-Spark
Τι γίνεται αν 200 δισεκατομμύρια παράμετροι δεν είναι αρκετές; Εκεί ακριβώς οριζόντια επεκτασιμότηταΜπορείτε να συνδέσετε δύο μονάδες DGX Spark χρησιμοποιώντας ένα καλώδιο QSFP στις θύρες ConnectX-7 τους. Αυτό όχι μόνο προσθέτει μνήμη αλλά μπορεί επίσης να αυξήσει τη χωρητικότητα έως και 405 δισεκατομμύρια παράμετροι, ιδανικό για γιγαντιαία μοντέλα.
Για να αποτρέψει αυτό από το να γίνει ένας τεχνικός εφιάλτης, η NVIDIA δημιούργησε το Βοηθός Συγχρονισμού ΣυμπλέγματοςΑυτό το εργαλείο ανιχνεύει συνδεδεμένους δίσκους, επικυρώνει τη διαμόρφωση και κατανέμει αυτόματα το φόρτο εργασίας. Είναι ουσιαστικά σαν να μετατρέπετε δύο μίνι υπολογιστές σε έναν. συντονισμένος υπερυπολογιστής χωρίς να χρειάζεται να επαναρυθμίσετε το λογισμικό από την αρχή, επιτρέποντας την αύξηση της απόδοσης έως και 70% σε ορισμένα μοντέλα.
Επίλυση συνηθισμένων προβλημάτων
Είναι φυσιολογικό να έχετε αμφιβολίες στην αρχή. Αν παρατηρήσετε ότι το Η σελίδα ρυθμίσεων σταματά να φορτώνει Στο τέλος, μην πανικοβάλλεστε: είναι ένα σημάδι ότι το Spark έχει ήδη συνδεθεί στο δίκτυό σας και έχει κλείσει την πύλη υποδοχής. Εάν η συσκευή φαίνεται να εισέρχεται σε ένα βρόχος επανεκκίνησης Μετά την πρώτη ενεργοποίηση, η λήψη της εικόνας πιθανότατα έχει διακοπεί και θα χρειαστεί να επανεγκαταστήσετε το λειτουργικό σύστημα.
Όσον αφορά τον αποθηκευτικό χώρο, ενδέχεται να δείτε ότι ο δίσκος σας 4TB είναι διαθέσιμος. 3.7 TB πραγματική χωρητικότηταΑυτό δεν είναι σφάλμα. Το λειτουργικό σύστημα απλώς αναφέρει χωρητικότητα σε δυαδικές μονάδες. Και να θυμάστε πάντα: εάν το Docker συνεχίζει να ζητά δικαιώματα μετά την αλλαγή της ομάδας, απλώς αποσυνδεθείτε και συνδεθείτε ξανά για να ισχύσουν οι αλλαγές στη συσκευή σας.
Έχοντας μια υποδομή όπως η NVIDIA DGX Spark, μπορείτε να περάσετε από τη θεωρία στην πράξη, εκτελώντας μοντέλα αιχμής όπως το Llama ή το Nemotron ιδιωτικά και με ασφάλεια. Από την εύκολη αρχική εγκατάσταση μέσω ενός οδηγού έως τη δυνατότητα δημιουργίας συμπλεγμάτων υψηλής ταχύτητας με το NVIDIA Sync, αυτό το υλικό εκδημοκρατικοποιεί την πρόσβαση σε τεχνητή νοημοσύνη εταιρικού επιπέδου. Ενσωματώνοντας την ενοποιημένη μνήμη και την αρχιτεκτονική Blackwell, οι χρήστες μπορούν να διαχειρίζονται τα πάντα, από βοηθούς κώδικα έως πολύπλοκους αυτόνομους πράκτορες, όλα βελτιστοποιημένα με κοντέινερ Docker και εργαλεία ανοιχτού κώδικα που εξαλείφουν την ανάγκη για εξειδίκευση στον προγραμματισμό για την επίτευξη επαγγελματικών αποτελεσμάτων.
Παθιασμένος με την τεχνολογία από μικρός. Μου αρέσει να είμαι ενημερωμένος στον τομέα και, πάνω απ' όλα, να τον επικοινωνώ. Γι' αυτό έχω αφοσιωθεί στην επικοινωνία σε ιστότοπους τεχνολογίας και βιντεοπαιχνιδιών εδώ και πολλά χρόνια. Μπορείτε να με βρείτε να γράφω για Android, Windows, MacOS, iOS, Nintendo ή οποιοδήποτε άλλο σχετικό θέμα σας έρχεται στο μυαλό.