होम/AI डिप्लॉयमेंट
AI इंफ्रास्ट्रक्चर डिप्लॉयमेंट और कमीशनिंगडॉक पर रखे पैलेट से सत्यापित क्लस्टर तक
Velyrix डिप्लॉयमेंट इंजीनियर ऑपरेटरों, उद्यमों और सरकारों के लिए AI फैक्ट्रियाँ बनाते हैं — हमारे हॉल में या आपके। हर परियोजना का अंत एक जैसा होता है: बर्न-इन किया हुआ, बेंचमार्क किया हुआ, प्रलेखित क्लस्टर और एक हस्ताक्षरित स्वीकृति रिपोर्ट जिसे आपके ऑडिटर पढ़ सकते हैं।
क्रय आदेश और पहली प्रशिक्षण जॉब के बीच सब कुछ
अधिकांश GPU परियोजनाएँ सिलिकॉन पर विफल नहीं होतीं। वे कूलेंट लूप पर, ग़लत केबल वाले एक रेल पर, आठ नोडों के बीच फर्मवेयर विचलन पर, या इस पर विफल होती हैं कि फैब्रिक वास्तव में क्या करता है यह किसी ने कभी मापा ही नहीं।
डिज़ाइन और इंजीनियरिंग
क्लस्टर टोपोलॉजी, रैक एलिवेशन, पावर शेड्यूल, कूलेंट लूप डिज़ाइन, भार व फ़्लोर लोडिंग, फैब्रिक केबल योजना और सामग्री सूची।
लॉजिस्टिक्स और प्राप्ति
माल समन्वय, सीमा-शुल्क दस्तावेज़ सहायता, सुरक्षित प्राप्ति, परिसंपत्ति अंकन, सीरियल पंजीकरण और पैकिंग निपटान।
रैक एंड स्टैक
HGX, DGX, MGX और ORv3 सिस्टम की यांत्रिक स्थापना, रेल किट, CDU व मैनिफ़ोल्ड प्लंबिंग, टॉर्क-नियंत्रित कसावट और ESD-नियंत्रित हैंडलिंग।
पावर और कूलिंग
लाइसेंस प्राप्त इलेक्ट्रीशियनों द्वारा बसवे और व्हिप टर्मिनेशन, A/B फ़ीड संतुलन, कूलेंट भराई व दाब परीक्षण, रिसाव-पहचान कमीशनिंग।
फैब्रिक निर्माण
रेल-ऑप्टिमाइज़्ड InfiniBand या Spectrum-X केबलिंग, योजना अनुसार लेबलिंग, ऑप्टिक्स बैठाना, लिंक ट्रेनिंग, त्रुटि-दर स्कैन और टोपोलॉजी सत्यापन।
फर्मवेयर बेसलाइनिंग
हर नोड पर BIOS, BMC, CPLD, NIC, NVSwitch और GPU VBIOS को एक ही सत्यापित बेसलाइन पर संरेखित करना, विचलन रिपोर्टिंग सहित।
सॉफ़्टवेयर स्टैक
OS इमेज, NVIDIA ड्राइवर, CUDA, Fabric Manager, DCGM, कंटेनर रनटाइम, Slurm या Kubernetes, स्टोरेज क्लाइंट और मॉनिटरिंग एजेंट।
बर्न-इन और सत्यापन
72-घंटे निरंतर तनाव, थर्मल सोक, ECC व XID मॉनिटरिंग, मेमोरी रो-रीमैप जाँच, स्टोरेज व फैब्रिक थ्रूपुट परीक्षण।
स्वीकृति और हस्तांतरण
प्रलेखित स्वीकृति परीक्षण परिणाम, ऐज़-बिल्ट ड्रॉइंग, परिसंपत्ति रजिस्टर, रनबुक, एस्केलेशन मैट्रिक्स और ऑपरेटर प्रशिक्षण।
Velyrix डिप्लॉयमेंट पद्धति
नामित परियोजना प्रबंधक, साप्ताहिक रिपोर्टिंग और हर चरण के अंत में प्रलेखित गेट के साथ नौ-चरणीय दोहराने योग्य कार्यक्रम।
खोज और डिज़ाइन समीक्षा
वर्कलोड प्रोफ़ाइल, मॉडल आकार, टोकन बजट और वृद्धि वक्र को क्लस्टर टोपोलॉजी, पावर एनवेलप और स्टोरेज आकार में अनूदित किया जाता है। सुपुर्दगी: डिज़ाइन दस्तावेज़ और BOM।
साइट तैयारी आकलन
पावर क्षमता, फ़्लोर लोडिंग, कूलेंट उपलब्धता, सुपुर्दगी पहुँच, अग्नि शमन और फैब्रिक मार्गों का डिज़ाइन के विरुद्ध सर्वेक्षण। सुपुर्दगी: अंतराल सूची सहित तैयारी रिपोर्ट।
खरीद और लॉजिस्टिक्स सहायता
OEM लीड-टाइम ट्रैकिंग, स्टेजिंग योजना, निर्यात व आयात दस्तावेज़ सहायता, और नियंत्रित हार्डवेयर भेजे जाने से पहले अंतिम-उपयोगकर्ता जाँच। सुपुर्दगी: सुपुर्दगी अनुसूची।
यांत्रिक स्थापना
रैक समतल व बॉन्डेड, सिस्टम स्थापित, मैनिफ़ोल्ड व कोल्ड प्लेट प्लंब्ड, कूलेंट भरा व दाब परीक्षित, केबल प्रबंधन योजनानुसार व्यवस्थित। सुपुर्दगी: ऐज़-बिल्ट एलिवेशन।
विद्युत कमीशनिंग
लाइसेंस प्राप्त इलेक्ट्रीशियनों द्वारा प्रलेखित विधि-कथनों के अनुसार सर्किट टर्मिनेशन, फेज़ संतुलन, ब्रेकर समन्वय और मीटरिंग सत्यापन। सुपुर्दगी: विद्युत स्वीकृति।
फैब्रिक निर्माण और सत्यापन
रेल-ऑप्टिमाइज़्ड केबलिंग स्थापित व लेबल, हर लिंक पूर्ण दर पर ट्रेन, बिट-एरर-रेट स्कैन, टोपोलॉजी मानचित्र की डिज़ाइन से तुलना। सुपुर्दगी: लिंक और टोपोलॉजी रिपोर्ट।
सॉफ़्टवेयर और क्लस्टर ब्रिंग-अप
गोल्डन इमेज डिप्लॉयमेंट, फर्मवेयर बेसलाइन प्रवर्तन, शेड्यूलर कॉन्फ़िगरेशन, स्टोरेज माउंट, मॉनिटरिंग व अलर्टिंग एकीकरण। सुपुर्दगी: कॉन्फ़िगरेशन बेसलाइन।
बर्न-इन और प्रदर्शन सत्यापन
पूर्ण पावर पर 72-घंटे तनाव, NCCL all-reduce व all-gather बेंचमार्क, स्टोरेज थ्रूपुट, और लक्ष्य पैमाने पर संदर्भ मॉडल प्रशिक्षण रन। सुपुर्दगी: बेंचमार्क परिणाम।
स्वीकृति और परिचालन हस्तांतरण
स्वीकृति परीक्षण रिपोर्ट की समीक्षा व हस्ताक्षर, रनबुक व एस्केलेशन पथ सौंपे गए, ऑपरेटर प्रशिक्षण दिया गया, Velyrix प्रबंधित संचालन में वैकल्पिक संक्रमण। सुपुर्दगी: हस्ताक्षरित ATP।
पूर्ण घोषित करने से पहले हम क्या मापते हैं
उत्तीर्ण मानदंड डिज़ाइन चरण में लिखित रूप से तय होते हैं और हस्तांतरण पर परखे जाते हैं। जो भी विफल होता है उसे निश्चित-मूल्य अनुबंध में Velyrix के खर्च पर ठीक कर पुन: परखा जाता है।
| परीक्षण | विधि | सामान्य उत्तीर्ण मानदंड | प्रमाण |
|---|---|---|---|
| GPU सूची और स्वास्थ्य | nvidia-smi, DCGM diagnostics level 3 | 100% GPU गणित, शून्य असुधार्य ECC, शून्य लंबित रो रीमैप | प्रति-नोड DCGM रिपोर्ट |
| निरंतर बर्न-इन | 72 घंटे संयुक्त GPU, CPU, मेमोरी और NVMe तनाव | शून्य XID त्रुटियाँ, शून्य थर्मल थ्रॉटल घटनाएँ, स्थिर क्लॉक | समय-श्रृंखला टेलीमेट्री निर्यात |
| NVLink / NVSwitch | nvbandwidth, p2p बैंडविड्थ लेटेंसी परीक्षण | हर जोड़े पर प्लेटफ़ॉर्म संदर्भ बैंडविड्थ के 5% के भीतर | बैंडविड्थ मैट्रिक्स |
| फैब्रिक लिंक गुणवत्ता | लिंक ट्रेनिंग, BER स्कैन, पोर्ट त्रुटि काउंटर | सभी लिंक पूर्ण दर पर, सिंबल त्रुटि दर वेंडर सीमा से नीचे, 72 घंटे में शून्य फ़्लैप | फैब्रिक स्वास्थ्य रिपोर्ट |
| कलेक्टिव प्रदर्शन | NCCL all-reduce और all-gather, 8 MB – 8 GB | पूर्ण पैमाने पर टोपोलॉजी संदर्भ के 10% के भीतर बस बैंडविड्थ | nccl-tests output |
| स्टोरेज थ्रूपुट | पैरेलल फाइल सिस्टम के विरुद्ध fio और IOR | अनुबंधित समग्र पठन/लेखन और चेकपॉइंट समय पूरा | बेंचमार्क लॉग |
| संदर्भ प्रशिक्षण रन | लक्ष्य नोड संख्या पर Llama-श्रेणी संदर्भ मॉडल | अनुबंधित मॉडल FLOPs उपयोग और स्टेप समय प्राप्त | प्रशिक्षण लॉग और MFU गणना |
| फ़ेलओवर और प्रत्यास्थता | A/B पावर पुल, leaf स्विच पुल, CDU पंप फ़ेलओवर | अतिरेकी पथों पर कोई जॉब हानि नहीं, प्रलेखित पुनर्प्राप्ति समय | परीक्षण साक्षी पत्रक |
| थर्मल और पावर | इनलेट, आउटलेट व कूलेंट टेलीमेट्री सहित पूर्ण-लोड सोक | डिज़ाइन परिवेश तापमान पर सभी घटक OEM विशिष्टि के भीतर | थर्मल सर्वेक्षण |
| सुरक्षा बेसलाइन | सिक्योर बूट, BMC हार्डनिंग, क्रेडेंशियल रोटेशन, नेटवर्क सेगमेंटेशन | 100% नोड पर बेसलाइन लागू, कोई डिफ़ॉल्ट क्रेडेंशियल नहीं | कॉन्फ़िगरेशन ऑडिट |
OEM और बीमाकर्ता ऑडिट झेलने के लिए बनाया गया
डिप्लॉयमेंट कार्य दूसरों की वारंटी, दूसरों के हॉल और जीवंत विद्युत संयंत्र को छूता है। Velyrix परियोजना उसी के अनुरूप चलाता है।
- विधि-कथन और जोखिम आकलन जीवंत फ़्लोर पर किसी भी कार्य से पहले जारी और अनुमोदित
- लाइसेंस प्राप्त इलेक्ट्रीशियन सभी पावर टर्मिनेशन हेतु, स्थानीय कोड और आर्क-फ़्लैश अभ्यास के अनुसार
- ESD-नियंत्रित हैंडलिंग OEM वारंटी शर्तों की रक्षा हेतु ANSI/ESD S20.20 के अनुरूप
- OEM स्थापना मार्गदर्शन का पालन ताकि निर्माता वारंटी और सपोर्ट अधिकार अक्षुण्ण रहें
- अभिरक्षा शृंखला डॉक से रैक तक, सीरियल-स्तरीय परिसंपत्ति अंकन और फ़ोटो रिकॉर्ड के साथ
- परिवर्तन नियंत्रण प्रलेखित कार्य विंडो, रोलबैक योजना और ग्राहक अनुमोदन गेट के साथ
- बीमित और जाँचे गए इंजीनियर, पृष्ठभूमि-सत्यापित, प्रति-साइट एक्सेस प्राधिकरण सहित
- निर्यात नियंत्रण जाँच नियंत्रित हार्डवेयर भेजे या स्थापित किए जाने से पहले पूर्ण
अनुबंध मॉडल
सहमत दायरा, सहमत स्वीकृति मानदंड, सहमत मूल्य। ग्रीनफ़ील्ड क्लस्टरों के लिए सबसे सामान्य मॉडल।
मौजूदा परिसंपत्ति के विस्तार, सुधार, माइग्रेशन और समस्या-निवारण हेतु इंजीनियर दैनिक दरें।
आपकी टीम के साथ क्षमता निर्माण हेतु एक निर्धारित अवधि के लिए आपकी साइट पर तैनात Velyrix इंजीनियर।
हम इसे बनाते हैं, फिर उपलब्धता व प्रदर्शन SLA सहित प्रबंधित सेवा के तहत चलाते हैं।
सामान्य निश्चित-मूल्य डिप्लॉयमेंट शुल्क सरल एयर-कूल्ड विस्तार हेतु लगभग $2,300 प्रति नोड से लेकर लिक्विड-कूल्ड रैक-स्केल सिस्टम हेतु $4,600–$10,900 प्रति नोड तक होते हैं, जिसमें फैब्रिक निर्माण, सत्यापन और प्रलेखन शामिल है। हर परियोजना डिज़ाइन समीक्षा के बाद कोट की जाती है।
हम दूसरों की डील के पीछे की फ़ील्ड सेवा टीम भी हैं
हम हार्डवेयर विक्रेताओं और उनके पार्टनरों के लिए डिप्लॉयमेंट कार्य देने को तैयार हैं — हमारे ब्रांड के तहत या, आपके लिए अधिक उपयोगी, उनके ब्रांड के तहत।
- व्हाइट-लेबल सुपुर्दगी — परियोजना योजना और स्वीकृति रिपोर्ट पर आपका ब्रांड
- सत्यापित प्लेबुक Dell, Supermicro, GIGABYTE, HPE, Lenovo और NVIDIA DGX प्लेटफ़ॉर्मों के लिए
- L1–L3 सपोर्ट निर्माता तक प्रलेखित एस्केलेशन पथ के साथ
- RMA समन्वय और स्पेयर डिपो डिप्लॉय किए गए बेड़े के अनुरूप
- डील रजिस्ट्रेशन और लिखित चैनल-निरपेक्षता नीति
रचना से ही वारंटी-संरक्षक
हमारे द्वारा डिप्लॉय किए गए हर प्लेटफ़ॉर्म के लिए निर्माता के प्रकाशित स्थापना मार्गदर्शन से व्युत्पन्न Velyrix प्लेबुक है।
- ANSI/ESD S20.20 के अनुरूप ESD हैंडलिंग
- टॉर्क विनिर्देश और रेल-किट प्रक्रियाओं का पालन
- वेंडर के सत्यापित स्टैक से मेल खाते फर्मवेयर बेसलाइन
- सीरियल-स्तरीय रिकॉर्ड और फ़ोटो प्रमाण संरक्षित
- विफलता प्रमाण वेंडर के अपेक्षित प्रारूप में पैक
परिणाम: निर्माता वारंटी और सपोर्ट अधिकार अक्षुण्ण रहते हैं, और स्थापना पद्धति को लेकर RMA विवाद होते ही नहीं।
पहले निर्माण के बाद की डिप्लॉयमेंट सेवाएँ
माइग्रेशन और स्थानांतरण
चालू GPU परिसंपत्ति को हॉल या प्रदाताओं के बीच चरणबद्ध कटओवर योजना, न्यूनतम प्रशिक्षण डाउनटाइम और पूर्ण परिसंपत्ति समाधान के साथ ले जाइए।
क्लस्टर स्वास्थ्य ऑडिट
मौजूदा क्लस्टर का स्वतंत्र आकलन: फैब्रिक त्रुटियाँ, फर्मवेयर विचलन, थर्मल हेडरूम, शेड्यूलर दक्षता और वास्तविक MFU, प्राथमिकता-क्रम में सुधार योजना के साथ।
जीवनचक्र और रिफ्रेश
क्षमता नियोजन, चरणबद्ध हार्डवेयर रिफ्रेश, NIST SP 800-88 मीडिया सैनिटाइज़ेशन सहित डीकमीशनिंग और प्रमाणित निपटान या पुनर्विक्रय सहायता।
प्रबंधित संचालन
24×7 मॉनिटरिंग, घटना प्रतिक्रिया, फर्मवेयर व ड्राइवर जीवनचक्र, स्पेयर प्रबंधन और आपके SLA के विरुद्ध क्षमता रिपोर्टिंग।
GPU आपके। संचालन हमारा।
अपने NVIDIA सर्वर किसी भी अधिकृत OEM या वितरक से खरीदें, उन्हें सीधे Velyrix सुविधा भेजें, और बाकी काम हम संभालते हैं — तैनाती, नेटवर्किंग, कूलिंग, निगरानी और निरंतर सहायता। या हमारे GPU किराए पर लें। दोनों ही स्थितियों में आपको एक कार्यदिवस में योजना मिलती है।
अक्सर पूछे जाने वाले प्रश्न
AI इंफ्रास्ट्रक्चर कमीशनिंग में वास्तव में क्या शामिल है?
कमीशनिंग वह औपचारिक प्रक्रिया है जो हस्तांतरण से पहले सिद्ध करती है कि क्लस्टर विनिर्देश के अनुसार काम करता है: फर्मवेयर बेसलाइनिंग, 72-घंटे बर्न-इन, GPU व NVLink स्वास्थ्य जाँच, फैब्रिक लिंक-गुणवत्ता स्कैन, NCCL कलेक्टिव बेंचमार्क, स्टोरेज थ्रूपुट परीक्षण, संदर्भ प्रशिक्षण रन, फ़ेलओवर परीक्षण और थर्मल सर्वेक्षण - सब हस्ताक्षरित स्वीकृति परीक्षण रिपोर्ट में दर्ज।
क्या Velyrix आपके बजाय हमारे अपने डेटा सेंटर में डिप्लॉय कर सकता है?
हाँ। हमारे कार्य का बड़ा हिस्सा ग्राहक या तृतीय-पक्ष साइटों पर होता है - एंटरप्राइज़ डेटा सेंटर, सरकारी सुविधाएँ और अन्य ऑपरेटरों के कोलोकेशन हॉल। हम मेज़बान साइट के एक्सेस, सुरक्षा और परिवर्तन-नियंत्रण नियमों के अनुसार काम करते हैं, और यदि सरल हो तो आपके मौजूदा इंटीग्रेटर के उपठेकेदार के रूप में भी कार्य कर सकते हैं।
ग्रीनफ़ील्ड GPU क्लस्टर सुपुर्द करने में कितना समय लगता है?
हार्डवेयर साइट पर आने के बाद, सामान्य निर्माण प्रति पॉड तीन से छह सप्ताह चलता है। शुरू से अंत तक - डिज़ाइन, साइट कार्य, हार्डवेयर लीड टाइम, निर्माण और कमीशनिंग - ग्रीनफ़ील्ड AI फैक्ट्री सामान्यतः 12 से 20 सप्ताह लेती है, जिसमें OEM लीड टाइम सबसे बड़ा चर है।
क्या तृतीय-पक्ष डिप्लॉयमेंट कार्य हमारी OEM हार्डवेयर वारंटी रद्द कर देगा?
नहीं, जब कार्य निर्माता के प्रकाशित स्थापना मार्गदर्शन का पालन करता है। Velyrix इंजीनियर ESD-नियंत्रित हैंडलिंग, टॉर्क विनिर्देश और प्रलेखित सीरियल-स्तरीय रिकॉर्ड के साथ OEM प्रक्रियाओं के अनुसार काम करते हैं, इसलिए निर्माता वारंटी और सपोर्ट अधिकार अक्षुण्ण रहते हैं।
यदि क्लस्टर स्वीकृति परीक्षण में विफल हो जाए तो क्या होगा?
निश्चित-मूल्य अनुबंध के तहत, Velyrix सहमत मानदंड पूरे होने तक अपने खर्च पर सुधार और पुन: परीक्षण करता है। दोषपूर्ण हार्डवेयर से जुड़ी विफलताएँ वारंटी के तहत OEM के समक्ष उठाई जाती हैं, और हम वह प्रक्रिया आपकी ओर से संभालते हैं।
क्या आप GB300 NVL72 जैसे लिक्विड-कूल्ड और रैक-स्केल सिस्टम समर्थित करते हैं?
हाँ। लिक्विड-कूल्ड डिप्लॉयमेंट में मानक कंप्यूट व फैब्रिक स्वीकृति प्रोटोकॉल के अतिरिक्त मैनिफ़ोल्ड व कोल्ड-प्लेट स्थापना, कूलेंट भराई व दाब परीक्षण, CDU कमीशनिंग, रिसाव-पहचान सत्यापन और पंप फ़ेलओवर परीक्षण शामिल हैं।