How NVIDIA works - explained by NVIDIA CEO | Jensen Huang and Lex Fridman

एनवीडिया ने एआई के एक नए युग में प्रवेश किया है, जहाँ अब चिप स्केल डिज़ाइन के बजाय रैक स्केल डिज़ाइन पर ध्यान केंद्रित किया जा रहा है। पहले एनवीडिया का लक्ष्य सबसे अच्छा जीपीयू बनाना था, लेकिन अब यह जीपीयू, सीपीयू, मेमोरी, नेटवर्किंग, स्टोरेज, पावर, कूलिंग, सॉफ्टवेयर, रैक, पॉड और डेटा सेंटर के सह-डिजाइन तक फैल गया है। इस "एक्सट्रीम कोड डिज़ाइन" की आवश्यकता इसलिए पड़ी क्योंकि अब समस्याएँ इतनी बड़ी हो गई हैं कि उन्हें एक जीपीयू वाले कंप्यूटर में समाहित नहीं किया जा सकता। अब लक्ष्य है कि आप जितने कंप्यूटर जोड़ रहे हैं, उससे कहीं ज़्यादा तेज़ी से काम करें। उदाहरण के लिए, 10,000 कंप्यूटर जोड़कर उसे दस लाख गुना तेज़ी से काम करवाना। इसके लिए एल्गोरिदम को तोड़ना, पाइपलाइन और डेटा को शार्ड करना पड़ता है। ऐसे में गणना, नेटवर्किंग, स्विचिंग और कार्यभार को वितरित करना सभी बाधाएँ बन जाते हैं। यह एक बहुत ही जटिल कंप्यूटर विज्ञान की समस्या है, जिसके लिए हर तकनीक का उपयोग करना पड़ता है। एनवीडिया में विभिन्न क्षेत्रों के विशेषज्ञ, जैसे हाई बैंडविड्थ मेमोरी, नेटवर्किंग, ऑप्टिक्स, पावर डिलीवरी और कूलिंग के विशेषज्ञ एक साथ मिलकर काम करते हैं। कंपनी का संगठनात्मक ढाँचा इस तरह से डिज़ाइन किया गया है कि वह उस उत्पाद को बनाने में सक्षम हो जो वे चाहते हैं। नेतृत्व में, नेता एक घोषणापत्र जारी करने के बजाय, धीरे-धीरे और लगातार अपने आसपास के लोगों के विश्वास तंत्र को आकार देते हैं। वे बाहरी जानकारी, नई अंतर्दृष्टि और खोजों का उपयोग करके सभी को एक ही दिशा में सोचने के लिए प्रेरित करते हैं। जब कोई बड़ी घोषणा की जाती है, तो लोग पहले से ही उसके लिए तैयार होते हैं। एनवीडिया ने एक एक्सेलरेटर कंपनी के रूप में शुरुआत की, लेकिन हमेशा से त्वरित कंप्यूटिंग बनने का लक्ष्य रखा। प्रोग्रामेबल पिक्सेल शेडर का आविष्कार और FP32 को शेडर्स में शामिल करना कंप्यूटिंग की दिशा में महत्वपूर्ण कदम थे। CUDA को GeForce पर इंस्टॉल करने का निर्णय एक बड़ा रणनीतिक कदम था, भले ही इससे कंपनी के मुनाफे पर भारी असर पड़ा। यह एक जोखिम भरा निर्णय था, लेकिन इसने CUDA को डेवलपर्स के लिए सुलभ बनाया और अंततः डीप लर्निंग क्रांति की नींव रखी। कंपनी ने इस निर्णय को इसलिए लिया क्योंकि उनका मानना था कि एक बड़ा इंस्टाल बेस किसी भी आर्किटेक्चर की सफलता के लिए महत्वपूर्ण है।