
Why NVIDIA is 3 years ahead of everyone - NVIDIA CEO explains | Jensen Huang and Lex Fridman
Audio Summary
AI Summary
एआई की संख्या बढ़ाकर, हम जितनी तेजी से एजेंट तैयार करना चाहते हैं, उतनी ही तेजी से उन्हें तैयार कर सकते हैं। एजेंटिक सिस्टम बहुत अधिक डेटा और अनुभव उत्पन्न करेंगे, जिन्हें हम याद रखेंगे, सामान्यीकृत करेंगे, परिष्कृत करेंगे और प्रशिक्षण के बाद बेहतर बनाएंगे, जिससे यह चक्र चलता रहेगा। बुद्धिमत्ता का स्तर कंप्यूटिंग शक्ति पर निर्भर करता है, लेकिन इसमें हार्डवेयर के घटकों का अनुमान लगाना और भविष्यवाणी करना भी शामिल है। यह मुश्किल है क्योंकि एआई मॉडल आर्किटेक्चर लगभग हर छह महीने में बदलते हैं, और सिस्टम व हार्डवेयर आर्किटेक्चर हर 3 साल में बदलते हैं।
इसकी भविष्यवाणी करने के लिए, हम आंतरिक रूप से शोध करते हैं, मॉडल बनाते हैं, और दुनिया की लगभग हर एआई कंपनी के साथ काम करके चुनौतियों को समझते हैं। हमें सभी की बात सुननी होगी और एक लचीला आर्किटेक्चर बनाना होगा। CUDA का एक फायदा यह है कि यह अविश्वसनीय रूप से तेज़ और लचीला है, जो विशेषज्ञता और सामान्यीकरण के बीच संतुलन बनाता है। हम CUDA को लगातार बेहतर बनाते रहते हैं ताकि आधुनिक एआई एल्गोरिदम के साथ तालमेल बिठा सकें।
उदाहरण के लिए, मिक्सचर ऑफ एक्सपर्ट्स के आने पर, MVLink 8 की जगह MVLink 72 आया, जिससे हम चार ट्रिलियन से दस ट्रिलियन पैरामीटर मॉडल को एक ही कंप्यूटिंग डोमेन में रख सकते थे। ग्रेस ब्लैकवेल रैक एलएलएम को प्रोसेस करने पर केंद्रित था, लेकिन एक साल बाद वेरा रुबिन रैक में स्टोरेज एक्सेलेरेटर, वेरा सीपीयू, एलएलएम के लिए वेरा रुबिन और एमवीलिंक 72, और ग्रो नामक एक नया रैक शामिल था। यह बदलाव इसलिए हुआ क्योंकि पिछला सिस्टम बड़े भाषा मॉडल अनुमानों के लिए था, जबकि नया सिस्टम एजेंटों को चलाने और उपकरणों पर उनके प्रभाव को नियंत्रित करने के लिए है।
भविष्य की परिकल्पना के लिए तर्क करना आवश्यक है। एक विशाल भाषा मॉडल को डिजिटल कार्यकर्ता बनने के लिए, उसे जमीनी सच्चाई तक पहुंच, अनुसंधान करने की क्षमता और उपकरणों का उपयोग करने की आवश्यकता होगी। यह सोचना हास्यास्पद है कि एआई सॉफ्टवेयर और उपकरणों को पूरी तरह से नष्ट कर देगा। यदि हम एक अद्भुत एजेंट, जैसे एक मानवरूपी रोबोट बनाते हैं, तो क्या वह अपने हाथ को हथौड़े या स्केलपेल में बदल देगा, या मेरे उपकरणों का उपयोग करेगा? यह स्पष्ट है कि वह उपकरणों का उपयोग करेगा, फाइलों तक पहुंचेगा, शोध करेगा, और आईओ सबसिस्टम होगा। इस तरह से सोचने पर, यह महसूस होता है कि हमने कंप्यूटर का पुनः आविष्कार कर दिया है, जिसका कंप्यूटिंग के भविष्य पर गहरा प्रभाव है।