घरसमाचारएआई बॉटलनेक शिफ्ट: यह कंप्यूटिंग पावर नहीं है - यह डेटा मूवमेंट है।कंप्यूट-इन-मेमोरी समाधान है

एआई बॉटलनेक शिफ्ट: यह कंप्यूटिंग पावर नहीं है - यह डेटा मूवमेंट है।कंप्यूट-इन-मेमोरी समाधान है

एआई बॉटलनेक शिफ्ट: कंप्यूटिंग पावर से मेमोरी और डेटा मूवमेंट तक - कंप्यूट-इन-मेमोरी (सीआईएम) ने कार्यभार संभाला


पिछले दो वर्षों में, एआई चर्चाएं लगभग पूरी तरह से कंप्यूटिंग शक्ति के इर्द-गिर्द घूमती रही हैं: पर्याप्त जीपीयू नहीं, अपर्याप्त कंप्यूटिंग क्षमता और अपर्याप्त क्लस्टर।लेकिन यह रिपोर्ट एक प्रमुख बिंदु पर बार-बार जोर देती है: जो चीज वास्तव में एआई को पीछे रखती है वह गणना करने में असमर्थता नहीं है, बल्कि है डेटा स्थानांतरित करने में असमर्थता.

चूंकि मॉडल का आकार दसियों मेगाबाइट से कई गीगाबाइट तक विस्तारित हो गया है, सिस्टम में सबसे व्यस्त घटक अब कंप्यूटिंग इकाइयां नहीं हैं, बल्कि मेमोरी और बसें हैं।दूसरे शब्दों में, एआई की बाधा चुपचाप स्थानांतरित हो रही है - "कंप्यूटिंग समस्या" से अधिक मौलिक प्रस्ताव की ओर: ए भंडारण की समस्या.

इससे एक अधिक क्रांतिकारी दिशा सामने आई है: यदि डेटा संचलन सबसे बड़ा ओवरहेड है, तो गणना क्यों नहीं होने दी जाए सीधे भंडारण में?

कंप्यूट-इन-मेमोरी (सीआईएम) नामक एक आर्किटेक्चर इस तर्क को जड़ से फिर से लिखने का प्रयास कर रहा है।इसे सक्षम करने की कुंजी अधिक उन्नत प्रक्रिया नोड नहीं है, बल्कि एक प्रकार की तकनीक है जो अतीत में इतनी "मुख्यधारा" नहीं रही है-एनालॉग मेमोरी.

यह लेख हमें एक महत्वपूर्ण प्रश्न पर पुनर्विचार करने के लिए आमंत्रित करता है: जैसे-जैसे एआई आज की स्थिति में विकसित हो रहा है, वास्तव में इसकी ऊपरी सीमा - कंप्यूटिंग शक्ति या भंडारण - क्या निर्धारित करती है?

रिपोर्ट का मूल संदेश

एआई की प्रदर्शन बाधा "कंप्यूटिंग पावर" से "भंडारण और डेटा आंदोलन" में स्थानांतरित हो रही है, और समाधान "एनालॉग मेमोरी + कंप्यूट-इन-मेमोरी (सीआईएम)" के साथ कंप्यूटिंग प्रतिमान के पुनर्निर्माण में निहित है।

एआई मूलतः एक स्टोरेज-संचालित कंप्यूटिंग समस्या है

गहरे तंत्रिका नेटवर्क (डीएनएन) की मुख्य गणना वेक्टर-मैट्रिक्स गुणन (वीएमएम) है, जो स्वाभाविक रूप से बड़े पैमाने पर वजन पढ़ने पर निर्भर करती है।जैसे-जैसे मॉडल का आकार मेगाबाइट से गीगाबाइट (10एमबी-10जीबी) तक बढ़ता है, वे ऑन-चिप स्टोरेज पर भारी मांग रखते हैं।

प्रशिक्षण "लिखने-गहन" है, जबकि अनुमान "पढ़ने-गहन" है - दोनों वजन भंडारण (सिनैप्टिक मेमोरी) के आसपास घूमते हैं।

निष्कर्ष: AI कोई शुद्ध कंप्यूटिंग समस्या नहीं है;यह मूलतः "भंडारण + डेटा संचलन दक्षता" का मामला है।

पारंपरिक वास्तुकला की मौलिक बाधा: डेटा मूवमेंट

पारंपरिक जीपीयू/टीपीयू एक सरल सिद्धांत पर काम करते हैं: गणना प्रसंस्करण तत्वों (पीई) में होती है, जबकि डेटा एसआरएएम/डीआरएएम में संग्रहीत होता है - जिससे लगातार डेटा मूवमेंट और बेहद कम दक्षता होती है।

ऊर्जा दक्षता तुलना:

  • पारंपरिक प्लेटफ़ॉर्म: ~0.1 TOPS/W
  • डिजिटल ASICs: ~1-10 TOPS/W
  • एनालॉग सीआईएम: ~10-100 टॉप्स/डब्ल्यू

मूल विरोधाभास: समस्या गणना करने में असमर्थता नहीं है, बल्कि डेटा को कुशलतापूर्वक स्थानांतरित करने में असमर्थता है।

मुख्य दिशा: कंप्यूट-इन-मेमोरी (सीआईएम)

सीआईएम आर्किटेक्चर वज़न को सीधे मेमोरी एरेज़ में संग्रहीत करता है और इन एरेज़ के भीतर गणना (समानांतर वीएमएम) करता है, जिससे "स्टोरेज ↔ कंप्यूटिंग इकाइयों" के बीच डेटा को स्थानांतरित करने की आवश्यकता समाप्त हो जाती है।

मौलिक परिवर्तन:

  • पारंपरिक वास्तुकला: मेमोरी और कंप्यूट अलग हो गए हैं
  • सीआईएम आर्किटेक्चर: मेमोरी = कंप्यूट

यह वास्तुशिल्प स्तर पर एक आदर्श बदलाव है, न कि केवल एक साधारण अनुकूलन।

कोर कैरियर: एनालॉग मल्टी-बिट मेमोरी (एनालॉग सिनैप्स)

सीआईएम को साकार करने के लिए एक नए "भार वाहक" की आवश्यकता होती है।मुख्य उम्मीदवारों में शामिल हैं:

  • आरआरएएम (प्रतिरोधक रैंडम-एक्सेस मेमोरी)
  • पीसीएम (चरण-परिवर्तन मेमोरी)
  • FeFET (फेरोइलेक्ट्रिक फील्ड-इफेक्ट ट्रांजिस्टर)
  • फ्लैश/3डी नंद, आदि।

इन उपकरणों की आवश्यक क्षमता निरंतर संचालन (एनालॉग मल्टी-बिट) का उपयोग करके वजन का प्रतिनिधित्व करना है।

वास्तविक चुनौती: डिवाइस की भौतिक सीमाएं सिस्टम की ऊपरी सीमाएं निर्धारित करती हैं

रिपोर्ट इस बात पर ज़ोर देती है कि "यह किया जा सकता है या नहीं", बल्कि व्यावहारिक बाधाएँ हैं:

1. प्रशिक्षण चुनौतियाँ (लेखन प्रक्रिया)
आवश्यकताएँ: रैखिकता और समरूपता
व्यावहारिक मुद्दे: गैर-रैखिकता और विषमता के कारण सटीकता कम हो जाती है

2. अनुमान चुनौतियाँ (पढ़ने की स्थिरता)
समय के साथ वज़न घटता है, जिनमें ये समस्याएं शामिल हैं: - थर्मल बहाव - हस्तक्षेप पढ़ें - प्रतिधारण समस्याएँ

3. सारणी-स्तर के मुद्दे
- विभिन्न उपकरणों में परिवर्तनशीलता - परिशुद्धता, एडीसी प्रदर्शन और सरणी आकार के बीच व्यापार-बंद

मूल निष्कर्ष: एनालॉग मेमोरी के साथ मुद्दा यह नहीं है कि "सटीकता पर्याप्त है या नहीं", बल्कि "स्थिरता और नियंत्रणीयता" है।

अंतिम रुझान: 3डी एकीकरण + सिस्टम-स्तरीय समन्वय

भविष्य की दिशाओं में शामिल हैं:

  • अखंड 3डी एकीकरण
  • स्मृति और तर्क का गहरा मेल
  • उपकरणों, सर्किट और एल्गोरिदम का सह-डिज़ाइन

सार: यह एकल-बिंदु सफलता नहीं है, बल्कि पूर्ण-स्टैक पुनर्निर्माण है।

निष्कर्ष

एआई की बाधा अब कंप्यूटिंग शक्ति नहीं है, बल्कि "भंडारण और डेटा प्रवाह" है।एनालॉग सीआईएम "स्टोरेज" को कंप्यूटिंग के नए मूल में बदल रहा है - यह परिभाषित करता है कि एआई सिस्टम जमीन से कैसे संचालित होते हैं।