तालस संपूर्ण एआई मॉडल को सीधे सिलिकॉन में एम्बेड करके पारंपरिक चिप डिजाइन को चुनौती देता है

एक पूरी तरह से अलग प्रोसेसर डिज़ाइन संपूर्ण एआई मॉडल को सिलिकॉन में एम्बेड करता है, जो अगली पीढ़ी के अनुमान वर्कलोड के लिए बेहद उच्च गति और प्रदर्शन प्रदान करता है।

तालास का नया एआई प्रोसेसर आर्किटेक्चर पूरे एआई मॉडल को सीधे सिलिकॉन में एम्बेड करके पारंपरिक चिप डिजाइन को चुनौती देता है और अनुमान प्रदर्शन और दक्षता में नाटकीय रूप से वृद्धि करता है। यह दृष्टिकोण पारंपरिक सॉफ़्टवेयर कार्यान्वयन परतों की आवश्यकता को समाप्त करता है, तत्काल प्रतिक्रिया को सक्षम करता है और परिचालन लागत को काफी कम करता है।


लचीलेपन को प्राथमिकता देने वाले सामान्य-उद्देश्य वाले जीपीयू और एआई एक्सेलेरेटर के विपरीत, यह आर्किटेक्चर एकल-मॉडल विशेषज्ञता के लिए बनाया गया है। प्रत्येक चिप को एक विशिष्ट एआई मॉडल के लिए कस्टम-डिज़ाइन किया गया है और इसके मापदंडों और वजन को सिलिकॉन में ही हार्डवायर किया गया है। यह परिवर्तन मौजूदा समाधानों की तुलना में प्रदर्शन को एक से दो गुना तक बढ़ा देता है।

प्रमुख विशेषताओं में शामिल हैं:

यह एक संपूर्ण एआई मॉडल (वजन + पैरामीटर) को सीधे सिलिकॉन से जोड़ता है
यह GPU की तुलना में 10-100 गुना अधिक अनुमान प्रदर्शन प्रदान करता है
प्रति सेकंड 14K+ टोकन के साथ उप-मिलीसेकंड विलंबता
अनुमान कार्यभार के लिए प्रति टोकन 100 गुना तक कम लागत
तेज़ चिप विकास चक्र (~2 महीने प्रति मॉडल)**
प्रोसेसर को मॉडल के जारी होने के दो महीने के भीतर विकसित किया जा सकता है, जिससे अनुकूलित हार्डवेयर की तेजी से तैनाती संभव हो सकेगी। शुरुआती प्रदर्शनों में स्थानीय मॉडलों पर उप-मिलीसेकंड विलंबता और प्रति सेकंड 14,000 से अधिक टोकन का थ्रूपुट दिखाया गया है, जिससे आउटपुट लगभग तात्कालिक दिखाई देते हैं।


यह प्रदर्शन छलांग प्रमुख आर्थिक लाभों में भी परिवर्तित होती है। अनुमानित लागत प्रति मिलियन टोकन पर एक प्रतिशत के एक अंश तक कम हो जाती है - जो कि GPU-आधारित प्रणालियों की तुलना में बहुत कम है - संभावित रूप से क्लाउड प्रदाताओं को कम लागत पर कई अधिक अनुरोधों को संभालने में सक्षम बनाता है।

हालाँकि, डिज़ाइन ट्रेडऑफ़ के साथ आता है। एकल मॉडल पर ध्यान केंद्रित करने से, चिप प्रोग्रामयोग्यता का त्याग कर देती है और अन्य कार्यभार के लिए इसका उपयोग नहीं किया जा सकता है। जबकि सीमित लचीलापन व्यापक अपनाने को सीमित कर सकता है, आर्किटेक्चर एआई हार्डवेयर में अत्यधिक विशेषज्ञता की दिशा में एक महत्वपूर्ण कदम है।

यह विकास डोमेन-विशिष्ट सिलिकॉन की ओर बढ़ते उद्योग बदलाव का प्रतिनिधित्व करता है, जहां प्रदर्शन और दक्षता लाभ सामान्य-उद्देश्य कंप्यूटिंग की आवश्यकता से अधिक है। यदि व्यापक रूप से उपयोग किया जाता है, तो यह मॉडल-संचालित दृष्टिकोण एआई बुनियादी ढांचे को नया आकार दे सकता है, खासकर उच्च-मात्रा वाले अनुमान कार्यभार के लिए।