अनट्रेडर एआई एनिशन एक्सेलेरेटर कार्ड के लिए वॉन न्यूमैन आर्किटेक्चर पर पुनर्विचार करता है

पारंपरिक वॉन न्यूमैन आर्किटेक्चर के बजाय जो डेटा को स्थानांतरित करने के लिए डिज़ाइन किया गया है, tsunAImi त्वरक कार्ड में उपयोग किए जाने वाले रन 200AI उपकरणों को गणना के लिए डिज़ाइन किया गया है। प्रसंस्करण तत्व एक वितरित प्रसंस्करण सरणी बनाने के लिए मेमोरी के अंदर स्थित है।

RunAI200 डिवाइस पूर्णांक डेटा प्रकारों और 1. बैच मोड का उपयोग करते हैं। मेमोरी बैंक में 512 प्रसंस्करण तत्वों के 2 डी सरणी के साथ SRAM के 385kbyte हैं। प्रति चिप 511 बैंक हैं, जो प्रति उपकरण 200Mbyte प्रदान करने के लिए गठबंधन करते हैं। ऑपरेटिंग up स्पोर्ट ’मोड में 502 TOPS तक है। Ured Eco ’मोड में कॉन्फ़िगर किया गया, यह 8TOPS वितरित करता है।

त्वरक कार्ड की गणना शक्ति, Resnet-50 v 1.5 थ्रूपुट के 80,000 से अधिक एफपीएस पर बैच = 1, या इसके निकटतम प्रतिद्वंद्वी के थ्रूपुट से तीन गुना अधिक है, कंपनी का कहना है। एक अन्य बेंचमार्क टेस्ट में, प्राकृतिक भाषा प्रसंस्करण के लिए, त्वरक कार्ड BERT- आधार के प्रति सेकंड 12,000 से अधिक प्रश्नों को संसाधित कर सकते हैं, कंपनी का कहना है। यह किसी भी घोषित उत्पाद की तुलना में चार गुना तेज है, यह कहता है।

RunAI200 उपकरणों को एक लागत प्रभावी 16nm प्रक्रिया का उपयोग करके निर्मित किया जाता है।

डेटा सेंटरों में एआई फॉर इंट्रैक्शन एक महत्वपूर्ण तत्व होगा, जहां इसकी गणना घनत्व स्मार्ट शहरों और अन्य एआई और मशीन सीखने के अनुप्रयोगों के लिए प्रदर्शन को गति देगा।

TsunAImi त्वरक कार्ड क्लाउड या सर्वर में उपयोग के लिए एक मानक प्रपत्र कारक PCI एक्सप्रेस कार्ड है। यह मशीन सीखने के लिए TensorFlow और PyTorch ओपन सॉफ्टवेयर का समर्थन करता है।

त्वरक कार्ड के साथ, अनट्रेड एअर इंडिया सॉफ्टवेयर डेवलपमेंट किट (एसडीके) में पुश-बटन मात्राकरण, अनुकूलन, भौतिक आवंटन और मल्टी-चिप विभाजन है। यह एक विज़ुअलाइज़ेशन टूलकिट, चक्र-सटीक सिम्युलेटर और एकीकरण के लिए एक रनटाइम एपीआई भी प्रदान करता है।

TsunAImi त्वरक कार्ड अब नमूना है और Q1 2021 में व्यावसायिक रूप से उपलब्ध होगा। imAIgine SDK चुनिंदा ग्राहकों और भागीदारों के साथ शुरुआती पहुंच में है।