Google ने पिछले सप्ताह अपनी टेंसर प्रोसेसिंग यूनिट (TPU), आयरनवुड की सातवीं पीढ़ी को पेश किया। अगले 25 में Google क्लाउड में अनावरण किया गया, यह कंपनी का सबसे शक्तिशाली और स्केलेबल कस्टम आर्टिफिशियल इंटेलिजेंस (AI) त्वरक कहा जाता है। माउंटेन व्यू-आधारित टेक दिग्गज ने कहा कि चिपसेट को विशेष रूप से एआई इनवेंशन के लिए डिज़ाइन किया गया था-एक एआई मॉडल द्वारा एक क्वेरी को संसाधित करने और एक प्रतिक्रिया उत्पन्न करने के लिए उपयोग की जाने वाली गणना। कंपनी जल्द ही अपने आयरनवुड टीपीयू को Google क्लाउड प्लेटफ़ॉर्म के माध्यम से डेवलपर्स के लिए उपलब्ध कराएगी।

Google AI Inference के लिए आयरनवुड TPU का परिचय देता है

में एक ब्लॉग भेजाटेक दिग्गज ने अपनी सातवीं पीढ़ी के एआई एक्सेलेरेटर चिपसेट की शुरुआत की। Google ने कहा कि आयरनवुड टीपीयू कंपनी को एक प्रतिक्रिया-आधारित एआई सिस्टम से एक सक्रिय एआई सिस्टम में स्थानांतरित करने में सक्षम करेगा, जो घने बड़े भाषा मॉडल (एलएलएम), मिश्रण-के-विशेषज्ञ (एमओई) मॉडल, और एजेंट एआई प्रणालियों पर केंद्रित है, जो “सहयोगी रूप से अंतर्दृष्टि और उत्तर देने के लिए डेटा को पुनः प्राप्त और उत्पन्न करते हैं।”

विशेष रूप से, टीपीयू एआई और मशीन लर्निंग (एमएल) वर्कफ़्लोज़ के उद्देश्य से कस्टम-निर्मित चिपसेट हैं। ये त्वरक अत्यधिक उच्च समानांतर प्रसंस्करण प्रदान करते हैं, विशेष रूप से गहन सीखने से संबंधित कार्यों के साथ-साथ काफी उच्च शक्ति दक्षता के लिए।

Google ने कहा कि प्रत्येक आयरनवुड चिप 4,614 टेराफ्लॉप (Tflop) की पीक कंप्यूट के साथ आती है, जो कि अपने पूर्ववर्ती ट्रिलियम की तुलना में काफी अधिक थ्रूपुट है, जिसे मई 2024 में अनावरण किया गया था। टेक दिग्गज इन चिप्स को उच्च-अंत एआई वर्कफो के लिए प्रसंस्करण शक्ति को अधिकतम करने के लिए क्लस्टर के रूप में उपलब्ध कराने की योजना भी बनाते हैं।

आयरनवुड को इंटर-चिप इंटरकनेक्ट (ICI) नेटवर्क के साथ जुड़े 9,216 लिक्विड-कूल्ड चिप्स के क्लस्टर तक स्केल किया जा सकता है। चिपसेट भी Google क्लाउड AI हाइपरकंप्यूटर आर्किटेक्चर के नए घटकों में से एक है। Google क्लाउड पर डेवलपर्स आयरनवुड को दो आकारों में एक्सेस कर सकते हैं – एक 256 चिप कॉन्फ़िगरेशन और एक 9,216 चिप कॉन्फ़िगरेशन।

अपने सबसे विस्तारक क्लस्टर में, आयरनवुड चिपसेट कम्प्यूटिंग पावर के 42.5 एक्सफ्लॉप तक उत्पन्न कर सकते हैं। Google ने दावा किया कि इसका थ्रूपुट दुनिया के सबसे बड़े सुपर कंप्यूटर एल कैपिटन द्वारा उत्पन्न गणना के 24x से अधिक है, जो प्रति पॉड 1.7 एक्सफ्लॉप्स प्रदान करता है। आयरनवुड टीपीयू भी विस्तारित मेमोरी के साथ आते हैं, प्रत्येक चिपसेट ने 192 जीबी की पेशकश की, ट्रिलियम से सुसज्जित थे। मेमोरी बैंडविड्थ को भी 7.2TBPS तक बढ़ा दिया गया है।

विशेष रूप से, आयरनवुड वर्तमान में Google क्लाउड डेवलपर्स के लिए उपलब्ध नहीं है। पिछले चिपसेट की तरह, टेक दिग्गज ने डेवलपर्स तक पहुंच का विस्तार करने से पहले कंपनी के मिथुन मॉडल सहित नए टीपीयू में अपने आंतरिक सिस्टम को पहले संक्रमण किया था।