AMD ने अपने मुफ्त टूल Lemonade को संस्करण 10.7 में अपडेट किया है, जो कंप्यूटर पर स्थानीय रूप से कृत्रिम बुद्धिमत्ता चलाने के लिए डिज़ाइन किया गया एक प्रोग्राम है। मुख्य नवीनता यह है कि यह अब NVIDIA ग्राफिक्स कार्ड के साथ भी संगत है, जो AMD और Apple GPUs के लिए पहले से मौजूद समर्थन में जुड़ गया है। यह बाहरी सर्वरों पर निर्भर हुए बिना AI तक पहुंच का विस्तार करता है।
विस्तारित समर्थन और विविध हार्डवेयर पर प्रदर्शन 🚀
Lemonade 10.7 स्थानीय रूप से भाषा मॉडल लोड करने के लिए LM Studio फ्रेमवर्क का उपयोग करता है। इस अपडेट के साथ, NVIDIA GPU वाले उपयोगकर्ता CUDA द्वारा त्वरण का लाभ उठा सकते हैं, जबकि AMD ग्राफिक्स ROCm का उपयोग करते हैं और Apple के ग्राफिक्स अपने न्यूरल इंजन का उपयोग करते हैं। प्रोग्राम VRAM में डाउनलोड करने के लिए परतों की संख्या जैसे मापदंडों को समायोजित करने की अनुमति देता है, जो उपलब्ध हार्डवेयर के अनुसार गति या क्षमता को प्राथमिकता देता है। इंस्टॉलेशन अभी भी सरल है, जिसमें AMD की वेबसाइट से सीधा डाउनलोड शामिल है।
NVIDIA, वह मेहमान जिसे AMD हमेशा अपनी पार्टी में रखना चाहता था 😅
AMD को अपने टूल का दरवाजा सीधे प्रतिस्पर्धा के लिए खोलते देखना दिलचस्प है। यह शोर मचाने वाले पड़ोसी को अपने पूल का उपयोग करने के लिए आमंत्रित करने जैसा है क्योंकि आपका पूल खाली है। अब RTX वाले उपयोगकर्ता लाल वालों के समाधानों को ईर्ष्या से देखे बिना स्थानीय मॉडल चला सकते हैं। कम से कम जब तक AMD एक ऐसा GPU लॉन्च करने का फैसला नहीं करता जो वास्तव में AI में प्रतिस्पर्धा कर सके, बिल्कुल। तब तक, सब खुश।