أعلنت شركة SambaNova عن إصدار شريحتها من الجيل الرابع SN40L، وهي معالج يعتمد على بنية تدفق بيانات قابلة لإعادة التشكيل وذاكرة ثلاثية المستويات. يتيح هذا التصميم تشغيل نماذج لغوية ضخمة تصل إلى 5 تريليونات معامل، وهو تقدم كبير في الأجهزة المخصصة للذكاء الاصطناعي يهدف إلى تحسين الأداء دون الاعتماد على التكوينات التقليدية لوحدات معالجة الرسوميات (GPU).
بنية قابلة لإعادة التشكيل وذاكرة ثلاثية المستويات 🧠
يستخدم SN40L بنية تدفق بيانات قابلة لإعادة التشكيل تنظم الحوسبة بشكل ديناميكي، متكيفة مع احتياجات النموذج في الوقت الفعلي. تجمع ذاكرته ثلاثية المستويات بين SRAM وHBM وذاكرة DRAM المحلية، مما يقلل زمن الوصول ويتيح التعامل مع النماذج واسعة النطاق. يتجنب هذا النهج الاختناقات النموذجية لبنى فون نيومان، مما يوفر بديلاً لأعباء عمل الذكاء الاصطناعي المكثفة.
عندما تحتوي شريحتك على معاملات أكثر من صبرك 😅
بالطبع، كل هذا يبدو جميلاً حتى يقرر نموذجك ذو الـ 5 تريليونات معامل أن إجابة 2+2 هي يعتمد على السياق. مع ثلاث مستويات من الذاكرة، سيكون لديك على الأقل مساحة أكبر بثلاث مرات لتخزين الأعذار عندما يهلوس الذكاء الاصطناعي. لكن مهلاً، إذا كانت الشريحة قابلة لإعادة التشكيل، فربما يمكنك إعادة برمجتها حتى لا تجادلك بشأن لون السماء. احتياطاً، من الأفضل تحضير فنجان قهوة إضافي بينما يعالج هذا المخلوق البيانات.