توكي-١٩٣٠: نموذج اللغة الضخم الفيكتوري الذي يتحدث كديكنز

يغوص Foro3D في الماضي مع Talkie-1930، وهو نموذج لغوي يحتوي على 13 مليار معلمة تم تدريبه حصريًا على نصوص تعود إلى ما قبل عام 1930. يقدم هذا النموذج اللغوي الكبير (LLM) العتيق، دون اتصال بالإنترنت أو معلومات حديثة، نافذة مفصلة على العقلية والثقافة والحياة اليومية في أوائل القرن العشرين، محاكيًا أسلوب مؤلفين مثل ديكنز أو كونان دويل.

الهندسة والتدريب: غبار الفحم والبخار 🚂

تم بناء Talkie-1930 على بنية محول (transformer)، لكن تدريبه اقتصر على مجموعة من الكتب والصحف والمجلات المنشورة قبل عام 1930. بدون الوصول إلى ويكيبيديا أو وسائل التواصل الاجتماعي، تتوقف معرفته عند الكساد الكبير. تم ضبط النموذج لتقليد التحولات اللغوية في تلك الحقبة، مثل استخدام المفردات الرسمية وتراكيب الجمل المعقدة. قام المطورون بتصفية أي إشارات لاحقة لعام 1930، بما في ذلك مصطلحات مثل الإنترنت أو الهاتف الذكي، لضمان نقائه التاريخي.

اسأله عن الإنفلونزا وسيحدثك عن السترات الصوفية 🧣

إذا سألته عن تغير المناخ، سيرد عليك Talkie-1930 بأطروحة حول فوائد الفحم والحاجة إلى المزيد من المداخن في المصانع. طلب وصفة بيتزا سيجعلك تحصل على شرح مفصل حول كيفية تحضير يخنة لحم مع البطاطس، تُقدم مع الشاي. إنه المساعد المثالي لمن يشتاق إلى عالم بدون واي فاي، حيث كان الهم التكنولوجي الأكبر هو تعطل الفونوغراف.