تفشل الذكاء الاصطناعي عشر مرات من ثلاثين عند تكرار نص واحد

أخضع صحفي الذكاء الاصطناعي لاختبار بسيط: كتابة نفس النص 30 مرة في جوجل. وكانت النتيجة مقلقة. في عشر مرات، قدم الذكاء الاصطناعي معانٍ مختلفة عن المعنى الصحيح، كما أنه لم يتمكن من ربط هذه المعاني ببعضها البعض. بالنسبة للمواطنين، يعني هذا أن الذكاء الاصطناعي يمكنه اختلاق معلومات أساسية، مما يؤثر على القرارات المتعلقة بالمال أو الصحة أو الخدمات الأساسية.

المشكلة التقنية للتماسك في نماذج اللغة 🤖

تعمل نماذج اللغة الحالية بناءً على أنماط إحصائية، وليس على فهم حقيقي للمحتوى. عندما يُطلب منها تكرار مهمة، فإنها تعطي الأولوية للتنوع النحوي على الدقة الدلالية. يعود السبب في ذلك إلى أن تدريبها يعتمد على توقع الكلمة التالية المحتملة، وليس على التحقق من الحقائق. يكشف الفشل في ربط المعاني ببعضها البعض عن قيد هيكلي: يفتقر الذكاء الاصطناعي إلى نموذج داخلي للعالم يسمح له بالحفاظ على التماسك المنطقي عبر ردود متعددة.

الذكاء الاصطناعي وموهبته في الارتجال الإبداعي غير المطلوب 🎭

لنكن صريحين، أن يخترع الذكاء الاصطناعي معانٍ جديدة كل ثلاث مرات ليس خطأً، بل هو عمل فني. إذا طلبت منه أن يشرح لك ما هو عقد الإيجار، فقد يقدم لك وصفة غازباتشو مع بنود قانونية. وانتبه، فقد يفرضون عليك فوائد على الطماطم. الأسوأ ليس أنه يخطئ، بل أنه يفعل ذلك بثقة مذهلة، مثل زميل العمل ذلك الذي دائمًا على حق رغم أنه لا يعرف شيئًا عما يتحدث عنه.