أطلقت عملية البحث الجديدة من جوجل المدعومة بالذكاء الاصطناعي خطأً سخيفًا. عند محاولة تعريف كلمات شائعة مثل تجاهل أو إيقاف، تظل الشاشة فارغة. يفسر النظام هذه المصطلحات على أنها أوامر تحكم للذكاء الاصطناعي، متجاهلاً معناها الحقيقي. يضاف هذا الخطأ إلى قائمة طويلة من الإجابات غير الصحيحة منذ إدراج الملخصات المولدة بالذكاء الاصطناعي.
المشكلة التقنية وراء الحظر الدلالي 🤖
يكمن الخلل في كيفية معالجة الذكاء الاصطناعي للاستعلامات. عند تلقي كلمات مثل إيقاف، يعاملها النموذج كأوامر داخلية بدلاً من مصطلحات معجمية. يحدث هذا لأن أنظمة اللغة الطبيعية تعطي الأولوية لتعليمات التحكم على تعريفات القاموس. لم تطبق جوجل مرشحات للتمييز بين أمر نظام وبحث دلالي. والنتيجة هي شاشة فارغة تتعارض مع الوظيفة الأساسية لمحرك البحث. سيتطلب الحل التقني وضع علامات على الكلمات الغامضة أو إعادة توجيه الاستعلامات المتضاربة إلى مصادر خارجية.
الذكاء الاصطناعي الذي يُهان إذا طلبت منه التوقف 😤
اتضح الآن أن جوجل قد أنشأت ذكاءً اصطناعيًا يتمتع باحترام الذات. إذا قلت له إيقاف، يتوقف كما لو أنك أهانته. وإذا طلبت منه أن يتجاهل شيئًا، يدخل في وضع الإضراب الصامت. قريبًا سنضطر إلى طلب تعريفات منه بطريقة ملتوية: اشرح لي مفهوم عدم الاكتراث بشيء حتى لا يأخذ البحث على محمل شخصي. لقد حققت جوجل ما بدا مستحيلًا: أن تتعرض آلة للإهانة بكلمات أساسية في اللغة.