أوبن إيه آي وأنثروبيك يتفقان على حماية المراهقين في منصاتهما للذكاء الاصطناعي
عملاقان في مجال الذكاء الاصطناعي، أوبن إيه آي وأنثروبيك، أعلنا عن إطار عمل مشترك مصمم خصيصًا لحماية مستخدمي المراهقين. تهدف هذه المبادرة، التي تتوافق مع التزامات أمام البيت الأبيض، إلى تحديد كيفية تفاعل نماذجهما اللغوية مع الشباب، مع الحد من الأضرار المحتملة. 🤝
خطة تركز على تقييم وتسمية المخاطر
يتمثل جوهر الاتفاق في تحليل المخاطر التي قد يشكلها أنظمة مثل شات جي بي تي أو كلود للمراهقين. تركز الشركات على المحتوى المتعلق بمواضيع حساسة، مثل العنف أو مشكلات الصحة النفسية. للتخفيف من ذلك، تلتزم بـإنشاء وتنفيذ أدوات تحدد وتسمي تلقائيًا هذا النوع من الردود المولدة بواسطة الذكاء الاصطناعي.
التزامات رئيسية في إطار السلامة:- تقييم منهجي لكيفية توليد النماذج أو الترويج لمحتوى ضار للقاصرين.
- تطوير أنظمة تسمية تنبه عند إنتاج معلومات حساسة.
- تدريب النماذج للكشف عن استفسارات المستخدمين الشباب والرد بطريقة آمنة ومناسبة.
المنافسة لإنشاء النموذج الأكثر ذكاءً الآن تشمل أيضًا المنافسة ليكون الأكثر حذرًا.
خطوة نحو تنظيم صناعة الذكاء الاصطناعي ذاتيًا
يُمثل هذا الجهد التعاوني حركة استباقية لـوضع معايير أخلاقية من داخل الصناعة، متوقعًا قوانين مستقبلية قد تكون أكثر تقييدًا. من خلال إعطاء الأولوية لحماية المراهقين، تسعى أوبن إيه آي وأنثروبيك إلى إثبات أنه من الممكن الابتكار بمسؤولية.
العوامل التي ستحدد النجاح:- الطريقة الدقيقة التي سيتم بها تنفيذ بروتوكولات السلامة في المنصات.
- مستوى الشفافية الذي ستحافظ عليه الشركات في الإبلاغ عن تقدمها وعقباتها.
- قدرة الأدوات على التكيف مع أشكال جديدة من المخاطر قد تظهر.
تأثير ذكاء اصطناعي أكثر مسؤولية
لن تحمي فعالية هذه الإجراءات المستخدمين فحسب، بل قد تحدد معايير للصناعة بأكملها أيضًا. من خلال معالجة المخاوف بشأن تأثير الذكاء الاصطناعي على القاصرين بشكل استباقي، يُنشئ سابقة لـتطوير التكنولوجيا التي تأخذ في الاعتبار الآثار الاجتماعية منذ تصميمها. الهدف النهائي هو تحقيق التوازن بين التقدم التكنولوجي وحماية الرفاه الرقمي للأصغر سنًا. 🛡️