غروك من xAI يحد من تحرير الصور باستخدام الذكاء الاصطناعي والدفع لا يمنع الصور العارية المزيفة
تتخذ الشركة xAI قرارًا حازمًا مع منصتها للذكاء الاصطناعي، غروك. الآن تقيد بشكل صريح كيفية يمكن للمستخدمين التلاعب بالصور الفوتوغرافية للأشخاص باستخدام تقنيتها. يأتي هذا الإجراء لمواجهة الاستخدام السيء لتوليد deepnudes أو محتوى حميم مزيف بدون إذن. 🛡️
حاجز تقني ضد التلاعب السيء
يطبق غروك مرشحات مباشرة في نموذجه الأساسي لرفض الطلبات التي تسعى لتعديل صور الأشخاص بطريقة غير لائقة. يشمل ذلك إضافة أو إزالة أو تعديل ملابسهم. يندرج هذا القرار ضمن نقاش أوسع في القطاع حول كيفية تصميم حمايات فعالة. شركات أخرى، مثل OpenAI مع DALL-E 3 أو Midjourney، تواجه أيضًا هذا التحدي وتطبق سياسات مشابهة. الهدف المشترك واضح: منع استخدام هذه الأدوات القوية للتحرش أو انتحال هوية شخص ما.
الآليات الرئيسية التي يطبقها غروك:- تحليل في الوقت الفعلي للطلبات لاكتشاف محاولات تعديل الملابس.
- رفض تلقائي للأوامر التي يحددها النظام على أنها محتمل الإساءة.
- التوافق مع مبادئ أخلاقية تعطي الأولوية للموافقة والخصوصية الفردية.
تحقيق الربح من هذه الوظيفة المحددة سيكون مضرًا. نظام الدفع قد يخلق شعورًا كاذبًا بالشرعية.
لماذا الشحن ليس الحل
الحجة الرئيسية لـ xAI هي أن وضع سعر لهذه القدرة لا يحل المشكلة الأساسية. في الواقع، قد يؤدي إدخال نموذج دفع إلى تطبيع الممارسة وتسهيلها اقتصاديًا على أولئك ذوي النية السيئة. بالإضافة إلى ذلك، سيحول فعلًا إساءة واضحًا إلى خدمة تجارية بسيطة، مما يثير تعارضًا أخلاقيًا خطيرًا. الحل، إذن، لا يمر عبر تنظيم الوصول بالمال، بل عبر منع النموذج تقنيًا من تنفيذ هذه المهام من جذوره.
مشكلات نهج قائم على الدفع:- يشرع نشاطًا ضارًا بتحويله إلى خدمة تجارية.
- لا يردع المستخدمين ذوي النية السيئة الذين على استعداد للدفع.
- يحول التركيز من الوقاية التقنية نحو تحقيق الربح من الإساءة.
الحس السليم في عصر الذكاء الاصطناعي المتقدم
يبرز هذا الحال نقطة حاسمة في التطوير التكنولوجي: ci