आईए के प्रमुख चैटबॉट सोरा से बने वीडियो का पता नहीं लगा पाते

प्रमुख एआई चैटबॉट्स सोरा से बनाए गए वीडियो का पता नहीं लगा पाते

हाल ही में NewsGuard की एक रिपोर्ट ने सबसे प्रसिद्ध कृत्रिम बुद्धिमत्ता सहायकों में एक महत्वपूर्ण खामी उजागर की: वे OpenAI के जनरेटर Sora द्वारा उत्पादित वीडियो को पहचानने में असफल रहते हैं। यहां तक कि उसी कंपनी द्वारा बनाया गया ChatGPT भी इस कार्य में विफल रहता है। विशेषज्ञों ने प्रामाणिक और निर्मित दृश्य सामग्री के साथ कई मॉडलों का मूल्यांकन किया, और परिणाम सामग्री के स्रोत को भेदने की एक उल्लेखनीय सीमा को इंगित करते हैं। 🤖

मूल्यांकन एक पहचान अंतर दिखाते हैं

शोधकर्ताओं ने चैटबॉट्स को दस क्लिप प्रस्तुत कीं, आधी वास्तविक और आधी सोरा द्वारा बनाई गईं, और उनसे उनकी उत्पत्ति निर्धारित करने को कहा। परीक्षण किए गए किसी भी सिस्टम, जिसमें ChatGPT, Google Gemini, Microsoft Copilot, Meta AI और Grok के संस्करण शामिल हैं, ने 80 प्रतिशत से अधिक सटीकता हासिल नहीं की। कई बार, मॉडलों ने सामग्री का विश्लेषण करने से इनकार कर दिया या व्यावहारिक रूप से उस ज्ञान का उपयोग करने के बजाय सिंथेटिक सामग्री की पहचान कैसे करें पर सामान्य उत्तर दिए।

• ChatGPT (OpenAI): अपनी ही मूल कंपनी द्वारा बनाए गए वीडियो को पहचान नहीं पाया।
• Google Gemini और Microsoft Copilot: कम सटीकता दरें और ईवेसिव उत्तर दिखाए।
• Meta AI और Grok: अक्सर विश्लेषण करने से इनकार कर दिया या अमान्य सैद्धांतिक मार्गदर्शिकाएं प्रदान कीं।

सामान्य भाषा मॉडल वीडियो सत्यापन के इस विशिष्ट कार्य के लिए अपने ज्ञान को प्रभावी ढंग से स्थानांतरित नहीं करते।

ऑनलाइन जानकारी के लिए जोखिम स्पष्ट है

एक वीडियो की प्रामाणिकता को सत्यापित करने में यह असमर्थता इंटरनेट पर गलत सूचना का सामना करने के लिए तत्काल चुनौती प्रस्तुत करती है। कई लोग सामग्री की जांच के लिए जिन उपकरणों पर भरोसा करते हैं, वे सोरा द्वारा उत्पादित हाइपररियलिस्टिक सामग्री के लिए तैयार नहीं हैं। यह परिदृश्य अधिक मजबूत और विशेषीकृत पहचान विधियों के निर्माण की तात्कालिकता पर जोर देता है। 🚨

• उपयोगकर्ता इन सहायकों पर एआई द्वारा उत्पन्न झूठी सामग्री को फ़िल्टर करने के लिए निर्भर नहीं रह सकते।
• भ्रामक सामग्री बनाने और वितरित करने के लिए एक खिड़की खुल जाती है।
• चैटबॉट्स द्वारा बताई गई वॉटरमार्क या फ्रेम्स में विसंगतियों के बारे में सिद्धांत व्यावहारिक रूप से लागू नहीं होता।

आधुनिक कृत्रिम बुद्धिमत्ता की एक विरोधाभास

यह विरोधाभासी है कि कृत्रिम बुद्धिमत्ता, जो अक्सर समकालीन समस्याओं के समाधान के रूप में प्रचारित की जाती है, अपनी सबसे उन्नत रचना को पहचान नहीं पाती। चैटबॉट्स पहचान पर विस्तृत स्पष्टीकरण प्रदान करते हैं, लेकिन अंततः व्यावहारिक मामले का सामना करने पर असफल हो जाते हैं। यह खोज ऑनलाइन दृश्य जानकारी की अखंडता की रक्षा करने में सक्षम उपकरण विकसित करने के लिए एक भिन्न और अधिक विशिष्ट दृष्टिकोण की आवश्यकता को रेखांकित करती है।