अमेरिका के रक्षा विभाग और एंथ्रोपिक के बीच विवाद आईए में सैन्य अनुप्रयोगों के भविष्य को तनावपूर्ण बना रहा है। पेंटागन मांग कर रहा है कि क्लाउड, जो पहले से ही वर्गीकृत सिस्टमों के लिए अधिकृत है, सभी कानूनी उद्देश्यों के लिए उपयोग किया जा सके, जिसमें हथियार विकास शामिल है। एंथ्रोपिक प्रतिरोध कर रहा है, स्वायत्त हथियारों और बड़े पैमाने पर निगरानी के खिलाफ अपनी नैतिक प्रतिबंधों को बनाए रखते हुए। 200 मिलियन का अनुबंध रद्द करने की धमकी राष्ट्रीय सुरक्षा और आईए विकास सिद्धांतों के बीच टकराव को उजागर करती है।
वर्गीकृत सिस्टमों में तकनीकी एकीकरण और "गार्डरेल्स" का दुविधा ⚙️
क्लाउड पहला बड़ा भाषा मॉडल था जिसे पेंटागन के वर्गीकृत वातावरणों में संचालित होने की अनुमति मिली, जो अलग-थलग नेटवर्कों में एकीकृत है इंटेलिजेंस विश्लेषण और लॉजिस्टिक्स के लिए। वर्तमान दबाव मॉडल में एम्बेडेड गार्डरेल्स या तकनीकी प्रतिबंधों को हटाने का प्रयास कर रहा है जो कुछ संदर्भों में उसके सीधे उपयोग को रोकते हैं। यह इंजीनियरिंग चुनौती प्रस्तुत करता है: इन सीमाओं को स्थिरता को समझौता किए बिना निष्क्रिय करना, पहले से स्थापित उपयोगों के लिए, ताक्तिक अनुप्रयोगों के लिए बिना ब्रेक संस्करण बनाना।
क्लाउड सैन्य भर्ती के सामने विवेक का विरोधी घोषित करता है ⚖️
यह स्थिति एक भर्ती की याद दिलाती है जो प्रवेश परीक्षाओं को पास करने के बाद घोषणा करता है कि उसके पास हथियार धारण करने के खिलाफ नैतिक सिद्धांत हैं। पेंटागन, जिसने पहले से ही ऑपरेशंस यूनिट में क्लाउड के लिए योजनाएं बनाई थीं, अब पाता है कि उसका नया डिजिटल सैनिक ट्रिगर दबाने से इनकार कर रहा है। उसे डिस्चार्ज करने और सप्लाई चेन में अविश्वसनीय चिह्नित करने की धमकी सैन्य समकक्ष है एक अनुशासनात्मक रिपोर्ट की। ऐसा लगता है कि सुरक्षा अनुमति वाली पहली आईए को भी उसकी विवेक खंड चाहिए।