A Battlefield AI Company Says It’s One of the Good Guys-TGN

इसके बजाय वह नारा इस बारे में कम कहता है कि कंपनी क्या करती है और वह ऐसा क्यों कर रही है, इसके बारे में अधिक बताता है। हेल्सिंग का नौकरी के विज्ञापन आदर्शवाद से भरपूर, लोगों से इस दृढ़ विश्वास का आह्वान करते हुए कि “लोकतांत्रिक मूल्य रक्षा के लायक हैं।”

हेलसिंग के तीन संस्थापक 2014 में क्रीमिया पर रूस के आक्रमण के बारे में एक चेतावनी के रूप में बोलते हैं कि पूरे यूरोप को रूसी आक्रामकता का जवाब देने के लिए तैयार रहने की जरूरत है। रील कहते हैं, “मैं इस बात से चिंतित हो गया हूं कि हम अपने खुले समाजों में प्रमुख प्रौद्योगिकियों से पीछे रह रहे हैं।” जैसे-जैसे उन्होंने देखा, यह भावना बढ़ती गई, 2018 में, Google कर्मचारियों ने पेंटागन के साथ एक समझौते का विरोध किया, जिसमें Google ने ड्रोन फुटेज का विश्लेषण करने के लिए AI का उपयोग करने में सेना की मदद की होगी। 4,000 से अधिक कर्मचारियों ने हस्ताक्षर किये पत्र यह तर्क देते हुए कि सैन्य निगरानी में सहायता करना Google के लिए नैतिक और नैतिक रूप से गैर-जिम्मेदाराना था, और इसके संभावित घातक परिणाम थे। जवाब में, Google ने कहा कि वह अनुबंध को नवीनीकृत नहीं करेगा।

रील कहते हैं, ”मुझे इसका तर्क समझ में नहीं आया।” “अगर हम खुले और स्वतंत्र समाज में रहना चाहते हैं, हम जो बनना चाहते हैं वही बनें और जो कहना चाहते हैं वही कहें, तो हमें उनकी रक्षा करने में सक्षम होने की आवश्यकता है। हम उन्हें हल्के में नहीं ले सकते।” उन्हें चिंता थी कि यदि बिग टेक को अपने सभी संसाधनों के साथ रक्षा उद्योग के साथ काम करने से रोक दिया गया, तो पश्चिम अनिवार्य रूप से पिछड़ जाएगा। “मुझे ऐसा लगा कि यदि वे ऐसा नहीं कर रहे हैं, यदि सर्वश्रेष्ठ Google इंजीनियर इस पर काम करने के लिए तैयार नहीं हैं, तो कौन है?”

आमतौर पर यह बताना कठिन है कि क्या रक्षा उत्पाद उसी तरह काम करते हैं जिस तरह उनके निर्माता कहते हैं। इन्हें बेचने वाली कंपनियों, जिनमें हेलसिंग भी शामिल है, का दावा है कि विवरण के बारे में पारदर्शी होने से उनके उपकरणों की प्रभावशीलता प्रभावित होगी। लेकिन जैसा कि हम बात करते हैं, संस्थापक एक ऐसी छवि पेश करने की कोशिश करते हैं जो उसके एआई को उन लोकतांत्रिक शासनों के साथ संगत बनाती है जिन्हें वह बेचना चाहता है। शेर्फ़ कहते हैं, “हम वास्तव में गोपनीयता और स्वतंत्रता को बहुत महत्व देते हैं, और हम चेहरे की पहचान जैसी चीजें कभी नहीं करेंगे।” उनका दावा है कि कंपनी लोगों को नहीं बल्कि सेनाओं को वस्तुओं को पहचानने में मदद करना चाहती है। “कुछ चीज़ें ऐसी हैं जो रक्षा मिशन के लिए आवश्यक नहीं हैं।”

लेकिन रक्षा जैसे घातक उद्योग में धीरे-धीरे बढ़ता स्वचालन अभी भी जटिल मुद्दे उठाता है। स्टैनफोर्ड यूनिवर्सिटी के सेंटर फॉर इंटरनेशनल सिक्योरिटी एंड कोऑपरेशन के एक वरिष्ठ शोध विद्वान हर्बर्ट लिन कहते हैं, अगर हेलसिंग के सभी सिस्टम युद्धक्षेत्र में जागरूकता बढ़ाते हैं, जिससे सेनाओं को यह समझने में मदद मिलती है कि लक्ष्य कहां हैं, तो इससे कोई समस्या नहीं होती है। लेकिन उनका मानना ​​है कि एक बार यह प्रणाली स्थापित हो जाने के बाद, निर्णय लेने वालों पर इसे स्वायत्त हथियारों से जोड़ने का दबाव आएगा। लिन कहते हैं, “नीति निर्माताओं को ऐसा करने के विचार का विरोध करना होगा।” उन्होंने कहा कि गलतियाँ होने पर मशीनों को नहीं, बल्कि इंसानों को जवाबदेह होने की जरूरत है। यदि AI ट्रक या टैंक के बजाय ट्रैक्टर को मारता है, तो यह बुरा है। इसके लिए किसे ज़िम्मेदार ठहराया जाएगा?”

रील का कहना है कि हेलसिंग स्वायत्त हथियार नहीं बनाता है। “हम इसके विपरीत बनाते हैं,” वह कहते हैं। “हम एआई सिस्टम बनाते हैं जो इंसानों को स्थिति को बेहतर ढंग से समझने में मदद करते हैं।”

हालाँकि ऑपरेटर ड्रोन को गिराने के लिए हेलसिंग के प्लेटफ़ॉर्म का उपयोग कर सकते हैं, अभी यह निर्णय एक इंसान है, एआई नहीं। लेकिन इस बारे में सवाल हैं कि मशीनों के साथ मिलकर काम करने पर इंसान के पास वास्तव में कितनी स्वायत्तता होती है। सेंटर फॉर स्ट्रैटेजिक एंड इंटरनेशनल स्टडीज के जेन्सेन कहते हैं, “जितना कम आप उपयोगकर्ताओं को उन उपकरणों के बारे में समझाते हैं जिनके साथ वे काम कर रहे हैं, वे उनके साथ जादू की तरह व्यवहार करते हैं।” उनका दावा है कि सैन्य उपयोगकर्ता या तो एआई पर बहुत अधिक या बहुत कम भरोसा कर सकते हैं।

(टैग्सटूट्रांसलेट)युद्ध(टी)सैन्य(टी)सैन्य तकनीक(टी)कृत्रिम बुद्धिमत्ता(टी)यूक्रेन(टी)यूरोप