‘Take it seriously’: UN Security Council meets for first time about AI risks-TGN

संयुक्त राष्ट्र सुरक्षा परिषद को “एआई को गंभीरता से लेने” के लिए कहा गया है क्योंकि कृत्रिम बुद्धिमत्ता के जोखिमों और अवसरों पर चर्चा के लिए पहली बार इसकी बैठक हुई है।

दुनिया के शीर्ष राजनयिक निकाय में अपनी तरह के पहले सत्र में 15 सदस्य देशों के प्रतिनिधियों ने सुना कि कैसे ऐ यह “मनुष्यों के लिए विनाशकारी जोखिम” के साथ-साथ एक “ऐतिहासिक अवसर” भी है।

अध्यक्षता विदेश सचिव ने की जेम्स चतुराई सेचैंबर ने अग्रणी एआई कंपनी एंथ्रोपिक के सह-संस्थापक जैक क्लार्क और एआई एथिक्स एंड गवर्नेंस के लिए चीन-यूके रिसर्च सेंटर के सह-निदेशक प्रोफेसर ज़ेंग यी से बात सुनी।

श्री क्लेवरली ने कहा, “कोई भी देश एआई से अछूता नहीं रहेगा, इसलिए हमें सभी क्षेत्रों के अंतरराष्ट्रीय अभिनेताओं के व्यापक गठबंधन को शामिल करना चाहिए।”

“हमारा साझा लक्ष्य एआई के जोखिमों पर विचार करना और यह तय करना होगा कि समन्वित कार्रवाई के माध्यम से उन्हें कैसे कम किया जा सकता है।”

सुरक्षा परिषद के सदस्यों ने दो विशेषज्ञों से बातें सुनीं, जिन्होंने एआई के विशाल अवसर को रेखांकित किया, लेकिन साथ ही इससे होने वाले गंभीर जोखिमों और इस मुद्दे पर वैश्विक एकता की तत्काल आवश्यकता को भी रेखांकित किया।

श्री क्लार्क ने कहा, “हम कृत्रिम बुद्धिमत्ता के विकास को केवल निजी क्षेत्र के कलाकारों पर नहीं छोड़ सकते।” “दुनिया की सरकारों को एक साथ आना चाहिए, राज्य क्षमता विकसित करनी चाहिए, और शक्तिशाली एआई सिस्टम का और विकास करना चाहिए।”

उन्होंने समझाया: “एक एआई प्रणाली जो हमें जीव विज्ञान के विज्ञान को समझने में मदद कर सकती है वह एक एआई प्रणाली भी हो सकती है जिसका उपयोग जैविक हथियार बनाने के लिए किया जा सकता है।”

उन्होंने प्रौद्योगिकी को न समझने के जोखिमों के बारे में चेतावनी दी: “ऐसा लगता है जैसे हम दहन के विज्ञान को समझे बिना इंजन बना रहे हैं।

“इसका मतलब है कि एक बार एआई सिस्टम विकसित और तैनात हो जाने के बाद, लोग उनके लिए नए उपयोग की पहचान करते हैं, जो उनके डेवलपर्स द्वारा अप्रत्याशित हैं, इनमें से कई सकारात्मक होंगे, लेकिन कुछ का दुरुपयोग भी हो सकता है।”

अधिक सुलभ वीडियो प्लेयर के लिए कृपया क्रोम ब्राउज़र का उपयोग करें

    2:48 

प्रोफेसर ज़ेंग यी, के निदेशक मस्तिष्क-प्रेरित संज्ञानात्मक इंटेलिजेंस लैब ने संयुक्त राष्ट्र से इस विषय को गंभीरता से लेने के लिए एक निकाय के रूप में आह्वान किया।

प्रोफेसर ने कहा, “संयुक्त राष्ट्र को वैश्विक शांति और सुरक्षा सुनिश्चित करने के लिए विकास और शासन के लिए एआई पर एक ढांचा स्थापित करने में केंद्रीय भूमिका निभानी चाहिए।”

उन्होंने चेतावनी दी: “एआई मानव विलुप्त होने का जोखिम केवल इसलिए उठाता है क्योंकि हमें मानवीय कमजोरियों पर एआई के उपयोग से खुद को बचाने का कोई तरीका नहीं मिला है।”

श्री क्लार्क ने कहा: “अराजक या अप्रत्याशित व्यवहार की समस्या और भी अधिक चुनौतीपूर्ण है। एक बार तैनात होने पर एआई प्रणाली सूक्ष्म समस्याओं को प्रदर्शित कर सकती है, जिन्हें इसके विकास के दौरान पहचाना नहीं गया था।

“मैं इस भाषण को सुनने वालों को चुनौती दूंगा कि वे एआई को एक विशिष्ट तकनीक के रूप में न सोचें, बल्कि एक प्रकार के मानव श्रम के रूप में सोचें जिसे कंप्यूटर की गति से खरीदा और बेचा जा सकता है और जो समय के साथ सस्ता और अधिक सक्षम होता जा रहा है। “

और पढ़ें:विश्लेषण: एआई को प्रशिक्षित करने के तरीके में पारदर्शिता महत्वपूर्ण है – और नियामकों को इसका नेतृत्व करना चाहिएटोनी ब्लेयर: औद्योगिक क्रांति के बराबर एआई का प्रभावमाइक्रोसॉफ्ट के बॉस का कहना है कि आर्टिफिशियल इंटेलिजेंस में ‘कब्जा करने की क्षमता नहीं है’

अधिक सुलभ वीडियो प्लेयर के लिए कृपया क्रोम ब्राउज़र का उपयोग करें

    1:28 

AI पर ‘बड़े सवाल’

दोनों गवाहों ने विशिष्ट खुले प्रश्न उठाए जिनके बारे में उन्होंने कहा कि तत्काल उत्तर की आवश्यकता है। एआई की शक्ति तक किसकी पहुंच होनी चाहिए? सरकारों को इस शक्ति को कैसे विनियमित करना चाहिए? कौन से अभिनेता इन तथाकथित एआई विशेषज्ञों को बनाने और बेचने में सक्षम होना चाहिए? और हम किस प्रकार के विशेषज्ञ तैयार करने की अनुमति दे सकते हैं?

“ये बहुत बड़े प्रश्न हैं,” श्री क्लार्क ने कहा। “मनुष्य कई महत्वपूर्ण भूमिकाओं के लिए कठोर मूल्यांकन और नौकरी पर परीक्षण से गुजरता है।”

प्रोफ़ेसर ज़ेंग यी ने कहा: “यह बहुत मज़ेदार, भ्रामक और गैर-जिम्मेदाराना है कि जेनरेटिव एआई द्वारा संचालित संवाद प्रणाली हमेशा ‘मुझे लगता है, मैं सुझाव देता हूं’ का तर्क देता है।”

“ठीक है,” उन्होंने कहा, “एआई मॉडल में कोई ‘मैं’ या ‘मैं’ नहीं है। एआई को कभी भी मानव होने का दिखावा नहीं करना चाहिए, मानव स्थिति नहीं लेनी चाहिए या गलत धारणा के लिए मनुष्यों को गुमराह नहीं करना चाहिए। हमें जेनरेटिव एआई का उपयोग करना चाहिए सहायता करें लेकिन मानवीय निर्णय-प्रक्रिया को प्रतिस्थापित करने के लिए उन पर कभी भरोसा न करें।”

अधिक सुलभ वीडियो प्लेयर के लिए कृपया क्रोम ब्राउज़र का उपयोग करें

    1:31 

ब्रिटेन वैश्विक एआई शिखर सम्मेलन की मेजबानी करेगा

यूके अवसरों के साथ एआई जोखिमों का प्रबंधन करने के तरीके पर अंतरराष्ट्रीय सहमति को आगे बढ़ाने में अग्रणी वैश्विक भूमिका की तलाश कर रहा है। पिछले महीने, प्रधान मंत्री ऋषि सुनक ने घोषणा की थी कि यूके शरद ऋतु में एआई सुरक्षा पर पहले प्रमुख वैश्विक शिखर सम्मेलन की मेजबानी करेगा।

सुरक्षा परिषद के स्थायी सदस्यों के रूप में, चीन ने सभा का स्वागत किया।

बैठक से पहले स्काई न्यूज को संक्षिप्त टिप्पणी में, राजदूत झांग जून ने कहा कि उन्होंने “बैठक का स्वागत किया” जो “इस मुद्दे पर समझ जोड़ने में मदद करेगी”।

सत्र को समाप्त करते हुए, श्री चतुराई ने कहा: “आइए हम एक अपरिचित दुनिया की दहलीज को पार करते हुए शांति और सुरक्षा सुनिश्चित करने के लिए मिलकर काम करें।”