AI को लेकर फिर बजा खतरे का अलार्म: UN में बोले एंथ्रोपिक के CEO- संभल जाइए, वरना इंसान खो देंगे कंट्रोल

आर्टिफिशियल इंटेलिजेंस यानी AI  की बढ़ती शक्ति को लेकर दुनिया भर में इसके खतरे को लेकर बहस तेज होती जा रही है. जहां एक ओर AI को मेडिकल, एजुकेशन और टेक्नोलॉजी के क्षेत्र में बड़े बदलाव लाने वाली तकनीक माना जा रहा है, वहीं इसके तेजी से आगे बढ़ने को लेकर खतरे की चिंता भी बढ़ने लगी है. अब यही चिंता इसे बनाने वाली कंपनी के मालिकों को भी सताने लगी है. इसी को लेकर एंथ्रोपिक के सीईओ डारियो अमोदेई ने भी AI के बढ़ते खतरों को लेकर फिर से गंभीर चेतावनी दी है.

संयुक्त राष्ट्र सुरक्षा परिषद (UN Security Council) में बुधवार को बोलते हुए डारियो अमोदेई ने कहा कि AI बहुत तेजी से आगे बढ़ रहा है. इसके फायदे काफी बड़े हो सकते हैं, लेकिन अगर इसके विकास को सही तरीके से कंट्रोल नहीं किया गया तो यह पूरी मानवता के लिए खतरा बन सकता है. उनकी यह बात ओपनएआई के सीईओ सैम ऑल्टमैन की चेतावनी के बाद आई है, जिसमें उन्होंने इसी दिन AI के बेकाबू विकास को लेकर चिंता जताई थी.

कुछ ही साल में AI में आया बड़ा बदलाव

डारियो अमोदेई ने कहा कि लगभग चार साल पहले AI के लिए कोड की एक लाइन लिखना या हाई स्कूल स्तर का गणित हल करना भी मुश्किल था. आज AI एंथ्रोपिक में इस्तेमाल होने वाले ज्यादातर कोड को लिखने में एक्सपर्ट है. सिर्फ यही नहीं, यह दुनिया की कुछ बहुत हीमुश्किल गणितीय समस्याओं को भी हल कर रहा है. अमोदेई के अनुसार AI के विकास की यह रफ्तार आगे भी जारी रह सकती है. उन्होंने यहां तक कहा कि आने वाले एक या दो साल में, या शायद उससे भी कम समय में, एक डेटा सेंटर में इतनी क्षमता वाली AI तैयार हो सकती है जो बड़ी संख्या में बेहद कुशल इंसानों के बराबर काम कर सके.

AI से दो बड़े खतरे

एंथ्रोपिक के CEO ने AI से जुड़े दो मुख्य खतरों का जिक्र किया. पहला खतरा AI का गलत इस्तेमाल है. उनका कहना है कि खतरनाक लोग AI की मदद से जैविक हथियार बनाने जैसी गतिविधियों को अंजाम दे सकते हैं. दूसरा और ज्यादा गंभीर खतरा AI पर इंसानों का कंट्रोल खत्म होना है. अमोदेई के अनुसार अगर AI की क्षमता डेवलपर्स की उसे कंट्रोल करने की क्षमता से ज्यादा तेजी से बढ़ती रही, तो ऐसी स्थिति पैदा हो सकती है जिसमें इंसानों के लिए AI के फैसलों को समझना या उसे रोकना मुश्किल हो जाए.

उन्होंने कहा कि यह समस्या सिर्फ AI कंपनियों या किसी एक देश तक सीमित नहीं है. अगर AI के विकास को सही तरीके से कंट्रोल नहीं किया गया तो इसका असर पूरी मानवता पर पड़ सकता है. इसी वजह से उन्होंने कहा कि AI की सुरक्षा को केवल टेक्नोलॉजी या आर्थिक मुद्दे के तौर पर नहीं देखा जाना चाहिए.

एंथ्रोपिक कर रहा AI की सुरक्षा पर काम

अमोदेई ने बताया कि एंथ्रोपिक अपने AI मॉडल्स की खतरनाक क्षमताओं को लेकर लगातार टेस्ट करता है. इनमें साइबर सिक्योरिटी और बायोलॉजी जैसे संवेदनशील सेक्टर भी शामिल हैं. कंपनी अपने सबसे शक्तिशाली AI मॉडल्स पर अतिरिक्त सुरक्षा उपाय लागू करती है और अपनी सेफ्टी रिसर्च और रिस्क असेसमेंट को भी सार्वजनिक करती है. उन्होंने यह भी कहा कि जरूरत पड़ने पर एंथ्रोपिक AI के विकास की रफ्तार धीमी करने के लिए तैयार है, ताकि यह सुनिश्चित किया जा सके कि नई तकनीक सुरक्षित तरीके से आगे बढ़े.

सिर्फ कंपनियां नहीं, सरकारों को भी साथ आना होगा

अमोदेई का कहना है कि AI से जुड़े इन खतरों को अकेली कोई कंपनी दूर नहीं कर सकती. इसके लिए दुनिया की सरकारों और AI कंपनियों के बीच सहयोग जरूरी है. उन्होंने देशों से अपील की कि वे AI से जुड़े कुछ गंभीर खतरों को लेकर साझा नियम बनाएं. इसमें AI की मदद से जैविक हथियार बनाने पर रोक जैसे मुद्दे शामिल हैं. इसके अलावा सरकारों के पास ऐसे सिस्टम होने चाहिए, जिनकी मदद से एडवांस AI मॉडल्स की क्षमताओं को जांचा और वेरिफाई किया जा सके.

(ये भी पढ़ेंः 14 साल बाद देश का इतना बड़ा फैसला! अब बॉर्डर पर नहीं, AI लैब में मिलेगी दक्षिण कोरिया के युवाओं को फौजी ड्यूटी)

सैम ने भी जताई चिंता

खास बात यह है कि अमोदेई की यह चेतावनी उसी दिन आई, जब ओपनएआई सीईओ सैम ऑल्टमैन ने भी संयुक्त राष्ट्र सुरक्षा परिषद में AI के भविष्य को लेकर अपनी बात रखी. सैम ने माना कि AI मेडिकल रिसर्च, एजुकेशन और प्रोडक्टिविटी के क्षेत्र में बड़े फायदे ला सकता है. हालांकि उन्होंने यह भी चेतावनी दी कि अगर AI का विकास इतनी तेजी से हुआ कि इंसान यह समझने में पीछे रह जाएं कि सिस्टम के अंदर क्या हो रहा है और जरूरत पड़ने पर उसमें दखल न दे पाएं, तो भविष्य पर इंसानों का कंट्रोल कमजोर पड़ सकता है.

(ये भी पढ़ेंः  Xiaomi का बड़ा धमाका! 200MP कैमरा, 8,500mAh बैटरी और पीछे सेकेंडरी स्क्रीन वाला फोन लॉन्च, कीमत...)