AI को लेकर बढ़ी टेंशन! पहले Anthropic, अब OpenAI के सेफ्टी लीड ने दिया इस्तीफा, बोले-ट्रायल एंड एरर का समय खत्म

आर्टिफिशियल इंटेलिजेंस यानी AI की लगातार बढ़ती शक्ति अब इसे बनाने वालों को भी डराने लगी है. एआई बनाने वाले इंजीनियर्स भी एआई के खतरे को देखते हुए न सिर्फ चेतावनी दे रही है, बल्कि सख्त नियम न लागू करने से अपने पद से इस्तीफा भी दे रहे हैं. कुछ ऐसा ही हुआ है एंथ्रोपिक के बाद अब ओपनएआई के साथ. जहां कंपनी में लगभग साढे 3 साल तक काम कर चुके सेफ्टी कर्मचारी डेविड रॉबिन्सन ने इस्तीफा दे दिया है. उन्होंने कंपनी के काम करने के तरीके पर सवाल उठाते हुए कहा कि AI को तेजी से आगे बढ़ाने की कोशिश में सेफ्टी पर उतना सुरक्षा पर उतना ध्यान नहीं दिया जा रहा, जितना दिया जाना चाहिए.

रॉबिन्सन ने द अटलांटिक में लिखे अपने लेख में OpenAI समेत दूसरी AI कंपनियों के काम करने के तरीके की आलोचना की. उनका कहना है कि अब AI के मामले में बार बार कुछ नया आजमाने और गलती होने के बाद उसे ठीक करने का तरीका ज्यादा खतरनाक हो सकता है.

ट्रायल एंड एरर का समय खत्म

रॉबिन्सन ने साफ शब्दों में कहा कि अब ट्रायल एंड एरर का समय खत्म हो चुका है. उनका मानना है कि जैसे परमाणु ऊर्जा और विमानन जैसे संवेदनशील क्षेत्रों में सुरक्षा के कडे नियम बनाए जाते हैं, उसी तरह बहुत शक्तिशाली AI सिस्टम के लिए भी पहले से मजबूत सुरक्षा नियम की जरूरत है. उन्होंने OpenAI के उस तरीके पर भी सवाल उठाया, जिसे कंपनी इटरेटिव डिप्लॉयमेंट कहती है. इस तरीके में नए सिस्टम को जारी किया जाता है और अगर इस्तेमाल के दौरान कोई समस्या सामने आती है तो उसके बाद सुरक्षा उपायों को मजबूत किया जाता है.

रॉबिन्सन के अनुसार, ज्यादा ताकतवर AI सिस्टम के मामले में सिर्फ समस्या आने के बाद उसे ठीक करना सही तरीका नहीं हो सकता.

डेविड रॉबिन्सन ने कहा कि AI कंपनियों को न्यूक्लियर पावर प्लांट की तरह चलाए जाने की जरूरत है. सुरक्षा के कई स्तरों और ठोस योजना के साथ, जिससे एक छोटी सी इंसानी चूक परमाणु विस्फोट के स्तर की आपदा का दरवाजा न खोल दे. इसके साथ ही उन्होंने कहा कि मेरे पूर्व सहयोगी बहुत समझदार और मेहनती हैं, लेकिन एक लॉन्च से दूसरे लॉन्च की अंधी दौड़ में कंपनी वह सतर्कता बरतने में नाकाम हो रही है जिसकी आज सबसे ज्यादा जरूरत है.

OpenAI में क्या जिम्मेदारी थी?

डेविड रॉबिन्सन ने OpenAI में लगभग साढे 3 साल काम किया. इस दौरान उन्होंने कंपनी के प्रिपेयर्डनेस फ्रेमवर्क को तैयार करने में मदद की. उन्होंने 12 फ्रंटियर मॉडल लॉन्च से जुडी सेफ्टी रिपोर्ट की जिम्मेदारी भी संभाली थी. रॉबिन्सन का कहना है कि कंपनी एक के बाद एक नए मॉडल लॉन्च करने की होड़ में आगे बढ रही हैं. उनके मुताबिक, इस तेजी के बीच उतनी सावधानी नहीं बरती जा रही, जितनी बहुत शक्तिशाली AI सिस्टम के लिए जरूरी है.

AI की क्षमता तेजी से बढ़ रही है

रॉबिन्सन ने एक और बड़ी चिंता को लेकर बात की. उनका कहना है कि AI की क्षमताएं जिस रफ्तार से बढ़ रही हैं, उस रफ्तार से रिसर्चर्स अभी यह पूरी तरह नहीं समझ पाए हैं कि इन सिस्टम को इंसानी लक्ष्यों और मूल्यों के मुताबिक कैसे रखा जाए. AI सेफ्टी में इसे अलाइनमेंट कहते हैं. सरल शब्दों में समझें तो इसका मतलब यह है कि AI वही काम करे जो इंसान उससे चाहते हैं और उसके व्यवहार पर पर्याप्त कंट्रोल बना रहे.

इस पूरे मामले को लेकर OpenAI की भी प्रतिक्रिया सामने आई है. रॉबिन्सन की बातों पर जवाब देते हुए ओपनएआई ने कहा कि कंपनी इस बात पर ध्यान देती है कि उसके मॉडल उसकी सुरक्षा और नियंत्रण की क्षमता से आगे न निकलें. कंपनी के अनुसार, जरूरत पडने पर ट्रेनिंग रोकने या मॉडल को जारी करने में देरी करने का फैसला भी लिया जाता है. OpenAI और Anthropic जैसी कंपनियां पहले भी AI से जुड़ी सुरक्षा चिंताओं को लेकर चर्चा में रही हैं. जैसे जैसे AI सिस्टम ज्यादा एडवांस हो रहे हैं, उन्हें सुरक्षित तरीके से तैयार करने को लेकर टेक इंडस्ट्री में बहस भी तेज होती जा रही है.

(ये भी पढ़ेंः Nvidia का Logo देखकर चोरों के उड़ गए होश! करोड़ों के लालच में चुराया ट्रक, खोला तो अंदर निकला ऐसा ‘खजाना’ कि सिर पकड़ लिया)

एंथ्रोपिक में भी इसी तरह हुआ था इस्तीफा

एंथ्रोपिक में भी एक 27 साल के एआई रिसर्चर जैकब कॉक्सन ने कंपनी से एआई के बढ़ती शक्ति को लेकर इस्तीफा दे दिया था. इस्तीफा देने के बाद जैकब कॉक्सन ने X पर एक के बाद एक पोस्ट में कहा कि एआई बनाने वाले लोग यह मानते हैं कि इस दशक यानी 2030 के आखिरी तक एआई हम सभी का खात्मा कर सकता है. जैकब ने यह भी चेतावनी दी थी कि इस तकनीक की ताकत को कम मत समझिए. ये जल्द ही ऐसे सुपरह्यूमन सिस्टम तैयार कर लेंगे, जो किसी भी चीज को हैक कर सकते हैं.

(ये भी पढ़ेंः Samsung के इन फोन्स पर बंपर डिस्काउंट, ₹33,999 वाला फोन मिलेगा सिर्फ ₹25,999 में, जानिए कहां मिलेगा ऑफर)