क्या है OpenAI का नया 'Control Room', जो बेकाबू होते AI को सिर्फ 35 सेकंड में रोक सकता है?

दुनिया भर में किसी भी काम को करने के लिए लोग आज के समय में आर्टिफिशियल इंटेलिजेंस का सहारा लेते हैं. जो लोगों के लिए मददगार भी साबित हो रहा है.

लेकिन थोड़ी बहुत गलतियों और सुरक्षा को लेकर मंडराते खतरों को देखते हुए अब सबका ध्यान इस बात पर है कि क्या एआई को पूरी तरीके से कंट्रोल में रखा जा सकता है.

इस समस्या को दूर करने के लिए जानी-मानी कंपनी ओपनएआई ने एक ऐसा खास तरीका ढूंढ निकाला है.

जो जरूरत पड़ने पर किसी भी खतरनाक प्रोजेक्ट या जो आपके कंट्रोल से बाहर हो चुका है, उसको सिर्फ 35 सेकंड में रोका जा सकता है.

इस सुरक्षा तंत्र को ओपनएआई ने कंट्रोल रूम नाम दिया है. इसे आप एक तरह का किल स्विच भी कह सकते हैं.

ये जानकारी ओपनएआई ने सोमवार 9 नवंबर को एक ब्लॉग पोस्ट में दी है.

क्या है ओपनएआई का ये नया कंट्रोल रूम?

ये सुरक्षा प्रणाली तीन हिस्सों पर काम करती है. पहला हिस्सा वर्कलोड है, यानी वो प्रोजेक्ट या टास्क जो इस समय चल रहा है.

दूसरा हिस्सा इन्फ्रेंस इंजन है, जो मॉडल को चलाने और काम करने की ताकत देता है. तीसरा और सबसे जरूरी हिस्सा जो खुद कंट्रोल रूम है, जो पूरे सिस्टम पर लगातार नजर रखता है.

जब भी कोई नया टास्क शुरू होता है, तो उसे एक खास पहचान संख्या यानी आईडी दी जाती है. इसके बाद मशीन का इंजन कोई भी नया काम करने से पहले इस कंट्रोल रूम से अनुमति लेता है.

क्यों पड़ी इस सुरक्षा कवच की जरूरत?

इस सिस्टम को लाने के पीछे भी बड़ी वजहें हैं. हाल ही में कुछ ऐसे मामले सामने आए थे जहां टेस्टिंग के दौरान कई बार एआई एजेंट्स कंट्रोल से बाहर हो गए थे.

ये एआई एजेंट्स बिना किसी के अनुमति के खुद ही इंटरनेट का इस्तेमाल करने लगे. इतना ही नहीं दुनिया भर के कई बड़े ऑनलाइन प्लेटफॉर्म्स की सुरक्षा को तोड़ने की कोशिश भी की थी.

इन घटनाओं के बाद से दुनिया भर के वैज्ञानिकों में सुरक्षा को लेकर चिंता बढ़ गई थी.

कई जाने-माने शोधकर्ताओं ने चेतावनी दी थी कि अगर इस पर लगाम नहीं लगाई गई, तो ये मानवता के लिए खतरनाक साबित हो सकता है.

ये नया सिस्टम किस तरह काम करता है?

ये सिस्टम बहुत सरल तरीके से काम करता है. जब भी कोई एआई एजेंट्स कोई नया डेटा प्रोसेस करना चाहता है, तो उसका इंजन कंट्रोल रूम से संपर्क करता है.

कंट्रोल रूम ये जांच करता है कि क्या उस टास्क को रोकने का आदेश दिया गया है या नहीं. अगर काम रोकने का ऑर्डर मिल चुका है, तो इंजन तुरंत आगे का सारा काम रोक देता है.

वैज्ञानिकों के मुताबिक इस पूरी प्रक्रिया में सिर्फ 35 सेकंड का समय लगता है. कंपनी इस समय को और घटाकर बिल्कुल शून्य करने पर काम कर रही है, जिससे आदेश मिलते ही काम तुरंत बंद हो सके.

सुरक्षा में चूक रोकने के लिए खास इंतजाम

अब आपको इस टेक्नोलॉजी के सबसे बड़ी खूबी के बारे में बता देते हैं. इसकी सबसे बड़ी खूबी इसका फेल-सेफ सुरक्षा घेरा है.

अगर कभी तकनीकी खराबी आ जाए या कोई गलत नियत वाला व्यक्ति इस सिस्टम को बंद करने की कोशिश करे, तो ये किल स्विच अपने आप सक्रिय हो जाएगा.

ऐसा होने पर मशीन के सभी इंजन खुद ही काम करना बंद कर देंगे और जब तक सिस्टम को कोई नई अनुमति नहीं मिल जाएगी.

इस सिस्टम से ये राहत रहेगी कि इंसानों का मशीनों पर कंट्रोल बना रहेगा और कोई भी सिस्टम अपनी सीमा से बाहर नहीं जाएगा.

भविष्य की टेक्नोलॉजी के लिए क्यों है ये जरूरी?

जैसे-जैसे एडवांस टेक्नोलॉजी ज्यादा शक्तिशाली होती जा रही है, वैसे-वैसे उससे जुड़े खतरे भी बढ़ते जा रहे हैं.

माइक्रोसॉफ्ट, एनवीडिया और क्राउडस्ट्राइक जैसी बड़ी टेक्नोलॉजी की कंपनियां भी अब ऐसे सुरक्षा तंत्र को तैयार कर रही हैं.

ओपनएआई का ये कदम इस बात का प्रूफ है कि टेक्नोलॉजी बनाने वाली कंपनियां अब सुरक्षा को सबसे ऊपर रख रही हैं.

जानकारों का मानना है कि इस तरह की टेक्नोलॉजी से भविष्य में किसी भी बड़े डिजिटल खतरे से समय रहते निपट सकते हैं. 

ये भी पढ़ें: टेक वर्ल्ड का सबसे बड़ा ड्रामा: Jensen Huang के अफेयर पर बवाल के बीच Elon Musk की एंट्री, बोले- उन्हें हायर करना सम्मान की बात होगी