TASI 2026: दिल्ली में AI के खतरों पर मंथन, बच्चों की ऑनलाइन सेफ्टी से लेकर डीपफेक पर टेक कंपनियों ने जताई चिंता

आर्टिफिशियल इंटेलिजेंस यानी AI हर दिन एडवांस हो रहा है, लेकिन एक तरफ इससे फायदा है, तो वहीं दूसरी तरफ इसके खतरे को देखते हुए इसकी सेफ्टी की चिंता भी बढ़ती जा रही है. डीपफेक वीडियो हो या फिर बच्चों की डिजिटल सेफ्टी और लोगों की जरूरी जानकारी चोरी होने का खतरा, इन बातों की चिंता अब आम लोगों के साथ-साथ टेक कंपनियों के अधिकारियों को भी होने लगी है. इन्हीं चिंताओं को लेकर नई दिल्ली में आयोजित ट्रस्ट एंड सेफ्टी इंडिया यानी TASI फेस्टिवल 2026 में टेक कंपनियों के अधिकारियों और पॉलिसी एक्सपर्ट्स ने एआई से होने वाली इस समस्याओं को लेकर विस्तार से चर्चा की. इस चर्चा में सवाल उठा कि क्या टेक कंपनियों को अपने स्तर पर AI को सेफ बना सकती हैं या इसके लिए सरकार को भी कड़े नियम बनाने चाहिए.

दो दिनों तक चलने वाले इस इवेंट का आयोजन आयोजन सेंटर फॉर सोशल रिसर्च और TASI के सहयोग से हुआ. जिसमें ओपनएआई, गूगल और Roblox जैसी बड़ी टेक कंपनियों के रिसर्चर्स और सुरक्षा से जुड़े सेफ्टी एक्सपर्ट्स भी शामिल हुए.

AI लॉन्च करने से पहले जरूरी है सेफ्टी चेक

OpenAI की हेड ऑफ स्ट्रेटेजी एंड ग्लोबल अफेयर्स, इंडिया प्रज्ञा मिश्रा ने इस इवेंट में कहा कि टेक कंपनियों को सुरक्षा को सबसे ज्यादा महत्व देने की जरूरत है. मिश्रा ने कहा कि सेफ्टी के लिए ट्रेनिंग और रीइन्फोर्समेंट लर्निंग की प्रक्रिया को भी स्लो करने की जरूरत है. प्रज्ञा का कहना है कि एआई को आगे बढ़ाने के साथ यह भी तय करने की जरूरत है कि उसका पूरा फायदा इंसानों को मिले.

इसी इवेंट में Google की अधिकारी स्निग्धा भारद्वाज भी मौजूद थीं, उन्होंने कहा कि टेक कंपनी अपने AI मॉडल की लगातार जांच करती है. टेक जगत में इस प्रोसेस को रेड टीमिंग कहते हैं, जिसमें जानबूझकर ऐसे सवाल और स्थितियां बनाई जाती हैं, जिनसे मॉडल गलत या नुकसान पहुंचाने वाले काम कर सकता है. उन्होंने कहा कि बच्चों के यौन शोषण से जुड़ी सामग्री के मामले में कंपनी की जीरो टॉलरेंस नीति अपना रही है.

बच्चों की सेफ्टी भी सबसे जरूरी

TASI के इस इवेंट में Roblox की पब्लिक पॉलिसी चीफ निक्की जैक्सन कोलाको ने बताया कि बच्चों की सुरक्षा की जिम्मेदारी सिर्फ पैरेंट्स के भरोसो छोड़ना सही नहीं है. ऑनलाइन प्लेटफॉर्म पर बच्चों से जुड़े सुरक्षा उपाय पहले से ही लागू होने चाहिए. कोलाको ने यह भी कहा कि ऐज के अनुसार कंटेंट और चैट की सुविधा होनी चाहिए. इस दौरान उन्होंने यह भी कहा कि अगर किसी यूजर की ऐज का पता नहीं चलता, तो उसे डिफॉल्ट रूप से ज्यादा सेफ एक्सपीरियंस मिलना चाहिए.

इस इवेंट में एक्सपर्ट्स ने यह भी कहा कि स्मार्ट ग्लास जैसे कैमरे वाले डिवाइस को आम लोगों तक पहुंचाने से पहले नियंत्रित माहौल में चेक करना सबसे ज्यादा जरूरी है.

डीपफेक वीडियो और ऑडियो की क्वालिटी भी चिंता का विषय

TP के चीफ डिजिटल ऑफिसर आकाश पुगालिया के अनुसार बच्चों का सवालों के जवाब के लिए AI पर बढ़ता भरोसा उनकी सोचने और खुद समझने की क्षमता को प्रभावित कर सकता है. उन्होंने डीपफेक वीडियो और ऑडियो की बढ़ती क्वालिटी पर भी चिंता जाहिर की है. ऐसे फेक कंटेंट को असली से अलग पहचानना लगातार मुश्किल होता जा रहा है.
 

भारत में AI सुरक्षा के लिए स्पष्ट नियमों की जरूरत

द क्वांटम हब के रोहित कुमार ने इस इवेंट में कहा कि सिर्फ कंपनियों के भरोसे सुरक्षा छोड़ना सही नहीं है. मार्केट में तेजी से बढ़ते मुकाबले की वजह से टेक कंपनियों की सुरक्षा में कमी आ सकती है. कुमार ने सरकार, टेक कंपनियों और रिसर्चर्स के बीच बेहतर तालमेल के साथ स्पष्ट नियम बनाने की बात कही. रोहित ने यह भी कहा कि भारत के मौजूदा IT कानून मुख्य रूप से तीसरे पक्ष के कंटेंट और उसे हटाने की जिम्मेदारी पर केंद्रित हैं. AI से जुड़ी नई चुनौतियों से निपटने के लिए इस व्यवस्था में बदलाव की जरूरत है.

(ये भी पढ़ेंः दोस्त को डराने के लिए ChatGPT से बनाई भालू की फोटो, वायरल होते ही पहुंच गई पुलिस! महिला को भरना पड़ा हजारों का जुर्माना)

इसके साथ ही इवेंट में एक्सपर्ट्स ने इस बात पर भी जोर दिया कि AI सेफ्टी के उपाय भारत की अलग अलग भाषाओं, संस्कृतियों और डिजिटल समझ को ध्यान में रखकर बनाने की जरूरत है. साथ ही, सेफ्टी के नाम पर लोगों की जानकारी तक पहुंच और अभिव्यक्ति की आजादी पर बेवजह रोक नहीं लगनी चाहिए.

(ये भी पढ़ेंः घर की खाली दीवार बन जाएगी 130 इंच की बड़ी स्क्रीन! फेस्टिव सीजन में लॉन्च हुए 2 नए 4K स्मार्ट प्रोजेक्टर, जानिए कीमत)