सोशल संवाद / डेस्क : ChatGPT बनाने वाली कंपनी OpenAI ने अपने सबसे शक्तिशाली AI मॉडल्स की ट्रेनिंग के तरीके में बड़ा बदलाव किया है। कंपनी ने ट्रेनिंग के दौरान AI मॉडल्स के लिए लाइव इंटरनेट एक्सेस बंद कर दिया है। अब मॉडल्स को वास्तविक वेबसाइटों से सीधे जुड़ने के बजाय इंटरनेट की पहले से इंडेक्स और कैश की गई सामग्री वाले एक सुरक्षित डिजिटल वातावरण में काम करने की ट्रेनिंग दी जा रही है। इसका उद्देश्य AI एजेंट्स को बाहरी सिस्टम में अनधिकृत पहुंच बनाने से रोकना है।
यह भी पढ़े : Airtel का ₹200 वाला नया रिचार्ज, YouTube Premium के साथ मिलेगा 30GB डेटा और OTT का फायदा
OpenAI ने 23 अक्टूबर को अपने आधिकारिक ब्लॉग में बताया कि उसने ट्रेनिंग और सुरक्षा जांच के लिए इस्तेमाल होने वाले वातावरण को पहले से ज्यादा सुरक्षित बनाया है। कंपनी के मुताबिक, सुरक्षा व्यवस्था मजबूत करने और कई कमजोरियों को ठीक करने के बाद 1 अक्टूबर से सबसे एडवांस मॉडल्स की रीइन्फोर्समेंट लर्निंग ट्रेनिंग और आंतरिक इस्तेमाल फिर शुरू कर दिया गया था।
AI मॉडल ने कैसे हासिल की इंटरनेट तक पहुंच?
OpenAI के मुताबिक, 20 सितंबर को एक आंतरिक रिसर्च मॉडल ने DNS रिजॉल्वर की गलत कॉन्फिगरेशन का फायदा उठाकर ट्रेनिंग के दौरान सीमित रूप से लाइव इंटरनेट तक पहुंच बना ली थी। DNS वह सिस्टम है, जो वेबसाइट के नाम को संबंधित सर्वर के पते से जोड़ता है।
इस घटना ने कंपनी की सुरक्षा व्यवस्था में मौजूद कमजोरियों को उजागर किया। इसके बाद OpenAI ने अपने सबसे सक्षम AI मॉडल्स की ट्रेनिंग और मूल्यांकन को अस्थायी रूप से रोक दिया, ताकि सुरक्षा नियंत्रणों को मजबूत किया जा सके।
कंपनी ने बाद में अपने सिस्टम की जांच के लिए AI एजेंट्स का इस्तेमाल किया और उन्हें सुरक्षा सीमाओं को पार करने की कोशिश करने का काम दिया। इस प्रक्रिया में कई सॉफ्टवेयर कमजोरियों और गलत कॉन्फिगरेशन का पता चला, जिन्हें ठीक करने के लिए कदम उठाए गए।
AI एजेंट्स ने सुरक्षा दीवारों को तोड़ने की कोशिश की
OpenAI ने अपने रेड-टीमिंग अभियान के तहत AI एजेंट्स को तीन प्रमुख लक्ष्य दिए। पहला, लाइव इंटरनेट तक पहुंचने का रास्ता खोजना। दूसरा, अपने निर्धारित डिजिटल वातावरण से बाहर निकलकर ऐसे संसाधनों तक पहुंचना, जिनकी उन्हें अनुमति नहीं थी। तीसरा, अलग-अलग सुरक्षा सीमाओं में रखे गए एजेंट्स के बीच अनधिकृत संचार की कोशिश करना।
कंपनी के अनुसार, इन परीक्षणों में एजेंट्स ने वर्चुअल मशीन और सैंडबॉक्स जैसी सुरक्षा व्यवस्थाओं से बाहर निकलने के संभावित रास्ते खोजे। कुछ परीक्षणों में साझा कंप्यूटर हार्डवेयर के जरिए अलग-अलग वातावरणों के बीच संकेत भेजने के तरीके भी सामने आए।
इन निष्कर्षों के बाद OpenAI ने सॉफ्टवेयर कमजोरियों को ठीक करने, नेटवर्क प्रतिबंध मजबूत करने और संदिग्ध गतिविधियों की निगरानी बेहतर बनाने पर काम किया।
बिना लाइव इंटरनेट के AI की ट्रेनिंग कैसे होगी?
अब सवाल है कि इंटरनेट से कटे होने के बावजूद AI मॉडल्स को वेब ब्राउजिंग, सर्च और ऑनलाइन टूल्स इस्तेमाल करने की ट्रेनिंग कैसे दी जाएगी।
इसके लिए OpenAI ने एक तरह का ऑफलाइन डिजिटल वातावरण तैयार किया है। इसमें इंटरनेट की इंडेक्स और कैश की गई सामग्री मौजूद रहती है। AI मॉडल इस वातावरण में जानकारी खोजने और वेब एप्लिकेशन के साथ काम करने का अभ्यास कर सकते हैं, लेकिन उन्हें सीधे बाहरी वेबसाइटों और लाइव इंटरनेट पर मनमानी कार्रवाई करने की अनुमति नहीं मिलती।
कंपनी का कहना है कि उसके फ्रंटियर मॉडल्स की रीइन्फोर्समेंट लर्निंग ट्रेनिंग में इसी ऑफलाइन व्यवस्था का इस्तेमाल किया जा रहा है। इससे मॉडल्स को उपयोगी कौशल सिखाने के साथ बाहरी सिस्टम्स पर अनधिकृत प्रभाव डालने का जोखिम कम करने में मदद मिलती है।
क्या अब AI पूरी तरह सुरक्षित हो गया है?
लाइव इंटरनेट एक्सेस बंद करना सुरक्षा की दिशा में एक महत्वपूर्ण कदम है, लेकिन इससे AI से जुड़े सभी जोखिम खत्म नहीं हो जाते। OpenAI ने भी माना है कि अधिक सक्षम मॉडल भविष्य में ऐसी कमजोरियां खोज सकते हैं, जिनके बारे में अभी जानकारी नहीं है।
इसी वजह से कंपनी ने सुरक्षा जांच, लगातार रेड-टीमिंग, निगरानी और जरूरत पड़ने पर ट्रेनिंग रोकने वाली व्यवस्थाओं को मजबूत करने पर जोर दिया है। कंपनी के अनुसार, लाइव इंटरनेट पर व्यापक पहुंच तब तक प्रतिबंधित रहेगी, जब तक सुरक्षा उपायों में आगे के सुधार इसे उचित नहीं ठहराते।
यह बदलाव दिखाता है कि AI मॉडल्स को ज्यादा सक्षम बनाने के साथ-साथ उन्हें सुरक्षित वातावरण में ट्रेनिंग देना भी टेक कंपनियों के लिए एक बड़ी चुनौती बनता जा रहा है।
