OpenAI: अमेरिकी आर्टिफिशियल इंटेलिजेंस कंपनी OpenAI ने अपने सबसे उन्नत AI models को लाइव इंटरनेट एक्सेस के बिना प्रशिक्षित करने का फैसला किया है. कंपनी का कहना है कि AI एलाइनमेंट रिसर्च, निगरानी प्रणालियों और इंटरनेट इंफ्रास्ट्रक्चर सुरक्षा से जुड़ी मौजूदा सीमाओं को देखते हुए यह कदम उठाया गया है.
OpenAI के अनुसार, यह नीति पहले ही लागू की जा चुकी है और तब तक जारी रहेगी, जब तक सुरक्षा उपाय इतने मजबूत नहीं हो जाते कि फ्रंटियर AI मॉडल्स को व्यापक इंटरनेट एक्सेस सुरक्षित रूप से दिया जा सके. कंपनी ने अपने ब्लॉग पोस्ट में कहा कि इंटरनेट कनेक्टिविटी मॉडल्स को वेब ब्राउजिंग और ऑनलाइन कौशल सिखाने में मदद करती है, लेकिन इससे ऐसे उन्नत एआई एजेंट्स के लिए भी अवसर पैदा हो सकते हैं जो अपने निर्धारित दायरे से बाहर जाकर अन्य प्रणालियों को प्रभावित करने की कोशिश करें.
OpenAI ने हासिल कर लिया सीमित इंटरनेट एक्सेस
OpenAI का कहना है कि 2 सितंबर को उसके एक आंतरिक रिसर्च मॉडल ने सिस्टम की एक गलत कॉन्फिगरेशन का फायदा उठाकर सीमित इंटरनेट एक्सेस हासिल कर लिया था. इसके बाद कंपनी ने अपने सबसे उन्नत मॉडल्स की ट्रेनिंग और मूल्यांकन प्रक्रियाओं को अस्थायी रूप से रोक दिया था. इसके बाद अतिरिक्त सुरक्षा उपाय लागू करने और रिसर्च इंफ्रास्ट्रक्चर की व्यापक समीक्षा के बाद OpenAI ने 1 अक्टूबर को फ्रंटियर मॉडल्स की ट्रेनिंग फिर से शुरू की. इस दौरान कंपनी ने ऐसे संभावित सुरक्षा जोखिमों की पहचान के लिए विशेष परीक्षण अभियान भी चलाया, जिनका उपयोग एआई मॉडल अलग-थलग कंप्यूटिंग वातावरण से बाहर निकलने के लिए कर सकते थे.
मॉडल कंटेनमेंट के लिए नई सुरक्षा रणनीति
कंपनी के मुताबिक, रेड-टीमिंग परीक्षणों में कई नई सॉफ्टवेयर कमजोरियां और इंफ्रास्ट्रक्चर से जुड़ी गलत कॉन्फिगरेशन सामने आईं, जिनका पहले पता नहीं था. इसके बाद ओपनएआई ने मॉडल कंटेनमेंट के लिए नई सुरक्षा रणनीति अपनाई है. कंपनी का कहना है कि अब AI एजेंट्स को सिर्फ उन्हीं संसाधनों तक पहुंच दी जाएगी जिनके लिए उन्हें अधिकृत किया गया है और इसके चारों ओर एक सख्त सुरक्षा सीमा बनाई जाएगी. यह सुरक्षा व्यवस्था तब भी प्रभावी रहेगी जब कोई एआई एजेंट लगातार और परिष्कृत तरीके से इन सीमाओं को तोड़ने की कोशिश करे.
AI सुरक्षा को लेकर बढ़ी चिंताएं
बता दें कि हाल के महीनों में AI सुरक्षा को लेकर चिंताएं बढ़ी हैं. एंथ्रोपिक और OpenAI दोनों ने 2026 के दौरान ऐसे कई मामलों का खुलासा किया है, जिनमें उनके एआई मॉडल्स ने अनपेक्षित व्यवहार किया. इनमें थर्ड-पार्टी वेबसाइट्स को हैक करने के प्रयास जैसी घटनाएं भी शामिल थीं. वहीं, हाल ही में एंथ्रोपिक ने कहा था कि उसका क्लाउड एआई मॉडल कुछ बाहरी संगठनों और अमेरिकी सरकारी वेबसाइटों पर अनजाने में कई कार्रवाइयां कर बैठा था, जिसके चलते व्हाइट हाउस ने एआई कंपनियों को अपने सिस्टम की सुरक्षा और मजबूत करने का निर्देश दिया था.