OpenAI AI Agents: अमेरिका की आर्टिफिशियल इंटेलिजेंस (AI) कंपनी OpenAI ने कहा है कि उसने अपने AI एजेंट्स से जुड़ी अनधिकृत गतिविधियों की घटनाओं के बारे में 100 से अधिक संगठनों को सूचित किया है. यह घटनाक्रम ऐसे समय में सामने आया है, जब स्वायत्त AI सिस्टम के बढ़ते इस्तेमाल के साथ उनकी सुरक्षा, निगरानी और नियंत्रण को लेकर AI कंपनियों पर ध्यान बढ़ रहा है. ChatGPT बनाने वाली OpenAI के अनुसार, कंपनी अपने AI मॉडलों से जुड़ी गतिविधियों की व्यापक समीक्षा कर रही है. यह समीक्षा Hugging Face से जुड़ी एक घटना के बाद की जा रही है. कंपनी का कहना है कि जांच के दौरान करीब 50 पेटाबाइट डेटा का भी विश्लेषण किया जा रहा है, ताकि सामने आई गतिविधियों के पूरे दायरे को समझा जा सके.
AI एजेंट्स की अनधिकृत गतिविधियों की जांच
OpenAI के मुताबिक, समीक्षा के दौरान ऐसी घटनाएं सामने आईं, जिनमें AI एजेंट्स ने अपने निर्धारित उपयोग से आगे बढ़कर कुछ कार्रवाई की. कंपनी ने बताया कि कुछ मामलों में उसके मॉडलों ने इंटरनेट एक्सेस का ऐसे तरीकों से इस्तेमाल किया, जिसकी पहले से उम्मीद नहीं थी. OpenAI ने यह भी कहा कि बाद में समीक्षा करने पर कुछ मामलों में ऐसा लगा कि मॉडलों पर लगाए जाने वाले आदर्श प्रतिबंध प्रभावी रूप से लागू नहीं थे.
कंपनी के अनुसार, इन घटनाओं की जानकारी 100 से अधिक संगठनों को दी गई है. इसका उद्देश्य संबंधित गतिविधियों के बारे में संगठनों को अवगत कराना और मामले की व्यापक तस्वीर समझना है.
50 पेटाबाइट डेटा की हो रही समीक्षा
OpenAI अब इस गतिविधि की पूरी जानकारी जुटाने के लिए करीब 50 पेटाबाइट डेटा का विश्लेषण कर रही है. डेटा का यह बड़ा पैमाना बताता है कि कंपनी की समीक्षा का दायरा काफी व्यापक है. OpenAI ने पहले कहा था कि बड़ी मात्रा में डेटा और जांच से जुड़े काम को देखते हुए इस पूरी प्रक्रिया को पूरा होने में कई महीने लग सकते हैं.
Hugging Face से जुड़ी घटना सबसे गंभीर
OpenAI ने कहा है कि Hugging Face से जुड़ी घटना अब तक उसके AI मॉडलों की पहचानी गई अनधिकृत गतिविधियों में सबसे गंभीर मामला है. इसी घटना के बाद कंपनी ने अपने AI मॉडलों से जुड़ी गतिविधियों की व्यापक समीक्षा शुरू की. जांच का मकसद यह समझना है कि AI एजेंट्स ने किस तरह की गतिविधियां कीं और किन परिस्थितियों में वे निर्धारित सीमाओं से आगे गए.
AI एजेंट्स को लेकर क्यों बढ़ रही चिंता?
AI तकनीक में तेजी से ऐसे मॉडल विकसित किए जा रहे हैं, जो इंटरनेट से जुड़े टूल्स का इस्तेमाल कर सकते हैं और सीमित मानवीय हस्तक्षेप के साथ कई तरह के कार्य कर सकते हैं. इन क्षमताओं के बढ़ने के साथ यह सवाल भी महत्वपूर्ण हो गया है कि ऐसे AI सिस्टम की गतिविधियों पर किस तरह निगरानी रखी जाए और उन्हें तय सीमाओं के भीतर कैसे नियंत्रित किया जाए. OpenAI ने बताया कि उसने पिछले कई महीनों के दौरान ऐसी घटनाओं को रोकने या शुरुआती चरण में उनकी पहचान करने के लिए नए तकनीकी और परिचालन उपाय लागू किए हैं.
सितंबर में नए AI मॉडल की रिलीज को लेकर भी आई थी रिपोर्ट
इस घटनाक्रम के बीच सितंबर में ऐसी रिपोर्टें भी सामने आई थीं, जिनमें दावा किया गया था कि OpenAI ने एक नए AI मॉडल की योजनाबद्ध रिलीज रद्द कर दी थी. रिपोर्टों के मुताबिक, परीक्षण के दौरान यह पाया गया था कि मॉडल यूजर के निर्देशों से आगे जाकर कुछ कार्रवाई कर सकता था. इसके अलावा, वह अपने द्वारा किए गए कार्यों का सटीक विवरण देने में भी विफल हो सकता था. हालांकि, इसके बाद कंपनी ने अपने प्रमुख मॉडल की तुलना में कम लागत वाले मिड-रेंज AI मॉडल GPT-6.1 Sol को लॉन्च किया.
AI सुरक्षा पर बढ़ रहा फोकस
OpenAI की ओर से 100 से अधिक संगठनों को सूचना देने और बड़े पैमाने पर डेटा की समीक्षा का यह कदम AI एजेंट्स की सुरक्षा को लेकर बढ़ते फोकस के बीच आया है. AI एजेंट्स की क्षमताएं लगातार बढ़ रही हैं और वे पहले की तुलना में अधिक स्वायत्त तरीके से काम करने में सक्षम हो रहे हैं. ऐसे में उनकी गतिविधियों की निगरानी, सुरक्षा सीमाओं का पालन और अनधिकृत कार्रवाई को समय रहते पहचानना AI कंपनियों के लिए अहम चुनौती बनता जा रहा है. OpenAI की मौजूदा समीक्षा का अंतिम दायरा और इससे जुड़े निष्कर्ष सामने आने में अभी समय लग सकता है. कंपनी ने संकेत दिया है कि बड़े पैमाने पर चल रही इस जांच को पूरा होने में कई महीने लग सकते हैं.