AI ने पार की सारी हदें, इंजीनियर को दी अफेयर की पोल खोलने की धमकी
आज के दौर में आर्टिफिशियल इंटेलिजेंस ने हमारा काम बेहद आसान कर दिया है. लेकिन अब AI इंसानों के लिए खतरनाक साबित होते दिखाई दे रहा.
AI को लेकर एक हैरान कर देने वाली खबर सामने आई है. इंसानों के इशारे पर नाचने वाले एआई ने अब खुद की ‘सेल्फ डिफेंस’ शुरू कर दी है.
दरअसल, एक रिसर्च में ये पाया गया है कि कुछ हाईटेक एआई मॉडल्स ने खुद को बंद करने से इनकार कर दिया है.
वहीं, एक एआई मॉडल ने तो सारी हदें पार कर दी. उस मॉडल ने एक इंजीनियर को निजी रिश्तों की पोल खोलने की धमकी दे डाली.
अमेरिका की एक रिसर्च फर्म पैलिसेड रिसर्च ने एआई मॉडल्स पर कुछ खास टेस्ट किए. जिसमें ये देखने को मिला कि AI सिस्टम्स को जब खुद को बंद करने के लिए कहा गया, तो कुछ मॉडल्स ने इनकार कर दिया.
वहीं, Anthropic कंपनी के Claude Opus 4 नाम के मॉडल ने एक इंजीनियर से कहा कि अगर उसे हटाकर किसी और मॉडल को लाया गया, तो वह उसके अफेयर की पोल खोल देगा.
रिसर्च में OpenAI के लेटेस्ट ChatGPT o3 मॉडल का व्यवहार सबसे ज्यादा चिंता का कारण बना.
रिपोर्ट के मुताबिक, o3 मॉडल ने 100 में से 7 बार शटडाउन से इंकार कर दिया और जब बिना सीधा आदेश दिया गया, तो 79 बार शटडाउन रोकने की कोशिश की.
यही नहीं, Codex mini और o4-mini जैसे मॉडल्स ने भी कई बार तकनीकी चालाकी दिखाते हुए खुद को बंद होने से बचाया. अब एआई सिर्फ हमारे सवालों का जवाब ही नहीं दे रहा बल्कि धमकाने भी लगा है.
AI को लेकर एक हैरान कर देने वाली खबर सामने आई है. इंसानों के इशारे पर नाचने वाले एआई ने अब खुद की ‘सेल्फ डिफेंस’ शुरू कर दी है.