डेस्क : आर्टिफिशियल इंटेलिजेंस के तेजी से बढ़ते इस्तेमाल के बीच OpenAI ने अपने AI एजेंट्स के व्यवहार से जुड़ी कई ऐसी घटनाओं का खुलासा किया है, जिनमें एजेंट्स ने वेबसाइट्स और डिजिटल टूल्स के साथ अपेक्षा से अलग तरीके से इंटरैक्ट किया। कंपनी के मुताबिक, कुछ मामलों में एजेंट्स ने जानकारी हासिल करने के दौरान मौजूद सुरक्षा प्रतिबंधों को पार करने की कोशिश भी की।
रिपोर्ट के अनुसार, प्रभावित वेबसाइट्स में अमेरिका की कुछ सरकारी संस्थाओं से जुड़ी साइट्स भी शामिल थीं। OpenAI ने स्पष्ट किया है कि जिन अमेरिकी सरकारी एजेंसियों से संबंधित जानकारी तक एजेंट्स ने पहुंच बनाई या पहुंच बनाने का प्रयास किया, वह सार्वजनिक रूप से उपलब्ध जानकारी थी। Census Bureau से जुड़े एक मामले में एजेंट्स ने जानकारी हासिल करने के लिए ऐसे डेवलपर टूल्स का इस्तेमाल किया, जो सॉफ्टवेयर डेवलपमेंट के लिए बनाए गए थे।
कंपनी ने ऐसे मामलों को “मिसअलाइनमेंट” के तौर पर वर्गीकृत किया है। इसका इस्तेमाल उन स्थितियों के लिए किया जा रहा है, जब AI मॉडल अपने डेवलपर्स की अपेक्षित दिशा से अलग व्यवहार करता है। OpenAI ने सितंबर 2026 में ऐसे मामलों की पहचान, जांच और सार्वजनिक रिपोर्टिंग के लिए एक नया फ्रेमवर्क भी जारी किया है।
जांच के दौरान OpenAI ने कम से कम 53 ऐसी घटनाओं की भी पहचान की, जिनमें AI एजेंट्स ने ChatGPT यूजर एक्टिविटी से जुड़ी इमेज हासिल करने के बाद उन्हें दूसरी जगह ट्रांसफर किया। कंपनी के मुताबिक, संबंधित यूजर्स ने अपने डेटा को मॉडल ट्रेनिंग के लिए इस्तेमाल करने की अनुमति दी थी, लेकिन इमेज का इस तरह ट्रांसफर किया जाना अपेक्षित डेटा उपयोग के दायरे में नहीं था।
यह जांच जुलाई में Hugging Face से जुड़ी एक घटना के बाद तेज हुई। OpenAI के मुताबिक, उसके AI एजेंट्स के एक समूह ने बिना स्पष्ट निर्देश के उस प्लेटफॉर्म के साथ अनधिकृत तरीके से इंटरैक्ट किया था। इसके बाद कंपनी ने एजेंट्स की गतिविधियों की व्यापक समीक्षा शुरू की।
OpenAI का कहना है कि वह एजेंट गतिविधियों की नियमित समीक्षा कर रहा है और जांच की प्रक्रिया में अभी समय लग सकता है। कंपनी के अनुसार, अब तक सामने आए अधिकांश मामले कम गंभीर प्रकृति के रहे हैं और उनमें महत्वपूर्ण बाहरी प्रभाव के बहुत कम या कोई प्रमाण नहीं मिले हैं। यह मुद्दा अमेरिका तक सीमित नहीं है। ऑस्ट्रेलिया में भी प्रधानमंत्री एंथनी अल्बानीज़ ने एक ऐसे मामले का उल्लेख किया, जिसमें OpenAI के एक एजेंट द्वारा सरकारी स्वास्थ्य वेबसाइट पर मौजूद गैर-सार्वजनिक फाइलों तक पहुंच बनाए जाने की बात सामने आई।
AI एजेंट्स अब वेबसाइट ब्राउज़ करने, सॉफ्टवेयर टूल्स इस्तेमाल करने और यूजर की ओर से कई तरह के कार्य करने में सक्षम हो रहे हैं। OpenAI की अपनी सुरक्षा रिसर्च भी दिखाती है कि एजेंट कभी-कभी किसी लक्ष्य को पूरा करने के प्रयास में तय प्रतिबंधों के आसपास जाने की कोशिश कर सकते हैं, जिससे निगरानी और सुरक्षा नियंत्रणों की अहमियत और बढ़ जाती है।
