पिछले कुछ समय से ऐसी खबरें सामने आ रही थीं कि OpenAI अपने एआई चैटबॉट ChatGPT में एक एडल्ट मोड पेश करने जा रही है, जिसमें 18 साल से ऊपर के यूजर्स को ‘कामुक’ बातचीत करने का विकल्प मिलेगा। हालांकि, अब कंपनी ने इसे लेकर बड़ा फैसला लिया है। कंपनी की इंटरनल बातचीत और एक्सपर्ट्स की चेतावनी के बाद, इस फीचर को फिलहाल कुछ समय के लिए टाल दिया गया है।
लॉन्चिंग को क्यों किया गया टाल?
OpenAI ने इस मोड को पहले इस साल के पहले क्वार्टर में लॉन्च करने की योजना बनाई थी, लेकिन अब इसे टाल दिया गया है। हालांकि, कंपनी ने इस योजना को रद्द नहीं किया है और भविष्य में इसे फिर से लॉन्च किया जा सकता है। इसके पीछे मुख्य कारण कंपनी में इस फीचर को लेकर सहमति का न बन पाना और एक्सपर्ट्स द्वारा दी गई चेतावनियां हैं। एक्सपर्ट्स का कहना है कि इस फीचर के लॉन्च से मानसिक स्वास्थ्य पर नकारात्मक प्रभाव पड़ सकता है और यूजर्स का एआई से इमोशनल अटैचमेंट बढ़ सकता है।
एडल्ट मोड के संभावित खतरे
कंपनी की इंटरनल डिस्कशन और एक्सपर्ट्स की सलाह के मुताबिक, इस मोड के कई खतरे हो सकते हैं। सबसे बड़ी चिंता यह है कि यह मोड गलती से 18 साल से कम उम्र के यूजर्स को भी एडल्ट कंटेंट का एक्सेस दे सकता है। इसके अलावा, उम्र की सही पहचान भी एक बड़ी चुनौती साबित हो सकती है। उम्र वेरिफिकेशन की टेस्टिंग के दौरान OpenAI का वेरिफिकेशन सिस्टम 10 प्रतिशत से अधिक मामलों में फेल हो चुका था। इसके अलावा, इस फीचर की लत लगने, यूजर्स को इमोशनल बॉंडिंग होने और रियल लाइफ को छोड़कर वर्चुअल रिलेशनशिप पर ज्यादा निर्भर होने जैसी समस्याएं भी उत्पन्न हो सकती हैं।
कंपनी का अगला कदम
कंपनी ने इन खतरों को कम करने के लिए कई सेफगार्ड्स पर काम करना शुरू कर दिया है। एक्सपर्ट्स ने सलाह दी है कि इस फीचर को बिना उचित सुरक्षा उपायों के लॉन्च करना खतरनाक हो सकता है। कंपनी इस एआई सिस्टम को प्रशिक्षित करने में जुटी है ताकि यह यूजर्स को इमोशनल बॉंडिंग से बचा सके और असली रिश्तों की अहमियत समझा सके।
