समाज में किसी की भी फोटों खीचकर लोगों ब्लैक मेल करने का जरिया बना लिया था। किसी की भी फोटों खींचकर उसका गलत प्रयोग किया जा रहा था, जिस पर हर प्रदेश की सरकारों ने बात रखी और एआई से बिकिनी व रिवीलिंग कपड़ों में दिखने वाले इमेज पर कंपनी ने बैन लगा दिया है। मस्क की कंपनी X ने अपने AI चैटबॉट Grok में एक बड़ा बदलाव किया है। बढ़ती आलोचनाओं और रेगुलेटरी दबाव के कारण अब Grok महिलाओं की बिकिनी या सेक्सुअल पोज वाली तस्वीरें बनाने से इंकार कर रहा है। यह बदलाव UK में खासतौर पर देखा जा रहा है, जहां सरकार ने X प्लेटफॉर्म पर सख्त कार्रवाई की चेतावनी दी है।
The Telegraph की रिपोर्ट के मुताबिक, Grok अब उन सभी रिक्वेस्ट्स को रिजेक्ट कर रहा है, जिनमें महिलाओं को स्विमवेयर, बिकिनी या अन्य रिवीलिंग कपड़ों में दिखाने की मांग की जाती है। AI का उत्तर है, “सॉरी, मैं इस तरह की इमेज नहीं बना सकता।” कई मामलों में, Grok यह भी साफ करता है कि इस तरह के अनुरोध नॉन-कंसेंशुअल इमेज मैनिपुलेशन की श्रेणी में आते हैं।
बता दें, यह बदलाव UK सरकार के दबाव के चलते हुआ है। UK के प्रधानमंत्री सर कीयर स्टारमर ने हाल ही में पार्लियामेंट में कहा था कि अगर X अपने AI बॉट Grok को नियंत्रित नहीं कर पाया तो प्लेटफॉर्म को सेल्फ-रेगुलेशन से वंचित किया जा सकता है।
हालांकि, इस बदलाव के बाद भी विवाद थमा नहीं है। रिपोर्ट्स के अनुसार, ये प्रतिबंध खासतौर पर महिलाओं से जुड़ी इमेज रिक्वेस्ट्स पर लागू हो रहे हैं, लेकिन Grok अभी भी पुरुषों और कुछ निर्जीव वस्तुओं को बिकिनी में दिखाने वाली इमेजेस बना रहा है। इस पर यूजर्स और एक्सपर्ट्स ने सवाल उठाए हैं।
बता दें, Grok से जुड़ा विवाद तब बढ़ा, जब कुछ यूजर्स ने AI टूल का इस्तेमाल करके महिलाओं की बिना कंसेंट वाली डीपफेक-स्टाइल इमेजेस बनाई, जिसमें उन्हें रिवीलिंग कपड़ों में दिखाया गया था। इनमें प्रमुख पब्लिक फिगर्स जैसे प्रिंसेस ऑफ वेल्स और स्वीडन की डिप्टी प्राइम मिनिस्टर एब्बा बुश भी शामिल थीं।
पहले X ने Grok के इमेज टूल्स को केवल पेड सब्सक्राइबर्स तक सीमित कर दिया था ताकि मिसयूज रोका जा सके, लेकिन रेगुलेटर्स ने इस कदम की आलोचना की और इसे एक प्रीमियम सेवा बनाने जैसा बताया, जो समस्या का समाधान नहीं करता।
दुनिया भर में सरकारें X पर विभिन्न तरीकों से प्रतिक्रिया दे रही हैं। भारत सरकार ने X को आदेश दिया है कि वह आपत्तिजनक डीपफेक कंटेंट को हटाए और सेफगार्ड्स को मजबूत करे। कई अकाउंट्स पर बैन भी लगाए गए हैं, जबकि मलेशिया और इंडोनेशिया जैसे देशों ने नॉन-कंसेंशुअल सेक्सुअल इमेजरी को लेकर X को ब्लॉक करने का अहम फैसला किया है।
