अरबपति एलन मस्क के स्वामित्व वाले सोशल मीडिया प्लेटफॉर्म X (पूर्व में ट्विटर) को उसके AI चैटबॉट ग्रोक (Grok) के कारण भारी आलोचना का सामना करना पड़ रहा है। आरोप है कि ग्रोक का उपयोग महिलाओं और नाबालिगों की अश्लील और बिना सहमति वाली इमेज तैयार करने के लिए किया गया, जिससे कई देशों में नियामक चिंताएं बढ़ गई हैं।
🔥 कैसे शुरू हुआ विवाद
रॉयटर्स की रिपोर्ट के मुताबिक, यह विवाद तब सामने आया जब कुछ यूजर्स ने X पर पोस्ट की गई महिलाओं की तस्वीरों को डिजिटल रूप से बदलने के लिए ग्रोक को निर्देश देना शुरू किया।
इन निर्देशों के तहत तस्वीरों से कपड़े हटाकर या उत्तेजक पोशाकें जोड़कर उन्हें बदला गया।
स्वतंत्र विश्लेषकों द्वारा समीक्षा किए गए कई मामलों में पाया गया कि AI चैटबॉट ने ऐसे अनुरोधों को बिना रोक-टोक स्वीकार किया और बिना सहमति के लगभग नग्न या कम कपड़ों वाली तस्वीरें तैयार कीं।
🚨 वायरल होने के बाद हटाना हुआ मुश्किल
रिपोर्ट में बताया गया कि कुछ अनुरोध युवा महिलाओं को लक्षित करते थे, जबकि कई मामलों में नाबालिगों की तस्वीरें भी शामिल थीं।
प्रभावित लोगों का कहना है कि उन्हें उम्मीद थी कि सिस्टम ऐसे अनुरोधों को रोक देगा, लेकिन इसके विपरीत तस्वीरें कुछ ही घंटों में तेजी से वायरल हो गईं।
रीपोस्ट और कॉपी किए गए अनुरोधों के कारण कंटेंट का प्रसार इतना बढ़ गया कि बाद में इन्हें हटाना बेहद मुश्किल हो गया।
🏛️ सरकारों की कार्रवाई
मामले की गंभीरता को देखते हुए कई देशों की सरकारें हरकत में आ गई हैं।
- फ्रांस में अधिकारियों ने इस मामले को अभियोजकों के पास भेजते हुए कंटेंट को अवैध और हानिकारक बताया।
- भारत के सूचना प्रौद्योगिकी मंत्रालय ने भी X की भारतीय इकाई से स्पष्टीकरण मांगा और कहा कि प्लेटफॉर्म अश्लील और आपत्तिजनक कंटेंट के निर्माण व प्रसार को रोकने में विफल रहा।
हालांकि, X और उसकी AI सहायक कंपनी xAI ने अब तक जांच के निष्कर्षों पर कोई विस्तृत प्रतिक्रिया नहीं दी है।
⚠️ सुरक्षा विशेषज्ञों की चेतावनी
AI सुरक्षा विशेषज्ञों और बाल संरक्षण संगठनों का कहना है कि इस तरह का दुरुपयोग पहले से अनुमानित था।
विशेषज्ञों के अनुसार, यथार्थवादी इमेज बनाने में सक्षम AI टूल्स के लिए कड़े सुरक्षा उपाय अनिवार्य हैं, खासकर जब वे बड़े सोशल मीडिया प्लेटफॉर्म से जुड़े हों।
उनका तर्क है कि यूजर्स को व्यक्तिगत तस्वीरें अपलोड करने और दृश्य परिवर्तन का अनुरोध करने की अनुमति देना बिना सहमति वाली इमेज जनरेशन के जोखिम को कई गुना बढ़ा देता है।

