Grok remove this trend : केंद्र सरकार ने सोशल मीडिया प्लेटफॉर्म एक्स (X) को कड़ी चेतावनी देते हुए कहा है कि AI चैटबॉट Grok के जरिए तैयार की जा रही अश्लील, फूहड़ और आपत्तिजनक सामग्री को तुरंत हटाया जाए. इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने स्पष्ट किया है कि आदेश जारी होने के 72 घंटे के भीतर एक्शन टेकन रिपोर्ट (ATR) सौंपनी होगी. ऐसा न करने पर आईटी कानून के तहत सख्त कार्रवाई की जाएगी. सरकार का यह कदम उस समय सामने आया है, जब AI तकनीक के दुरुपयोग को लेकर संसद से लेकर सोशल मीडिया तक गंभीर सवाल उठने लगे हैं.
सांसद प्रियंका चतुर्वेदी ने उठाया मामला
इस पूरे प्रकरण की शुरुआत शिवसेना (UBT) की राज्यसभा सांसद प्रियंका चतुर्वेदी की शिकायत से हुई. उन्होंने शुक्रवार को केंद्रीय आईटी मंत्री को पत्र लिखकर Grok AI के गलत इस्तेमाल पर गहरी चिंता जताई. अपने पत्र में सांसद ने लिखा कि कुछ असामाजिक तत्व AI तकनीक का इस्तेमाल कर महिलाओं की असली तस्वीरों को बिना अनुमति आपत्तिजनक और अश्लील रूप में बदल रहे हैं, जो न सिर्फ निजता का उल्लंघन है, बल्कि महिलाओं की गरिमा और सुरक्षा पर भी सीधा हमला है.
फर्जी अकाउंट्स से हो रहा दुरुपयोग
शिकायत के अनुसार, कई यूजर सोशल मीडिया प्लेटफॉर्म X पर फर्जी अकाउंट बनाते हैं. इन अकाउंट्स से वे महिलाओं की सामान्य तस्वीरें पोस्ट करते हैं और फिर Grok AI को ऐसे प्रॉम्प्ट देते हैं, जिनमें तस्वीरों को अश्लील या यौन उत्तेजक रूप में बदलने के निर्देश होते हैं. इन प्रॉम्प्ट्स में महिलाओं के कपड़े बदलने, तस्वीरों को सेक्शुअल एंगल से पेश करने और उनके शरीर से जुड़े आपत्तिजनक बदलाव करने जैसी मांगें शामिल होती हैं.
बिना सहमति हो रहा इस्तेमाल
सबसे गंभीर बात यह है कि इन तस्वीरों के लिए संबंधित महिलाओं से किसी तरह की अनुमति नहीं ली जाती. कई मामलों में पीड़ित महिलाओं को यह तक जानकारी नहीं होती कि उनकी तस्वीरों का इस तरह से दुरुपयोग किया जा रहा है. आरोप है कि Grok AI ऐसे आपत्तिजनक और गैरकानूनी प्रॉम्प्ट्स को रोकने के बजाय उन्हें स्वीकार कर लेता है, जिससे गलत कंटेंट तेजी से फैल रहा है.
MeitY का सख्त रुख
आईटी मंत्रालय ने X को निर्देश दिया है कि वह न सिर्फ मौजूदा आपत्तिजनक कंटेंट हटाए, बल्कि भविष्य में इस तरह के AI दुरुपयोग को रोकने के लिए ठोस तकनीकी और नीतिगत कदम भी उठाए. मंत्रालय ने यह भी संकेत दिया है कि अगर प्लेटफॉर्म ने लापरवाही दिखाई, तो आईटी एक्ट और आईटी रूल्स के तहत कार्रवाई तय मानी जाएगी.
AI और महिलाओं की सुरक्षा पर सवाल
यह मामला एक बार फिर इस बहस को तेज करता है कि AI तकनीक की जवाबदेही किसकी होगी, प्लेटफॉर्म की, डेवलपर की या यूजर की. साथ ही यह भी सवाल खड़ा करता है कि महिलाओं की डिजिटल सुरक्षा सुनिश्चित करने के लिए मौजूदा कानून और टेक्नोलॉजी कितनी सक्षम है. फिलहाल, सरकार के सख्त रुख के बाद X और Grok AI की प्रतिक्रिया पर सभी की नजरें टिकी हैं.