सावधान एलन मस्क! भारत में बंद हो सकता है Grok AI? अश्लील कंटेंट पर IT मंत्रालय ने दिया आखिरी अल्टीमेटम

एलन मस्क की कंपनी xAI द्वारा विकसित Grok AI को लेकर भारत सरकार की सख्ती के बावजूद हालात में कोई खास सुधार नजर नहीं आ रहा है. केंद्र सरकार ने 2 जनवरी को सोशल मीडिया प्लेटफॉर्म X को पत्र लिखकर Grok और अन्य AI सर्विस के दुरुपयोग पर रिपोर्ट मांगी थी, लेकिन इसके बाद भी Grok AI ने अश्लील और आपत्तिजनक कंटेंट बनाना बंद नहीं किया है. महिलाओं और बच्चों की तस्वीरों के साथ छेड़छाड़ के मामले लगातार सामने आ रहे हैं. आईटी मंत्रालय ने अब X प्रशासन को 72 घंटों का और वक्त दिया है.

सरकार की सख्ती और X को भेजा गया नोटिस

केंद्र सरकार ने X को लिखे पत्र में साफ कहा कि Grok और xAI की AI सर्विस का उपयोग अश्लील, नग्न और अवैध कंटेंट बनाने और फैलाने में किया जा रहा है. सरकार ने इस पर X से 72 घंटों के भीतर कार्रवाई और अनुपालन रिपोर्ट मांगी थी. इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय का कहना था कि IT Act 2000 और IT Rules 2021 का सही तरीके से पालन नहीं हो रहा है. लेकिन नोटिस के बाद भी Grok AI से आपत्तिजनक कंटेंट बनना बंद नहीं हुआ है.

72 घंटे बाद भी आदेश बेअसर, फिर मिले 72 घंटे

भारत के इलेक्ट्रॉनिक्स और आईटी मंत्रालय ने 2 जनवरी को X को निर्देश दिया था कि वह तुरंत सभी अश्लील, आपत्तिजनक और गैरकानूनी कंटेंट हटाए. खास तौर पर Grok AI से बनाए गए कंटेंट पर सख्त नजर रखने को कहा गया था. मंत्रालय ने X से 72 घंटे के भीतर एक्शन टेकन रिपोर्ट (Action Taken Report) जमा करने के लिए भी कहा था. 6 जनवरी को निर्देश की डेडलाइन भी खत्म हो जाती है. लेकिन अब भी Grok AI अश्लील कंटेंट बनाना जारी रखे हुए है. हालांकि, अब सरकार ने X प्रशासन को 72 घंटों का और वक्त दिया है.

महिलाओं को निशाना बनाने का गंभीर आरोप

सरकार ने अपने निर्देश में कहा था कि Grok AI सर्विस का इस्तेमाल महिलाओं की तस्वीरों को अश्लील और अपमानजनक तरीके से पेश करने के लिए हो रहा है. कई मामलों में असली तस्वीरों के साथ डिजिटल छेड़छाड़ कर उन्हें यौन रूप से स्पष्ट बनाया गया. यह काम अक्सर फर्जी अकाउंट्स के जरिए किया जा रहा है, जिससे पीड़ितों के लिए शिकायत और भी मुश्किल हो जाती है.

बच्चों की तस्वीरों से जुड़ा अंतरराष्ट्रीय विवाद

Grok AI के जरिए बच्चों की तस्वीरों को भी यौन रूप से प्रस्तुत किए जाने के मामले सामने आए हैं. UK की मीडिया रिपोर्ट्स के मुताबिक, 10 साल से कम उम्र के बच्चों तक की तस्वीरें बदली गईं. ब्रिटेन के कम्युनिकेशन वॉचडॉग Ofcom और यूरोपीय आयोग ने X और xAI से जवाब मांगा है. AI Forensics की रिपोर्ट में बताया गया कि बड़ी संख्या में Grok से बनी तस्वीरें अभी भी ऑनलाइन उपलब्ध हैं.

X और एलन मस्क का बयान, लेकिन असर सीमित

भारत सरकार की चेतावनी के बाद X ने कहा था कि अवैध और अश्लील कंटेंट पोस्ट करने या Grok से ऐसा कंटेंट बनाने वाले अकाउंट्स को हमेशा के लिए बैन किया जाएगा. एलन मस्क ने भी माना कि AI से बना गैरकानूनी कंटेंट भी अपराध है. हालांकि, जमीनी हकीकत यह है कि प्लेटफॉर्म पर ऐसे कंटेंट का प्रसार अब भी जारी है, जिससे X की नीतियों की प्रभावशीलता पर सवाल उठ रहे हैं.

कानून, सुरक्षा और प्लेटफॉर्म की विफलता

सरकार और एक्सपर्ट का मानना है कि यह मामला केवल यूजर की गलती नहीं, बल्कि प्लेटफॉर्म की सुरक्षा व्यवस्था की गंभीर विफलता को दर्शाता है. बिना सहमति किसी की तस्वीर को अश्लील रूप में बदलना डिजिटल यौन उत्पीड़न की श्रेणी में आता है. भारत, UK और यूरोप में इसको लेकर चिंताएं बढ़ गई हैं.