एलन मस्क की कंपनी xAI द्वारा विकसित एआई चैटबॉट Grok के कथित दुरुपयोग को लेकर केंद्र सरकार ने कड़ा रुख अपनाया है। सरकार ने सोशल मीडिया कंपनी X को एक औपचारिक पत्र लिखकर Grok और xAI की अन्य एआई-आधारित सेवाओं के जरिए अश्लील, नग्न, अभद्र और यौन रूप से स्पष्ट सामग्री के निर्माण, प्रकाशन, प्रसारण और साझा किए जाने को रोकने के लिए की गई कार्रवाई की विस्तृत रिपोर्ट मांगी है।
सरकार ने स्पष्ट किया है कि इस तरह की सामग्री का प्रसार न केवल सामाजिक शालीनता के खिलाफ है, बल्कि यह लागू कानूनों का भी गंभीर उल्लंघन है।
Grok क्या है और क्यों विवादों में है
Grok, एलन मस्क की कंपनी xAI द्वारा विकसित एक एआई चैटबॉट और डिजिटल असिस्टेंट है, जो सवालों के जवाब देने के साथ-साथ तस्वीरें और विजुअल कंटेंट भी तैयार कर सकता है। हाल के दिनों में Grok के दुरुपयोग से जुड़े कई मामले सामने आए हैं, जिनमें इस टूल के जरिए महिलाओं की तस्वीरों से छेड़छाड़, आपत्तिजनक एडिटिंग और अश्लील प्रस्तुति किए जाने के आरोप लगे हैं।
इन घटनाओं को लेकर सोशल मीडिया पर व्यापक विरोध देखने को मिला था और कई लोगों ने सरकार से सख्त कार्रवाई की मांग की थी।
कानूनों के पालन में गंभीर चूक का आरोप
सरकार ने अपने पत्र में कहा है कि समय-समय पर सार्वजनिक चर्चाओं और विभिन्न संसदीय हितधारकों द्वारा यह मुद्दा उठाया गया है कि X प्लेटफॉर्म पर प्रसारित कुछ सामग्री शालीनता और अश्लीलता से संबंधित लागू कानूनों का पालन नहीं कर रही है।
फर्जी अकाउंट्स से हो रहा है दुरुपयोग
पत्र में विशेष रूप से उल्लेख किया गया है कि X प्लेटफॉर्म पर उपलब्ध “ooGrok AI” सेवा का दुरुपयोग फर्जी खातों के जरिए किया जा रहा है। इन अकाउंट्स का इस्तेमाल महिलाओं की अश्लील तस्वीरें और वीडियो अपमानजनक व भद्दे तरीके से पोस्ट करने के लिए किया जा रहा है, जो बेहद चिंताजनक है।
प्लेटफॉर्म की सुरक्षा व्यवस्था पर सवाल
सरकार ने कहा है कि मामला केवल फर्जी अकाउंट्स तक सीमित नहीं है। कई मामलों में उन महिलाओं को भी निशाना बनाया जा रहा है, जिन्होंने अपनी तस्वीरें या वीडियो स्वयं सोशल मीडिया पर साझा किए हैं। Grok AI के माध्यम से इन तस्वीरों के साथ छेड़छाड़ कर उन्हें अश्लील या आपत्तिजनक रूप में पेश किया जा रहा है।
सरकार के अनुसार, यह स्थिति प्लेटफॉर्म की कंटेंट मॉडरेशन, सुरक्षा उपायों और सिस्टम की गंभीर विफलता को दर्शाती है।
आईटी कानूनों का दिया गया हवाला
इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने पत्र में स्पष्ट किया है कि सूचना प्रौद्योगिकी अधिनियम, 2000 और सूचना प्रौद्योगिकी नियम, 2021 के तहत निर्धारित नियामक प्रावधानों का X प्लेटफॉर्म द्वारा पर्याप्त रूप से पालन नहीं किया जा रहा है।
सरकार ने जोर दिया है कि इस तरह की एआई सेवाओं का दुरुपयोग रोकना प्लेटफॉर्म की कानूनी जिम्मेदारी है और इस दिशा में तत्काल व ठोस कदम उठाए जाने चाहिए।
