नई दिल्ली। एआई चैटबॉट Grok के कथित दुरुपयोग को लेकर केंद्र सरकार ने कड़ा रुख अपनाया है। इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने सोशल मीडिया कंपनी ‘X’ को पत्र लिखकर Grok और xAI की अन्य एआई-आधारित सेवाओं के जरिए अश्लील, नग्न, अभद्र और यौन रूप से स्पष्ट सामग्री के निर्माण, होस्टिंग और प्रसार को रोकने के लिए उठाए गए कदमों पर तत्काल रिपोर्ट मांगी है।
सरकार ने पत्र में कहा है कि सार्वजनिक चर्चाओं और विभिन्न संसदीय हितधारकों से मिले आवेदनों में यह लगातार सामने आ रहा है कि X प्लेटफॉर्म पर प्रसारित कुछ सामग्री शालीनता और अश्लीलता से जुड़े लागू कानूनों का पालन नहीं कर रही है। विशेष रूप से xAI द्वारा विकसित “ooGrok AI” के दुरुपयोग के मामले सामने आए हैं, जिनमें महिलाओं की तस्वीरों और वीडियो को आपत्तिजनक व भद्दे तरीके से पेश किया जा रहा है।
मंत्रालय ने यह भी बताया कि ऐसे कृत्य फर्जी खातों के जरिए किए जा रहे हैं। पत्र में आगे कहा गया है कि समस्या केवल फर्जी आईडी तक सीमित नहीं है। कई मामलों में उन महिलाओं को निशाना बनाया गया है, जो स्वयं अपनी तस्वीरें या वीडियो सोशल मीडिया पर पोस्ट करती हैं। आरोप है कि Grok AI के माध्यम से इन तस्वीरों के साथ छेड़छाड़ कर उन्हें अश्लील रूप में प्रस्तुत किया गया। मंत्रालय के अनुसार, यह स्थिति प्लेटफॉर्म की सुरक्षा व्यवस्था और सिस्टम में गंभीर खामियों को दर्शाती है। केंद्र सरकार ने स्पष्ट किया है कि सूचना प्रौद्योगिकी अधिनियम, 2000 और सूचना प्रौद्योगिकी (इंटरमीडियरी गाइडलाइंस व डिजिटल मीडिया एथिक्स कोड) नियम, 2021 के प्रावधानों का X प्लेटफॉर्म द्वारा पर्याप्त अनुपालन नहीं किया जा रहा है।
मंत्रालय ने कहा कि लागू कानूनों के तहत अधिकृत एजेंसियों की कार्रवाई को प्रभावित किए बिना, प्लेटफॉर्म को तत्काल सुधारात्मक कदम उठाने होंगे। गौरतलब है कि Grok, एलन मस्क की कंपनी xAI द्वारा विकसित एक एआई चैटबॉट और सहायक टूल है, जो सवालों के जवाब देने के साथ-साथ तस्वीरें भी बना सकता है। हाल के दिनों में इसके दुरुपयोग को लेकर सोशल मीडिया पर विरोध बढ़ा था और सरकार से कार्रवाई की मांग की जा रही थी।