Grok पर अब AI से अश्लील तस्वीरें नहीं बनेंगी: सूत्रों का दावा—X ने गलती मानी, 3,500 कंटेंट ब्लॉक; 600 से ज्यादा अकाउंट डिलीट
दिल्ली। सोशल मीडिया प्लेटफॉर्म X ने कंटेंट मॉडरेशन को लेकर अपनी चूक स्वीकार करते हुए बड़ा कदम उठाया है। कंपनी ने साफ किया है कि अब उसके AI चैटबोट Grok के जरिए अश्लील और आपत्तिजनक तस्वीरें बनाने पर पूरी तरह रोक लगाई जाएगी। साथ ही X ने कहा है कि वह भारत के कानूनों और सरकारी दिशानिर्देशों का पूरी तरह पालन करेगा।
सरकारी सूत्रों के मुताबिक यह फैसला उस समय लिया गया, जब Grok से बनाए गए अश्लील कंटेंट के मामले सामने आए और सोशल मीडिया पर तेजी से वायरल हुए। X ने सरकार को जानकारी दी है कि अब तक 3,500 से ज्यादा आपत्तिजनक कंटेंट ब्लॉक किए जा चुके हैं, जबकि 600 से अधिक अकाउंट्स को स्थायी रूप से डिलीट किया गया है।
इस पूरे मामले को 2 जनवरी को शिवसेना (UBT) की राज्यसभा सांसद प्रियंका चतुर्वेदी ने उठाया था। उन्होंने IT मंत्री अश्विनी वैष्णव को पत्र लिखकर Grok के जरिए महिलाओं की तस्वीरों के गलत इस्तेमाल पर गंभीर चिंता जताई थी। इसके बाद केंद्र सरकार ने उसी दिन X को निर्देश दिया कि AI से बनाए जा रहे अश्लील और फूहड़ कंटेंट को तुरंत हटाया जाए, अन्यथा कानूनी कार्रवाई की जाएगी।
X ने अपने बयान में कहा कि भारत उनके लिए एक बड़ा और अहम बाजार है और यहां के नियमों का सम्मान करना उनकी प्राथमिकता है। कंपनी के अनुसार, यह कार्रवाई प्लेटफॉर्म पर कंटेंट मॉडरेशन को और सख्त बनाएगी।
हालांकि प्रियंका चतुर्वेदी ने आरोप लगाया है कि X ने Grok के जरिए अश्लील इमेज जेनरेशन को पूरी तरह बंद करने के बजाय इसे केवल पेड यूजर्स तक सीमित किया है। उन्होंने कहा कि इससे महिलाओं और बच्चों की तस्वीरों के दुरुपयोग का खतरा बना हुआ है और यह निंदनीय है।
इससे पहले X के मालिक इलॉन मस्क ने कहा था कि किसी टूल के गलत इस्तेमाल की जिम्मेदारी टूल की नहीं, बल्कि यूजर की होती है। लेकिन बढ़ते विवाद और सरकारी सख्ती के बाद अब X ने ठोस कार्रवाई का दावा किया है।
