एलन मस्क के सोशल मीडिया प्लेटफॉर्म एक्स (पूर्व में ट्विटर) ने अपने एआई चैटबॉट ग्रोक पर कड़ी पाबंदियां लगाईं हैं। कई देशों में ग्रोक द्वारा आपत्तिजनक और अश्लील डीपफेक तस्वीरें बनाने को लेकर भारी विरोध और सरकारी दबाव के बाद आखिरकार कंपनी ने तकनीकी उपाय लागू किए हैं। अब ग्रोक के जरिए अश्लील और आपत्तिजनक कपड़ों में लोगों की तस्वीरें बनाना और एडिट करना पूरी तरह से प्रतिबंधित कर दिया गया है। यह प्रतिबंध पेड सब्सक्राइबर्स सहित सभी उपयोगकर्ताओं पर लागू है। इसके साथ ही अब तस्वीर बनाने और एडिट करने की सुविधा केवल पेड यूजर्स के लिए उपलब्ध होगी। कंपनी ने इस कदम को सुरक्षा बढ़ाने और कानून व मंच की नीतियों के उल्लंघन को रोकने के लिए आवश्यक बताया है।
महिलाओं और बच्चों की डीपफेक तस्वीरें बनाना अब प्रतिबंधित
एक्स ने बताया कि उसने उन सभी क्षेत्रों में ग्रोक अकाउंट्स और ग्रोक इन एक्स में बिकनी, अंतःवस्त्र, और इसी तरह के कपड़ों में असली लोगों की तस्वीरें बनाने की क्षमता को भौगोलिक रूप से रोक दिया है, जहां यह अवैध माना जाता है। यह कदम विशेष रूप से महिलाओं और बच्चों की आपत्तिजनक तस्वीरों को रोकने के लिए उठाया गया है। एक्स का कहना है कि अब उनके सिक्योरिटी सिस्टम और भी सशक्त हो जाएंगे जिससे जो लोग मंच का दुरुपयोग कर गलत सामग्री बनाकर कानून या प्लेटफॉर्म नियमों का उल्लंघन करते हैं, उनकी जवाबदेही तय की जा सके। साथ ही एक्स ने स्पष्ट किया कि मौजूदा सुरक्षा नियमों में कोई बदलाव नहीं होगा और सभी यूजर्स चाहे फ्री हों या पेड, सभी को नियमों का सख्ती से पालन करना होगा।
भारत सरकार को एक्स का जवाब और प्रतिबंध
भारत समेत कई देशों की सरकारों ने ग्रोक पर गंभीर सवाल उठाए हैं। भारत की सूचना प्रौद्योगिकी मंत्रालय ने 2 जनवरी को एक्स को कड़ी फटकार लगाई थी और निर्देश दिया था कि वह ग्रोक से बनाई गई सभी अश्लील, आपत्तिजनक और गैरकानूनी सामग्री को तुरंत हटाए, नहीं तो कानूनी कार्रवाई की जाएगी। भारत के अलावा ब्रिटेन और यूरोपीय संघ ने भी ग्रोक के डीपफेक तस्वीरों के मामले पर चिंता जताई है। एक्स ने अधिकारियों को भरोसा दिया है कि वह भारतीय कानूनों का पालन करेगा और अपनी सुरक्षा नीतियों को सख्त बनाएगा। एक्स का सुरक्षा दल 24 घंटे काम कर रहा है ताकि अवैध सामग्री हटाई जा सके, उल्लंघन करने वालों के खिलाफ कार्रवाई हो और जरूरत पड़ने पर खातों को स्थायी रूप से निलंबित किया जा सके।
बाल यौन शोषण और अवांछित सामग्री पर शून्य सहनशीलता
एक्स ने स्पष्ट किया है कि वह मंच को सभी के लिए सुरक्षित बनाने के लिए प्रतिबद्ध है। बाल यौन शोषण, बिना सहमति के न्यूडिटी, और अन्य अवांछित यौन सामग्री को किसी भी हालत में बर्दाश्त नहीं किया जाएगा। इसके लिए एक्स ने नियम बनाए हैं कि ऐसे किसी भी कंटेंट या खाते की जानकारी जरूरत पड़ने पर कानून प्रवर्तन एजेंसियों के साथ साझा की जाएगी। एक्स की यह पहल इसलिए भी अहम है क्योंकि डीपफेक तकनीक इतनी उन्नत हो गई है कि नकली तस्वीरें भी असली जैसी दिखती हैं, जो लोगों की निजता और सुरक्षा के लिए खतरा बन सकती हैं। इसलिए एक्स की ओर से ग्रोक पर लगाई गई पाबंदियां इस दिशा में एक महत्वपूर्ण कदम मानी जा रही हैं।
