कुआलालंपुर (मलेशिया), 12 जनवरी (एपी) मलेशिया और इंडोनेशिया एलन मस्क की कंपनी ‘एक्सएआई’ द्वारा विकसित कृत्रिम बुद्धिमत्ता (एआई) चैटबॉट ‘ग्रोक’ पर प्रतिबंध लगाने वाले दुनिया के पहले देश बन गए हैं। अधिकारियों का कहना है कि इस टूल का दुरुपयोग अश्लील और बिना सहमति के डीपफेक चित्र तैयार करने में किया जा रहा था।


मलेशिया और इंडोनेशिया के इस कदम से जनरेटिव एआई को लेकर वैश्विक चिंता झलकती है, क्योंकि ऐसे टूल वास्तविक जैसे दिखने वाले चित्र, आवाज और लिखित संदेश तैयार कर सकते हैं, जबकि मौजूदा सुरक्षा उपाय उनके दुरुपयोग को रोकने में नाकाम साबित हो रहे हैं।


मस्क के ही सोशल मीडिया मंच ‘एक्स’ के माध्यम से उपलब्ध ‘ग्रोक’ पर महिलाओं और बच्चों से जुड़े आपत्तिजनक और छेड़छाड़ वाले तैयार करने के आरोप लगे हैं।


दक्षिण-पूर्व एशिया के इन दोनों देशों के नियामकों ने कहा कि मौजूदा नियंत्रण उपाय नकली अश्लील सामग्री, खासकर महिलाओं और नाबालिगों से जुड़ी सामग्री के निर्माण और प्रसार को रोकने में असफल रहे हैं। इंडोनेशिया सरकार ने शनिवार को ‘ग्रोक’ तक पहुंच अस्थायी रूप से बंद की, जबकि मलेशिया ने रविवार को ऐसा ही कदम उठाया।


इंडोनेशिया की संचार और डिजिटल मामलों की मंत्री मेउत्या हाफिद ने एक बयान में कहा, “सरकार गैर-सहमति वाले डीपफेक को मानवाधिकारों, गरिमा और डिजिटल क्षेत्र में नागरिकों की सुरक्षा का गंभीर उल्लंघन मानती है।”


मंत्रालय ने कहा कि यह कदम एआई के जरिए बनाई जा रही नकली अश्लील सामग्री से महिलाओं, बच्चों और व्यापक समुदाय की सुरक्षा के लिए उठाया गया है।


डिजिटल स्पेस निगरानी के महानिदेशक अलेक्जेंडर साबर ने कहा कि प्रारंभिक जांच में पाया गया है कि ‘ग्रोक’ में ऐसे प्रभावी सुरक्षा उपाय नहीं हैं, जो इंडोनेशियाई नागरिकों की वास्तविक तस्वीरों के आधार पर अश्लील सामग्री के निर्माण और प्रसार को रोक सकें। उन्होंने कहा कि बिना सहमति तस्वीरों में हेरफेर या साझा किए जाने से निजता और छवि के अधिकारों का उल्लंघन होता है, जिससे मानसिक, सामाजिक और प्रतिष्ठा संबंधी नुकसान हो सकता है।


कुआलालंपुर में मलेशियाई संचार और मल्टीमीडिया आयोग ने रविवार को ‘ग्रोक’ पर अस्थायी प्रतिबंध का आदेश दिया। आयोग ने कहा कि इस टूल का बार-बार दुरुपयोग कर अश्लील, यौन आधारित और बिना सहमति के चित्र तैयार किए गए, जिनमें महिलाओं और नाबालिगों से जुड़ी सामग्री भी शामिल थी।


नियामक ने बताया कि इस महीने एक्स कॉर्प और एक्सएआई को मजबूत सुरक्षा उपाय लागू करने के लिए भेजे गए नोटिस के जवाब संतोषजनक नहीं थे। आयोग ने कहा, “कानूनी और नियामक प्रक्रियाओं के जारी रहने तक यह प्रतिबंध एक निवारक और संतुलित कदम के रूप में लगाया गया है,” और प्रभावी सुरक्षा उपाय लागू होने तक प्रतिबंध जारी रहेगा।


वर्ष 2023 में शुरू किया गया ‘ग्रोक’ एक्स पर मुफ्त उपलब्ध है। पिछले साल कंपनी ने ‘ग्रोक इमैजिन’ नाम से इमेज जनरेशन फीचर जोड़ा था, जिसमें वयस्क सामग्री तैयार करने वाला तथाकथित ‘स्पाइसी मोड’ भी शामिल था।


दक्षिण-पूर्व एशिया में लगाए गए ये प्रतिबंध ऐसे समय में आए हैं, जब यूरोपीय संघ, ब्रिटेन, भारत और फ्रांस सहित अन्य देशों में भी ‘ग्रोक’ को लेकर कड़ी जांच हो रही है। बीते सप्ताह वैश्विक आलोचना के बाद कंपनी ने इमेज जनरेशन और एडिटिंग को भुगतान करने वाले उपयोगकर्ताओं तक सीमित कर दिया था। आलोचकों का कहना है कि यह कदम समस्या के समाधान के लिए पर्याप्त नहीं है।


एपी


मनीषा