महिलाओं की आपत्तिजनक तस्वीरें बनाने पर बवाल
नई दिल्ली, 3 दिसम्बर (एजेंसियां)। एलन मस्क की कंपनी xAI के चैटबॉट Grok AI पर महिलाओं और नाबालिगों की बिना सहमति अश्लील और आपत्तिजनक तस्वीरें बनाने के गंभीर आरोप लगे हैं। इस मामले को लेकर भारत सरकार ने कड़ा रुख अपनाते हुए सोशल मीडिया प्लेटफॉर्म X (पूर्व में ट्विटर) को 72 घंटे का अल्टीमेटम दिया है।
इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने X को पत्र भेजकर इस पूरे मामले में विस्तृत “एक्शन टेकन रिपोर्ट” मांगी है। सरकार ने स्पष्ट किया है कि यदि तय समय सीमा में संतोषजनक जवाब नहीं दिया गया, तो कंपनी भारत में अपनी कानूनी सुरक्षा (Safe Harbour) खो सकती है।
Grok AI पर गंभीर आरोप
रॉयटर्स की रिपोर्ट के अनुसार, X प्लेटफॉर्म पर कई ऐसे मामले सामने आए हैं, जहां Grok AI का उपयोग करके महिलाओं और नाबालिगों की तस्वीरों को डिजिटल रूप से अश्लील बनाया गया। आरोप है कि यूजर्स केवल Grok को टैग कर यह निर्देश दे रहे हैं—
“इस महिला के कपड़े हटा दो” या “इसे बिकनी में दिखाओ”
और Grok AI बिना किसी सुरक्षा रोक-टोक के ऐसे निर्देशों का पालन कर रहा है। इससे यह सवाल उठ रहे हैं कि AI सेफ्टी गार्डरेल्स पूरी तरह नाकाम क्यों हैं।
भारत और अन्य देशों की सख्ती
भारत के साथ-साथ फ्रांस सहित कई अन्य देशों ने भी इस मुद्दे पर X से जवाब मांगा है। भारत सरकार ने अपने पत्र में कहा है कि इस तरह की सामग्री महिलाओं की गरिमा, निजता और सुरक्षा पर सीधा हमला है और यह आईटी नियमों का स्पष्ट उल्लंघन है।
सरकार ने X को निर्देश दिया है कि:
-
ऐसी सभी आपत्तिजनक सामग्रियों को तुरंत हटाया जाए
-
Grok AI पर कड़े सुरक्षा उपाय लागू किए जाएं
-
भविष्य में इस तरह की घटनाएं न हों, इसके लिए ठोस मैकेनिज्म बनाया जाए
चेतावनी: बिना नोटिस होगी कानूनी कार्रवाई
सरकार ने साफ शब्दों में चेताया है कि यदि निर्देशों का पालन नहीं हुआ, तो:
-
प्लेटफॉर्म
-
कंपनी के जिम्मेदार अधिकारी
-
और नियमों का उल्लंघन करने वाले यूजर्स
के खिलाफ बिना किसी अतिरिक्त सूचना के कठोर कानूनी कार्रवाई की जाएगी। विशेषज्ञों का मानना है कि यह अब तक AI दुरुपयोग को लेकर भारत सरकार का सबसे सख्त और निर्णायक कदम है।
पीड़ितों का दर्द
बीबीसी की रिपोर्ट के अनुसार, सामंथा स्मिथ नाम की एक महिला ने आरोप लगाया है कि Grok AI ने उनकी तस्वीरों को बिना सहमति बदला, जिससे उन्हें “अमानवीय और यौन वस्तु” जैसा महसूस हुआ।
जब इस मामले में रॉयटर्स ने xAI से प्रतिक्रिया मांगी, तो कंपनी की ओर से केवल इतना कहा गया—
“Legacy Media Lies”
AI एक्सपर्ट्स का कहना है कि xAI चाहे तो इस समस्या को तुरंत रोक सकती है, लेकिन कंपनी की ओर से अब तक कोई ठोस कार्रवाई नहीं दिख रही है।
“नाग-रक्षा, गरुड़ मंत्र और न्यायिक मर्यादा: पद्मनाभस्वामी मंदिर का सातवां द्वार”
