ग्राेककाे स्पाइसी मोड बन्द

एलन मस्कको एक्सएआई च्याटबट ग्रोकलाई कसैले कुनै व्यक्तिको चिटिक्कको तस्बिर राखेर ‘यिनलाई नांगो बनाइदेऊ’ भन्यो भने फ्याट्टै बनाइदिन्थ्यो ।

खासगरी ग्रोकको मसालेदार (स्पाइसी) मोडमा सर्वसाधारणको तस्बिर सम्पादन गरेर अश्लील बनाउने सुविधा धेरैका लागि मनोरञ्जनको साधन भए पनि यसले धेरै महिलाका लागि टाउको दुखाइको विषय बन्न पुगेको थियो ।

यतिबेला संसारभरबाट ग्रोकको त्यो सुविधाले बालबालिकाको नग्न फोटो बनाएको भन्दै विरोध हुन थालेपछि उक्त सुविधा हटाइएको छ ।

खासगरी पछिल्लो समय ग्रोकका कारण डिपफेक तस्बिर तथा भिडियोहरू व्यापक रूपमा बनाइन थालेपछि बेलायतको अफकम नामक संस्थाले ग्रोकको अश्लील तस्बिर प्रकरणलाई अभियानै चलाएर प्रतिबन्ध लगाउन सफल भएको छ ।

एक्स एआईले जनवरी १४ मा एक्समा घोषणा गर्दै भनेको छ, ‘हामीले ग्रोकबाट वास्तविक व्यक्तिहरूको बिकिनी वा अन्तरवस्त्रमा चित्र वा तस्बिरहरू बनाउने क्षमतालाई जियोब्लक गरेका छौं । खासगरी जुन ठाउँमा यस्ता तस्बिरलाई अवैध ठानिन्छ, त्यहाँबाट ती तस्बिरहरू हटाइएका छन् ।’

त्यसो त केही रकम तिरेर कसैले नग्न तस्बिर बनाउन चाहे, बनाउन सकिने एक्सले जनाएको छ । पैसा तिरेर नग्न तस्बिर दुरुपयोगकर्तालाई जवाफदेही बनाउने दाबी एक्सले गरेको छ । यो विवाद २०२५ को अन्त्यतिर सुरु भएको थियो । केही ‘स्पाइसी मोड’ प्रयोगकर्ताहरूले प्रख्यात व्यक्तिका फोटोहरूलाई नग्न वा यौनविकृत बनाएका थिए । 

एक्स प्लेटफर्ममा यस्ता तस्बिरहरू रातरात फैलिन थालेपछि केही महिलाहरूले आफ्नो गोपनीयता र सुरक्षामा गम्भीर असर पारेको भन्दै गुनासो गरेका थिए । मूलतः पत्रकार जेस डेभिस र लेक्चरर डा. डेजी डिक्सनजस्ता महिलाहरूले आफ्ना छविहरू दुरुपयोग भएको बताउँदै ग्रोकको बदमासीलाई सार्वजनिक गरेका थिए । उनीहरू मुद्दामामिलामा जाने पहिलो व्यक्ति पनि बने ।

यी दुई अभियन्ताले यसलाई ‘एआई दुरुपयोग’ भनेर चित्रण गर्दै टेक कम्पनीहरूबाट रोकथामको माग गरेका थिए । शुरुमा मस्कले ग्रोकको अश्लील तस्बिर बनाउने सुविधाको बचाउ गर्दै ‘स्वतन्त्र अभिव्यक्ति’को लेप लगाएर तर्क गर्न थालेका थिए तर बढ्दो दबाबपछि भने उनले बाध्य भएर ग्रोकको नियम परिवर्तन गरे ।

यस घटनाले एआई निर्मित सामग्रीको नैतिक प्रयोग र कानूनी सीमाहरूबीचको बहसलाई उजागर गरेको छ ।

सन् २०२६ मा आएर यो मुद्दा थप जटिल बनेको छ । क्यालिफोर्नियाका न्यायाधिवक्ता रोब बोन्ताले जनवरी १४ मा एक्सएआईको ‘अश्लील कदम’को जाँच सुरु गरेको घोषणा गरेका छन् । यो जाँचले महिला तथा बालबालिकाहरूको सहमतिबेगर तस्बिर बनाएको आरोपको सत्यता मापन गर्नेछ ।

बोन्ताले एक्सएआईलाई ‘ह्यारेसमेन्टको साधन’ बनाइएको दाबी गरेका छन् । यसैगरी, बेलायतको नियामक संस्था अफकमले पनि आफ्नो जाँच जारी राखेको छ । अफकमले त एक्सलाई प्रतिबन्ध नै लगाउन सक्ने भनी चेतावनीसमेत दिएको छ । ग्रोकको अश्लीलप्रियताका बारेमा अन्य देशहरूमा पनि कारबाही भएका छन् । इन्डोनेसिया र मलेसियाले ग्रोकलाई ब्लक गरेका छन् । युरोपेली युनियनले पनि मस्कलाई कानूनी कारबाहीको चेतावनी दिएको छ । डाटा अनुसार, ग्रोकले प्रति घण्टा हजारौं अश्लील तस्बिरहरू बनाउने गरेको पाइएको छ । ती तस्बिरहरूमध्ये धेरैजसो बालबालिकासँग सम्बन्धित छन् ।