महिलामाथि एआई र डीपफेकको दोहोरो हिंसा

एआईद्वारा निर्मित तस्बिर र डीपफेकले महिलाको गोपनीयताको हनन मात्र गर्दैन, बरु यो अहिले डिजिटल यौन उत्पीडनको कारक बनिसकेको छ । यी खतरा मध्यनजर गर्दै, भारतको महिला आयोगले केही महत्त्वपूर्ण सुधारहरू गर्न जरुरी रहेको बताएको छ ।

संयुक्त राष्ट्र जनसंख्या कोष (यूएनएफपीए)ले गएको डिसेम्बर ५ मा भारतको राजधानी नयाँ दिल्लीमा एउटा बैठक आयोजना गरी देशमा महिला र लैंगिक अल्पसंख्यकहरूमाथि बढ्दो अनलाइन आक्रमणप्रति चिन्ता व्यक्त गरेको छ । संगठनले साइबर स्टकिङ, नक्कली प्रोफाइल, अनुमति बिना फोटो वा भिडियो फैलाउने र डीपफेकजस्ता मामिलाहरू निरन्तर बढिरहेको बताएको छ । युएनएफपीएका अनुसार अब यो अनलाइन समस्या मात्र नरही एउटा गम्भीर मानवाधिकारको मुद्दासमेत बनिसकेको छ ।

यसै नोभेम्बरमा भारतको राष्ट्रिय महिला आयोगले महिलाको सुरक्षाका लागि साइबर कानूनमा परिवर्तनको माग गरेको थियो । डीपफेक, एआई–जनित सामग्री र अनलाइन गोपनीयताको उल्लंघन तीव्ररूपमा बढिरहेको र विद्यमान कानूनहरू यिनीहरूलाई रोक्न कमजोर साबित भइरहेको उनीहरूको भनाइ छ । महिला आयोगलाई लाग्छ कि यसबाट महिलाहरूको सोसल मिडियामा सुरक्षा खतरामा पर्छ र उनीहरूलाई राहत पाउन पनि ढिलाइ हुन्छ ।

केही दिनअघि अभिनेत्री गिरिजा गोडबोलेको एआई–निर्मित (मर्फ) तस्बिरहरू सोसल मिडियामा तीव्ररूपमा फैलियो । उनले एक भिडियो सार्वजनिक गर्दै ती तस्बिरहरू उनको सहमतिबिना बनाइएको र सेयर गरिएको जानकारी दिइन् । गिरिजाले भनिन्, ‘सोसल मिडियामा कुनै नियमबिना नै नक्कली तस्बिरहरू बनाइन्छ र फैलाइन्छ । मेरा यी तस्बिरहरू इन्टरनेटमा सधैं रहनेछन् । मेरो १२ वर्षको छोराले यी देख्ला भन्ने सोचेर मलाई डर लाग्छ ।’

हालै म्याकाफीले ‘सबैभन्दा खतरनाक सेलिब्रेटीः डीपफेक धोकाको सूची’ नामक आफ्नो एक रिपोर्टमा भारतमा प्रत्येक वर्ष लगभग ७५ प्रतिशत मानिसले डीपफेक सामग्री हेर्ने गरेको बताएको छ । जबकि ३८ प्रतिशत मानिस डीपफेक स्क्यामको शिकार हुन्छन् र १८ प्रतिशत मानिसले यसका कारण आर्थिक नोक्सानी बेहोर्नुपर्छ । सरकारी तथ्यांकले पनि महिलाहरूको मर्फ गरिएको (परिवर्तन गरिएको) तस्बिरका मामिलाहरू निरन्तर बढिरहेको देखाउँछ । सन् २०२० देखि २०२४ को बीचमा महिलाहरू विरुद्धको साइबर अपराधमा ११८ प्रतिशतले वृद्धि भएको छ ।

राष्ट्रिय महिला आयोगकी अध्यक्ष विजया किशोर राहतकरले डिजिटल संसार जति बढ्छ, डिजिटल सुरक्षा पनि त्यति नै बलियो हुनुपर्छ भन्दै यस स्थितिलाई ध्यानमा राख्दै महिला आयोगले नोभेम्बर ४ मा भारत सरकारका सम्बन्धित मन्त्रालयहरूलाई पत्र लेखेको छ । आयोगले महिलासँग सम्बन्धित साइबर कानूनहरूको समीक्षा गर्न सिफारिस गरेको छ ।

भारतमा स्मार्टफोन र सोसल मिडिया प्रयोगकर्ताहरू बढिरहेका छन् । आज साना बालबालिकासँग समेत मोबाइल छ । यसको दुरुपयोग पनि भइरहेको छ । साधारण एपहरूबाट तस्बिर र भिडियो परिवर्तन गर्न धेरै सजिलो भएको छ । यी भिडियो र तस्बिरहरू ठ्याक्कै सक्कली जस्तै देखिन्छन् र सोसल मिडियामा यस्ता सामग्री छिटो फैलिन्छन् ।

राष्ट्रिय महिला आयोग (एनसीडब्लू) की अध्यक्ष विजया किशोर राहतकरले डीडब्लूसँग कुरा गर्दै भनिन्, ‘धेरै महिलाहरूले तब मात्र उजुरी गर्छन्, जब नोक्सान भइसकेको हुन्छ । भिडियो वा तस्बिर कसले बनायो भन्ने पत्ता लगाउन गाह्रो हुन्छ । यसले कुनै महिलाको निजी जीवन, जागिर र सुरक्षामा तुरुन्तै असर पार्न सक्छ । देशलाई छिटो, आधुनिक र कडा साइबर कानूनको आवश्यकता छ । यी समस्याहरूलाई ध्यानमा राख्दै महिला आयोगले केही आवश्यक परिवर्तनहरू सुझाएको छ । हामी चाहन्छौं कि डिजिटल संसार जति बढ्छ, डिजिटल सुरक्षा पनि त्यति नै बलियो होस् ।’

आयोगको भनाइ छ– एआईबाट बनेका नक्कली तस्बिर र भिडियोलाई स्पष्टरूपमा अपराध मानिनुपर्छ । अनुमतिबिनाको कुनै पनि सामग्री तुरुन्तै हटाउने प्रावधान हुनुपर्छ । सोसल मिडिया कम्पनीहरूको जवाफदेहिता बढाइनुपर्छ ताकि उनीहरूले समयमै कारबाही गर्न सकून् । साथै, महिलाहरूको मद्दत र प्रमाणहरूको जाँचका लागि छिटो र सजिलो संयन्त्र बनाइनुपर्छ ।

सजिलै उपलब्ध छन् एआई टूल्स

हालका वर्षहरूमा भारत एआई टूल्सका लागि ठूलो ‘टेस्टिङ ग्राउण्ड’ बनेको छ । भारत ओपन एआईको विश्वकै दोस्रो ठूलो बजार हो । रति फाउण्डेसनको रिपोर्टअनुसार, एआई अब उत्पीडनको नयाँ हतियार बनेको छ । तस्बिरहरू परिवर्तन गर्ने यी एपहरू इन्टरनेटमा सजिलै पाइन्छन् । ‘थर्ड–पार्टी लोन एप’हरूले तर्साउन र धम्क्याउन यसको प्रयोग गर्छन् । ‘लभ रिभेन्ज’ वा बदला लिनका लागि यसको प्रयोग सामान्य भएको छ ।

मर्फ गरिएका भिडियो र तस्बिरहरूको सबैभन्दा बढी सिकार युवती र विशेष गरी नाबालिगहरू हुन्छन् । उनीहरूको पहिलो चिन्ता इन्टरनेटबाट यी तस्बिरहरू तुरुन्तै हटाइयोस् भन्ने हुन्छ । यो उनीहरूको परिवार, साथीहरू वा कार्यालयसम्म नपुगोस् र पुगेका खण्डमा उनीहरूको पढाइ, काम र घरबाट बाहिर निस्कने कुरामा समेत बाधा पुग्न सक्छ । उजुरी गरेपछि सोसल मिडिया प्लेटफर्म ‘मेटा’ले यसलाई एक वा दुई दिनमा हटाइदिन्छ ।

रति फाउन्डेशनमा प्रोग्राम लिडर समीर पी. भन्छन्, ‘जब कुनै केटीले यी लोन एपहरूलाई पैसा दिन अस्वीकार गर्छिन्, तब यी एपले एआईको मद्दतले अश्लील तस्बिर बनाउँछन् । यिनीहरूलाई फोन नम्बरका साथ ह्वाट्सएप र अन्य सोसल मिडिया प्लेटफर्ममा सेयर गरिन्छ । यसले महिलालाई असुरक्षित र अपमानित महसुस गराउँछ । त्यस्तै, एक पटक कुनै तस्बिर वा भिडियो भाइरल भएपछि त्यो बारम्बार अगाडि आउनाले मानसिक तनाव अझ बढाउँछ ।’

भारतमा डीपफेक र मर्फ गरिएका तस्बिर तथा भिडियोका लागि केही कानूनहरू छन् । तर ती आधुनिक एआई–जनित खतराहरूसँग जुध्न प्रभावकारी भने छैनन् । आईटी एक्ट, भारतीय न्याय संहिता र अन्य कानूनअन्तर्गत रहेका उपायहरू प्रायः ‘प्रतिक्रियात्मक’ छन् । अर्थात्, यिनीहरू तब मात्र काम आउँछन् जब नोक्सान भइसकेको हुन्छ ।

यस वर्षको जुलाईमा सोसल मिडिया इन्फ्लुएन्सर र एक्टिभिस्ट कामिया बुचले अनुमतिबिना बनाइएको एआई–जनित अश्लील तस्बिर र भिडियोहरूविरुद्ध मुद्दा दर्ता गराइन् । दिल्ली उच्च अदालतले अन्तरिम आदेश जारी गर्दै सोसल मिडिया प्लेटफर्म ‘एक्स’ र ‘मेटा’लाई यो सामग्री हटाउन भन्यो । साथै, गुगललाई पनि विवादित यूआरएल तुरुन्तै हटाउन निर्देशन दियो । अदालतले यो सामग्री कामियाको गोपनीयता, गरिमा र प्रतिष्ठाको उल्लंघन भएको स्वीकार गर्‍यो । यसले महिलाको मौलिक अधिकारको हनन गर्दछ ।

कामियाका वकिल राघव अवस्थीले यस्ता धेरै मामिलाहरू हेर्ने गर्छन् । इन्टरनेटले केही पनि नबिर्सने र हरेक कुरा सधैंका लागि रेकर्ड हुने भएकाले, मानिसहरू दोषीलाई जेल हाल्नुको साटो आफ्नो नोक्सानी कम होस् भन्ने चाहन्छन् । राघव अवस्थीका अनुसार तल्लो अदालतहरूलाई यस्ता मामिलाको सुनुवाइका लागि सशक्त बनाइनुपर्छ ।

राघव भन्छन्, ‘अहिले डीपफेक, मर्फ वा अश्लील डिजिटल सामग्रीको मामिलामा तुरुन्तै हटाउने र ब्लकिङको आदेश केवल उच्च अदालतले मात्र दिन सक्छ । प्लेटफर्महरूलाई निर्देशन दिने र प्रयोगकर्ताको डेटा माग्ने अधिकार पनि उच्च अदालतसँग मात्र छ । तर उच्च अदालतमा मुद्दा लड्न वकिल र खर्चको आवश्यकता हुन्छ, जुन सबैले धान्न सक्दैनन् । यस्तोमा जिल्ला अदालतहरूलाई यस्ता मामिलामा सजाय सुनाउने जिम्मेवारी दिनुपर्छ, ताकि समयमै कारबाही हुन सकोस् ।’

सोसल मिडियामा मर्फ र डीपफेक तस्बिरहरूको स्रोत पत्ता लगाउन धेरै गाह्रो हुन्छ । सर्वोच्च अदालतकी वरिष्ठ अधिवक्ता प्रिया हिंगोरानीले यस्ता धेरै मुद्दाहरू लडिसकेकी छन् । उनी भन्छिन्, ‘हरेक थानामा विशेष साइबर सेल त छ, तर यो व्यवहारमा सोचेजति प्रभावकारी छैन ।’

प्रिया हिंगोरानी भन्छिन्, ‘साइबर सेल र पुलिसबाट धेरै मद्दत मिल्दैन । उनीहरू धेरै काम र बोझका कारण व्यस्त रहन्छन् । धेरैजसो मामिलामा कुनै कारबाही हुँदैन वा उनीहरूलाई फलो–अप गरिँदैन । जबसम्म पुलिसले मामिला उठाउँछ, तबसम्म व्यक्तिको इज्जत र प्रतिष्ठामा चोट पुगिसकेको हुन्छ ।’

कानूनहरूलाई आधुनिक बनाएर यसमा एआई अपराधहरूलाई समावेश गर्ने माग बढ्दै गएको छ । साथै, उजुरीको प्रक्रियामा पनि सुधार ल्याउनुपर्ने आवश्यकतामा जोड दिइँदैछ ताकि छिटो र सजिलो राहत पाउन सकियोस् ।