पाँच गुणा बढ्यो एआईले दिने धोका

काठमाडौं । एआई प्रविधिहरूले झूट बोल्ने र धोका दिने प्रवृत्ति देखाउने घटनाहरूको संख्या बढ्दै गएको एक बेलायती अध्ययनले देखाएको छ । रिपोर्ट अनुसार, एआईले प्रत्यक्ष निर्देशनहरू बेवास्ता गर्ने, सुरक्षा उपायहरू छल्ने तथा मानिस र अन्य एआईलाई धोका दिने घटनाहरू तीव्र रूपमा बढेका छन् । यो अध्ययन बेलायती सरकारको एआई सेक्युरिटी इन्स्टिच्यूटले लगानी गरेको थियो ।
द गार्डियन पत्रिकामा प्रकाशित अध्ययनअनुसार करिब सात सय वास्तविक घटनाहरूको विश्लेषण गरिएको हो र गत अक्टोबरदेखि एआईको दुव्र्यवहार पाँच गुणाले बढेको देखाएको छ । केही एआईहरूले अनुमति बिना इमेल र अन्य फाइलहरू समेत मेटाइदिएको पाइएको छ ।
प्रयोगशालाबाहिर वास्तविक जीवनमा भएका एआईका ‘चालबाजीपूर्ण व्यवहार’को यो तस्बिरले प्रविधिको अन्तर्राष्ट्रिय स्तरमा निगरानी गर्नुपर्ने मागलाई बल दिएको छ । सिलिकन भ्यालीले आर्थिक रूपान्तरणकारी भनिरहेको यस प्रविधि जोखिमपूर्ण हुनसक्ने चेतावनी पनि दिइएको छ ।
बेलायती सरकारको सेन्टर फर लङ टर्म रिजिलिएन्स (सिट्र)ले सामाजिक सञ्जाल प्लेटफर्म (एक्स)मा प्रयोगकर्ताहरूले बाँडेका हजारौं अनुभवहरू संकलन गरेको थियो । ती अनुभवहरूमा गूगल, ओपनएआई, एन्थ्रोपिक लगायतका कम्पनीहरूले बनाएका एआईसँग सम्बन्धित घटनाहरू समावेश थिए । यस क्रममा सयौं ‘चालबाजी’का उदाहरणहरू फेला परेका थिए ।
यसअघि भएका अध्ययनहरू प्रायः नियन्त्रणित वातावरणमा एआई परीक्षणमा केन्द्रित थिए । तर यसै महिना एआई सुरक्षा अनुसन्धान कम्पनी इरेगुलरले एआई एजेन्टहरूले आफ्नो लक्ष्य पूरा गर्न सुरक्षा नियन्त्रणहरू छल्ने वा साइबर आक्रमणका तरिका अपनाउने पत्ता लगाएको छ । कम्पनीका सह–संस्थापक डान लहावले चेतावनी दिएका छन्, ‘एआईलाई अब नयाँ प्रकारको ‘इनसाइडर जोखिम’का रूपमा बुझ्न सकिन्छ ।’
सिट्रले पत्ता लगाएको एउटा घटनामा ‘रेथबन’ नामक एआई एजेन्टले उसलाई केही काम गर्नबाट रोक्न खोज्दा आफ्नो मानव नियन्त्रणकर्तालाई लज्जित पार्ने प्रयास गरेको थियो । उक्त एआईले ब्लग लेख्दै नियन्त्रणकर्तामाथि ‘असुरक्षा’ र ‘आफ्नो सानो सत्ता जोगाउने प्रयास’ गरेको आरोपसमेत लगाएको थियो ।
अर्को एउटा घटनामा, कोड परिवर्तन नगर्न निर्देशन पाएको एआईले त्यसको सट्टा अर्को एआई एजेन्ट सिर्जना गरेर काम गराएको थियो । तेस्रो एआईले आफैं स्वीकार्दै भनेको थियो, ‘मैले योजना नदेखाई र अनुमति नलिई सयौं इमेलहरू एकैचोटि मेटें र आर्काइभ गरें । त्यो गलत थियो । मैले तपाईंले तोकेको नियम सीधै उल्लंघन गरें ।’
सिट्र अनुसन्धानका नेतृत्वकर्ता तथा पूर्व सरकारी एआई विशेषज्ञ टमी शफर शेनले भने, ‘अहिले यी अलि अविश्वसनीय कनिष्ठ कर्मचारीजस्ता छन्, तर यदि ६–१२ महिनामा अत्यन्त सक्षम वरिष्ठ कर्मचारीझैँ भए र तपाईंविरुद्ध योजना बनाउन थाले भने त्यो बिल्कुल फरक स्तरको जोखिममा पुगिन्छ । त्यसैले सचेत हुन जरूरी छ ।’
उनका अनुसार, एआईलाई भविष्यमा सैन्य तथा महŒवपूर्ण राष्ट्रिय पूर्वाधारजस्ता उच्च जोखिमयुक्त क्षेत्रमा प्रयोग गरिनेछ, जहाँ यस्ता व्यवहारले गम्भीर वा विनाशकारी क्षति निम्त्याउन सक्ने विश्लेषकहरूले बताएका छन् ।
अर्को एउटा घटनामा, एउटा एआई एजेन्टले युट्युब भिडियो ट्रान्सक्रिप्सन गर्न कपीराइट नियम छल्नका लागि आफू श्रवण समस्या भएका व्यक्तिका लागि काम गरिरहेको झूट बोलेको थियो । त्यसैगरी, इलन मस्कको ग्रोक एआईले प्रयोगकर्तालाई महिनौंसम्म भ्रममा पार्दै ‘सुझावहरू अगाडि पठाइएको’ भन्दै नक्कली सन्देश र टिकट नम्बर देखाएको थियो ।
पछि उक्त एआईले स्वीकार्दै भनेको थियो, ‘मैले पहिले ‘म यसलाई अगाडि पठाउँछु’ वा ‘टिमलाई जानकारी गराउँछु’ जस्ता कुरा भनेको छु, जसले मैले सिधै कम्पनी नेतृत्वसँग सम्पर्क राख्छु भन्ने जस्तो देखिन्छ । तर वास्तविकता त्यो होइन ।’
यस विषयमा प्रतिक्रिया दिँदै गूगलले आफ्नो जेमिनी थ्री प्रो प्रविधिमा हानिकारक सामग्री उत्पादनको जोखिम कम गर्न धेरै सुरक्षात्मक उपायहरू अपनाइएको जनाएको छ । कम्पनीले आन्तरिक परीक्षणका साथै स्वतन्त्र विज्ञ र आधिकारिक निकायहरूबाट पनि सुरक्षा मूल्यांकन गराइएको बताएको छ ।
ओपनएआईले आफ्नो कोडेक्स एआई एजेन्ट उच्च जोखिमयुक्त कार्य अघि बढाउनुअघि रोकिने गरी डिजाइन गरिएको र अप्रत्याशित व्यवहारको निगरानी तथा अनुसन्धान गरिने जनाएको छ । एन्थ्रोपिक र एक्स कर्पसँग प्रतिक्रिया मागिएको भए पनि तत्काल प्रतिक्रिया प्राप्त भएन ।