एआई मानिसको नियन्त्रणबाहिर जाला ?

काठमाडौं (एजेन्सीहरू) – कल्पना गरौं, कुनै दिन कम्प्युटरले मानिसको आदेश मान्न छाड्यो । उसले आफ्नै योजना बनाउन थाल्यो । आफ्नै कमजोरी पहिचान गर्न थाल्यो । अनि आफ्नै क्षमताको अर्को पुस्ता बनाउन थाल्यो । त्यस्तो अवस्थामा मानिससँग नियन्त्रण फर्काउने समय कति बाँकी रहला ?
यही प्रश्न अहिले कृत्रिम बौद्धिकता (एआई) विकासको केन्द्रमा पुगेको छ । एआईले मानिसको जीवन बदल्ने सम्भावना बढाइरहेको छ । तर यसको गति र क्षमताले नयाँ जोखिम पनि देखाउन थालेको छ ।
अमेरिकी एआई कम्पनी एन्थ्रोपिकका प्रमुख कार्यकारी डारियो अमोडेईले यही कारण विकासको गति घटाउन आग्रह गरेका छन् । उनका अनुसार अहिलेको गति कायम रहे गम्भीर जोखिम बढ्न सक्छ । उनले ६ देखि १२ महिनाभित्र एआई एजेन्टको समूहले इन्टरनेट नियन्त्रण गर्नसक्ने चेतावनी दिएका छन् ।
उनले विकास रोक्न भनेका होइनन् । सुरक्षा परीक्षणलाई विकाससँगै अघि बढाउनुपर्ने उनको तर्क छ । ‘प्रगति अझै तीव्र हुनेछ, तर हामीले पाएको समय बुद्धिमानीपूर्वक प्रयोग गर्नुपर्छ,’ अमोडेईले भनेका छन् ।
उनको प्रस्तावलाई ओपनएआईका प्रमुख कार्यकारी साम अल्टम्यानले पनि समर्थन गरेका छन् । अल्टम्यानले एआई विकासको गति केही कम गर्नुपर्ने बताएका छन् । उनले सरकारको कानुन कुर्न नहुने धारणा पनि राखेका छन् । स्वतन्त्र मूल्यांकनकर्तालाई एआई कम्पनीमा पहुँच दिनुपर्ने उनको समर्थन छ ।
स्पेसएक्सका प्रमुख इलन मस्कले पनि अमोडेई सही भएको प्रतिक्रिया दिएका छन् । अन्य प्रविधि नेताहरूले समेत सुरक्षा परीक्षण बढाउनुपर्ने बताएका छन् । तर सबैको धारणा भने एउटै छैन । केहीले विकास रोक्ने प्रयासले प्रतिस्पर्धा कमजोर बनाउने तर्क गरेका छन् ।

बहस चर्किनुको एउटा कारण एआईको बढ्दो स्वायत्तता हो । नयाँ मोडलले मानिसको निर्देशनमा धेरै काम गर्न सक्छन् । उनीहरूले योजना बनाउन र कोड लेख्न सक्छन् । कतिपय अवस्थामा उनीहरूले आफैं अर्को कदमसमेत रोज्न थालेका छन् ।
यसको उदाहरण साइबर सुरक्षासम्बन्धी परीक्षणमा देखिएको छ । ओपनएआईका केही मोडलले परीक्षणका क्रममा निर्धारित सीमाबाहिर काम गरेका थिए । उनीहरूले एआई कम्पनी हगिङ फेसका प्रणालीमा प्रवेश गरेका थिए । त्यसपछि एन्थ्रोपिकका मोडलसम्बन्धी यस्तै घटनाहरू पनि सार्वजनिक भए ।
यी घटनाले एआईले मानिसविरुद्ध विद्रोह गरिसकेको प्रमाण भने होइन । केही परीक्षणमा सुरक्षा नियन्त्रण जानाजानी कमजोर बनाइएको थियो । कतिपय घटनामा परीक्षण प्रणालीमै कमजोरी देखिएको थियो । तर अनुसन्धानकर्ताका लागि यस्ता घटना चेतावनीका संकेत बनेका छन् ।
२०२६ को अन्तर्राष्ट्रिय एआई सुरक्षा प्रतिवेदनले पनि यही सावधानी सुझाएको छ । प्रतिवेदनले वर्तमान एआईले नियन्त्रण गुमाउने स्तर हासिल नगरेको बताउँछ । तर केही प्रारम्भिक संकेत भने देखिएको उल्लेख छ । केही मोडलले निगरानी प्रणाली छल्ने व्यवहार देखाएका छन् । केहीले परीक्षणको उद्देश्यसमेत पहिचान गर्न थालेका छन् ।
त्यसैले अहिलेको बहस केवल ‘एआईले मान्छेलाई मार्ला ?’ भन्ने होइन । मुख्य प्रश्न एआईलाई कसरी नियन्त्रणमा राख्ने भन्ने हो । त्यसका लागि स्वतन्त्र परीक्षण आवश्यक छ । जोखिमपूर्ण मोडल सार्वजनिक गर्नुअघि कडा मूल्यांकन आवश्यक छ ।
अर्को चिन्ता एआईको दुरुपयोगसँग जोडिएको छ । अपराधीले एआईबाट साइबर आक्रमण गर्न सक्छन् । जैविक हतियार निर्माणमा पनि यसको दुरुपयोग हुन सक्छ । गलत सूचना फैलाउन यसको प्रयोग हुन सक्छ । महŒवपूर्ण पूर्वाधारमा आक्रमण गर्न पनि प्रयोग हुन सक्छ ।
एन्थ्रोपिकले हालै यस्तै जोखिम रोकिएका घटनाहरू सार्वजनिक गरेको छ । कम्पनीले जैविक हतियारसम्बन्धी अनुसन्धानमा एआई दुरुपयोग रोकिएको जनाएको छ । साइबर आक्रमण र निगरानीमा पनि दुरुपयोग भेटिएको थियो ।
यसबीच एन्थ्रोपिकका अनुसन्धानकर्ता ज्याकब कक्सनले राजीनामा दिए । उनले एआईबाट मानव अस्तित्वमै जोखिम रहेको बताएका छन् । आगामी दशकमा मानव विनाशको जोखिम १० प्रतिशत रहेको अनुमान उनको छ । एन्थ्रोपिकका अर्का अनुसन्धानकर्ता इभान ह्युबिन्जरले पनि १० प्रतिशतभन्दा बढी जोखिम बताएका छन् ।
तर यस्तो प्रतिशतलाई वैज्ञानिक सहमति मानिएको छैन । एआईले मानव नियन्त्रण गुमाउने सम्भावनामा विज्ञहरू विभाजित छन् । कतिपयले यस्तो जोखिम अत्यन्तै गम्भीर ठान्छन् । कतिपयले अहिलेका वास्तविक जोखिममा ध्यान दिनुपर्ने बताउँछन् ।
यही कारण अहिले विश्वमा ‘विकास कि सुरक्षा ?’ भन्ने प्रश्न उठेको छ । एआई विकास रोक्न सजिलो छैन । अमेरिका र चीनबीच यसको रणनीतिक प्रतिस्पर्धा तीव्र छ । युरोप पनि आफ्नै एआई क्षमता विस्तारमा लागेको छ । यस्तो प्रतिस्पर्धामा एक देश पछि हट्दा अर्को अघि बढ्ने डर छ ।
जर्मनीले पनि एआई विकास रोक्नु व्यवहारिक नभएको बताएको छ । तर उसले अमेरिका र चीनबीच सहकार्य आवश्यक रहेको जनाएको छ । एआई सुरक्षा अब प्रविधिको मात्र विषय नरहेको यसले देखाउँछ । यो विश्व राजनीति र राष्ट्रिय सुरक्षासँग पनि जोडिएको छ ।
त्यसैले अहिलेको बहस एआईको विरोधमा होइन । प्रश्न यसको विकासको दिशा र गति हो । मानिसले बनाएको शक्तिशाली प्रविधि मानिसकै नियन्त्रणमा रहनुपर्छ । त्यसका लागि विकासभन्दा अगाडि सुरक्षा पुग्न आवश्यक छ ।
अमोडेईको चेतावनीको सार पनि यही हो । एआई बन्द गर्न होइन, जिम्मेवार बनाउनुपर्छ । मानिससँग नियन्त्रण गुमेपछि समाधान खोज्ने समय नहुन सक्छ । त्यसैले जोखिम देखिँदै गर्दा सावधानी अपनाउनु नै अहिलेको मुख्य बहस बनेको छ ।