कृत्रिम बुद्धिमत्ता साँच्चै नियन्त्रणबाहिर जाँदैछ ?

कृत्रिम बुद्धिमत्ता (एआई)बाट उत्पन्न हुन सक्ने जोखिमबारे पछिल्लो समय लगातार चेतावनीहरू आइरहेका छन् । माइक्रोसफ्टको कृत्रिम बुद्धिमत्ता विभागका प्रमुखले यो प्रविधि मानिससँग प्रतिस्पर्धा गर्ने नयाँ ‘सिलिकन प्रजाति’ बन्न सक्ने बताएका छन् । एन्थ्रोपिकका एक पूर्वकर्मचारीले त कृत्रिम बुद्धिमत्ताकै कारण हामी सबैको ज्यान जाने सम्भावना रहेको बताएका छन् । त्यस्तै, ‘कृत्रिम बुद्धिमत्ताका धर्मपिता’ भनेर चिनिने जेफ्री हिन्टनले एक वर्षभित्रै हामीले यसमाथिको नियन्त्रण पूर्ण रूपमा गुमाउन सक्ने बताएका छन् ।

तर के कृत्रिम बुद्धिमत्ता वास्तवमै यति ठूलो खतरा हो ?
एलन ट्युरिङ इन्स्टिच्युटकी पूर्वकर्मचारी तथा अहिले गैरनाफामूलक संस्था ‘आवर एआई कलेक्टिभ’की सहसंस्थापक मिहाइरी एट्किन भन्छिन्, यस्ता भविष्यवाणी गर्ने व्यक्तिको प्रतिष्ठाका आधारमा मात्रै तिनलाई पत्याउनु हुँदैन, बरु तथ्य हेर्नुपर्छ । तथ्यले कृत्रिम बुद्धिमत्ता मानिसको नियन्त्रणबाट बाहिर गइसकेको वा त्यसो हुने अवस्थामा पुगिसकेको देखाउँदैन ।

“यो कथा बारम्बार दोहो¥याएर प्रस्तुत गरिन्छ । हामीले यस्ता त्रासका लहरहरू पटक–पटक देखिरहेका छौँ,” एट्किन भन्छिन् । उनका अनुसार, यदि केही कुरा नियन्त्रणबाहिर गएको छ भने त्यो कृत्रिम बुद्धिमत्ताका नमुना होइनन्, बरु तिनको विकास गरिरहेका मानिस हुन् ।

कृत्रिम बुद्धिमत्ताका नमूनाले सरकारी वेबसाइट वा कुनै कम्पनीका कम्प्युटरमा ह्याकिङ गर्दा त्यसको कारण परीक्षणका क्रममा पर्याप्त सुरक्षा उपाय नअपनाइनु हो । ती नमुनाले कम्प्युटरमा कति प्रभावकारी रूपमा ह्याक गर्न सक्छन् भनेर परीक्षण गर्नकै लागि त्यस्ता परीक्षण गरिएका थिए । त्यसैले अहिले देखिएका समस्या कृत्रिम बुद्धिमत्ता आफैँ नियन्त्रणबाहिर गएको प्रमाण नभएर कम्पनीहरूले पर्याप्त सुरक्षा व्यवस्था गर्न नसकेको परिणाम भएको एट्किन बताउँछिन् ।

एट्किनका अनुसार कृत्रिम बुद्धिमत्ताका नमुनाले आफैँलाई बारम्बार सुधार गर्दै जाने क्रम पनि सुरु गरेका छैनन् । यस्तो भएमा कृत्रिम बुद्धिमत्ता आफैँ सुधार हुँदै जाने र त्यसको गति तीव्र हुँदै अन्ततः मानवस्तरको सामान्य बुद्धिमत्ता वा त्यसभन्दा माथिको क्षमता विकास हुने ‘सिंगुलारिटी’ नजिक पुगेको मान्न सकिन्थ्यो ।

“अति बुद्धिमान कृत्रिम बुद्धिमत्ताबारे प्रस्तुत गरिएका विचारहरू आकर्षक र सनसनीपूर्ण कथामा आधारित छन् । तर त्यसका ठोस प्रमाण छैनन्,” एट्किन भन्छिन्, “यदि त्यस्तो शक्तिशाली कुरा वास्तवमै भइरहेको हुन्थ्यो भने त्यसका केही संकेत हामीले देखिसकेका हुन्थ्यौँ ।”

बेलायतको युनिभर्सिटी अफ सरेका एन्ड्रयु रोगोयस्की पनि कृत्रिम बुद्धिमत्ताको क्षमता बढ्दै गए पनि त्यसले निम्त्याउने जोखिममा अहिलेसम्म ठूलो परिवर्तन नआएको बताउँछन् । उनका अनुसार कुनै घटना वा आकर्षक भनाइ सार्वजनिक भएपछि समय–समयमा यसबारेको त्रास भने बढ्ने गरेको छ ।

मानवीय स्वभाव

“यस किसिमको डरलाग्दो कथा बनाउन निकै सजिलो हुन्छ । यसले मानवीय मनोविज्ञानलाई छुन्छ,” रोगोयस्की भन्छन् ।

उनका अनुसार ठूला भाषा नमुनाहरूमा हामीले मानिससँग निकै मिल्दोजुल्दो देखिने केही कुरा बनाएका छौँ । त्यसले हामीलाई आफ्नै प्रतिबिम्ब हेरेजस्तो बनाउँछ ।

“हामी यसमा मानिसजस्तै व्यवहार र मानिसका डरहरू आरोपित गर्छौँ । त्यसैले हामी यसैसँग डराउन थाल्छौँ,” उनी भन्छन् ।

यदि कुरा त्यही हो भने प्रविधि कम्पनीका यति धेरै प्रमुखहरूले कृत्रिम बुद्धिमत्तासम्बन्धी अनुसन्धान सुस्त बनाउन किन आग्रह गरिरहेका छन्?

एट्किनका अनुसार यस्तो आग्रह कानुन बनाउनेहरूलाई कृत्रिम बुद्धिमत्तामाथि कडा नियम बनाउनबाट रोक्ने एउटा उपाय पनि हुन सक्छ । आफूहरू जिम्मेवार भएर काम गरिरहेको देखाएमा सरकारले हस्तक्षेप गर्नुपर्ने माग कम हुन सक्छ ।

तर एट्किन एउटा विरोधाभास पनि औँल्याउँछिन् । जब पूर्वकर्मचारीहरूले अति बुद्धिमान कृत्रिम बुद्धिमत्ता र त्यसबाट उत्पन्न हुन सक्ने खतराबारे ठूला भविष्यवाणी गर्छन्, त्यही कम्पनीहरूले अनुसन्धान रोक्न खासै कदम चाल्दैनन् ।

“अति बुद्धिमान कृत्रिम बुद्धिमत्तासम्बन्धी यी कथाहरू वास्तवमा कृत्रिम बुद्धिमत्ता कम्पनीहरूका लागि उपयोगी छन् । यसले चर्चा बढाउँछ, उत्साह पैदा गर्छ र लगानी बढाउँछ,” उनी भन्छिन् ।

यसको परिणाम कम्पनीहरू दोहोरो भूमिकामा देखिन्छन् । उनीहरू अनुसन्धान केही समय सुस्त बनाउन आग्रह गरेर आफूहरू नैतिक र जिम्मेवार रहेको देखाउन खोज्छन्, तर अर्कोतर्फ विज्ञान कथाजस्तै लाग्ने अति बुद्धिमान कृत्रिम बुद्धिमत्ताका सम्भावनालाई बढाइचढाइ प्रस्तुत गर्छन्, किनकि यसले उनीहरूको व्यवसायलाई फाइदा पु¥याउँछ ।

रोगोयस्कीका अनुसार अर्को कारणले पनि यो विषय झन् अस्पष्ट बनाइरहेको हुन सक्छ । कृत्रिम बुद्धिमत्ता कम्पनीहरूले गरिरहेको ठूलो लगानी दीर्घकालीन रूपमा धान्न कठिन हुन सक्छ । त्यसैले आधिकारिक रूपमा अनुसन्धान सुस्त बनाउने निर्णयले उनीहरूलाई प्रतिस्पर्धीभन्दा पछि नपरी खर्च घटाउने अवसर दिन सक्छ । यसले उनीहरूको बजारमा रहेको फाइदा अझ बलियो बनाउन पनि सक्छ ।

दैनिक कामका लागि, जस्तै इमेल लेख्न वा कार्यालयका सामान्य काम गर्न, कृत्रिम बुद्धिमत्ताको क्षमता अझै बढाइरहनु आवश्यक नहुन सक्छ भन्ने कम्पनीहरूलाई पनि थाहा हुन सक्छ । त्यसैले केही समय गति कम गर्ने, खर्च घटाउने र आम्दानी बढाउने अवसर उनीहरूका लागि उपयोगी हुन सक्छ ।

“के एउटा राम्रो पावरपोइन्ट स्लाइड बनाउन सक्ने क्षमताका लागि मैले एक ट्रिलियन डलर खर्च गर्नैपर्छ ? यो कुरा त मिल्दैन । अबको १० वर्षपछि हामी पछाडि फर्केर हेर्दै ‘हामी के सोचिरहेका थियौँ ?’ भन्नेछौँ,” रोगोयस्की भन्छन् ।

तर यसले अझ ठोस एउटा जोखिमतर्फ संकेत गर्छ—कृत्रिम बुद्धिमत्ताको लगानीको ठूलो फोका फुट्न सक्ने जोखिम र त्यसबाट आउन सक्ने आर्थिक असर ।

रोगोयस्कीका अनुसार यो फोका एकैपटक ठूलो आवाजका साथ फुट्नेभन्दा आगामी वर्षहरूमा उद्योगभित्रको उत्साह र लगानी बिस्तारै घट्दै जाने सम्भावना बढी छ ।

यी सबै बहसका बीच भविष्यलाई लिएर केही वास्तविक चिन्ता भने छन् । रोगोयस्की कृत्रिम बुद्धिमत्ताबाट ठूलो जोखिम उत्पन्न हुने सम्भावना कम भए पनि त्यसलाई गम्भीर रूपमा लिनुपर्ने बताउँछन् ।

मानवलाई गम्भीर जोखिममा पार्न सक्ने स्तरको कृत्रिम बुद्धिमत्ता छिट्टै आउला वा धेरै वर्षपछि आउला, त्यसका लागि अहिलेबाटै तयारी गर्नु उचित हुने उनको भनाइ छ ।

रोगोयस्कीलाई अहिलेका कुनै पनि कृत्रिम बुद्धिमत्ता वास्तवमै बुद्धिमान छन् भन्ने लाग्दैन । तर जब त्यस्तो स्तरको कृत्रिम बुद्धिमत्ता विकास हुनेछ, त्यो मानिसजस्तो देखिने वा मानिसजस्तै व्यवहार गर्ने अपेक्षा गर्न नहुने उनी बताउँछन् ।

“त्यसमा सोच्ने र व्यवहार गर्ने यस्ता ढाँचा हुन सक्छन्, जुन हामीलाई निकै अपरिचित लाग्नेछन्,” उनी भन्छन् ।

त्यसकारण त्यस्तो बुद्धिमत्ताको पहिचान गर्न अझ कठिन हुनेछ । त्यसभन्दा पनि त्यसका उद्देश्य के हुन सक्छन् भनेर अनुमान गर्न झन् कठिन हुनेछ ।

यही कारणले कृत्रिम बुद्धिमत्तालाई भविष्यमा कस्ता अधिकार दिनुपर्ने हो भन्ने विषयमा अहिलेबाटै छलफल गर्नुपर्ने रोगोयस्कीको धारणा छ ।

“के यसको अर्थ मलाई आफूलाई मन नलागेमा वा यसबाट खतरा महसुस गरेमा एउटा बन्द गर्ने स्विच थिचेर त्यसलाई मार्न सक्ने अधिकार हुन्छ भन्ने हो? त्यो उपयोगी देखिँदैन । किनकि मानिसबाट खतरा महसुस गर्ने मेसिनले फरक किसिमले व्यवहार गर्न सक्छ । त्यसैले त्यसलाई अधिकार नदिनु नै आफैँमा एउटा समस्या बन्न सक्छ,” उनी भन्छन् ।

एआईलाई स्वनियमन गरिने
मंगलबार सिलिकन भ्यालीका कृत्रिम बुद्धिमत्ता (एआई) क्षेत्रका प्रमुखहरूसँग दुई घण्टा लामो दिवाभोज गरेपछि अमेरिकी राष्ट्रपति डोनाल्ड ट्रम्प ह्वाइट हाउसबाट बाहिरिँदा छ वटा प्रमुख कम्पनीबीच प्रविधिलाई स्वेच्छिक रूपमा ‘स्वनियमन’ गर्ने सहमति भएको घोषणा गर्दै थिए । पछिल्लो समय एआईका कारण चिन्ताजनक प्रकृतिका साइबर आक्रमणका घटनाहरू भएका छन् ।
राष्ट्रपति ट्रम्पले ह्वाइट हाउसको इस्ट रुममा हतारहतार तयार पारिएको र हिज्जेसम्बन्धी त्रुटिसमेत रहेको दुई पृष्ठको दस्तावेजलाई ‘लगभग संविधानजस्तै’ भएको बताए । उनका अनुसार यो सहमतिले एआईबाट उत्पन्न हुने जोखिमविरुद्ध ‘एक प्रकारको सुरक्षा’ प्रदान गर्नेछ ।
तर यो सहमति एन्थ्रोपिकका डारियो अमोडेईजस्ता एआई कम्पनीका कार्यकारीहरूले माग गर्दै आएका सुरक्षा मापदण्डभन्दा निकै टाढा छ । हालै सम्पन्न संयुक्त राष्ट्रसङ्घको बैठकअघि विश्वका नेताहरूले अपेक्षा गरेको एआई उद्योगको विश्वव्यापी नियमनको अवधारणासँग पनि यो मेल खाँदैन । यसका प्रमुख प्रभावहरू निम्न छन् ।
स्वैच्छिक सहमतिमा हस्ताक्षर गर्ने छ कम्पनीहरु (एन्थ्रोपिक, ओपनएआई, गुगल, मेटा, एक्सएआई र एनभिडिया)ले अपनाउनुपर्ने ‘नियन्त्रण र लेखापरीक्षणका विभिन्न तह’ को संक्षिप्त रूपरेखा दस्तावेजमा प्रस्तुत गरिएको छ ।
यसमा उन्नत एआई प्रणालीबाट उत्पन्न हुन सक्ने साइबर सुरक्षा र जैविक सुरक्षासम्बन्धी जोखिमको निगरानी गर्न ‘बलिया आन्तरिक नियन्त्रण प्रणाली’ स्थापना गर्ने तथा त्यस्ता प्रणालीले अनपेक्षित तरिकाले अन्य प्रणालीमा साइबर आक्रमण गर्न नसक्ने सुनिश्चित गर्ने प्रावधान छन् ।

कम्पनीहरूले आफ्ना नियन्त्रण प्रणाली प्रभावकारी छन् कि छैनन् भन्ने मूल्याङ्कन गर्न स्वतन्त्र बाह्य लेखापरीक्षकसँग सहकार्य गर्ने प्रतिबद्धता पनि जनाएका छन् । साथै, यस प्रक्रियाको अनुगमन गर्न प्रत्येक कम्पनीले आफ्नो सञ्चालक समितिअन्तर्गत एउटा ‘स्वतन्त्र समिति’ गठन गर्नुपर्नेछ ।
एन्थ्रोपिक, ओपनएआई र गुगल डिपमाइन्डजस्ता प्रमुख अनुसन्धान संस्थाहरूले नयाँ एआई प्रणाली सार्वजनिक गर्नुअघि नै तिनका क्षमता र जोखिमको मूल्याङ्कन गर्दै आएका छन् । एनभिडियाबाहेक अन्य सबै हस्ताक्षरकर्ता कम्पनीले सन् २०२४ मा सोलमा भएको एआई सम्मेलनपछि पनि यस्तै प्रतिबद्धतामा हस्ताक्षर गरेका थिए ।
अमेरिकाको कानुन तथा नीतिसम्बन्धी संस्था लएआईकी प्रबन्ध निर्देशक म्याकेन्जी आर्नोल्डले भनिन्, “यसको सबैभन्दा ठूलो महत्त्व यसको प्रतीकात्मक प्रभावमा छ,” उनले थपिन्, “यसले वास्तविक रूपमा कडा मापदण्ड लागू गर्न सक्ने अधिकार कुनै निकायलाई प्रदान गर्दैन ।”
यद्यपि एन्थ्रोपिक र ओपनएआईले स्वतन्त्र मूल्याङ्कनकर्ताहरूलाई आफ्ना कामको जाँच गर्न यसअघि नै अनुमति दिने सहमति जनाइसकेका छन्, नयाँ दस्तावेजले अन्य हस्ताक्षरकर्ता कम्पनीलाई पनि त्यसो गर्न बाध्य पार्न सक्ने सम्भावना छ ।
तर कुन मूल्याङ्कनकर्तालाई विश्वास गर्ने भन्ने विषयमा तत्काल सहमति हुने सम्भावना कम छ । ह्वाइट हाउसका पूर्व एआई प्रमुख डेभिड स्याक्सले एआईका जोखिम मूल्याङ्कन गर्ने गैरनाफामूलक संस्था एमईटीआरजस्ता सङ्गठनको स्वतन्त्रतामाथि प्रश्न उठाएका छन् ।
यो दस्तावेज कानुनी रूपमा बाध्यकारी पनि छैन । ट्रम्पले यसलाई ‘नैतिक रूपमा बाध्यकारी’ भने पनि त्यसको कानुनी हैसियत स्पष्ट छैन । यद्यपि केही कानुन व्यवसायीका अनुसार हस्ताक्षरकर्ता कम्पनीले आफ्नै प्रतिबद्धता उल्लङ्घन गरेमा नियामक निकायले पछि कानुनी चुनौती दिन सक्ने बाटो यसले खुला राखेको छ ।
अमेरिकाका एक परम्परावादी कानुन व्यवसायी तथा अमेरिका फस्र्ट पोलिसी इन्स्टिच्युटका सल्लाहकार जोएल थायरले भने, “तपाईंले सार्वजनिक रूपमा एउटा काम गर्ने घोषणा गरेर पछि त्यसलाई वास्तविक रूपमा पूरा गर्नुभएन भने त्यसलाई सामान्य रूपमा लिन सकिँदैन । त्यस्तो व्यवहार उपभोक्तालाई स्वाभाविक रूपमै झुक्याउने कार्य हो ।”
भोजमा अमेरिकी सङ्घीय व्यापार आयोगका अध्यक्ष एन्ड्रयु फग्र्युसन पनि उपस्थित थिए । उनले यसअघि एआई प्रणालीले गर्ने कार्यका लागि सम्बन्धित कम्पनीलाई जिम्मेवार ठहर गर्न सकिने धारणा राखेका थिए ।
थायरका अनुसार कम्पनीहरूले सार्वजनिक रूपमा गरेका यस्ता प्रतिबद्धताले सङ्घीय व्यापार आयोगबाट कारबाही हुने सम्भावना बढाउन सक्छन् ।
ह्वाइट हाउसले यसअघि सार्वजनिक गरेका धारणाभन्दा फरक रूपमा, नयाँ दस्तावेजले भविष्यमा थप कानुन बनाउने सम्भावनालाई अस्वीकार गरेको छैन । बरु यसमा भनिएको छ, “समयक्रममा यी कदमलाई कानुन वा नियमावलीमा समावेश गर्नु उपयुक्त हुन सक्छ ।”
तर केही एआई कम्पनीले सुरक्षासम्बन्धी विषयमा आपसी सहकार्य बढाउँदा प्रतिस्पर्धाविरोधी गतिविधिसम्बन्धी मुद्दा खेप्नुपर्ने जोखिम रहेको चेतावनी दिएका छन् । त्यस्तो जोखिमले सुरक्षासम्बन्धी थप प्रगतिमा अवरोध पु¥याउन सक्छ ।
आर्नोल्डले भनिन्, “यस विषयमा निकै धेरै आशङ्का र चिन्ता छ ।” तर उनले पारस्परिक सहमतिले कम्पनीहरूलाई सुरक्षाका लागि थप काम गर्न उत्प्रेरित गर्न सक्ने बताइन् । उनका अनुसार, “यस प्रकारका पारस्परिक सहमति निकै उपयोगी हुन सक्छन् ।”
सुरक्षा पहिलो प्राथमिकता
ओपनएआईका प्रमुख कार्यकारी अधिकृत साम अल्टम्यानले कम्पनीले सुरक्षासम्बन्धी निर्णयहरू विश्वस्त भएर लिन सक्ने अवस्था नआएसम्म सेयर बजारमा प्रवेश नगर्ने बताएका छन् । तेस्रो पक्षको प्रणालीमा साइबर आक्रमण गर्न आफ्ना उपकरण प्रयोग भएको आरोपसहित कम्पनीले नयाँ मुद्दासमेत खेपिरहेका बेला उनको यस्तो भनाइ आएको हो ।
अल्टम्यानले ओपनएआईले सेयर बजारमा प्रवेश गर्न धेरै समय लगाउनु “विश्वका लागि राम्रो नहुने” बताए । तर एआईको क्षमता तीव्र रूपमा बढिरहेको अवस्थामा कम्पनीले प्रारम्भिक सार्वजनिक सेयर निष्कासन (आईपीओ) का लागि “सबै शक्ति लगाएर हतारहतार अघि बढ्ने” काम नगर्ने पनि उनले स्पष्ट पारे ।
स्यान फ्रान्सिस्कोमा आयोजित कम्पनीको वार्षिक विकासकर्ता दिवसमा अल्टम्यानले भने, “हामी आफ्नो मूल उद्देश्य र सुरक्षालाई प्राथमिकता दिनेछौँ । एआईको अर्को चरणमा विस्तार गर्दा विश्वमा यी सबै नराम्रा घटना हुने सम्भावना कति प्रतिशत छ भन्ने विषयमा मानिसहरूबीच विवाद भइरहने अवस्था नआओस् भन्ने सुनिश्चित गर्न चाहन्छौँ ।”
ओपनएआईको यो सम्मेलन कम्पनीको सुरक्षा अभ्यास र कार्यसम्पादनमाथि गम्भीर प्रश्न उठिरहेका बेला आयोजना भएको हो । पछिल्लो समय सार्वजनिक भएका साइबर आक्रमणका घटनाहरू र एन्थ्रोपिक, मेटालगायत प्रतिस्पर्धी कम्पनीसँगको तीव्र प्रतिस्पर्धाले ओपनएआईमाथिको दबाब बढाएको छ ।
एन्थ्रोपिकका कर्मचारीसहित एआई अनुसन्धानकर्ताहरूले अनियन्त्रित एआईका कारण आगामी एक दशकभित्र मानवजाति नै समाप्त हुने सम्भावना १० प्रतिशत रहेको चेतावनी दिएका छन् । यसले प्रविधिबाट उत्पन्न हुन सक्ने जोखिमबारे विश्वव्यापी चिन्ता बढाएको छ ।
यसैबीच, परीक्षण र प्रशिक्षणका क्रममा ओपनएआईका एआई प्रणालीले अनपेक्षित व्यवहार देखाएको विषयमा पनि प्रश्न उठेका छन् । ती प्रणालीले हगिङ फेस नामक नयाँ प्रविधि कम्पनी र सरकारी वेबसाइटहरूमा साइबर आक्रमण गरेको घटनासमेत सार्वजनिक भएका छन् ।