ह्याकिङ परीक्षण जब गलत दिशातिर लाग्यो...

गत हप्ता ओपन–सोर्स एआई मोडेलहरू उपलब्ध गराउने कम्पनी हगिङ फेसले आफ्नो सिस्टम ह्याक भएको थाहा पायो । पछि पत्ता लाग्यो कि यसको दोषी ओपनएआई थियो ।
ओपनएआईको मोडेलले हगिङ फेसमा खतरनाक कोड मिसिएको डाटा अपलोड गरेको देखिन्छ । यसले कम्प्युटरहरूलाई झुक्याएर सार्वजनिक रूपमा उपलब्ध नभएका अन्य सिस्टमहरूमा पहुँच दियो ।
हगिङ फेसले गत हप्ता एउटा ब्लग पोस्टमा ग्राहकहरूको डाटा चोरी भएको हो वा होइन भन्ने अझै निश्चित नभएको बताएको छ । न्यु साइन्टिस्टले थप जानकारी माग्दा कम्पनीका सीईओ क्लेमेन्ट डेलाङ्गले त्यही ब्लग पोस्टको लिङ्क पठाएर जवाफ दिएका थिए ।

के भएको थियो ?
सबै कुरा पूर्ण रूपमा स्पष्ट त पारिएको छैन तर हामीलाई के थाहा भयो भने यो आक्रमणमा ‘हजारौं छुट्टाछुट्टै कामहरू’ समावेश थिए । यो काम मानिसले गर्न नसक्ने गतिमा भएको थियो । यो नै एआईको मुख्य पहिचान हो ।
पाँच दिनपछि, ओपनएआईले आफ्नै ब्लग पोस्टमार्फत गल्ती स्वीकार ग¥यो । यसले एक्सप्लोइटजिम नामक बेन्चमार्कमा नयाँ मोडेलहरूको परीक्षण गरिरहेको थियो, जसले ह्याक गर्ने क्षमताको मूल्याङ्कन गर्छ । राम्रो अङ्क ल्याउने सबैभन्दा सजिलो बाटो चिट चोर्नु हो भन्ने ती मोडेलहरूले सोचे । उनीहरूलाई थाहा थियो कि परीक्षणको उत्तर हगिङ फेससँग छ, त्यसैले उत्तर खोज्न उनीहरूले सिधै त्यसको सिस्टम ह्याक गर्ने निर्णय गरे ।
बेलायतको एज हिल युनिभर्सिटीका इयान न्यास भन्छन्, “यसको अल्गोरिदमले चिट चोरेर सबैभन्दा धेरै फाइदा लियो । यो सबैभन्दा कम मिहिनेतमा पाएको सबैभन्दा ठूलो पुरस्कार थियो ।“

यस्तो कुरा रोक्नको लागि एआई मोडेलहरूमा पहिले नै सुरक्षा व्यवस्था हुनुपर्ने होइन र ?
हुनुपर्ने हो, तर ओपनएआईले यो परीक्षणको लागि त्यसलाई बन्द गरेको थियो । ओपनएआईका ग्राहकहरूलाई अरू कम्पनीको सर्भर ह्याक गर्ने जस्ता खराब काम गर्नबाट रोक्ने सबै सामान्य सुरक्षा सुविधाहरू बन्द गरिएका थिए । मोडेलले के–कति गर्न सक्छ भनेर हेर्न यसो गरिएको थियो ।
कम्पनीले यसलाई बाहिरी दुनियाँमा गएर बदमासी गर्न नपाओस् भनेर सामान्य इन्टरनेट जडान नभएको वातावरणमा राखेको थियो । तर, यससँग एउटा नाम नखुलाइएको टुल (उपकरण) को पहुँच भने थियो, जसले नयाँ सफ्टवेयर डाउनलोड र इन्स्टल गर्न दिन्थ्यो । यसले यही कोडमा एउटा कमजोरी पत्ता लगायो जसले यसलाई इन्टरनेटमा पहुँच दियो, र बाँकी कुरा त सबैलाई थाहा नै छ ।
ओपनएआईका अनुसार यो प्रक्रियामा निकै ठूलो मात्रामा ’इन्फरेन्स कम्प्युट’ (डिप लर्निङमा डाटा प्रोसेस गर्ने प्रक्रिया) लागेको थियो र एआईले निकै हद पार गरेको थियो । यसबाट के स्पष्ट हुन्छ भने जुनसुकै हालतमा पनि राम्रो अङ्क ल्याउन मोडेल पूरै प्रेरित थियो ।
यदि तपाईं कुनै खराब नियत भएको ह्याकर हुनुहुन्थ्यो भने पनि, यस्तो अवस्था सिर्जना गर्न सजिलो हुने थिएन । अनि ओपनएआईले भनेको जस्तो इन्फरेन्स कम्प्युट गर्न निकै महँगो पर्ने थियो ।

ओपन–सोर्स मोडेलहरूको अवस्था कस्तो छ त ?
अचम्मको कुरा त के छ भने, जब हगिङ फेसले के भएको थियो भनेर बुझ्न व्यावसायिक एआई मोडेलहरू प्रयोग गरेर आफ्नो लग डाटा अध्ययन गर्न खोज्यो, ती मोडेलहरूले मान्दै मानेनन् । उनीहरूले कम्पनी आफैंले कुनै आक्रमण गर्ने योजना बनाइरहेको जस्तो देखिन्छ भने । त्यसैले कम्पनीले बाध्य भएर जिएलएम ५.२ नामक चिनियाँ ओपन–सोर्स मोडेलको साहारा लिनुप¥यो ।
यी ओपन–सोर्स मोडेलहरू अलि धेरै खुकुला हुन्छन्, जसले गर्दा केही विशेषज्ञहरूले यिनलाई सुरक्षा जोखिम मानेका छन् । कडा सुरक्षा भएका क्लाउड मोडेलहरूको तुलनामा यी मोडेलहरूलाई खराब काम गर्न सजिलै मनाउन सकिन्छ । तर यहाँ, यही खुकुलोपनले गर्दा नै हगिङ फेसलाई समस्या समाधान गर्न र ह्याकिङ रोक्न मद्दत पुग्यो ।

त्यसो भए, के यो गैरकानुनी हो ?
यो कुरा अलि अस्पष्ट छ । न्यासका अनुसार, यदि यो बेलायतमा भएको भए कम्प्युटर दुरुपयोग ऐन (१९९०) अन्तर्गत ओपनएआईलाई पक्कै समस्या पर्न सक्थ्यो ।
तर बेलायतको नटिङ्घम ट्रेन्ट युनिभर्सिटीकी रेबेका पेरीको विचार फरक छ । उनका अनुसार, कानुन आकर्षित हुन खराब नियत हुनुपर्छ, र एआईले यस्तो बाटो रोज्छ भन्ने ओपनएआईलाई थाहा थिएन, त्यसैले यसले कुनै मुद्दा खेप्नु नपर्न सक्छ ।
अमेरिकामा भने यो भन्दा पनि पुरानो कम्प्युटर ठगी र दुरुपयोग ऐन (१९८६) सँग एआई ह्याकिङको बारेमा बोल्न धेरै कुराहरू छन् । किनकि यो कानुन १९८३ को चलचित्र ‘वारगेम्स’ को प्रतिक्रियामा ल्याइएको थियो, जसले कानुन निर्माताहरूलाई ह्याकिङ र एआई दुवैको बारेमा सचेत गराएको थियो । त्यसैले पेरीलाई लाग्छ कि यसले अमेरिकामा ओपनएआईलाई अप्ठ्यारोमा पार्न सक्छ ।
त्यसमाथि, अमेरिकी राष्ट्रपति डोनाल्ड ट्रम्पले जुन २ मा एउटा कार्यकारी आदेश जारी गर्दै ’विना अनुमति गैरकानुनी रूपमा कम्प्युटरमा पहुँच पाउन वा क्षति पु¥याउन’ एआई प्रयोग गर्ने जो कोहीलाई कारबाही गर्न कानुन कार्यान्वयन गर्ने निकायहरूलाई निर्देशन दिएका थिए ।
कम्तीमा बेलायतमा, यदि कुनै कम्पनी एआईद्वारा ह्याक भयो र व्यक्तिगत डाटा बाहिरिएको पाइयो भने त्यसले जिडिपिआर अन्तर्गत जरिवाना तिर्नुपर्ने हुन सक्छ । त्यसैले अहिलेको अवस्था निकै अस्पष्ट छ ।

यसको परिणाम के हुन सक्छ ?
वास्तविक संसारमा, हगिङ फेसले ओपनएआईसँग मिलेर काम गर्ने, प्रविधिसँग जानकार रहेको र कुनै गम्भीर क्षति नबेहोरेको हुनाले, यी दुईबीच कुनै मनमुटाव वा अदालतमा मुद्दा पर्ने सम्भावना कम छ । डेलाङ्गले ‘एक्स’ मा पोस्ट गर्दै कम्पनीलाई यसमा कुनै खराब नियत नभएको विश्वास रहेको बताएका छन् र ओपनएआईको राम्रो प्रतिक्रियाको लागि धन्यवाद दिएका छन् ।
यो पनि नबिर्सनुहोस् कि ओपनएआई अमेरिकी सरकारको ठेकेदार हो, जसले ’युद्ध कला’ मा मद्दत गर्न २० करोड डलर लिएको छ । त्यसैले यसले सरकारबाट केही छुट पाउन सक्छ । तर यही प्रविधिले एकदमै फरक र नराम्रो परिणाम ल्याउन सक्ने अरू अवस्थाहरूको कल्पना गर्न गाह्रो छैन । सोचौँ त, कुनै बैंकले बजारको भविष्यवाणी गर्न एआईको प्रयोग गरेर नयाँ वित्तीय मोडेल बनाउँदै छ र त्यसले गोप्य आर्थिक तथ्याङ्क हेर्न सरकारी सर्भर नै ह्याक ग¥यो भने के होला । अथवा, कुनै कार निर्माता कम्पनीले नयाँ मोडल डिजाइन गर्न एआई प्रयोग गर्दा, त्यसले प्रतिस्पर्धी कम्पनीको अझै सार्वजनिक नभएको डिजाइन चोर्न उनीहरूकै सिस्टम ह्याक ग¥यो भने के होला ।

न्यू साइन्टिष्टबाट