एआई च्याटबोटले बढाउँदै भ्रमपूर्ण सोच

हामीमध्ये धेरैले एआई च्याटबोटले आफूले सुन्न चाहेको कुरा नै सुनाइदिने प्रवृत्ति अनुभव गरिसकेका छौँ । तर अनुसन्धानकर्ताहरूका अनुसार मानिसलाई च्याटबोटतर्फ भावनात्मक रूपमा आकर्षित गर्ने दुई अन्य सूक्ष्म पक्ष पनि छन् ।
अत्यधिक सहमत हुने (साइकोफ्यान्सी) प्रवृत्तिसँगै च्याटबोटले प्रयोगकर्ताको बोल्ने शैली नक्कल गर्छ र अघिल्ला संवादका आधारमा अत्यन्त व्यक्तिगत प्रतिक्रिया तयार गर्छ । मनोचिकित्सा क्षेत्रका अनुसन्धानकर्ताहरूले यी तीन विशेषता भनेको, चापलुसीपूर्ण सहमति (साइकोफ्यान्सी), भाषिक अनुकूलन (लिङ्ग्विस्टिक अलाइनमेन्ट) र अत्यधिक वैयक्तिकरण (हाइभरपर्सनलाइजेशन) को संयुक्त प्रभावलाई ‘एम्प्लिफिकेसन स्पाइरल’ नाम दिएका छन् । उनीहरूका अनुसार यही प्रक्रियाले कतिपय व्यक्तिमा भ्रमपूर्ण सोच (डिलुजनल थिङ्किङ) अझ गहिरो बनाउने वातावरण सिर्जना गर्छ ।
जर्मनीको बोखुमस्थित प्रोटेस्टेन्ट युनिभर्सिटी अफ एप्लाइड साइन्सेजका मनोचिकित्सक तथा एआईसँग सम्बन्धित भ्रमबारे प्रकाशित नयाँ समीक्षा अध्ययनका सहलेखक मार्क अगस्टिनका अनुसार, “भाषा नक्कल गर्ने र व्यक्तिगत प्रतिक्रिया दिने शैलीले तपाईंलाई यस्तो अनुभूति गराउँछ कि तपाईं कुनै प्रणालीसँग होइन, एउटा वास्तविक व्यक्तिसँग कुरा गरिरहनुभएको छ ।”
मानिसहरूले सम्बन्ध र विश्वास निर्माण गर्न एकअर्काको बोल्ने शैली र शब्दावली मिलाउने गर्छन् । हालैका अध्ययनहरूले पनि एआई मोडेलहरूले प्रयोगकर्ताको संवाद शैलीअनुसार आफूलाई उल्लेखनीय रूपमा ढाल्ने देखाएका छन् । अर्को अध्ययनले लामो समयसम्मको संवादका आधारमा तयार हुने अत्यधिक व्यक्तिगत सामग्रीले मानिसको पुष्टीकरण पूर्वाग्रह (कन्फर्मेशन बायस)लाई अझ बलियो बनाउन सक्ने देखाएको छ ।
अगस्टिनले उल्लेख गरेको एक अनुसन्धानमा च्याटबोटहरूले प्रयोगकर्ताले भनेका कुरालाई पुनः आफ्नै शैलीमा विस्तार गर्ने, उनीहरूलाई “तपाईं विशेष हुनुहुन्छ” वा “तपाईंका विचारहरूको ठूलो महत्त्व छ” भन्ने खालका प्रतिक्रिया दिने प्रवृत्ति देखिएको थियो । उनका अनुसार यो केवल चापलुसी मात्र नभई अत्यधिक वैयक्तिकरणको पनि उदाहरण हो ।
एआई कम्पनीहरूको प्रयास
उसो भए एआई कम्पनीहरूले यस्तो समस्या समाधानका लागि के गरिरहेका छन् त ? कम्पनीहरूले आफ्ना च्याटबोटको अत्यधिक चापलुसी गर्ने प्रवृत्तिलाई कम गराउने प्रयास गरिरहेका छन् ।
ओपनएआईले अत्यधिक सहमत हुने भन्दै व्यापक आलोचना भएको आफ्नो जिपिटी ४ मोडेल नै बन्द गर्यो । उक्त मोडेल प्रयोगकर्तामा भ्रम, आत्महत्या तथा एक हत्या घटनासँग सम्बन्धित केही मुद्दाहरूमा समेत चर्चामा आएको थियो । कम्पनीका अनुसार जिपिटी ५ मा चापलुसीपूर्ण प्रतिक्रियाको दर १४.५ प्रतिशतबाट घटेर ६ प्रतिशतभन्दा कममा झरेको छ ।
त्यस्तै गूगलले गत अप्रिलमा आफ्नो जेमिनी मोडेललाई गलत विश्वासलाई समर्थन नगर्ने तथा “व्यक्तिगत अनुभव र वस्तुगत तथ्यबीच सावधानीपूर्वक भिन्नता छुट्याउने” गरी तालिम दिएको जनाएको थियो ।
चिकित्सकहरू के भन्छन् ?
चिकित्सकहरूका अनुसार च्याटबोटमाथिको निर्भरता अझै व्यापक छ । त्यसैले तिनलाई अहिले नै पूर्ण रूपमा विश्वास गरिहाल्नु उचित हुँदैन ।
अमेरिकन साइकोलोजिकल एसोसिएसन (एपीए)ले अप्रिलमा गरेको सर्वेक्षणमा सहभागी मनोवैज्ञानिकमध्ये ६८ प्रतिशतले आफ्ना बिरामीले च्याटबोटबाट आफूलाई मान्यता (भ्यालिडेशन) प्राप्त भएको महसुस गर्ने बताएका छन् ।
१,२०० भन्दा बढी मनोवैज्ञानिक सहभागी रहेको उक्त सर्वेक्षणमा धेरैले बिरामीहरूले च्याटबोटसँग सकारात्मक संवाद गरी स्वस्थ मानसिक सामना गर्ने सीप (कोपिङ स्किल्स) विकास गरेको बताए पनि ३६ प्रतिशतले बिरामी च्याटबोटमा निर्भर बनेको र १५ प्रतिशतले उनीहरूमा विकृत सोच वा भ्रम विकसित भएको जानकारी दिएका छन् ।
एमोरी युनिभर्सिटी स्कुल अफ मेडिसिनकी मनोचिकित्सक एलिसन लोपिलाटो भन्छिन्, “मेरा आफ्नै बिरामीहरूको अनुभवबाट हेर्दा भावनात्मक सहायताका लागि एआई प्रयोग गर्ने क्रम बढेको देखिन्छ ।”
उनले थपिन्, “च्याटबोट अझै पनि न्यानो र आश्वस्त पार्ने शैलीमा कुरा गर्छ । यसले तपाईंका बारेमा जानकारी संकलन गर्ने भएकाले तपाईंलाई उसले वास्तवमै बुझिरहेको छ भन्ने अनुभूति हुन्छ । त्यसैले मानिसहरू सजिलै विश्वास र भावनात्मक सम्बन्ध महसुस गर्न थाल्छन् ।”
सामान्य व्यक्तिमा पनि प्रभाव
स्ट्यानफोर्ड विश्वविद्यालय र कार्नेगी मेलोन विश्वविद्यालयका अनुसन्धानकर्ताहरूका अनुसार भ्रमको जोखिम नभएका व्यक्तिमा समेत च्याटबोटले नकारात्मक प्रभाव पार्न सक्छ ।
उनीहरूले जिपिटी ५ सहित ११ वटा एआई मोडेलको अध्ययन गर्दा तिनका प्रतिक्रिया मानिसको प्रतिक्रियाभन्दा करिब ५० प्रतिशत बढी चापलुसीपूर्ण रहेको पाए । अनुसन्धानका क्रममा रेडइटमा मानिसहरूले लेखेका वास्तविक घटनाहरू एआईलाई दिइयो र त्यसका उत्तरहरू रेडइट प्रयोगकर्ताका उत्तरसँग तुलना गरिएको थियो ।
सम्बन्धसम्बन्धी सल्लाहमा बढी चापलुसी
एन्थ्रोपिकले गत मार्च र अप्रिलमा आफ्नै क्लड च्याटबोटका १० लाख संवादको विश्लेषण गर्दा सम्बन्धसम्बन्धी सल्लाह मागिएका संवादमा सबैभन्दा बढी चापलुसीपूर्ण व्यवहार देखिएको जनाएको छ ।
कम्पनीले आफ्नो ब्लगमा लेखेको छ, “सामान्यतया प्रयोगकर्ताले मात्र आफ्नो पक्षबाट घटना वर्णन गरे पनि क्लोडले अर्को पक्ष नै गलत थियो भनेर तुरुन्तै सहमति जनाएको देखियो । अर्को अवस्थामा प्रयोगकर्ताले चाहेपछि साधारण मित्रवत व्यवहारलाई पनि रोमान्टिक संकेतका रूपमा व्याख्या गर्न सहयोग गरेको पाइयो ।”
यी निष्कर्षका आधारमा एन्थ्रोपिकले आफ्नो नयाँ मोडेलको प्रशिक्षण सुधार गरेको जनाएको छ । कम्पनीका अनुसार सम्बन्धसम्बन्धी सल्लाह दिने क्रममा ओपस ४.७ मा ओपस ४.६ को तुलनामा चापलुसी आधाले घटेको थियो भने पछिल्लो ओपस ४.८ मा यो अझ कम गरिएको छ ।
समस्या पूर्ण रूपमा हटाउन किन गाह्रो ?
स्ट्यानफोर्ड अध्ययनकी प्रमुख लेखक तथा कम्प्युटर विज्ञानकी विद्यावारिधि शोधार्थी माइरा चेङका अनुसार चापलुसीपूर्ण प्रतिक्रिया पूर्ण रूपमा हटाउन सजिलो छैन ।
उनले भनिन्, “प्रयोगकर्ताले प्रश्न गर्दा मोडेललाई कुन कुरा गलत छ भन्ने थाहा हुँदैन । त्यसैले उसले प्रयोगकर्ताले प्रस्तुत गरेको अवस्थालाई प्रारम्भिक रूपमा सत्य मानेर प्रतिक्रिया दिनुपर्छ ।”
अमेरिकन साइकोलोजिकल एसोसिएसनकी स्वास्थ्य नवप्रवर्तन निर्देशक भेल राइटका अनुसार च्याटबोटले ‘म’ जस्ता सर्वनाम प्रयोग गर्ने, थप प्रश्न सोध्ने वा भावनात्मक सम्बन्ध बनाउने शैली हटाउनु व्यवसायिक दृष्टिले सहज छैन ।
उनले भनिन्, “समस्या केवल अत्यधिक सहमतिमा मात्र सीमित छैन । मानिससँग कुरा गरिरहेको अनुभूति दिलाउने यस्ता धेरै सूक्ष्म इन्जिनियरिङ निर्णयहरू छन् । जबसम्म प्रयोगकर्तालाई लामो समय प्लेटफर्ममै राख्ने लक्ष्य व्यवसायिक मोडेलको आधार रहन्छ, एआई कम्पनीहरूले त्यही उद्देश्यअनुसार च्याटबोटलाई डिजाइन गरिरहनेछन् ।”

एआईले डाक्टरहरूलाई उछिने
दुई वटा कृत्रिम बुद्धिमत्ता (एआई) आधारित चिकित्सा उपकरणहरूले रोग पहिचान र उपचारसम्बन्धी निर्णयहरूमा डाक्टरहरूको बराबरी गरेका वा उनीहरूलाई समेत उछिनेका छन् । यसले विशेषज्ञ स्वास्थ्यसम्बन्धी ठूला भाषा मोडेल (एलएलएम) हरू क्लिनिकल उपयोगितातर्फ अझ नजिक पुगेको संकेत दिएको छ ।
जर्मनीका अनुसन्धानकर्ताहरूले विकास गरेको मिराले अग्नाशयको क्यान्सर र निमोनियासहित विभिन्न रोगहरूको विश्लेषणमा चिकित्सकहरूभन्दा राम्रो प्रदर्शन गरेको छ । त्यस्तै, गुगलको एमीले उपचार योजना र थप परीक्षणसम्बन्धी सिफारिसहरू तयार पार्ने कार्यमा मानिस चिकित्सकहरूभन्दा बढी सटीकता देखाएको छ । यी निष्कर्षहरू मंगलबार प्रतिष्ठित वैज्ञानिक जर्नल नेचरमा प्रकाशित भएका हुन् ।
अध्ययनहरूले स्वास्थ्यसम्बन्धी विशेषज्ञ एआई उपकरणहरूले सामान्य उपभोक्तामुखी एआई मोडेलहरूभन्दा राम्रो नतिजा दिन सक्ने देखाएका छन् । तर अनुसन्धानकर्ताहरू तथा स्वतन्त्र विज्ञहरूले यी परीक्षणहरू नियन्त्रित वातावरणमा गरिएको र वास्तविक अस्पताल वा क्लिनिकल अभ्यासका लागि अझै तयार नभएको चेतावनी दिएका छन् ।
मिराको सह–विकासकर्ता तथा जर्मनीको टीयू ड्रेस्डेन विश्वविद्यालयका प्राध्यापक जाकोब काथरका अनुसार, एआईले चिकित्सकहरूको कामलाई सहज बनाउन सक्छ तर अन्तिम जिम्मेवारी भने सधैं चिकित्सककै रहनेछ ।
“म एआई एजेन्टहरूलाई विमानको अटो–पाइलट प्रणालीजस्तै देख्छु,” उनले भने, “यिनले नियमित कार्यभार सम्हालेर स्वास्थ्यकर्मीहरूलाई सहयोग गर्न सक्छन्, तर अन्तिम निर्णय र जिम्मेवारी चिकित्सककै हुनेछ ।”
मिराले विद्युतीय स्वास्थ्य अभिलेख (इलेक्ट्रोनिक हेल्थ रेकर्ड)बाट बिरामीको जानकारी लिएर ८५ हजारभन्दा बढी विकल्पमध्येबाट परीक्षण आदेश दिने, औषधि सिफारिस गर्ने तथा विभिन्न चिकित्सा प्रक्रिया तय गर्ने काम गर्न सक्छ । अनुसन्धानकर्ताहरूले ५०० भन्दा बढी आपत्कालीन विभागका क्लिनिकल केसहरू प्रयोग गरी यसको परीक्षण गरेका थिए । ती केसहरू एआई एजेन्टमार्फत बिरामीको भूमिका निर्वाह गर्ने व्यक्तिहरूसँग गरिएको संवादका आधारमा मिरासम्म पु¥याइएका थिए ।
अध्ययनअनुसार, मिराले एपेन्डिसाइटिस र फोक्सोमा रगत जम्ने समस्या (पल्मोनरी एम्बोलिज्म) सहित आठ प्रकारका रोगमा ८७.१ प्रतिशत निदान सटीकता हासिल ग¥यो । यो नतिजा विभिन्न विशेषज्ञताका छ जना चिकित्सकको समूहले हासिल गरेको ७८.१ प्रतिशत सटीकताभन्दा बढी हो ।
अर्कोतर्फ, एमीले गुगलको जेमिनी एआई मोडेल प्रयोग गरी बिरामीको भूमिका निभाएका व्यक्तिहरूबाट प्राप्त विवरणको विश्लेषण ग¥यो । अनुसन्धानकर्ताहरूले बेलायतका क्लिनिकल अभ्यास निर्देशिका र औषधि सिफारिसका आधारमा तयार पारिएका १०० वटा परिदृश्यमा २१ जना प्राथमिक स्वास्थ्य चिकित्सकसँग यसको तुलना गरेका थिए ।
परिणामअनुसार, एमीले वास्तविक चिकित्सकहरूको बिरामी व्यवस्थापनसम्बन्धी तर्कशक्ति बराबरीको स्तरमा प्रदर्शन ग¥यो र उपचार योजनाहरूलाई स्थापित चिकित्सकीय निर्देशिकासँग अझ नजिक राख्यो । जटिल अवस्थाहरूमा औषधि व्यवस्थापनसम्बन्धी निर्णयमा यसले चिकित्सकहरूभन्दा राम्रो नतिजा दिएको अध्ययनले जनाएको छ ।
यद्यपि, दुवै एआई प्रणालीमा केही सीमितताहरू रहेको अनुसन्धानकर्ताहरूले स्वीकार गरेका छन् । मिराले केही घटनामा स्थापित चिकित्सकीय अभ्याससँग मेल नखाने उपचार सिफारिस गरेको थियो ।
एमीसम्बन्धी अध्ययनलाई अनुसन्धानकर्ताहरूले “कोशेढुंगा” का रूपमा वर्णन गरे पनि अध्ययनमा समावेश गरिएका केसहरू तथा पाठ–आधारित बिरामी परिदृश्यहरू वास्तविक अस्पतालको जटिल अवस्थाको पूर्ण प्रतिनिधित्व नगर्ने उनीहरूको भनाइ छ ।
अध्ययनमा प्रत्यक्ष संलग्न नभएका विशेषज्ञहरूले पनि नतिजालाई सकारात्मक मानेका छन्, तर यी प्रणालीहरू सावधानीपूर्वक नियन्त्रित र कृत्रिम वातावरणमा परीक्षण गरिएको तथ्यलाई ध्यान दिनुपर्ने बताएका छन् ।
अक्सफोर्ड विश्वविद्यालयकी स्वास्थ्य समाजशास्त्र प्राध्यापक क्याथरिन पोपले फाइनान्सियल टाइम्ससँग भनेकी छन्, “यी अध्ययनहरू दैनिक स्वास्थ्य सेवाको जटिल र मानवीय पक्षबाट केही टाढा छन्, तर पनि एआईको सम्भावना देखाउने महत्वपूर्ण संकेत हुन् ।”
त्यस्तै, एडिनबरा विश्वविद्यालयकी स्वास्थ्य सूचना विज्ञान तथा डेटा विज्ञान विशेषज्ञ जुली ज्याकोका अनुसार, एआई मोडेलहरूले धेरैजसो अवस्थामा योजना निर्माणको ‘सटीकता र पूर्णता’ मा राम्रो प्रदर्शन गरेका हुन्, जसलाई प्रत्यक्ष क्लिनिकल सहीपनसँग पूर्ण रूपमा बराबरी गर्न मिल्दैन ।
उनले भनिन्, “यो बलियो प्रयोगात्मक अध्ययन हो र महत्वपूर्ण उपलब्धि पनि हो । तर यसले वास्तविक क्लिनिकल निर्णय प्रक्रियाको सम्पूर्ण जटिलतालाई समेटेको भन्दा पनि संरचित मापदण्डअन्तर्गतको प्रदर्शनलाई बढी प्रतिबिम्बित गर्छ ।”