एआई नियन्त्रणको निरर्थक बहस

कृत्रिम बौद्धिकता (आर्टिफिसियल इन्टेलिजेन्सी— एआई) को विकास र प्रयोगमा भएको वृद्धिसँगै यसका आलोचकको आवाज चर्किंदै गएको छ । यसले मानव सभ्यतालाई नै खतरा पार्न सक्छ भन्नेसम्मका जोखिम अनुमान गरिएका छन् । खतरनाक प्रविधिको विकासलाई प्रतिबन्ध लगाउनुपर्छ, नियन्त्रण गर्नुपर्छ वा नियमन गर्नुपर्छ भन्ने तीन तहका धारणा छन् । जीवन उपयोगी प्रविधिको विकासलाई प्रवद्र्धन गर्नुपर्छ भन्ने धारणा पनि छन् ।

आम मानिसको मनोविज्ञान परिवर्तन स्वीकार र आत्मसात् नगर्ने हुन्छ । मानिसले जेमा विश्वास वा अन्धविश्वास गरेको हुन्छ, त्योभन्दा फरक कुरालाई निषेध गर्ने उसको स्वभाव हुन्छ । विगतमा आफ्नो टोलमा सिनेमा हल खुल्दा अभिभावकले छोराछोरी बिग्रने भए भनेर चिन्ता गर्थे । सिनेमा हेर्नेलाई उच्छृङ्खलको वर्गमा राखिन्थ्यो ।

टेलिभिजन बजारमा आएपछि केटाकेटीले पढ्दैनन्, घर–परिवारसँग घुलमिल हुँदैनन्, सामाजिक, पारिवारिक र आफन्तजनको सम्बन्ध बिग्रन्छ भन्ने बुझाइ रहेको थियो । टेलिफोन बजारमा आएपछि मानिसहरू भेटघाट गर्दैनन्, भावनात्मक सम्बन्ध टुटाउँछ भनेर विरोध भयो ।

इन्टरनेट आएपछि अश्लील कुरा हेर्छन्, सिर्जनात्मक पढाइ र कामको समय इन्टरनेटले खोसिदिन्छ भनेर विरोध भयो । अनलाइन भिडियो गेम लागूऔषध दुव्र्यसनभन्दा खतरा हो भनियो । सामाजिक सञ्जालको विकास हुँदा यसले विद्यार्थीको पढाइ बिगार्छ, कर्मचारीको काम बिगार्छ, गृहिणीको घरधन्दा बिगार्छ भनेर आलोचना भयो । सरकारी कार्यालयमा सामाजिक सञ्जाल प्रतिबन्ध लगाइयो ।

अहिले एआई प्रतिबन्ध लगाउने लहर छ । कम्पनी, कार्यालयहरूले कर्मचारीका लागि एआई प्रयोग गरेर तयार गरेको डकुमेन्ट अमान्य हुने नियम बनाइरहेका छन् । अखबारहरूले एआई प्रयोग गरेर तयार गरेको लेखरचना अयोग्य मान्ने सूचना प्रकाशन गरिरहेका छन् । विद्वान् विश्लेषकहरूले एआईलाई बेलगाम छोड्न हुँदैन भनेर दबाब दिइरहेका छन् ।

सम्भावित जोखिम
एआईले आर्थिक, राजनीतिक वा सैन्य निर्णयहरूमा हस्तक्षेप गर्न सक्छ, जसले मानव नियन्त्रण गुम्न सक्छ । एआईले धेरै मानिसको रोजगारी खोस्न सक्छ, विशेष गरी कार्यालय, निर्माण र सेवा क्षेत्रमा । गलत सूचना फैलाउने क्षमता एआईमा हुन्छः जस्तै ‘डिप–फेक’, झूटा समाचार आदि एआईबाट सजिलै फैलाउन सकिन्छ । यदि सैन्य क्षेत्रमा अनियन्त्रित एआई प्रयोग भयो भने यसले विनाश ल्याउन सक्छ ।

सेयर बजारमा आफ्नो लगानी क्षणभरमै स्वाहा हुन सक्छ । स्टक बजारमा कम्प्युटरले सेकन्डको भरमा खरिद–बिक्री गर्छन् । कहिलेकाहीँ यी प्रणालीहरू अचानक कुनै ‘प्याटर्न’ देखेर ठूलो कारोबार गर्छन्, जसले बजार क्रयास गर्न सक्छ र मान्छेले थाहा पाउँदा ढिलो भइसकेको हुन्छ ।

यदि कुनै देशले स्वचालित ड्रोनलाई ‘खतरनाक वस्तु वा मान्छे देख्नासाथ आक्रमण गर’ भनेर आदेश दियो भने निर्णय एआईले लिन्छ । यदि प्रणालीले निर्दोषलाई दुस्मन ठान्यो भने मानवले नियन्त्रण गुमाउन सक्छ ।

भविष्यमा सरकार वा संस्थाहरूले एआईको सल्लाह वा निर्णयलाई अन्धविश्वासजस्तै मान्न थाले भने मानव नियन्त्रण कमजोर हुन्छ । जस्तो कि, ‘यस ठाउँमा विकास परियोजना बनाउन उपयुक्त छ वा छैन ?’ भन्ने प्रश्नमा यदि एआई प्रणालीले विश्लेषण गरेर निर्णय दिन्छ र सरकार त्यसैमा भर पर्न थाल्छ भने नीतिगत निर्णय मान्छेले होइन, डेटा र एल्गोरिदमले लिएको हुन्छ ।

त्यसैगरी, एआईले ‘कुन मान्छेले फेरि अपराध गर्ने सम्भावना धेरै छ ?’ भनेर निर्णय गर्छ । त्यही निर्णयका आधारमा न्यायाधीशले सजाय तोक्छन् भने त्यो मानवको विवेकको सट्टा मेसिनको निष्कर्षमा आधारित निर्णय हुन्छ ।

यदि एकपटक कुनै सुपर इन्टेलिजेन्ट (जसको क्षमता मान्छेको भन्दा धेरै छ), एआई बन्यो भने त्यो प्रणालीले आफ्ना निर्णय आफैँले बनाउन सक्छ, आफैँले नीति बनाउने र परिवर्तन गर्ने अवस्थामा मान्छेको नियन्त्रण गुम्न सक्छ ।

‘मानव नियन्त्रण गुम्नु’ भनेको या त एआई आफैँ निर्णय लिने क्षमतामा पुग्नु या त मान्छेले एआईको निर्णयलाई अन्धविश्वास गर्नु हो । दुवै स्थितिमा मानव विवेक, उत्तरदायित्व र नैतिकता कमजोर हुन्छ ।

ब्ल्याक बक्स र ह्युमन इन द लुप
अहिले ब्ल्याक बक्स एआई र ह्युमन इन द लुप भन्ने दुई महत्वपूर्ण अवधारणा बहसमा छन् । ब्ल्याक बक्स एआई भन्नाले यस्तो एआई प्रणालीलाई जनाइन्छ, जसको भित्रको काम गर्ने तरिका प्रस्ट थाहा हुँदैन । यसले अन्तिम निर्णय त दिन्छ, तर किन र कसरी त्यस्तो निर्णय गर्‍यो भन्ने कुरा बुझ्न सकिँदैन । उदाहरणका लागि एउटा एआईले भन्यो, ‘यस व्यक्तिलाई ऋण नदिनुहोस् ।’ तर किन नदिने, कारण स्पष्ट हुँदैन ।

यस्तो प्रणालीलाई चुनाव, न्याय, उपचार, रोजगारीजस्ता संवेदनशील क्षेत्रमा प्रयोग गरियो भने गलत निर्णय भए पनि उसलाई कसैले उत्तरदायी ठहर गर्न सक्दैन । मान्छेले ‘मेसिनले भनेको हो’ भन्दै जिम्मेवारीबाट पन्छिन सक्छ ।

ह्युमन इन द लुप भन्नाले यस्तो एआई प्रणालीलाई जनाइन्छ, जहाँ अन्तिम निर्णय लिनुअघि मान्छे अनिवार्य रूपमा सहभागी हुन्छ । उदाहरणका लागि एउटा मेडिकल एआई प्रणालीले भन्यो, ‘यस बिरामीलाई सर्जरी गर्नुपर्छ ।’ तर, डाक्टरले अन्तिम समीक्षा गर्छन् सर्जरी गर्ने कि नगर्ने भनेर । एआई सल्लाह दिन्छ, तर निर्णय मानवले गर्छ । यसले मानवको विवेक, नैतिकता, अनुभव जस्ता तत्वलाई संरक्षण गर्छ । निर्णयमा एआईको गल्ती वा मानवको भनेर उत्तरदायित्व तय गर्न सकिन्छ ।

नियन्त्रणको आवश्यकता
माथिको जोखिम कम गर्न कुन एआई कहाँ प्रयोग गर्न पाइन्छ, कहाँ पाइँदैन भनेर नियमन गर्न सकिन्छ । एआईले कसरी काम गर्छ भन्ने सार्वजनिक जानकारी दिनुपर्ने व्यवस्था गर्न सकिन्छ । एआईले गरेको निर्णयको जिम्मेवारी कसले लिनुपर्छ भनेर तोक्न सकिन्छ ।

खतरनाक प्रयोगहरू (जस्तै शक्तिशाली जेनरेटिभ एआई, सैन्य ड्रोन आदि) मा केही अस्थायी प्रतिबन्ध लगाउन सकिन्छ । विशेष गरेर सामूहिक विनाश गर्न सक्ने एआईहरूमा पूर्ण प्रतिबन्ध लगाउन पनि सकिन्छ । सार्वजनिक जानकारीलाई हानि पु‍र्‍याउने डिप–फेक वा मिस–इन्फर्मेसन एआईमा कडा नियन्त्रणको प्रयत्न गर्न सकिन्छ ।

जोखिम मात्र हेरेर नियन्त्रण र प्रतिबन्धको कुरा उठाउने हो भने अहिलेसम्म केही पनि प्रविधि विकास हुँदैनथ्यो । आगो, पानी, बिजुली नभई मानिसको जीवन चल्दैन । त्यसको प्रयोगमा तलमाथि हुनासाथ मानव जीवन पनि तलमाथि पर्छ । आणविक ऊर्जाबिना हाम्रो आवश्यकता पूरा हुँदैन । तर, यसबाट बम बनाएर पट्काइयो भने सेकेन्डमै पृथ्वी ध्वस्त हुन्छ ।

एआई वा अन्य जेसुकै प्रविधि पनि मानिसले नै बनाउने र प्रयोग गर्ने हो । स्वचालित भने पनि मानिसले आवश्यकताअनुसार निगरानी र नियन्त्रण स्वतः गर्छन् । अधिकांश मानिसले यसलाई सदुपयोग नै गर्छन् । कहीँ–कतै अल्पकालमा दुरुपयोग भए पनि समाज र बजारले दीर्घकालमा त्यसलाई सही बाटोमा ल्याउँछ ।
एआई नियन्त्रणका लागि छुट्टै कानुन आवश्यक छैन । यस्ता हतियार वा यसरी हतियार प्रयोग गर्न पाइँदैन भन्ने पहिले नै महासन्धिहरू बनिसकेका छन् । एआईले हतियार बनाउने र प्रयोग गर्ने भए पनि ती महासन्धिले आवश्यक नियन्त्रण गरिहाल्छन् ।

छिटपुट दुर्घटना मानिसले गर्दा पनि भइरहेकै छन् । एआईको प्रयोगले भयो भने जानीजानी गरेको दुर्घटनाको रूपमा लिन आवश्यक छैन । सवारी दुर्घटना, गलत सर्जरी हुन्छ, अन्यायपूर्ण फैसला मानिसले गर्दा पनि भइरहेकै छ । नेपालमा अहिलेसम्म सबै परियोजना मानिसले छनोट गरेर निर्माण भएका हुन् । कुनै परियोजनाको छनोट सही भएको छ त ?

निष्कर्ष
स्वास्थ्य र शिक्षामा रोजगारी कटौती हुन्छ भने एआई निर्माण गर्ने ठाउँमा रोजगारी वृद्धि हुन्छ । एआईमा निर्भरताले सिर्जनात्मक क्षमता घटाउँदैन, अर्को तहको सिर्जनात्मक क्षमताका लागि दबाब सिर्जना गर्छ । पेड एआई प्रयोग गर्न सक्ने अर्थात् धनी विद्यार्थीले राम्रो अंक हासिल गर्छ, गरिब पछाडि पर्छ भन्नेजस्ता नकारात्मक सोचलाई महत्व दिन आवश्यक छैन । पूर्ण समानता त मेसिनले बनाएका निर्जीव सामानमा पनि हुँदैन ।

एआई एक महान् प्रविधि हो, जसले शिक्षा, स्वास्थ्य, पूर्वानुमान, कृषि र दैनन्दिन जीवनमा असीम सम्भावना दिन सक्छ । यसको विकास र प्रयोगलाई निर्विवाद आत्मसात् गर्नुपर्छ । अहिले सुरुको चरणमा केही अल्झन भए पनि आखिर यसअघिका अन्य प्रणालीजस्तै यो पनि मानिसको जीवनशैली अवश्य बन्नेछ र यसअघिका अन्य प्रणालीले जस्तै मानिसका सम्बन्ध, भावना र मूल्यलाई असर गर्नेछैन । यो मानिसका लागि थपिएको छनोटको एउटा विकल्प र अवसरका रूपमा मात्र रहनेछ ।