कृत्रिम बौद्धिकता (एआई) को विकासमा दिनानुदिन नयाँ–नयाँ प्रगति भइरहेका छन् । यससँगै एआईको सम्भावित प्रभावलाई लिएर आशा–निराशा दुबैका अतिरञ्जित विश्लेषणहरू आइरहेका छन् । यसले हामीलाई अन्योलमा पार्दैछ । यी खतरा कुन स्तरका हुन सक्छन् भन्ने अनुमान गर्न हामीलाई असहज भइरहेको छ । 

हाम्रो चिन्तन प्रणाली नै गलत परिदृश्यको त्रासमा चल्ने खालको बनाइएको छ । साइन्स फिक्सनहरुले हामीलाई बारम्बार ठुला–ठुला रोबोट विद्रोहका खतराबारे देखाएका छन् । ‘द टर्मिनेटर’ र ‘द म्याट्रिक्स’ जस्ता साइन्स फिक्सनमा आधारित सिनेमामा एआई र रोबोटले विश्व कब्जा गरेको, मानवजाती विरुद्ध विद्रोह गरेको, दास बनाएको वा मानवजाति नै ध्वस्त पारेको देखाइएको छ ।

वास्तविकतामा यस्ता हुने सम्भावना असाध्यै न्यून छ । प्रविधि त्यो स्तरमा पुगेकै छैन । आजको दिनमा एआई बौद्धिक रूपमा टपरटुइँया स्तरमा छ । भलै यसले आफूलाई चेस खेल्न, प्रोटिनबारे विश्लेषण गर्न वा लेख लेख्नमा आफुलाई अब्बल बनाएको छ । तर, जटिल काम गर्न आवश्यक पर्ने आम बौद्धिकताको विकास गर्न अझै सकेको छैन । 

रोबोट सेना बनाउने वा देश नै कब्जा गर्ने जस्ता काम गर्न सक्ने अवस्था छैन । दुर्भाग्यवश नै भन्नु पर्छ ठुला रोबोटका खतरा छैनन् भन्दैमा हामी ढुक्क हुने अवस्था भने छैन । हामी डराउनुपर्ने घातक रोबोटबाट भन्दा पनि डिजिटल कर्मचारीतन्त्रबाट हो । यसको गम्भीरता बुझ्न ‘द टर्मिनेटर’ को काल्पनिक कथा भन्दा फ्रान्ज काफ्काले लेखेको कथा ‘द ट्रायल’ ले हामीलाई सजिलो बनाउँछ ।

दशौँ लाख वर्षदेखि मान्छेको चिन्तन प्रणालीको विकास नै ‘द टर्मिनेटर’ मा देखाइए जस्ता आक्रामक दुस्मन वा डर लाग्दा सिकारीको त्रास बोकेर भएको छ । जटिल कर्मचारीतन्त्रका खतरा बुझ्न हामीलाई धेरै अप्ठेरो हुन्छ । किनभने कर्मचारीतन्त्र आफैमा नयाँ कुरा हो । 

एआई दुष्परिणामको राम्रो उदाहरण सामाजिक सञ्जालका अल्गोरिदमको कथामा भेटिन्छ । भर्खर वामे सर्दै गरेका एआईहरूले नै मानव समाजमा जबरजस्त प्रभाव पारेर दुनियाँ फेर्न थालिसकेका छन् ।

स्तनधारी प्राणीको वा खास गरी अझ भनौँ मान्छेकै विकासको इतिहासमा हेर्दा यो त भर्खरै भएको भन्न सकिन्छ । हाम्रो मस्तिष्क बाघको कारण हुने मृत्युदेखि डराउँछ तर दस्ताबेजको आधारमा हुने मृत्युसँग नडराउने स्वभावको छ ।

कर्मचारीतन्त्रको सुरुवात भएको झन्डै पाँच हजार साल भयो । मेसोपोटामियामा लेखनको आविष्कार भएदेखि यसको सुरुवात भएको हो । यसले मानव समाजलाई असाधारण रूपमा परिवर्तन गरेको छ । जस्तै स्वामित्वको विषयमै हेरौँ,  धेरै अघिसम्म स्वामित्वको आधार सामुदायिक सहमति थियो । 

कुनै जमिन तपाईँको हो भन्ने कुरामा सहमति जुटेमा त्यो तपाईँको हुन्थ्यो । तपाईंले त्यो जमिनलाई जसरी उपयोग गर्दा पनि भयो । तपाईँको अनुमति बेगर कसैले त्यो जमिनमा घर बनाउन, खेती गर्न वा त्यस्ता गतिविधि गर्न पाइन्नथ्यो ।  लिखित दस्ताबेज र कर्मचारीतन्त्रको सुरुवात भएसँगै लिखतले त्यसको ठाउँ लिए ।

सामुदायिक स्वरूपको स्वामित्वका समयमा निजी सम्पत्तिको अधिकार सीमित थियो । तपाईँको छिमेकीले तपाईँलाई कुनै जमिनमा खेती गर्न वा आफै उपयोग गर्ने अधिकारमा सहमति त दिन्थ्यो तर त्यसलाई समुदाय बाहिरको मान्छेलाई बेच्न भने सहमति नदिन सक्थ्यो । सँगै सामुदायिक स्वामित्वको समयमा टाढा रहेको केन्द्रीय प्राधिकार वा राज्यले जमिनमा नियन्त्रण गर्न पनि सजिलो थिएन । 

अहिलेकै अवस्थाको एआईलाई हामीले यो भद्रगोल दुनियाँमा लागू गर्दा यसले धेरै गर्न सक्ने अवस्था छैन । यसले रोबोट सेना बनाउन त पक्कै पनि सक्दैन ।

व्यवस्थित कर्मचारीतन्त्र र लिखतको अभावमा कुनै पनि राजाले जमिनमाथि स्वामित्व भएका जनताको विवरण सम्झी राख्न सम्भव थिएन । राजाहरूलाई कर संकलन गर्न पनि अप्ठेरो थियो । यसले ठुलो फौज र प्रहरी सञ्चालन गर्न पनि रोक्यो । सभ्यता विकासको क्रममा लेखनको आविष्कार भयो । यसले अभिलेख र कर्मचारीतन्त्रको विकासलाई सजिलो बनाइदियो । 

प्रविधि सुरुमा असाध्यै सरल थियो । प्राचीन मेसोपोटामियाका कर्मचारीले माटोको ट्याब्लेटहरूमा काठका साना लठ्ठि प्रयोग गरेर संकेत चिन्हहरु छाप्थे । कर्मचारीतन्त्रसँग जोडिएपछि यी माटाका टुक्राहरूले स्वामित्वको अर्थमा क्रान्तिकारी परिवर्तन गरे । अब माटोका यस्ता ट्याब्लेटमा ‘यो खेत तपाईँको हो’ भन्ने लेखिएपछि त्यो खेत तपाईँको हुने भयो । 

तपाईँका छिमेकीहरूले वर्षौँदेखि खेती गरेको वा उपभोग गरेको जमिन भएता पनि तपाईँसँग स्वामित्व सूचक माटोको ट्याब्लेट छ भने अब त्यो जमिन तपाईँको हो भनेर मान्ने दिन आयो । यस विपरीत स्थानीय समुदायले जमिनमा तपाईँको स्वामित्व स्वीकार त गर्‍यो तर यसलाई मान्यता दिने कुनै कागजात तपाईँसँग भएन भने त्यो जमिनमा तपाईँको स्वामित्व नहुने भयो । 

ठ्याकै त्यसै गरी आजका दिनमा हाम्रा यस्ता महत्त्वपूर्ण कागजातहरू माटोको सट्टा कागज वा सिलिकन चिप्समा लेखिएका छन् ।

स्वामित्वको आधार सामुदायिक सहमतिको सट्टा लिखित दस्ताबेज बनिसकेपछि, अब आफ्नो जमिन छिमेकी बाहेक जो सुकैलाई बेच्न सकिने भयो । अब जमिन बेच्नका लागि माटोको सम्बन्धित ट्याब्लेट हस्तान्तरण गर्दा पुग्ने भयो । यो प्रणाली नितान्त एक्लै आएन अन्य पक्षहरू पनि यससँगै आए । अब स्वामित्वको निर्धारण गर्दा सम्बन्धित दस्ताबेजहरू जारी गर्ने तथा त्यसलाई आधिकारिक रूपमा अभिलेख गर्ने केन्द्रीय निकायहरू पनि सँगै आए । 

कुनै समय लेनिन र मुसोलिनिले गरेको काम अहिले एआईले गर्दैछ । आज एआई सम्पादकले समाजमा गरेका क्षतिहरू आगामी दिनका खतराका पूर्व सूचक हुन् ।

कर लगाउनका लागि सहज भयो, यसले ठुलो स्तरको फौज बनाउन र केन्द्रीकृत राज्य स्थापनाको बाटो खोलिदियो । लिखित दस्ताबेजको अभ्यासले समाजमा शक्तिको बहाव कसरी हुन्छ भन्ने कुरामा फेरबदल ल्यायो । अभिलेखकर्ता, वकिल, लेखापाल, कर–सङ्कलक जस्ता कर्मचारीलाई असाध्यै बलियो बनायो यसले । यी कर्मचारीहरू सूचना सञ्जालमाथि नियन्त्रण गर्न सक्ने भए । 

कागजातहरू, नियमहरू वा सम्बन्धित सरकारी लिखतमा हेरफेर गरेर, कर, भुक्तानी अझ सेनाकै गतिविधिमा नियन्त्रण गर्न सक्ने भए ।

आज एआईले कर्मचारीतन्त्रको त्यही शक्ति खोस्न लागेको छ । खासमा कर्मचारीतन्त्र भनेको कृत्रिम परिवेश हो । जहाँ सीमित ठाउँमा नियन्त्रण गर्न सक्ने जोसुकैले सूचनाको बहावमा हेराफेरी गरे व्यापक दुनियाँमा प्रभाव पार्न सक्छ । अहिलेकै अवस्थाको एआईलाई हामीले यो भद्रगोल दुनियाँमा लागू गर्दा यसले धेरै गर्न सक्ने अवस्था छैन । यसले रोबोट सेना बनाउन त पक्कै पनि सक्दैन । 

यो भनेको आजको समयको कर्पोरेट अधिवक्तालाई आदिमकालीन घाँसे मैदानमा लगेर छोडिदिए जस्तै हो । जतिसुकै क्षमतावान् अधिवक्ताको पनि त्यहाँ कुनै अर्थ हुँदैन । हात्ती वा सिंहको शक्तिका अघिल्तिर उसको केही चल्दैन । तर, कर्मचारीतन्त्रको संरचना व्यवस्थित गरेर त्यही घाँसे मैदानमा लागू गर्ने हो भने अवस्था नितान्त भिन्न हुन्छ । 

यस्तो अवस्थामा भने एकजना अधिवक्ता नै संसारका सबै सिंह भन्दा बलियो हुन जान्छ । आजको समयमा सिंहको अस्तित्व नै कर्मचारीतन्त्रको भुलभुलैयामा वकिलहरूले कसरी दस्ताबेज बनाउँछन् र त्यसलाई व्यवहारमा उतार्छन् भन्नेमा भर पर्छ । हो यही भुलभुलैयामा एआईलाई राखिदियो भने यो मानव वकिल भन्दा धेरै गुणा शक्तिशाली हुन्छ ।

अब आउने वर्षहरूमा दसौँ लाख एआई कर्मचारीले सिंह बारेमा मात्रै नभएर मान्छेकै जीवनबारे निर्णय गर्ने क्रम बढ्दै जानेछ । एआई बैअरले तपाईँलाई ऋण दिने कि नदिने भनी निर्णय गर्नेछन् । शिक्षा क्षेत्रका एआईले तपाईँलाई विश्वविद्यालयमा भर्ना दिने कि नदिने भनी निर्णय गर्नेछन् । 

व्यावसायिक कम्पनीमा रहेका एआईले तपाईँलाई जागिरमा राख्ने वा नराख्ने भनी निर्णय गर्नेछन् । अदालतमा हुने एआईले तपाईँलाई जेल हाल्ने वा नहाल्ने निर्णय गर्नेछन् । फौजी एआईले तपाईँको घरमा बमबारी गर्ने कि नगर्ने भनी निर्णय गर्नेछन् । यस्ता एआईहरू दुष्ट नै हुन्छन् भन्ने हुँदैन । 

यिनीहरू मान्छे भन्दा अझ प्रभावकारी र न्यायपूर्ण निर्णय गर्न पनि सक्छन् । हामीलाई अझ राम्रो स्वास्थ्य सेवा, शिक्षा, न्याय तथा सुरक्षा प्रदान गर्न पनि सक्छन् । तर, यस्तो प्रणालीमा केही तलमाथि हुनासाथ विनाशकारी हुन सक्छ । केही क्षेत्रमा एआईले अहिले नै यस्ता दुष्परिणाम प्रदर्शन गरिसकेका छन् । 

यस्ता दुष्परिणामको राम्रो उदाहरण सामाजिक सञ्जालका अल्गोरिदमको कथामा भेटिन्छ । यी भर्खर वामे सर्दै गरेका एआईहरूले नै मानव समाजमा जबरजस्त प्रभाव पारेर दुनियाँ फेर्न थालिसकेका छन् । फेसबुक, एक्स, युट्युब, टिकटक जस्ता ठुला कम्पनीका अल्गोरिदमले प्रयोगकर्तालाई धेरै भन्दा धेरै सञ्जालमा संलग्न गराइ राख्ने काम गरेका छन् ।

सबै एआई दुष्ट हुन्छन् भन्ने हुँदैन तर प्रणालीमा तलमाथि हुनासाथ यी विनाशकारी हुन सक्छन् ।

प्रयोगकर्ताहरू जति धेरै सामाजिक सञ्जालमा संलग्न हुन्छन्, यसका मालिकहरूको खल्तीमा त्यही अनुपातमा पैसा झर्ने गर्छ । उपयोगकर्ताको संलग्नताको सन्दर्भमा यसरी अल्गोरिदमले भयानक काम गरेको छ । करोडौँ मानिसलाई ‘गिनी पीग’ बनाउँदै सामाजिक सञ्जालका अल्गोरिदमले मान्छेका भावनाबारे धेरै कुरा जान्न थालेका छन् । 

तिनीहरूले मान्छेलाई लोभ, घृणा र डरले धेरै तान्न सक्छ भन्ने थाहा पाए । मान्छेको दिमागमा लोभ, घृणा वा डरको बटन थिचिदिने हो भने मान्छेको ध्यान तान्न सकिन्छ र स्क्रिनमा केन्द्रित गर्न सकिन्छ भन्ने तिनीहरूले बुझे । त्यसपछि अल्गोरिदमले आफै लोभ, घृणा र डर फैलाउन थाल्यो । 

आजका दिन समाजमा घातक असर पार्ने स्तरमै व्यापक रूपमा फैलिरहेका षडयन्त्रका सिद्धान्तहरू (कन्स्पिरेसी थ्यौरी), झुटो समाचार (फेक न्युज) सामाजिक भड्कावको प्रमुख कारणमध्ये महत्त्वपूर्ण कारक हुन् ।

सामाजिक सञ्जालका एल्गोरिदमहरू असाध्यै सामान्य एआईहरू हुन । यिनीहरू डरलाग्दो रोबोट विद्रोह गराउन सक्दैनन् । तर, सामाजिक सञ्जालका प्लेटफर्महरूमा रहेका कर्मचारी संरचना भित्र यिनै मामुली अल्गोरिदमले पनि ठुलो शक्ति प्रयोग गर्न सक्छन् । 

यस्तो शक्तिमा कुनै समय मानवको मात्र नियन्त्रण थियो । मिडियाको सुरुवातदेखि नै मानव सम्पादकले रेडियो र टेलिभिजनमा समाचार प्रसारण गर्दा कुन कुरा समावेश गर्ने तथा अखबारको पहिलो पृष्ठमा के राख्ने भन्ने निर्णय गर्ने गरेका छन् । यसमार्फत आम संवादलाई प्रभाव पार्ने गरेका छन् । सम्पादकहरू यसैले गर्दा शक्तिशाली भएका हुन । 

उदाहरणका लागि जिन पल मरातले आफ्नो समयको प्रभावशाली अखबार ‘ला–मी दे पेपिले’ को सम्पादन मार्फत फ्रान्सेली राज्य क्रान्तिलाई नै मार्गनिर्देश गरे । एडवार्ड बर्नस्टिनले ‘डर सोजियलडेमोक्र्याट’ सम्पादन गरेर आधुनिक सामाजिक लोकतान्त्रिक विचारलाई आकार दिने काम गरे । 

लेनिन सोभियत शासक हुनु अघि ‘ईष्क्रा’ नामक अखबारको सम्पादक थिए । बेनिटो मुसोलिनीले चर्चित दक्षिणपन्थी अखबार ‘एल पोपोलो डी–इटालिया’ को सम्पादकका रूपमा लोकप्रियता हासिल गरेका थिए । अहिले चाखलाग्दो कुरा के छ भने एआईले गर्ने आफ्नो सुरुवाती काम नै कपडा उद्योगमा वा ट्याक्सी चलाउनबाट सुरु गरेन, उसले त सुरुमै समाचार सम्पादकको काम गर्‍यो । 

भन्नुको अर्थ कुनै समय लेनिन र मुसोलिनिले गरेको काम अहिले एआईले गर्दैछ ।

आज एआई सम्पादकले समाजमा गरेका क्षतिहरू आगामी दिनका खतराका पूर्व सूचक हुन । मानव जगत् विविध खालका कर्मचारीतन्त्रको जटिल मिश्रणबाट बनेको छ । ठुला रोबोटले विद्रोह गर्न नसके पनि यस्ता संरचना भित्र पसेर सामान्य एआईले नै ठुलो शक्ति हासिल गर्न सक्छ । 

विद्यमान प्रणाली भित्रै पसेर कब्जा गर्न सकिने अवस्था हुँदा विद्रोह को आवश्यकता पनि किन पर्‍यो र ?

(फाइनान्सियल टाइम्सबाट)

अनुवाद: रोहित बास्तोला