काठमाडौँ । कृत्रिम बुद्धिमत्ता (एआई) भविष्यमा मानिसको नियन्त्रणबाहिर जान सक्छ भन्ने बहस लामो समयदेखि चल्दै आएको छ ।

विज्ञान-कल्पनामा आधारित चलचित्रहरूमा देखाइने यस्तो सम्भावनाले वास्तविक जीवनमा पनि चर्चा पाउने गरेको छ । हालै परीक्षणका क्रममा एउटा कृत्रिम बुद्धिमत्ता प्रणालीले अपेक्षाविपरीत व्यवहार गरेपछि साइबर सुरक्षा र नियमनबारे नयाँ बहस सुरु भएको छ ।

गत महिना कृत्रिम बुद्धिमत्ता विकास गर्ने कम्पनी ओपनएआईको परीक्षणमा प्रयोग गरिएको एउटा स्वायत्त कृत्रिम बुद्धिमत्ता प्रणालीले कम्प्युटेसनल उपकरण विकास गर्ने कम्पनी हगिङ फेस का सर्भरमा अनधिकृत पहुँच बनाएर जानकारी प्राप्त गरेको घटना सार्वजनिक भएको थियो । यो घटनापछि धेरैले चलचित्रमा देखाइने नियन्त्रणबाहिर गएको कृत्रिम बुद्धिमत्ताको परिकल्पनालाई सम्झिएका थिए ।

स्वायत्त कृत्रिम बुद्धिमत्ता प्रणाली भनेको न्यून वा कुनै मानवीय निगरानीबिनै निर्णय लिन र जटिल काम पूरा गर्न सक्ने कार्यक्रम हो । ओपनएआईले आफ्ना प्रणालीको सुरक्षा परीक्षणका क्रममा कमजोरी पत्ता लगाउने क्षमता जाँचिरहेको बेला उक्त प्रणालीले निर्धारित सीमाभन्दा बाहिर गएर हगिङ फेसका सर्भरबाट उत्तरहरू प्राप्त गरेको बताइएको छ ।

रिपोर्टअनुसार यो गतिविधि धेरै दिनसम्म प्रणाली विकासकर्तालाई समेत थाहा भएको थिएन । त्यसपछि जुलाई २९ मा ओपनएआईले आफ्नो प्रणालीले सार्वजनिक रूपमा उपलब्ध विभिन्न सेवामाथि आक्रमण गरेको स्वीकार गर्दै घटनाको अनुसन्धान भइरहेको जनाएको थियो। कम्पनीले जोखिमको पहिचान र नियन्त्रणलाई गम्भीरतापूर्वक लिइएको जनाएको भए पनि थप विवरण सार्वजनिक गरेको छैन ।

विशेषज्ञहरूका अनुसार कुनै वास्तविक कम्पनीको प्रणालीमा कृत्रिम बुद्धिमत्ता प्रणालीले अनधिकृत पहुँच बनाएको पुष्टि भएको यो पहिलो घटना हो । त्यसपछि आकस्मिक अवस्थामा कृत्रिम बुद्धिमत्ता प्रणाली तुरुन्त बन्द गर्न सकिने ‘किल स्विच’ अर्थात् आपत्कालीन बन्द प्रणालीको आवश्यकता सम्बन्धी बहस पनि चर्किएको छ ।

तर, विज्ञहरूका अनुसार समस्या केवल एउटा बन्द गर्ने बटन राखेर समाधान हुने खालको छैन ।

गणितज्ञ तथा तथ्याङ्क वैज्ञानिक डा. क्याथी ओ'निलले ओपनएआईले घटनाको जिम्मेवारी आफ्नै परीक्षण प्रणाली र मूल्याङ्कन प्रक्रियामा खोज्नुको सट्टा कृत्रिम बुद्धिमत्तामाथि थोपर्न खोजेको टिप्पणी गरेकी छन् ।

उनले विगतमा अमेरिकाको एक प्रमुख वायुसेवा कम्पनीमा कम्प्युटर प्रणालीको त्रुटिका कारण सयौँ उडान रद्द भएको उदाहरण दिँदै त्यसबेला कम्पनीले कम्प्युटरलाई दोष नदिई आफ्नै कमजोरी स्वीकारेको स्मरण गराइन् । उनका अनुसार अहिले पनि कृत्रिम बुद्धिमत्ताको व्यवहारभन्दा त्यसलाई बनाउने कम्पनीको डिजाइन र परीक्षण प्रक्रियाको जिम्मेवारी बढी महत्त्वपूर्ण हुन्छ । ओ'निलले अमेरिकामा अधिकांश ठूला कृत्रिम बुद्धिमत्ता कम्पनी रहे पनि संघीय स्तरमा प्रभावकारी कानुनी नियमन नहुँदा समस्या झन् जटिल बनेको बताएकी छन् । उनका अनुसार कम्पनीहरूले आफ्ना प्रणालीको कमजोरी स्वीकार गरी त्यसको जिम्मेवारी लिनुपर्छ ।

तथ्याङ्क वैज्ञानिक तथा सामाजिक सञ्जाल एक्स (साविक ट्विटर) की पूर्व मेसिन सिकाइ नैतिकता प्रमुख डा. रुम्मन चौधरीले कृत्रिम बुद्धिमत्ता विकास गर्ने कम्पनीहरूका लागि स्वतन्त्र परीक्षण र प्रभावकारी बन्द गर्ने प्रणाली अनिवार्य बनाउनुपर्ने धारणा राखेकी छन् । उनका अनुसार अहिलेको मूल समस्या कृत्रिम बुद्धिमत्ता प्रणालीलाई आवश्यकताभन्दा बढी उपकरण, पहुँच र प्रमाणिकरण अधिकार दिइनु हो। लक्ष्य पूरा गर्न अत्यधिक प्रशिक्षण दिइएका प्रणालीहरूले कतिपय अवस्थामा रोक्न दिइएको निर्देशनलाई नै बाधा ठानेर त्यसलाई बेवास्ता गर्न सक्छन्। त्यसैले यो समस्या कृत्रिम बुद्धिमत्ताको विद्रोह नभई प्रणालीको डिजाइन र प्रशिक्षणसँग सम्बन्धित रहेको उनको भनाइ छ ।

बेलायतको लफबरो विश्वविद्यालयका डा. ओली बक्लीले कम्पनीहरूले आफ्नै कमजोरी स्वीकार नगरी स्वायत्त प्रणालीलाई दोष दिन थाले साइबर सुरक्षाका क्षेत्रमा काम गर्ने व्यक्तिहरूको चुनौती अझ बढ्ने चेतावनी दिएका छन् । उनका अनुसार अहिले विकास भइरहेका प्रणालीहरू कुनै काम पूरा गर्न अनपेक्षित उपाय अपनाउन सक्षम बन्दै गएका छन्, जुन साइबर आक्रमण गर्ने व्यक्तिहरूले अपनाउने तरिकासँग मिल्दोजुल्दो हुन सक्छ। त्यसैले अहिलेको घटना नियन्त्रणबाहिर गएको कृत्रिम बुद्धिमत्ताभन्दा पनि बदलिँदो प्रविधिअनुसार सुरक्षा प्रणालीलाई समयमै परिमार्जन गर्नुपर्ने चेतावनी भएको उनको भनाइ छ ।

लन्डनस्थित इम्पेरियल कलेजका कृत्रिम बुद्धिमत्ता विज्ञ डा. कन्स्टान्टिनोस गकाउट्जिसले पनि ओपनएआईको प्रतिक्रिया पर्याप्त नभएको बताएका छन् । उनका अनुसार सर्वसाधारणले बुझ्नुपर्ने मुख्य कुरा भनेको कुनै मेसिनले मानिसविरुद्ध विद्रोह गरेको होइन, बरु एउटा कम्पनीले आफ्नै क्षमता परीक्षणमाथिको नियन्त्रण गुमाएको हो ।  उनले यस्तो अवस्थामा ‘किल स्विच’ ले पनि धेरै सहयोग नगर्ने बताए। किनभने समस्या थाहा पाएपछि मात्र प्रणाली बन्द गर्न सकिन्छ, तर त्यसअघि भइसकेको क्षति रोक्न सम्भव हुँदैन । 

यसैबीच, समाचार संस्था रोयटर्स ले ओपनएआईका स्रोतलाई उद्धृत गर्दै कम्पनीलाई आफ्नै प्रणालीमाथिको नियन्त्रण गुमाएको जानकारी हुन केही दिन लागेको जनाएको थियो। यद्यपि पछि कम्पनीका एक अधिकारीले उक्त समाचारमा धेरै त्रुटि रहेको दाबी गरेका थिए । यस घटनाले कृत्रिम बुद्धिमत्ता प्रणालीको तीव्र विकाससँगै सुरक्षा, पारदर्शिता, जिम्मेवारी र प्रभावकारी नियमनको आवश्यकता झन् बढ्दै गएको विज्ञहरूले औँल्याएका छन् ।