एआईले आफैँ प्रतिलिपि बनाएर फैलिन थाले भने के होला?

एआईले आफैँ प्रतिलिपि बनाएर फैलिन थाले भने के होला? एन्थ्रोपिकले यस्तो अवस्था छिट्टै आउन सक्ने चेतावनी दिएको छ। तर यसबाट उत्पन्न हुने खतरा देखिएजति नयाँ भने नहुन सक्छ। एन्थ्रोपिकको फ्रन्टियर रेड टिमले हालै सार्वजनिक गरेको एक अनुसन्धानले साना एआई मोडेलहरू अबको केही महिनामै असुरक्षित उपकरणहरूमा आफैँ प्रतिलिपि बनाएर फैलिन सक्ने अवस्थामा पुग्न सक्ने देखाएको छ। यसले विस्तारै फैलिने तर नियन्त्रण गर्न निकै कठिन स्वचालित बोटनेटहरू सिर्जना गर्न सक्छ। एआई कम्पनीहरूले आफ्ना उत्पादनबाट विश्वव्यापी विनाश हुन सक्ने सम्भावनालाई प्रचारको माध्यम बनाउँदै आएका छन्। तर यस विषयमा इन्ग्याजेटले कुरा गरेका विज्ञहरू पनि निकट भविष्यमा साना एआई मोडेलहरू आफैँ प्रतिलिपि बनाएर फैलिन सक्ने क्षमतायुक्त बन्न सक्ने कुरामा मोटामोटी सहमत छन्। यद्यपि, यसबाट उत्पन्न हुने वास्तविक खतरा देखिएजति नयाँ नहुन सक्छ। इन्ग्याजेटका अनुसार एआई प्रयोगशाला, सुरक्षा संस्था र सरकारहरूसँग मिलेर मोडेलहरूको परीक्षण तथा मूल्याङ्कन गर्ने कम्पनी इक्विस्ट्याम्पका प्रमुख कार्यकारी अधिकृत क्रिस क्यानल भन्छन्, “यो मैले अनुमान गरेको भन्दा केही चाँडो हुन सक्छ। यस्तो विषयलाई लिएर म साँच्चै चिन्तित हुने समय आगामी वर्षको गर्मीयामतिर होला भन्ने मेरो अनुमान थियो।” उनी थप्छन्, “एन्थ्रोपिकका कर्मचारीहरूसँग अनुसन्धानको पछिल्लो अवस्थाबारे मसँग नभएको जानकारी हुन सक्छ। त्यसैले उनीहरूले अझ राम्रो अनुमान गरिरहेका पनि हुन सक्छन्।” क्यानलका अनुसार एआई मोडेलको विकास पछिल्लो समय तीव्र हुनुको एउटा कारण एन्थ्रोपिक र अन्य अग्रणी एआई प्रयोगशालाका कर्मचारीहरूले मेसिन लर्निङसम्बन्धी अनुसन्धान गर्न आफ्नै एआई उपकरण प्रयोग गर्नु हो। जर्जिया टेकको स्कुल अफ साइबर सेक्युरिटी एन्ड प्राइभेसीका प्राध्यापक माइकल बेली भन्छन्, “मलाई लाग्छ, आफैँ प्रतिलिपि बनाउन सक्ने मोडेलहरू भविष्यमा आउनेछन्। ती वास्तविक हुनेछन् र हामीले तिनलाई देख्नेछौँ। तर एन्थ्रोपिकले प्रस्तुत गरेजस्तै स्वरूप र प्रकृतिका हुनेछन् कि तिनले त्यस्तै परिणाम निम्त्याउनेछन् भन्ने कुरा भने अझै खुला प्रश्न हो।” बेलीले सन् २००० को सुरुवातदेखि इन्टरनेट वर्म र पछिल्लो समय बोटनेटबारे अध्ययन गर्दै आएका छन्। सन् २०१७ मा उनले ‘अन्डरस्ट्यान्डिङ द मिराइ बोटनेट’ नामक अनुसन्धान सहलेखन गरेका थिए। एन्थ्रोपिकले आफ्नो अनुसन्धानमा पनि उक्त अध्ययनलाई उद्धृत गरेको छ। मिराइको प्रयोग गरेर साइबर अपराधीहरूको एउटा समूहले इन्टरनेट अफ थिङ्स (आईओटी) उपकरणहरूको ठूलो बोटनेट बनाएको थियो। पछि उनीहरूले यही बोटनेट प्रयोग गरेर सोनीको प्लेस्टेसन नेटवर्कमाथि डिस्ट्रिब्युटेड डिनायल अफ सर्भिस (डीडीओएस) आक्रमण गरेका थिए। यस क्रममा अमेरिकाको सबैभन्दा ठूलो डोमेन नेम सिस्टम (डीएनएस) सेवा प्रदायकमध्ये एक डाइन पनि प्रभावित भएको थियो। सन् २०१६ मा भएको उक्त आक्रमणका कारण अमेरिकाका विभिन्न स्थान र युरोपका केही भागमा धेरै प्रयोगकर्ताका लागि अमेजन, गिटहब, पेपाल, रेडिट र ट्विटरजस्ता सेवा अवरुद्ध भएका थिए। यस आक्रमणबाट ठूलो आर्थिक क्षति भएको थियो। सोनीले यसका कारण आफ्नो खुद आम्दानीमा करिब २७ लाख डलरको नोक्सानी भएको अनुमान गरेको थियो। बेली भन्छन्, “मिराइले सामान्य प्रयोगमा रहेका उपकरणहरूबाट पनि उपयोगी बोटनेट बनाउन सकिने देखाएको थियो। केबल राउटर, आईपी क्यामेराजस्ता उपकरणहरू यसको उदाहरण हुन्। पहिले हामीलाई यस्ता उपकरणहरू आक्रमणकारीका लागि उपयोगी हुँदैनन् भन्ने लाग्थ्यो, चाहे आक्रमणको लक्ष्यका रूपमा होस् वा आक्रमण गर्न कम्प्युटिङ स्रोतका रूपमा। तर वास्तवमा यस्ता उपकरणहरू त्यस्ता कामका लागि निकै प्रभावकारी रहेछन्।” एक दशकपछि एन्थ्रोपिकले एआई वर्मले मिराइ र किमवुल्फजस्ता अन्य पूर्वनिर्धारित बोटनेटको तुलनामा ठूलो परिवर्तन ल्याउन सक्ने दाबी गरेको छ। यसको कारण एआई वर्मले आफूले पहिले नचिनेका उपकरणहरूलाई पनि आफैँ पहिचान गर्न सक्ने सम्भावना हो। तर बेलीका अनुसार विभिन्न प्रकारका उपकरणअनुसार आफूलाई अनुकूल बनाउन सक्ने क्षमता नयाँ होइन। मिराइले पनि फरक चिप संरचनामा चल्ने राउटरदेखि आईपी क्यामेरासम्मका विभिन्न उपकरणमा काम गर्न सक्थ्यो। तर यसको अनुकूलन क्षमता सीमित थियो। प्रत्येक नयाँ संरचनामा चलाउन कम्तीमा पनि मालवेयरलाई पुनः कम्पाइल गर्नुपर्ने हुन्थ्यो, जसका लागि मानवीय काम आवश्यक पर्थ्यो। बेलीका अनुसार नयाँ पक्ष भनेको एआईले यस्तो काम स्वचालित रूपमा गर्न सक्ने सम्भावना हो। यद्यपि, एन्थ्रोपिकले आफ्नो अनुसन्धानबाट यो क्षमता विश्वसनीय रूपमा प्रमाणित गर्न नसकेको उनको भनाइ छ। यसले गर्दा अझ सक्षम एआई मोडेलले बोटनेट निर्माण गर्ने काम आक्रमणकारी र प्रतिरक्षा गर्ने पक्षबीच कसरी बाँडिन्छ भन्ने कुरामा परिवर्तन ल्याउन सक्ने बेली बताउँछन्। उनी भन्छन्, “यसले नयाँ काम गर्ने होइन। यसले आक्रमणकारी र प्रतिरक्षा गर्ने पक्षबीचको आर्थिक समीकरण परिवर्तन गर्नेछ।” एन्थ्रोपिकले एउटा मोडेलले विभिन्न उपकरणमा प्रवेश गरेर प्रत्येक उपकरणमा इन्फरेन्स सञ्चालन गर्न सक्ने देखाएको थियो। तर यो परीक्षण एउटा नक्कली नेटवर्कमा गरिएको थियो, जहाँ प्रयोग गरिएको सुरक्षा कमजोरी निकै सामान्य थियो। बेलीले एन्थ्रोपिकले प्रयोग गरेको ‘आफैँ प्रतिलिपि बनाउने’ भन्ने दाबीमाथि पनि प्रश्न उठाएका छन्। उनी भन्छन्, “यसलाई दिइएको नाम केही हदसम्म भ्रामक छ, किनभने उनीहरूले शार्डिङजस्ता प्रविधि प्रयोग गरेका छन्। त्यो नराम्रो कुरा होइन, तर यो वर्म वा भाइरसजस्तो होइन। यसमा पूर्ण रूपमा फैलिने प्रक्रिया भएको छैन।” बेलीका अनुसार वास्तविक संसारमा एआई बोटनेटले ड्रपर नामक मालवेयरले जस्तै काम गर्न सक्छ। ड्रपर भनेको कुनै उपकरणमा प्रवेश गरी त्यहाँ अन्य कोड स्थापना गर्ने प्रकारको मालवेयर हो। यस्तो अवस्थामा बोटनेटले आफूलाई पूर्ण रूपमा प्रत्येक संक्रमित उपकरणमा प्रतिलिपि गर्नुको सट्टा अन्यत्रबाट निर्देशन लिने सानो समन्वय उपकरण स्थापना गर्न सक्छ। उनी भन्छन्, “मालवेयर आफैँ प्रतिलिपि बनाएर फैलिने र इन्टरनेट वर्मले जस्तै नयाँ संरचनामा आफ्नो कोडको ठ्याक्कै प्रतिलिपि पठाएर नयाँ एजेन्ट सञ्चालन गर्ने अवस्था यहाँ देखिएको छैन।” बेलीका अनुसार वर्मले आफ्नो पहिचान र काम गर्ने तरिका दुवै परिवर्तन गर्न सक्छन्। यसलाई पोलिमोर्फिक भनिन्छ। एआई बोटनेटले पनि त्यसरी काम गर्न आफ्नै मोडेललाई पुनः तालिम दिनुपर्ने हुन्छ। तर एन्थ्रोपिकले आफ्नो अनुसन्धानमा यस्तो प्रयास गरेको थिएन। उसले यससँग नजिकको एउटा प्रयोग भने गरेको थियो। त्यसमा एउटा मोडेलका प्रतिलिपिहरूले आफ्ना उत्तराधिकारीलाई जानकारी पठाउन सक्थे र समयसँगै इन्फरेन्स सञ्चालन गर्ने क्षमता सुधार गर्न सक्थे। एआई प्रयोगशालाबाट आउने कुनै पनि चेतावनीलाई हेर्दा एन्थ्रोपिकले आफ्नो अनुसन्धान प्रचारका लागि सार्वजनिक गरेको हो कि भन्ने प्रश्न पनि उठ्छ। विशेषगरी कम्पनीले त्यसको केही समयपछि नै सेयर बजारमा प्रवेश गर्न प्रारम्भिक सार्वजनिक निष्कासन (आईपीओ) का लागि औपचारिक प्रक्रिया अघि बढाएको छ। क्यानल भन्छन्, “मलाई लाग्छ, कम्पनीहरू वास्तवमा अन्य एआई कम्पनीहरूले लापरबाही गर्न सक्छन् भन्ने चिन्तामा छन्। उनीहरूलाई थाहा छ कि उत्कृष्ट मोडेल बनाएर छिटो बजारमा पुर्‍याउँदा बजार हिस्सा बढाउन सकिन्छ। अन्य कम्पनीहरू पनि यही प्रोत्साहनबाट अघि बढिरहेका छन् भन्ने उनीहरूलाई थाहा छ।” यो नयाँ खतरालाई वास्तविक वर्म मान्ने कि नमान्ने र यस्तो अवस्था आउन अझै कति समय लाग्ने भन्ने कुरा जे भए पनि यसको असर कम गर्ने विषयमा एन्थ्रोपिकले दिएका सुझाव भने परम्परागत सुरक्षा उपायसँग मिल्दोजुल्दो छन्। कम्पनीले इन्टरनेट सेवा प्रदायक (आईएसपी) हरूलाई कुनै ग्राहकको उपकरण संक्रमित भएको जानकारी दिन र त्यसपछि सुरक्षित वेबसाइटहरूको सीमित सूचीमा मात्र पहुँच दिने गरी इन्टरनेट सेवा नियन्त्रण गर्न सुझाव दिएको छ। मिराइ आक्रमणका बेला पनि यस्तो रणनीति प्रभावकारी रूपमा प्रयोग गरिएको थियो। एन्थ्रोपिकले सम्भावित समाधानका रूपमा सरकारी नियमनको पनि सुझाव दिएको छ। उदाहरणका लागि, बेलायतमा पीएसटीआई ऐनअन्तर्गत आईओटी उपकरणमा सजिलै अनुमान गर्न सकिने पूर्वनिर्धारित पासवर्ड राख्न प्रतिबन्ध लगाइएको छ। यस विषयमा बेलीको भनाइ छ, “एआई वर्मविरुद्ध अपनाउनुपर्ने उपयुक्त उपाय एआई क्षेत्रका लागि मात्रै नयाँ उपाय खोज्नुभन्दा लामो समयदेखि प्रणाली सुरक्षामा अपनाउँदै आएका उपायसँग बढी मिल्दोजुल्दो छ।” क्यानलका अनुसार खुला तौल (ओपन वेट) भएका एआई मोडेललाई वर्मका रूपमा काम गर्नबाट रोक्ने सुरक्षा उपाय थप्न पनि कठिन हुनेछ। उनी भन्छन्, “यसका लागि धेरै उपायहरू प्रस्ताव गरिएका छन्, तर अहिलेसम्म कुनै पनि भरपर्दो उपाय छैन।” The post एआईले आफैँ प्रतिलिपि बनाएर फैलिन थाले भने के होला? appeared first on Technology Khabar.