द्रुत रूपमा विकास भइरहेको डिजिटल र सम्बन्धित टेक्नोलोजीहरूको मूल्याङ्कनका लागि एक रूपरेखा: एआई, ठूला भाषा मोडेलहरू र बाहिर

• परिचय 
• पृष्ठभूमि 
• एक विश्लेषणात्मक फ्रेमवर्क को विकास 
• विश्लेषणात्मक फ्रेमवर्क प्रयोग गर्दै 
• नयाँ प्रविधिको मूल्याङ्कन गर्दा विचार गर्नुपर्ने आयामहरू 
• अगाडि बढ्ने बाटो 
• Acknowledgements

द्रुत रूपमा उदीयमान प्रविधिहरूले चुनौतीपूर्ण मुद्दाहरू प्रस्तुत गर्दछ जब यो तिनीहरूको शासन र सम्भावित नियमनमा आउँछ। आर्टिफिसियल इन्टेलिजेन्स (एआई) र यसको प्रयोगको नीति र सार्वजनिक बहसले यी मुद्दाहरूलाई गम्भीर ध्यानमा ल्याएको छ। AI को लागि व्यापक सिद्धान्तहरू UNESCO, OECD र अन्य द्वारा जारी गरिएको छ, र त्यहाँ टेक्नोलोजीको विश्वव्यापी वा अधिकार क्षेत्रीय नियमन सम्बन्धी नयाँ बहसहरू छन्, त्यहाँ उच्च-स्तर सिद्धान्तहरूको विकास र नियामक, नीतिमा तिनीहरूको समावेशको बीचमा एक ओन्टोलजिकल अन्तर छ। सुशासन र भण्डारी दृष्टिकोण। यहाँ गैर सरकारी वैज्ञानिक समुदायको विशेष भूमिका हुन सक्छ। 

अन्तर्राष्ट्रिय विज्ञान परिषद् (आईएससी) ले सामाजिक र प्राकृतिक विज्ञानबाट बहुलवादी सदस्यता लिएर जोखिम, फाइदाहरूको एनोटेट फ्रेमवर्क/चेकलिस्ट उत्पादन र कायम राख्नको लागि प्रक्रिया स्थापना गर्ने धेरै शिक्षाविद् र नीति विशेषज्ञहरूले प्रस्ताव गरेका छन्। धम्की र अवसरहरू द्रुत गतिमा चल्ने डिजिटल प्रविधिहरूसँग सम्बन्धित छन्, जसमा - तर सीमित छैन - AI। चेकलिस्टको उद्देश्य सरकार, व्यापार वार्ताकारहरू, नियामकहरू, नागरिक समाज र उद्योगहरू लगायत सबै सरोकारवालाहरूलाई सम्भावित भविष्यका परिदृश्यहरू बारे जानकारी गराउनु हो, र उनीहरूले अवसर, फाइदा, जोखिम र अन्य मुद्दाहरूलाई कसरी विचार गर्न सक्छन् भनेर फ्रेम गर्ने हो। 

आउटपुटहरूले मूल्याङ्कन निकायको रूपमा काम गर्दैन, तर एक अनुकूलन र विकसित विश्लेषणात्मक ढाँचाको रूपमा काम गर्नेछ जसले सरकारहरू र बहुपक्षीय प्रणाली लगायत सरोकारवालाहरूद्वारा विकास गर्न सक्ने कुनै पनि मूल्याङ्कन र नियामक प्रक्रियाहरूलाई रेखदेख गर्न सक्छ। कुनै पनि विश्लेषणात्मक ढाँचा सरकारी र उद्योग दावीहरूबाट स्वतन्त्र रूपमा विकसित हुनुपर्छ, तिनीहरूको बुझ्न योग्य चासोहरू दिइन्छ। यो यसको परिप्रेक्ष्यमा अधिकतम बहुलवादी पनि हुनुपर्दछ, यसरी टेक्नोलोजीका सबै पक्षहरू र यसको प्रभावहरू समावेश गर्दै। 

यस छलफल पत्रले एआईसँग सम्बन्धित धेरै विश्वव्यापी र राष्ट्रिय छलफलहरू सूचित गर्न प्रारम्भिक ढाँचाको रूपरेखा प्रदान गर्दछ। 

एआई को जटिलता र प्रभावहरु संग एक टेक्नोलोजी को द्रुत उदयले धेरै लाभहरु को लागी धेरै दावीहरु लाई ड्राइभ गरिरहेको छ। यद्यपि, यसले व्यक्तिगतदेखि भू-रणनीतिक तहसम्म महत्त्वपूर्ण जोखिमहरूको डर पनि उत्प्रेरित गर्छ। धेरै जसो छलफलहरू विचारहरूको स्पेक्ट्रमको चरम छेउमा हुने गर्दछ, र थप व्यावहारिक दृष्टिकोण आवश्यक छ। एआई टेक्नोलोजीको विकास जारी रहनेछ र इतिहासले देखाउँछ कि लगभग हरेक टेक्नोलोजीको फाइदा र हानिकारक प्रयोगहरू छन्। तसर्थ, प्रश्न यो छ: हामी कसरी यस प्रविधिबाट लाभदायक परिणामहरू प्राप्त गर्न सक्छौं, जबकि हानिकारक परिणामहरूको जोखिम कम गर्दै, जसमध्ये केही परिमाणमा अस्तित्व हुन सक्छ? 

भविष्य सधैं अनिश्चित हुन्छ, तर अपेक्षाकृत सावधानीपूर्ण दृष्टिकोणलाई प्रोत्साहित गर्न AI र जनरेटिभ AI सम्बन्धी पर्याप्त विश्वसनीय र विशेषज्ञ आवाजहरू छन्। थप रूपमा, एक प्रणाली दृष्टिकोण आवश्यक छ, किनभने AI धेरै प्रकारका प्रयोगकर्ताहरू द्वारा व्यापक प्रयोग र अनुप्रयोगको साथ प्रविधिहरूको एक वर्ग हो। यसको मतलब व्यक्ति, सामाजिक जीवन, नागरिक जीवन, सामाजिक जीवन र विश्वव्यापी परिप्रेक्ष्यमा AI को प्रभावहरू विचार गर्दा पूर्ण सन्दर्भलाई ध्यानमा राख्नुपर्छ। 

धेरैजसो विगतका प्रविधिहरू भन्दा फरक, डिजिटल र सम्बन्धित प्रविधिहरूसँग विकासदेखि रिलीजसम्मको धेरै छोटो अवधि हुन्छ, ठूलो मात्रामा उत्पादन कम्पनी वा एजेन्सीहरूको हितद्वारा संचालित। AI द्रुत रूपमा व्यापक छ; केहि गुणहरू रिलीज पछि मात्र स्पष्ट हुन सक्छ, र टेक्नोलोजीमा दुव्र्यवहार र परोपकारी अनुप्रयोगहरू हुन सक्छ। महत्त्वपूर्ण मान आयामहरूले कुनै पनि प्रयोगलाई कसरी बुझिन्छ भनेर प्रभाव पार्नेछ। यसबाहेक, खेलमा भू-रणनीतिक स्वार्थहरू हुन सक्छन्। 

आज सम्म, भर्चुअल टेक्नोलोजीको नियमन धेरै हदसम्म "सिद्धान्तहरू" र स्वैच्छिक अनुपालनको लेन्सबाट हेरिएको छ। तथापि, हालैमा, छलफल राष्ट्रिय र बहुपक्षीय शासनका मुद्दाहरूमा मोडिएको छ, नियामक र अन्य नीति उपकरणहरूको प्रयोग सहित। AI को लागि वा विरुद्धमा गरिएका दावीहरू प्रायः हाइपरबोलिक हुन्छन् र - प्रविधिको प्रकृतिलाई ध्यानमा राखेर - मूल्याङ्कन गर्न गाह्रो हुन्छ। प्रभावकारी विश्वव्यापी वा राष्ट्रिय प्रविधि नियमन प्रणाली स्थापना गर्न चुनौतीपूर्ण हुनेछ, र आविष्कारकदेखि उत्पादक, प्रयोगकर्तासम्म, सरकार र बहुपक्षीय प्रणालीसम्म चेनमा जोखिम-सूचनायुक्त निर्णय लिने धेरै तहहरू आवश्यक हुनेछ। 

जबकि UNESCO, OECD र युरोपेली आयोगले उच्च-स्तरीय सिद्धान्तहरू जारी गरेका छन्, र सम्भावित नियमनका मुद्दाहरूमा विभिन्न उच्च-स्तरीय छलफलहरू भइरहेका छन्, त्यहाँ त्यस्ता सिद्धान्तहरू र शासन वा नियामक ढाँचाहरू बीच ठूलो अटोलजिकल अन्तर छ। नियामकले विचार गर्न आवश्यक हुन सक्ने विचारहरूको वर्गीकरण के हो? यी प्रविधिहरूको व्यापक प्रभावहरूलाई ध्यानमा राख्दै, संकीर्ण रूपमा केन्द्रित फ्रेमिङ मूर्खतापूर्ण हुनेछ। यो सम्भावना सकारात्मक र नकारात्मक दुवै धेरै टिप्पणीको विषय भएको छ।

ISC प्राकृतिक र सामाजिक विज्ञानलाई एकीकृत गर्ने प्राथमिक विश्वव्यापी एनजीओ हो। यसको विश्वव्यापी र अनुशासनात्मक पहुँचको अर्थ यो हो कि यो अगाडी जटिल छनौटहरू सूचित गर्न स्वतन्त्र र विश्वव्यापी रूपमा सान्दर्भिक सल्लाह उत्पन्न गर्न राम्रोसँग राखिएको छ, विशेष गरी यस क्षेत्रका वर्तमान आवाजहरू ठूलो मात्रामा उद्योग वा प्रमुख प्राविधिक शक्तिहरूबाट छन्। हालैका महिनाहरूमा व्यापक छलफल पछि, गैर-सरकारी मूल्याङ्कन प्रक्रियाको विचार सहित, ISC ले निष्कर्ष निकाल्यो कि यसको सबैभन्दा उपयोगी योगदान एक अनुकूली विश्लेषणात्मक ढाँचा उत्पादन र कायम राख्ने हो जुन बहस र निर्णय लिने आधारको रूपमा प्रयोग गर्न सकिन्छ। सबै सरोकारवालाहरू, कुनै पनि औपचारिक मूल्याङ्कन प्रक्रियामा देखा परेको लगायत। 

यो ढाँचाले एक व्यापक चेकलिस्टको रूप लिनेछ जुन सरकारी र गैर-सरकारी संस्थाहरू दुवैद्वारा प्रयोग गर्न सकिन्छ। ढाँचाले मानव र सामाजिक कल्याण, साथै अर्थशास्त्र, राजनीति, वातावरण र सुरक्षा जस्ता बाह्य कारकहरू समावेश गर्ने फराकिलो लेन्स मार्फत एआई र यसका डेरिभेटिभहरू जस्ता प्रविधिको सम्भावना पहिचान र अन्वेषण गर्दछ। चेकलिस्टका केही पक्षहरू सन्दर्भमा निर्भर गर्दै अरूहरू भन्दा बढी सान्दर्भिक हुन सक्छन्, तर सबै डोमेनहरू विचार गरिएमा अझ राम्रो निर्णयहरू सम्भव छन्। यो चेकलिस्ट दृष्टिकोणको अन्तर्निहित मान हो। 

प्रस्तावित ढाँचा अघिल्लो काम र सोचबाट लिइएको हो, जसमा इन्टरनेशनल नेटवर्क फर गभर्नल साइन्स एडभाइजको (INGSA) डिजिटल वेलबिइङ रिपोर्ट समावेश छ।¹ र OECD AI वर्गीकरण फ्रेमवर्क² सम्भावित अवसरहरू, जोखिमहरू र AI को प्रभावहरूको समग्रता प्रस्तुत गर्न। यी अघिल्ला उत्पादनहरू तिनीहरूको समय र सन्दर्भलाई ध्यानमा राख्दै तिनीहरूको उद्देश्यमा थप प्रतिबन्धित थिए, त्यहाँ एक व्यापक रूपरेखाको आवश्यकता छ जसले छोटो र दीर्घकालीन दुवैमा मुद्दाहरूको पूर्ण दायरा प्रस्तुत गर्दछ। 

AI को विचारको लागि विकसित गर्दा, यो विश्लेषणात्मक ढाँचा कुनै पनि द्रुत रूपमा उभरिरहेको प्रविधिमा लागू गर्न सकिन्छ। थप परीक्षाको लागि मुद्दाहरूलाई व्यापक रूपमा निम्न वर्गहरूमा समूहबद्ध गरिएको छ: 

• कल्याण (व्यक्ति वा आत्म, समाज र सामाजिक जीवन, र नागरिक जीवन सहित) 
• व्यापार र अर्थव्यवस्था 
• पर्यावरण 
• भू-रणनीतिक र भू-राजनीतिक 
• प्राविधिक (प्रणाली विशेषताहरू, डिजाइन र प्रयोग) 

माथिका प्रत्येक कोटीहरूको लागि विचारहरूको सूची तिनीहरूको सम्बन्धित अवसरहरू र परिणामहरू सहित समावेश गरिएको छ। केहि AI को विशिष्ट उदाहरण वा अनुप्रयोगहरूको लागि सान्दर्भिक छन् जबकि अन्य प्लेटफर्म वा प्रयोगको सामान्य र अज्ञेयवादी छन्। यहाँ समावेश गरिएको कुनै एकल विचारलाई प्राथमिकताको रूपमा लिनु हुँदैन र, जस्तै, सबैलाई जाँच गरिनु पर्छ। 

यो ढाँचालाई निम्न तरिकाहरूमा प्रयोग गर्न सकिन्छ, तर सीमित छैन: 

• अधिकारीहरूले विकास गर्न सक्ने कुनै पनि मूल्याङ्कन ढाँचा सहित थप सोचलाई सूचित गर्न र आकार दिनको लागि आधारको रूपमा सम्बन्धित सरोकारवालाहरूले प्रयोग गर्न सक्ने विचारहरूको दायराको प्रमाणित साझा वर्गीकरण स्थापना गरेर सिद्धान्तहरू र मूल्याङ्कनबीचको अन्तरलाई कम गर्न। 

• प्रभाव मूल्याङ्कन सूचित गर्न। EU AI ऐनले संगठनहरूलाई AI उपकरणहरू प्रदान गर्ने वा तिनीहरूको प्रक्रियाहरूमा AI लाई अपनाउन उनीहरूको पहलहरूको जोखिम पहिचान गर्न र उपयुक्त जोखिम व्यवस्थापन दृष्टिकोण लागू गर्न प्रभाव मूल्याङ्कन गर्न आवश्यक छ। यहाँ प्रस्तुत ढाँचा यसको लागि आधारको रूपमा प्रयोग गर्न सकिन्छ। 

• AI को प्रयोगलाई मार्गदर्शन र शासन गर्न आवश्यक नैतिक सिद्धान्तहरू बृद्धि गर्न। ढाँचाले यो लचिलो आधार प्रदान गरेर गर्न सक्छ जसमा भरपर्दो प्रणालीहरू विकास गर्न सकिन्छ र प्रविधिको वैध, नैतिक, बलियो र जिम्मेवार प्रयोग सुनिश्चित गर्न सकिन्छ। यी सिद्धान्तहरू यस फ्रेमवर्कमा प्रस्तुत गरिएका प्रभावहरूको पूर्ण दायरा विरुद्ध परीक्षण गर्न सकिन्छ। 
• अवस्थित उपायहरू (जस्तै, नियामक, विधायी, नीति) को स्टक लिनको लागि र थप विचार गर्न आवश्यक कुनै पनि खाडलहरू पहिचान गर्न। 

• ढाँचा प्रविधि र यसको प्रयोगको लागि अज्ञेयवादी छ। त्यसैले यो सिंथेटिक जीवविज्ञान जस्ता धेरै फरक क्षेत्रहरूमा प्रयोग गर्न सकिन्छ। 

निम्न तालिका विश्लेषणात्मक फ्रेमवर्कको आयामहरूको प्रारम्भिक आकार हो। टेक्नोलोजी र यसको प्रयोगमा निर्भर गर्दै, केहि घटकहरू अरू भन्दा बढी सान्दर्भिक हुनेछन्। प्रत्येक डोमेन किन फरक पर्न सक्छ भनेर उदाहरणहरू प्रदान गरिएको छ; सन्दर्भमा, ढाँचालाई प्रासंगिक रूपमा सान्दर्भिक विस्तारको आवश्यकता पर्दछ। प्लेटफर्म विकासहरू र विशिष्ट अनुप्रयोगहरूको समयमा देखा पर्न सक्ने सामान्य मुद्दाहरू बीच भेद गर्न पनि महत्त्वपूर्ण छ।  

कुञ्जी वर्णनकर्ताहरूको स्रोतहरू

सादा पाठ:
Gluckman, P. र एलेन, K. 2018। द्रुत डिजिटल र सम्बद्ध रूपान्तरणको सन्दर्भमा कल्याण बुझ्दै। INGSA। https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf 

बोल्ड पाठ:
OECD। 2022। एआई प्रणालीहरूको वर्गीकरणको लागि OECD फ्रेमवर्क। OECD डिजिटल इकोनोमी पेपर्स, नम्बर 323, OECD प्रकाशन, पेरिस। https://oecd.ai/en/classification 

इटालिक पाठ:
नयाँ वर्णनकर्ताहरू (बहु स्रोतहरूबाट) 

यस छलफल पत्रको प्रतिक्रियाको आधारमा, माथिको विश्लेषणात्मक ढाँचालाई थप विकास वा परिमार्जन गर्न ISC द्वारा एक विशेषज्ञ कार्य समूह गठन गरिनेछ जसद्वारा सरोकारवालाहरूले प्लेटफर्म वा प्रयोग आयामहरू मध्ये कुनै पनि महत्त्वपूर्ण घटनाक्रमलाई व्यापक रूपमा हेर्न सक्छन्। कार्यदल अनुशासनात्मक, भौगोलिक र जनसांख्यिकीय रूपमा विविध हुनेछ, जसमा प्राविधिक मूल्याङ्कनदेखि सार्वजनिक नीति, मानव विकासदेखि समाजशास्त्र र भविष्य र प्रविधि अध्ययनसम्मको विशेषज्ञता हुनेछ। 

यस छलफल पत्रमा संलग्न हुन, कृपया भ्रमण गर्नुहोस् Council.science/publications/framework-digital-technologies 

यस पत्रको विकासमा धेरै मानिसहरूसँग परामर्श गरिएको छ, जुन मस्यौदा तयार पारिएको हो Sir Peter Gluckman, अध्यक्ष, ISC र हेमा श्रीधर, पूर्व प्रमुख वैज्ञानिक, रक्षा मन्त्रालय, र अहिले वरिष्ठ अनुसन्धान फेलो, अकल्याण्ड विश्वविद्यालय, न्यूजील्याण्ड। 

विशेष गरी हामी लर्ड मार्टिन रिस, रोयल सोसाइटीका पूर्व अध्यक्ष र क्याम्ब्रिज विश्वविद्यालयको अस्तित्व जोखिम अध्ययन केन्द्रका सह-संस्थापकलाई धन्यवाद दिन्छौं; प्रोफेसर शिवाजी सोन्धी, भौतिकशास्त्रका प्रोफेसर, अक्सफोर्ड विश्वविद्यालय; प्रोफेसर के विजय राघवन, भारत सरकारका पूर्व प्रमुख वैज्ञानिक सल्लाहकार; अमनदीप सिंह गिल, टेक्नोलोजीमा संयुक्त राष्ट्र महासचिवका दूत; डा सेन ओह एइगर्टेघ, कार्यकारी निर्देशक, अस्तित्व जोखिमको अध्ययन केन्द्र, क्याम्ब्रिज विश्वविद्यालय; अमान्डा-जुन ब्राउनर, वरिष्ठ नीति सल्लाहकार र इयान विगिन्स, अन्तर्राष्ट्रिय मामिलाका निर्देशक, रोयल सोसाइटी यूके; डा जेरोम डुबेरी, डा मारी-लौर सेल्स, निर्देशक, जेनेभा ग्रेजुएट इन्स्टिच्युट; श्री चोर फर्न ली, रणनीतिक भविष्य केन्द्र, प्रधानमन्त्री कार्यालय, सिंगापुर; बेरेन्ड मोन्स र डा साइमन होडसन, डाटा समिति (CoDATA); प्रो युको हरायामा, जापान; प्रोफेसर रेमी क्विरियन, अध्यक्ष, INGSA; डा क्लेयर क्रेग, अक्सफोर्ड विश्वविद्यालय र दूरदर्शिता को पूर्व प्रमुख, विज्ञान को सरकारी कार्यालय; र प्रो योशुआ बेन्जियो, संयुक्त राष्ट्र महासचिवको वैज्ञानिक सल्लाहकार बोर्ड र युनिभर्सिटी डे मोन्ट्रियलमा। चेकलिस्ट दृष्टिकोणलाई सामान्यतया समर्थन गरिएको थियो र ISC द्वारा कुनै पनि कार्यको समयबद्धतालाई जोड दिइएको थियो।