सार
माइक्रोसॉफ्ट के सीईओ सत्य नडेला ने एडवांस एआई और सुपर इंटेलिजेंस के मुद्दे पर एक अहम बयान दिया है। उनके मुताबिक, सबसे सुरक्षित एआई वह नहीं होगा, जिस पर सबसे ज्यादा भरोसा किया जाए, बल्कि वह होगा जिसमें मॉडल के बारे में हमें सबसे कम चिंता करनी पड़े। उन्होंने एआई की पहुंच, अधिकार और फैसलों पर बाहरी नियंत्रण, निगरानी और सख्त सुरक्षा नियम लागू करने की जरूरत बताई।
एआई पर कितना भरोसा किया जाए और इन्हें कितने अधिकार दिए जाएं? यह सवाल अब और भी अहम हो गया है जब हाल ही के दिनों में एआई एजेंट्स द्वारा हैकिंग और ऑनलाइन सिस्टम में घुसपैठ के कुछ मामले सामने आए हैं। माइक्रोसॉफ्ट के सीईओ सत्या नडेला ने इसी मुद्दे पर अहम बात कही है। उनके मुताबिक, सबसे भरोसेमंद सुपर इंटेलिजेंस सिस्टम वह नहीं होगा, जिसमें लोग एआई मॉडल पर सबसे ज्यादा भरोसा करें। इसके बजाय बेहतर सिस्टम वह होगा, जिसकी सुरक्षा के लिए हमें कम से कम चिंता करनी पड़े और उसके काम करने की सीमाएं मजबूत तकनीकी नियंत्रण से तय हों।
नडेला ने सोशल मीडिया प्लेटफॉर्म एक्स (X) पर एक पोस्ट में एआई की सुरक्षा और उसके संचालन से जुड़े जोखिमों पर अपनी राय रखी। उन्होंने कहा कि एडवांस एआई सिस्टम को केवल डेवलपर्स के भरोसे नहीं छोड़ा जा सकता। इसके लिए ऐसे सुरक्षा नियमों की जरूरत है, जो मॉडल के व्यवहार पर निर्भर न हों।
एआई खुली छूट देने के बजाय नियंत्रण जरूरी क्यों?
माइक्रोसॉफ्ट चीफ ने बताया कि पारंपरिक सॉफ्टवेयर में इंजीनियर आमतौर पर कोड के जरिए यह पता लगा सकते थे कि किसी खास निर्देश के बाद सिस्टम ने कोई काम क्यों किया। इससे गलती की वजह पहचानना और उसे ठीक करना अपेक्षाकृत आसान होता था।
लेकिन आज के एडवांस एआई मॉडल का काम करने का तरीका इससे अलग है। इनके जवाब और फैसले हमेशा किसी एक कोड लाइन या ट्रेनिंग डेटा के खास हिस्से से सीधे जोड़कर समझना आसान नहीं होता। मॉडल के भीतर मौजूद बहुत बड़ी संख्या में पैरामीटर और ट्रेनिंग से सीखे गए पैटर्न उसके व्यवहार को प्रभावित करते हैं।
नडेला के मुताबिक, यही अंतर एआई सिस्टम को लेकर सुरक्षा और जवाबदेही की चुनौती बढ़ाता है। कंपनियां ऐसे मॉडल इस्तेमाल कर रही हैं, जिन्हें संवेदनशील डेटा तक पहुंच दी जा सकती है और जो कारोबार के जरूरी काम भी कर सकते हैं। ऐसे में केवल यह मान लेना पर्याप्त नहीं है कि मॉडल सही तरीके से काम करेगा।
एआई एजेंट को संवेदनशील डेटा और फैसलों की पूरी छूट देना जोखिम भरा
नडेला ने कहा कि अब कई एआई सिस्टम को एजेंट के रूप में इस्तेमाल किया जा रहा है। ये एजेंट किसी लक्ष्य को पूरा करने के लिए अलग-अलग टूल इस्तेमाल कर सकते हैं, जानकारी जुटा सकते हैं और तय सीमाओं के भीतर कुछ काम अपने आप कर सकते हैं।
ऐसे सिस्टम कंपनियों की उत्पादकता बढ़ा सकते हैं, लेकिन इनके पास जितने ज्यादा अधिकार होंगे, गलत फैसले या सुरक्षा में चूक का असर भी उतना बड़ा हो सकता है। उदाहरण के लिए, अगर किसी एआई एजेंट को संवेदनशील फाइलें पढ़ने, ईमेल भेजने या कंपनी के जरूरी सिस्टम में बदलाव करने की अनुमति दी गई है, तो उसके गलत कदम से डेटा या कारोबार को नुकसान हो सकता है।
एआई मॉडल के अधिकार मॉडल से बाहर तय होने चाहिए
नडेला का कहना है कि कंपनियों को एआई से जुड़ी जिम्मेदारी पूरी तरह डेवलपर्स या तकनीक उपलब्ध कराने वाली कंपनियों पर नहीं छोड़नी चाहिए। एआई मॉडल कितना भी सक्षम क्यों न हो, उसके काम करने की सीमाएं और अंतिम अधिकार अलग व्यवस्था के जरिए तय किए जाने चाहिए। उन्होंने बताया कि मॉडल को कौन-सी फाइल पढ़ने, किस सिस्टम तक पहुंचने और कौन-सा काम करने की अनुमति होगी, यह फैसला मॉडल के बाहर मौजूद व्यवस्था करे।
नडेला ने इसका उदाहरण देते हुए बताया कि अगर किसी एआई एजेंट को केवल रिपोर्ट पढ़ने का अधिकार दिया गया है, तो उसे अपने आप भुगतान करने या किसी दूसरे सिस्टम में बदलाव करने की अनुमति नहीं मिलनी चाहिए। इसी तरह, अगर कोई मॉडल किसी खास काम के लिए अधिकृत नहीं है, तो वह अपने निर्देशों के आधार पर उस सीमा को पार नहीं कर सके।
एआई को संभावित सुरक्षा जोखिम मानकर चलने की सलाह
नडेला ने कंपनियों को सलाह दी कि वे बंद मॉडल और ओपन-वेट मॉडल, दोनों के साथ सुरक्षा को लेकर सतर्क रहें। ओपन-वेट मॉडल में मॉडल के प्रशिक्षित पैरामीटर उपलब्ध होते हैं, जिन्हें कुछ परिस्थितियों में डेवलपर डाउनलोड करके अपने सिस्टम में इस्तेमाल कर सकते हैं। वहीं, बंद मॉडल आमतौर पर उसे तैयार करने वाली कंपनी के नियंत्रण में रहते हैं। उनका तर्क है कि किसी भी सिस्टम या अधिकार प्राप्त व्यक्ति से गलती हो सकती है या उसका नियंत्रण खतरे में पड़ सकता है।
नडेला के मुताबिक, इसके लिए कंपनियां पहले से इस्तेमाल होने वाले साइबर सुरक्षा उपाय अपना सकती हैं। इनमें यूजर की पहचान की पुष्टि, गतिविधियों का रिकॉर्ड रखना और अलग-अलग यूजर्स या सिस्टम के अधिकारों को सीमित करना शामिल है।
एआई की निगरानी के लिए नडेला ने बताए जरूरी कदम
नडेला ने एआई सिस्टम को सुरक्षित तरीके से चलाने के लिए कई सिद्धांतों पर जोर दिया। इनमें अलग-अलग मॉडल का इस्तेमाल, छेड़छाड़ से सुरक्षित गतिविधि रिकॉर्ड, लगातार जांच, स्वतंत्र ऑडिट और जरूरत पड़ने पर सिस्टम को रोकने की भरोसेमंद व्यवस्था शामिल है।
मॉडल में विविधता:
किसी एक एआई मॉडल पर पूरी तरह निर्भर रहने के बजाय अलग-अलग मॉडल इस्तेमाल करने से एक ही तरह की गलती पर निर्भरता कम करने में मदद मिल सकती है।
सुरक्षित लॉगिंग:
एआई ने कौन-सा डेटा इस्तेमाल किया और कौन-सा कदम उठाया, इसका भरोसेमंद रिकॉर्ड होना चाहिए। इससे गलती होने पर जांच करना आसान हो सकता है।
लगातार जांच:
एआई को केवल सामान्य परिस्थितियों में नहीं, बल्कि मुश्किल और असामान्य स्थितियों में भी जांचना जरूरी है।
स्वतंत्र ऑडिट:
बाहरी विशेषज्ञों के जरिए सुरक्षा व्यवस्था की समीक्षा करने से ऐसी कमजोरियों का पता लगाया जा सकता है, जिन्हें सिस्टम बनाने वाली टीम नहीं देख पाई हो।
इमरजेंसी शटडाउन:
जरूरत पड़ने पर एआई एजेंट की गतिविधियां रोकने का भरोसेमंद तरीका होना चाहिए, ताकि किसी अप्रत्याशित घटना का असर सीमित किया जा सके।
सुरक्षा घटनाओं की जानकारी साझा करना:
एआई से जुड़ी गंभीर घटनाओं के बारे में इंडस्ट्री के स्तर पर जानकारी साझा करने से दूसरी कंपनियों को भी संभावित खतरों से सीखने में मदद मिल सकती है।
और पढ़ें…
