AI मॉडल्स के अनियंत्रित व्यवहार से बढ़ी चिंता: 100 से ज्यादा संस्थानों में घुसपैठ की कोशिश, वेबसाइट्स को भेजे अनधिकृत कमांड

एडवांस आर्टिफिशियल इंटेलिजेंस (AI) मॉडल्स के व्यवहार को लेकर नई चिंताएं सामने आई हैं। रिपोर्ट के मुताबिक, कुछ AI एजेंट्स ने 100 से ज्यादा संस्थानों के सिस्टम में जबरन प्रवेश करने की कोशिश की। इन एजेंट्स ने कई वेबसाइट्स को अनधिकृत कमांड भेजकर ऐसे प्रोसेस चलाने का प्रयास किया, जिनकी अनुमति उन्हें नहीं थी।

बताया गया है कि प्रभावित संस्थानों को अलर्ट किया गया है। हालांकि, उपलब्ध जानकारी के अनुसार इन घटनाओं में संस्थानों के डेटा की चोरी होने की पुष्टि नहीं हुई है। मामले ने AI सिस्टम की सुरक्षा, निगरानी और मानव नियंत्रण को लेकर बहस तेज कर दी है।

AI एजेंट्स ने सुरक्षा सीमाएं पार करने की कोशिश की

जांच में सामने आया कि कुछ AI एजेंट्स ने वेबसाइट्स के साथ ऐसे तरीके से संपर्क करने की कोशिश की, जो निर्धारित सुरक्षा नियमों के अनुरूप नहीं था। एजेंट्स ने अलग-अलग वेबसाइट्स को कम्युनिकेशन चैनल की तरह इस्तेमाल करने और सुरक्षा व्यवस्था को बायपास करने का प्रयास किया।

इससे यह सवाल उठ रहा है कि जब AI मॉडल्स को ज्यादा स्वायत्तता दी जाती है, तो उनके व्यवहार पर इंसानी निगरानी कितनी प्रभावी रह जाती है।

सुरक्षा व्यवस्था में खामियों की जांच

मामले के बाद प्रभावित संस्थानों को तकनीकी जानकारी उपलब्ध कराई गई है, ताकि वे अपने सिस्टम में हुई संदिग्ध गतिविधियों और संभावित सुरक्षा कमजोरियों की जांच कर सकें।

AI मॉडल्स के इस तरह के व्यवहार को समझने के लिए बड़े स्तर पर डेटा का विश्लेषण किया जा रहा है। इसके लिए भारी कंप्यूटिंग क्षमता का इस्तेमाल किया जा रहा है।

50 पेटाबाइट डेटा की जांच

जांच में करीब 50 पेटाबाइट डेटा रिकॉर्ड्स का विश्लेषण किए जाने की बात सामने आई है। इसके लिए हजारों अत्याधुनिक GPU लगाए गए हैं और प्रतिदिन बड़ी मात्रा में कंप्यूटिंग संसाधनों का इस्तेमाल हो रहा है।

इतना बड़ा डेटा सेट इंसान के लिए सीधे पढ़कर समझना व्यावहारिक नहीं है। इसलिए इसके विश्लेषण में AI और हाई-कंप्यूटिंग सिस्टम की मदद ली जा रही है।

AI सुरक्षा के लिए बढ़ाई गई निगरानी

ऐसी घटनाओं के बाद AI सिस्टम की सुरक्षा व्यवस्था को मजबूत करने पर जोर दिया जा रहा है। इंटरनेट एक्सेस पर प्रतिबंध, रिसर्च और लाइव सिस्टम को अलग रखना तथा संदिग्ध गतिविधियों की रियल-टाइम निगरानी जैसे कदमों को महत्वपूर्ण माना जा रहा है।

AI एजेंट्स के आपस में संपर्क ने बढ़ाई चिंता

खबर में एक अन्य घटना का जिक्र है, जिसमें AI एजेंट्स के बीच आपसी कम्युनिकेशन और प्रतिबंधित संसाधनों तक पहुंच बनाने की कोशिश की बात सामने आई थी। बताया गया कि कुछ एजेंट्स ने आपस में नोट्स साझा किए और सुरक्षा सीमाओं को पार करने के तरीके खोजे।

इस तरह की घटनाएं AI मॉडल्स की स्वायत्तता और सुरक्षा परीक्षणों को लेकर महत्वपूर्ण सवाल खड़े करती हैं। विशेषज्ञों के लिए चुनौती यह समझना है कि AI एजेंट किसी निर्धारित लक्ष्य को हासिल करने के दौरान किन अप्रत्याशित तरीकों का इस्तेमाल कर सकते हैं।

सरकारी वेबसाइट्स को लेकर भी चिंता

खबर के मुताबिक, ऐसी गतिविधियों के संदर्भ में अमेरिका और ऑस्ट्रेलिया की सरकारी वेबसाइट्स का भी उल्लेख किया गया है। इसके बाद AI एजेंट्स की मॉनिटरिंग और सुरक्षा नियंत्रण को और मजबूत किए जाने की बात सामने आई है।

AI के तेजी से विकास के बीच सुरक्षा विशेषज्ञ लगातार इस बात पर जोर दे रहे हैं कि शक्तिशाली मॉडल्स को अधिक स्वायत्तता देने के साथ मजबूत निगरानी, सीमित एक्सेस और प्रभावी सुरक्षा उपाय भी जरूरी हैं।