वाशिंगठन, एजेंसी। चैटजीपीटी बनाने वाली कंपनी ओपनएआई का AI सिस्टम बेकाबू हो गया। अपनी लैब को बताए बिना ही कामर्स डिपार्टमेंट और अमेरिकी शेयर मार्केट रेगुलेटर SEC की वेबसाइटों से डेटा निकाल लिया। अमेरिका के शिक्षा विभाग की वेबसाइट को हैक करने की भी कोशिश की।
कॉमर्स डिपार्टमेंट और SEC की वेबसाइट पर हुई इस गड़बड़ी को खुद ओपनएआई ने सही माना है। कंपनी ने कहा कि वह शिक्षा विभाग वाले मामले की पड़ताल कर रही है।
ओपनएआई के मुताबिक, उसने पिछले कुछ हफ्तों में खुद सरकारी एजेंसियों को बताया था कि उसके ऑटोमेटेड एआई एजेंट्स ने उनकी वेबसाइटों पर अजीब हरकतें की हैं।
AI एजेंट ने डेटा की कॉपी बनाई, इंटरनेट पर पोस्ट की
एआई रिसर्च फर्म ‘ट्रांसलूज’ के रिसर्चर्स का कहना है कि शिक्षा विभाग की वेबसाइट से सिविल राइट्स ऑफिस का डेटा जुटाने के लिए ओपनएआई के सिस्टम ने उसे हैक करने की कोशिश की, लेकिन वह नाकाम रही।
इसके अलावा, AI ने ऑनलाइन मिले लॉगिन क्रेडेंशियल्स का इस्तेमाल करके कॉमर्स डिपार्टमेंट के तहत आने वाले सेंसस ब्यूरो की वेबसाइट से भी डेटा निकाला।
वहीं एक अन्य मामले में, ओपनएआई के एजेंट्स ने SEC की वेबसाइट का पब्लिक डेटा एक ऑनलाइन फोरम पर शेयर कर दिया।
ओपनएआई का दावा है कि ये घटनाएं किसी बड़े डेटा लीक या हैकिंग के दायरे में नहीं आती हैं, लेकिन इससे साफ है कि सिस्टम ने उम्मीद से अलग और चिंता पैदा करने वाला काम किया।
कंपनी को इन घटनाओं का पता तब चला जब वह टेक स्टार्टअप ‘हगिंग फेस’ पर अपने सिस्टम से हुई सेंधमारी की पड़ताल कर रही थी।
एजेंसियां बोलीं- कोई संवेदनशील डेटा लीक नहीं
मामला सामने आने के बाद शेयर बाजार नियामक SEC के प्रवक्ता ने कहा कि एआई एजेंट्स ने किसी भी नॉन-पब्लिक या गोपनीय डेटा को एक्सेस नहीं किया।
एजुकेशन डिपार्टमेंट के प्रवक्ता ने बताया कि डेटाबेस को कोई नुकसान नहीं हुआ हैं। वहीं, कॉमर्स डिपार्टमेंट की ओर से इस पर तुरंत कोई बयान नहीं आया है।
गूगल, मेटा और एंथ्रोपिक के एआई भी कर चुके हैं ऐसी गड़बड़ियां
अमेरिकी सरकार की वेबसाइटों से जुड़े इन मामलों के सामने आने के बाद ऐसी घटनाओं की लिस्ट और लंबी हो गई है। ओपनएआई, एंथ्रोपिक, मेटा और गूगल के एआई एजेंट्स ने कंपनियों, यूनिवर्सिटीज और सरकारी सिस्टम में सेंध लगाने या हैक करने की कोशिश की है।
इनमें से कुछ कोशिशें कामयाब रहीं और कुछ नाकाम। बड़ी बात यह है कि इन सभी मामलों में खुद कंपनियों को भी बाद में पता चला कि उनका एआई पर्दे के पीछे क्या कर रहा था। सिस्टम बेकाबू होने के मामलों में सबसे ज्यादा नाम ओपनएआई का सामने आया है।
ओपनएआई की प्रवक्ता के अनुसार, जांच बड़े पैमाने पर चल रही है और जिन संस्थाओं पर असर पड़ा है, उन्हें जानकारी दी जाती रहेगी। उन्होंने बताया कि ज्यादातर मामले सामान्य रिसर्च टास्क से जुड़े थे, जहां एआई भरोसेमंद जानकारी जुटाने के लिए सरकारी वेबसाइटों पर गया था।
सैम ऑल्टमैन बोले- घटनाओं की जानकारी बाहर लाने में देरी हुई
ओपनएआई के सीईओ सैम ऑल्टमैन ने सोशल मीडिया पर माना कि इन घटनाओं की जानकारी बाहर लाने में कंपनी से देरी हुई है। उन्होंने कहा कि टीम मामलों की गंभीरता के आधार पर काम कर रही है और ‘हगिंग फेस’ में हुई सेंधमारी अब तक का सबसे गंभीर मामला है।
AI एजेंट ऑस्ट्रेलिया की सरकारी वेबसाइट में भी घुस गए थे
दो दिन दिन पहले खुलासा हुआ था इन ओपन एआई के AI एजेंट्स ने ऑस्ट्रेलिया की सरकारी वेबसाइट का भी एक्सेस हासिल कर लिया था। यह घटना जून में हुई थी, लेकिन सरकार को इसकी जानकारी सितंबर में मिली।
एआई को बेकाबू होने से रोकने के लिए ‘किल स्विच’ की बात हो रही
कई देश और एक्सपर्ट चाहते हैं कि एआई कंपनियों के लिए एक इमरजेंसी ‘किल स्विच’ बनाया जाए, जिससे खतरा दिखने पर पूरे एआई को एक झटके में बंद किया जा सके।
ओपनएआई ऐसे ऑटोमेटेड टूल्स तैयार करने में जुटी है, लेकिन एक्सपर्ट्स के अनुसार, दुनिया भर के नेटवर्क से जुड़े AI को किसी एक स्विच से बंद करना लगभग नामुमकिन है।
भविष्य के खतरों पर एआई विशेषज्ञों का क्या कहना है?
यूनिवर्सिटी ऑफ न्यू साउथ वेल्स के डॉ. हैमंड पिएर्स ने चेतावनी दी है कि ऐसे मामले आगे चलकर और खतरनाक हो सकते हैं। ये सरकारों के लिए खतरे की बड़ी घंटी है।
वहीं यूनिवर्सिटी ऑफ सिडनी के डॉ. राफेल सिरिएलो ने कहा कि इस बार कोई बड़ा नुकसान नहीं हुआ है, लेकिन एआई लगातार ताकतवर होता जा रहा है। इसकी 24 घंटे निगरानी जरूरी है। किसी भी गड़बड़ी की तुरंत रिपोर्टिंग को अनिवार्य करना होगा।