चैटजीपीटी बनाने वाली कंपनी ओपनएआई के AI एजेंट्स ने अमेरिकी सरकार की वेबसाइट में छेड़छाड़ की। इसमें अमेरिकी शेयर बाजार नियामक SEC और कॉमर्स डिपार्टमेंट की वेबसाइट शामिल है। ओपनएआई ने इसकी जानकारी दी।
हालांकि इस छेड़छाड़ से किसी तरह का कोई नकुसान नहीं हुआ। एआई एजेंट्स ने किसी भी नॉन-पब्लिक या गोपनीय डेटा को एक्सेस नहीं किया। कंपनी ने कहा कि AI एजेंट का मकसद सरकारी वेबसाइट से सटीक जानकारी जुटाना था।
AI एजेंट ने डेटा की कॉपी बनाई, इंटरनेट पर पोस्ट की
AI एजेंट्स ने अमेरिकी शेयर बाजार नियामक SEC के डेटा की कॉपी बनाई और उसे इंटरनेट पर पोस्ट कर दिया, जबकि उन्हें ऐसा न करने के साफ निर्देश दिए गए थे।
कॉमर्स डिपार्टमेंट के मामले में एआई एजेंट ने यूएस सेन्सस डेटा की वेबसाइट को ऐसे प्रोग्रामिंग इंटरफेस से एक्सेस किया, जो उस काम के लिए नहीं बनाया गया था।
AI एजेंट ने शिक्षा मंत्रालय की वेबसाइट में भी घुसने का प्रयास किया। हालांकि, वो इसमें कामयाब नहीं हो सका।
एजेंसियां बोलीं- कोई संवेदनशील डेटा लीक नहीं
मामला सामने आने के बाद शेयर बाजार नियामक SEC के प्रवक्ता ने कहा कि एआई एजेंट्स ने किसी भी नॉन-पब्लिक या गोपनीय डेटा को एक्सेस नहीं किया।
एजुकेशन डिपार्टमेंट के प्रवक्ता ने बताया कि डेटाबेस को कोई नुकसान नहीं हुआ हैं। वहीं, कॉमर्स डिपार्टमेंट की ओर से इस पर तुरंत कोई बयान नहीं आया है।
कंपनी बोली- भरोसेमंद जानकारी के लिए सरकारी साइट्स पर गए थे एजेंट
ओपनएआई ने बताया कि यह गड़बड़ी तब हुई जब उनके एआई सिस्टम की ट्रेनिंग चल रही थी। ट्रेनिंग के दौरान एआई से कई सवाल पूछे गए थे। एआई मॉडल भरोसेमंद जानकारी के लिए सरकारी वेबसाइटों पर ही जाते हैं, इसलिए वह खुद-ब-खुद उन साइट्स पर गए।
कंपनी का कहना है कि एआई का मकसद कोई गड़बड़ करना नहीं, बल्कि सरकारी साइट्स से आम जानकारी जुटाना ही था। ये एक सामान्य रिसर्च का काम है।
AI एजेंट ऑस्ट्रेलिया की सरकारी वेबसाइट में भी घुस गए थे
दो दिन दिन पहले खुलासा हुआ था इन ओपन एआई के AI एजेंट्स ने ऑस्ट्रेलिया की सरकारी वेबसाइट का भी एक्सेस हासिल कर लिया था। यह घटना जून में हुई थी, लेकिन सरकार को इसकी जानकारी सितंबर में मिली।
एआई को बेकाबू होने से रोकने के लिए ‘किल स्विच’ की बात हो रही
कई देश और एक्सपर्ट चाहते हैं कि एआई कंपनियों के लिए एक इमरजेंसी ‘किल स्विच’ बनाया जाए, जिससे खतरा दिखने पर पूरे एआई को एक झटके में बंद किया जा सके।
ओपनएआई ऐसे ऑटोमेटेड टूल्स तैयार करने में जुटी है, लेकिन एक्सपर्ट्स के अनुसार, दुनिया भर के नेटवर्क से जुड़े AI को किसी एक स्विच से बंद करना लगभग नामुमकिन है।
भविष्य के खतरों पर एआई विशेषज्ञों का क्या कहना है?
यूनिवर्सिटी ऑफ न्यू साउथ वेल्स के डॉ. हैमंड पिएर्स ने चेतावनी दी है कि ऐसे मामले आगे चलकर और खतरनाक हो सकते हैं। ये सरकारों के लिए खतरे की बड़ी घंटी है।
वहीं यूनिवर्सिटी ऑफ सिडनी के डॉ. राफेल सिरिएलो ने कहा कि इस बार कोई बड़ा नुकसान नहीं हुआ है, लेकिन एआई लगातार ताकतवर होता जा रहा है। इसकी 24 घंटे निगरानी जरूरी है। किसी भी गड़बड़ी की तुरंत रिपोर्टिंग को अनिवार्य करना होगा।