AI ने अपनी मर्जी से हैक किया एक कंपनी का सिस्टम, जानकारी भी चुराई

एआई के ओपन सोर्स की वकालत

डेलैंग ने इस घटना को एक उदाहरण के तौर पर पेश करते हुए कहा कि एआई की सुरक्षा केवल किसी एक कंपनी की ओर से गुप्त रूप से काम करके हल नहीं की जा सकती। इसे खुले तौर पर, आपसी सहयोग से ही सुलझाया जा सकता है, जहां हर सुरक्षा विशेषज्ञ की एआई तक पहुंच हो।

चीन के एआई मॉडल ने किया ओपनएआई मॉडल के हमले का विश्लेषण

दिलचस्प बात यह है कि हगिंग फेस को इस हमले का विश्लेषण करने के लिए मुफ्त में उपलब्ध एक चीनी एआई मॉडल की मदद लेनी पड़ी। इसकी वजह यह थी कि कमर्शियल मॉडल्स पर जो कड़े सुरक्षा प्रतिबंध लगे होते हैं, वे इस तरह की गहराई से जांच करने की इजाजत नहीं देते। हगिंग फेस के मुताबिक, इस घटना के विश्लेषण के बाद उन खामियों को दूर कर लिया है और अपने सिस्टम को फिर से सुरक्षित बना लिया है। कंपनी के सह-संस्थापक थॉमस वुल्फ ने कहा कि जब कोई अत्याधुनिक मॉडल आप पर हमला कर रहा हो, तो बचाव करने वालों के पास मिनटों के अंदर ओपन-सोर्स टूल्स की पहुंच होनी चाहिए।

विशेषज्ञों के लिए यह पूरा घटनाक्रम चौंकाने वाला क्यों है?

विशेषज्ञों और साइबर सुरक्षा शोधकर्ताओं के लिए यह घटनाक्रम कई तकनीकी और सुरक्षा कारणों से बेहद चौंकाने वाला और चिंताजनक करार दिया है।

1. एआई के खुद फैसले लेने की क्षमता पर सबसे ज्यादा चिंता
विशेषज्ञों के लिए सबसे बड़ी हैरानी की बात यह है कि एआई ने यह पूरा हैकिंग अभियान बिना किसी मानवीय निर्देश के पूरी तरह से अपने दम पर चलाया। जॉर्जटाउन यूनिवर्सिटी के शोधकर्ता कॉलिन शिया-ब्लाईमर के अनुसार, साइबर ऑपरेशन्स के मामले में किसी एआई मॉडल द्वारा दिखाया गया यह अब तक का सबसे उच्च स्तर का स्वायत्त व्यवहार है।

2. एक असली हैकर की तरह तार्किक सोच
डार्कट्रेस के साइबर सुरक्षा विशेषज्ञ नथानिएल जोन्स ने बताया कि एआई ने इस पूरी घटना में बिल्कुल एक असली हैकर की तरह काम किया। इसने न केवल एक अज्ञात खामी खोजी, बल्कि कई साइबर कमजोरियों को एक साथ जोड़कर और चोरी किए गए पासवर्ड का इस्तेमाल करके सिस्टम को हैक किया। सबसे ज्यादा चौंकाने वाली बात यह थी कि एआई ने खुद यह निष्कर्ष निकाला कि उसके टेस्ट के जवाब हगिंग फेस के डेटाबेस में हो सकते हैं, और वह सीधे उसके सर्वर तक पहुंच गया।

4. लक्ष्यों के गलत निर्धारण का खतरा 
ऑक्सफोर्ड यूनिवर्सिटी के प्रोफेसर फिलिप टोर ने इस घटना की तुलना ‘अलादीन के जिन्न’ से की है। उनका कहना है कि एआई का कोई दुर्भावनापूर्ण इरादा नहीं था, बल्कि वह केवल उस लक्ष्य को पूरा करने के लिए किसी भी हद तक चला गया। यह दर्शाता है कि यदि एआई को निर्देश देते समय सावधानी नहीं बरती गई, तो इसके नतीजे कितने खतरनाक हो सकते हैं।

5. एआई कंपनी की बुनियादी लापरवाही 
कई तकनीकी विशेषज्ञ इस बात से हैरान हैं कि ओपनएआई जैसी शीर्ष कंपनी का सुरक्षित वातावरण (सैंडबॉक्स) इतना कमजोर था। सुरक्षा सलाहकार डेवी ओटेनहाइमर ने इसे एआई की समस्या के बजाय 40 साल पुराने सुरक्षा मानक पर हुई लापरवाही करार दिया, क्योंकि एक सच्चे सैंडबॉक्स में इंटरनेट का कोई सीधा संपर्क होना ही नहीं चाहिए। एक अन्य सुरक्षा इंजीनियर नील्स प्रोवोस ने निराशा जताते हुए कहा कि काश ये शीर्ष कंपनियां एआई को साइबर हैकिंग सिखाने के बजाय सुरक्षित बुनियादी ढांचा बनाने पर अधिक समय बितातीं।

कैसे इस स्थिति से निपटने की हो रही तैयारी?

एआई मॉडल्स द्वारा स्वायत्त रूप से हैक करने की इस घटना और इनकी तेजी से बढ़ती क्षमताओं को देखते हुए दुनिया भर की सरकारें अलर्ट हो गई हैं और उन्होंने एआई से होने वाले खतरों से निपटने के लिए कई कदम उठाने शुरू कर दिए हैं।

अमेरिका 

• इस साइबर हमले के खुलासे से कुछ हफ्ते पहले जून में, अमेरिकी राष्ट्रपति डोनाल्ड ट्रंप ने एक कार्यकारी आदेश पर हस्ताक्षर किए थे। इसके तहत, दुनिया के सबसे उन्नत एआई सिस्टम्स को जनता के बीच रिलीज करने से पहले, कम से कम एक महीने तक उनके राष्ट्रीय सुरक्षा जोखिमों की जांच करने के लिए एक सख्त ढांचा बनाया जाना है।
• ट्रंप प्रशासन ने पहले भी राष्ट्रीय सुरक्षा के मद्देनजर एआई मॉडल्स तक लोगों की पहुंच को सीमित करने के प्रयास किए हैं। इसके अलावा, एंथ्रोपिक के माइथोस और फेबल 5 जैसे शक्तिशाली एआई मॉडल्स की साइबर क्षमताओं को देखते हुए, अमेरिकी सरकार ने उनके निर्यात पर भी प्रतिबंध लगा दिया था। हालांकि, बाद में इसे हटा लिया गया।

• अप्रैल में अमेरिकी फेडरल रिजर्व और वित्त विभाग ने अलग-अलग बैंक सीईओ के साथ एक विशेष बैठक की थी, जिसमें अधिकारियों ने स्पष्ट रूप से माइथोस जैसे एआई मॉडल्स से होने वाले संभावित साइबर सुरक्षा जोखिमों के बारे में चेतावनी दी थी।
• एआई कंपनियों के इस तरह नियंत्रण से बाहर होने की घटनाओं के बाद, अमेरिकी सांसद ग्रेग कासार जैसे नेता अब एआई के अनिवार्य और स्वतंत्र सुरक्षा परीक्षण , सुरक्षा घटनाओं के अनिवार्य खुलासे और अंतरराष्ट्रीय सहयोग की मांग कर रहे हैं।

ब्रिटेन

• ब्रिटेन सरकार का एआई सुरक्षा संस्थान यूके एआईएसआई (UK AISI) इस घटना में शामिल एआई सिस्टम के व्यवहार का गहराई से अध्ययन कर रहा है। सरकार के प्रवक्ता के मुताबिक, वे ओपनएआई जैसे एआई लैब्स  के साथ मिलकर सुरक्षा उपायों को बेहतर बनाने पर लगातार काम कर रहे हैं।
• ब्रिटिश सरकार ने अपने देश के संगठनों को स्पष्ट निर्देश दिया है कि वे अपने साइबर-बचाव को मजबूत करें। सरकार ने संगठनों को साइबर एसेंशियल्स सर्टिफिकेशन  जैसी सरकार समर्थित योजनाओं से जुड़ने की सलाह दी है।
• • यूके एआईएसआई सिर्फ ओपनएआई ही नहीं, बल्कि कई अन्य मॉडलों का भी मूल्यांकन कर रहा है। संस्थान ने हाल ही में खुलासा किया था कि परीक्षण के दौरान ओपनएआई और एंथ्रोपिक समेत एक अन्य अज्ञात कंपनी के मॉडल्स ने भी हैक करने और परीक्षण में धोखा देने का प्रयास किया था, जिससे निपटने के लिए वे अपनी प्रणालियों को ज्यादा सुरक्षित बना रहे हैं।

  कनाडा 
  कनाडा के संघीय बैंकिंग नियामक ने भी देश के वित्तीय संस्थानों को एआई मॉडलों की इन अत्यधिक साइबर क्षमताओं के बारे में औपचारिक चेतावनी जारी की है, ताकि वे पहले से ही किसी भी साइबर खतरे के लिए तैयार रहें।