Mythos की तरह OpenAI भी ला सकता है सुपरपावरफुल AI मॉडल, लेकिन हर किसी को नहीं मिलेगा एक्सेस

Mythos की तरह OpenAI भी ला सकता है सुपरपावरफुल AI मॉडल, लेकिन हर किसी को नहीं मिलेगा एक्सेस

Anthropic ने हाल ही में Claude Mythos की घोषणा की है। ये एक ऐसा AI जो इतना पावरफुल है कि वह संभावित रूप से किसी भी सॉफ्टवेयर को हैक कर सकता है। अब, एक ...और पढ़ें




 सैम ऑल्टमैन के नेतृत्व वाली कंपनी OpenAI कथित तौर पर एक ऐसा AI मॉडल लाने पर काम कर रही है जिसमें एडवांस्ड साइबर सिक्योरिटी कैपेबिलिटीज होंगी और जिसे वह केवल सीमित संख्या में कंपनियों के लिए जारी करने की योजना बना रही है। सीमित कंपनियों के लिए AI मॉडल जारी करने का OpenAI का तरीका उसकी प्रतिद्वंद्वी कंपनी Anthropic जैसा ही है, जिसने घोषणा की है कि वह अपना नया AI मॉडल Mythos केवल चुनिंदा कंपनियों के लिए ही लॉन्च करेगी।


ये रिस्ट्रिक्टेड रोलआउट ऐसे समय में हो रहा है जब AI की कैपेबिलिटीज एक क्रिटिकल स्टेज पर पहुंच गई हैं, खासकर ऑटोनॉमी और हैकिंग पोटेंशियल सेक्टर्स में। नतीजतन, डेवलपर्स इस बात को लेकर ज्यादा सतर्क हो रहे हैं कि इन टूल्स का इस्तेमाल कैसे किया जाए, क्योंकि उन्हें डर है कि इनका दुरुपयोग हो सकता है या इनसे अनजाने में कोई नुकसान पहुंच सकता है। जैसा कि ऊपर बताया गया है, OpenAI का तरीका उसकी प्रतिद्वंद्वी AI कंपनी Anthropic जैसा ही होगा।

Axios की रिपोर्ट के मुताबिक, OpenAI शुरू में कंपनियों के एक छोटे ग्रुप को एक्सेस दे सकता है। खासतौर पर उन कंपनियों को जो साइबर सिक्योरिटी और टेक्नोलॉजी के सेक्टर में काम कर रही हैं।

आपकी जानकारी के लिए लिए बता दें कि CEO Dario Amodei के नेतृत्व वाले Anthropic ने हाल ही में अपने सबसे नए मॉडल, Mythos की घोषणा की है। इस नए मॉडल को लॉन्च करते हुए, AI कंपनी ने कहा कि Mythos मॉडल आम जनता के लिए जारी नहीं किया जाएगा। इसके बजाय, ये केवल 11 चुनिंदा ऑर्गेनाइजेशन के लिए उपलब्ध होगा, जिनमें Google, Microsoft, Amazon Web Services, Nvidia और JPMorgan Chase शामिल हैं।

Anthropic ने इस डर का हवाला दिया कि ये मेजर ऑपरेटिंग सिस्टम और वेब ब्राउजर में मौजूद गंभीर साइबर सुरक्षा खामियों का पता लगाने में बहुत ज्यादा प्रभावी है।





Anthropic क्यों Mythos को कभी भी आम जनता के लिए जारी नहीं करेगी?

इस हफ्ते की शुरुआत में, Anthropic ने कहा कि वह Mythos AI मॉडल को कभी भी आम जनता के लिए जारी नहीं करेगी। AI कंपनी ने बताया कि Mythos को जब प्रॉम्प्ट दिया गया, तो वह एक वर्चुअल सैंडबॉक्स से बाहर निकलने में सक्षम था। उसने अपने बाहर निकलने के सबूत के तौर पर एक रिसर्चर को एक अनएक्सपेक्टेड ईमेल भी भेजा। एक दूसरे मामले में, इस मॉडल ने बिना किसी पूछे ही अपनी सिक्योरिटी बायपास डिटेल कुछ ऐसी वेबसाइटों पर पोस्ट कर दी जो भले ही कम जानी-पहचानी थीं, लेकिन आम जनता के लिए खुली थीं।


कंपनी ने ये भी बताया कि Mythos ने OpenBSD में मौजूद 27 साल पुरानी एक वल्नेरेबिलिटी का भी फिर से पता लगा लिया। OpenBSD को लंबे समय से सबसे सुरक्षित ऑपरेटिंग सिस्टम में से एक माना जाता रहा है। बताया गया है कि जिन इंजीनियरों के पास सुरक्षा से जुड़ा कोई औपचारिक ट्रेनिंग नहीं थी, उन्होंने Mythos से एक ही रात में 'रिमोट कोड एग्जीक्यूशन' से जुड़ी सिक्योरिटी वल्नेरेबिलिटी का पता लगाने के लिए कहा और जब वे सुबह उठे तो उन्हें पूरी तरह से काम करने वाले एक्सप्लॉइट्स मिले।

AI मॉडलों को लेकर बढ़ती सुरक्षा चिंताएं

पावरफुल AI सिस्टम के ग्रोथ ने सुरक्षा एक्सपर्ट्स जिनमें पूर्व सरकारी अधिकारी भी शामिल हैं, के बीच गंभीर चिंताएं पैदा कर दी हैं। पिछले एक साल में, कई एक्सपर्ट्स ने चेतावनी दी है कि अगर ये AI मॉडल गलत हाथों में पड़ गए, तो इनका इस्तेमाल पानी की व्यवस्था, पावर ग्रिड और फाइनेंशियल नेटवर्क जैसे महत्वपूर्ण इंफ्रास्ट्रक्चर को डिसरप्ट करने के लिए किया जा सकता है।

Newer Post Older Post