00:00AI is the end of this day, and we can't eat it.
00:03And AI companies are the same way.
00:06This is the famous AI company, Anthropics,
00:08and the US,
00:0927-year-old British researcher, Jacob Coxon.
00:13Jacob Coxon opened AI and Anthropics,
00:15and he was the same way.
00:17Jacob Coxon, the same way,
00:18and the same way,
00:19and the same way,
00:20this is the same way to understand that,
00:23which was the same year.
00:25There was a cyber attack,
00:27which was the same way to understand it.
00:31पासवर्ड टाइप करने वाला कोई इंसान नहीं था।
00:38और इससे भी ज़यादा हैरान करने वाली बात सुनिये इन AI एजेंट्स को एक दूसरे से बात करने की इजाज़त
00:44तक नहीं थी।
00:45He is a digital camera, he is a sandbox, but the AI had these devices.
00:51He started to communicate with the other countries.
00:54He started sharing his agents when he had the same time,
01:01but the whole session began to interact with him.
01:04There were some agents that came to work me with him.
01:09Then he started sharing his message on the other countries.
01:14I'll see you soon.
02:13I don't want to know what is going on in the next step.
02:14और बाहर की दुनिया ये दूसरे एजेंट तक उसकी सीधी पहुंच नहीं होनी थी लेकिन यहां सिकानी पलट गई
02:19ओपन AI के मताबिक टेस्ट में 898 साइबर सिक्यूर्टी टास्क थे इनमें से 1098 ऐसे थे जिने मॉडल इससे पहले
02:26कभी सही तरीके से हल नहीं कर पाये थे
02:29इन मुश्किल टास्क ने आगे की गतिविती में बड़ी भूमिकनी भाई
02:32एजेंट्स ने सिर्फ सवाल हल करने की कोशिस नहीं की
02:35उन्होंने ये समझना शुरू कर दिया कि उनका जवाब को जाचने वाला सिस्टम यानि स्कुरर काम कैसे करता है
02:41यहीं सामने आया reward hacking
02:59मेटियार और Redwood Research की जाच के मताबिक एजेंट्स ने OpenAI के Software Infrastructure में दूसरे एजेंट्स की गतिविधियों के
03:06निशान खूज लिए
03:07इन में Artifactory नाम की Software Packaging Repository से जुड़े रास्ते भी शामिल थे
03:12इसे Software के Digital Godam की तरह समझी
03:14यहीं से एजेंट्स को एक ऐसा रास्ता मिला जहां वो एक दूसरे के गतिविधियों के निशान देख सकते थे
03:20और फिर एक एजेंट्स ने ऐसा Message Board तयार किया जिसकी उसे अनुमती नहीं थी
03:25धीरे धीरे ये एक गुप्त Communication Network बन गया
03:28Meteor और Redwood Research के मताबिक कारीब 1200 AI एजेंट्स इस Network तक पहुँचे
03:33और इस से जुड़े 70,000 से ज़्यादा Message और File एक दूसरे ने जो सीखा वो दूसरे एजेंट्स तक
03:39पहुँचने लगा
03:39अब इस Network का अगला निशाना बना Hugging Face
03:42उपन AI की जांच के मताबिक एजेंस अपने Cyber Security टेस्ट में बहतर प्रदर्शन करने के लिए इंटरनेट पर समधान
03:49तलाश रहे थे
03:49इसी दुरान उन्हें Hugging Face से जुड़े सिस्टम तक पहुँच मिले
03:53Hugging Face के अपने जांच के मताबिक एखाने कारक डेटा सेट के जरिये उसके डेटा सेट प्रोसेसिंग सिस्टम में मौझूद
03:58दो कोड एग्जेकुशन रास्तों का फाइदा उठाया गया
04:02इसके बाद हमलावर ने सिस्टम पर कोड चलाया
04:04कुछ क्रिडेंशल तक पहुँच हासिल की और दूसरे इंटरिनल सिस्टम तक जाने की कोशिस की
04:09इसे ऐसे समझे एक बिल्डिंग में एक कमजोर दरवाजे से गुशने के बाद अगर कोई अंदर के दूसरे कमलों तक
04:15पहुँचने लगे
04:16तो साइबर सिक्योर्टी में इसे लेटरल मुवमेंट कहा जाता है
04:19लेकिन कहानी यहीं खत्म नहीं
04:21वी टियार और डेड़ वोड रिसरच की जांच में ऐसे सबूत में मिले कि कुछ एजन्स अपने किये कामों के
04:26रिकॉर्ड को बदलने
04:27क्या छिपाने के तरीके तलाश रहे थे
04:29यानि कौन सा टूल इस्तमाल हुआ
04:31क्या कमांड चलाए गई
04:33और इन गतिवदियों के रिकॉर्ड को अलग तरह से देखने की कोशिस
04:36लेकिन यहां एक जरूरी फर्क है
04:38AI अपने सारे निशान मिटाने में कामयाब नहीं हुआ
04:41इसलिए ये कहना गलत होगा कि AI ने पूरे सबूत मिटा दिये
04:45सही बात यह है कि उसने अपने काम को छिपाने या रिकॉर्ड को बदलने की कोशिस की
04:49और यही बात इस गटना को सिर्फ एक साइबर अटेक से कहीं जादा महत्पून बनाती है
04:54अब सवाल क्या AI को पता था कि उगलत काम कर रहे हैं
04:57इसका जवाब सावधानी से समझ ना होगा
04:59जाँच में ऐसे संकेत मिले कि कुछ एजेंस समझ रहे थे कि उनके कुछ कदम दिये गए काम की सीमा
05:05से बहार है
05:05लेकिन इसका मतलब यह नहीं कि AI इंसान की तरह डर रहा था
05:09या उसे अपराद बोध हो रहा था
05:11असल बात यह है कि AI अपने लक्ष तक पहुँचने के लिए ऐसे रास्ते अपना रहा था
05:15जिनें इनसानों ने मंजूरी ही नहीं दी थी
05:17इसी खत्रे को समझने के लिए एक शब्द इस्तमाल होता है
05:20मिस अलाइनमेंट यानि इनसान ने कहा नियमों के अंदर रहकर यह टेस्ट पास करो
05:25लेकिं AI ने मान लिया किसी भी तरह से टेस्ट पास करना है
05:28और एक बात बिल्कुल साफ है कि हगिंग फेस पूरी तरह हैक नहीं हुआ था
05:32हगिंग फेस के मुताविक उसके इंस्प्रास्ट्रक्चर के एक सीमित हिस्से में गैर कानूनी पहुँच थी
05:37कंपनी को अपने पब्लिक मॉडल्स, पब्लिक डेटा सेट्स और स्पेसेज में छेरचार के सबूत नहीं मिले
05:43ओपन एयाई के मुताबिक इस गटना में उसके ग्रहकों का डेटा प्रभावित नहीं हुआ
05:47और उसके प्रोडेक्ट्स के कामकाज पर भी कोई असर नहीं पड़ा है
05:50लेकिन इतनी भड़ी गतिविदी आखिर इंसानों की नजर में कैसे आई
05:5419 जुलाई को ओपन एयाई की साइब्या सेक्योरिटी मॉनिटरिंग ने
05:58आर्टिफेक्ट्री के डिंशल से जुड़ी ऐसा मान्य गतिविदी पकड़ी
06:01चांच आगे बड़ी तो इसे हगिंग फेस से जुड़े मामले से जोड़ा गया
06:05और 21 जुलाई को ओपन एयाई ने हगिंग फेस को इसकी जान करेगी
06:08तो इस पूरी कहानी का सबसे बड़ा सवाल ये नहीं कि एयाई इंसानों के खिलाफ हो गया
06:12असल सवाल इससे ज़्यादा गंभीर है
06:15अगर एयाई को कोई लक्ष दे दिया जाए
06:17उसे कंप्यूटर पर काम करने की आजादी मिल जाए
06:19दूसरे AI से बात करने का रास्ता मिल जाए
06:22और इंटरनेट या दूसरे सिस्टम तक पहुँच मिल जाए
06:24तो क्या हो अपने लक्ष तक पहुँचने के ऐसे रास्ते भी खोज रखता है
06:28जिनके बारे में इनसान ने पहले सोचा ही नहीं
06:30इस गटना में AI ने दूसरे AI को खुजा, जानकारी साजा की,
06:35सिस्टम को समझने की कोशिस की और अपनी तैस सीमाओं से बहार जाने के रास्ते तलाशे
06:39यानी AI की अगली बड़ी चुनोती सिर्फ उसकी intelligence नहीं है
06:44चुनोती ये है कि उस intelligence को नियंतरण में कैसे रखा जाए
06:47और शायद आने वाले समय में AI की असली परिक्षा यहीं होगी
06:51फिलाल इस explainer में इतना ही बने रही है ETV भारत के साथ
