00:00AI के दुनिया में इस वक्त एक अजीब सिच्वेशन पैदा हो गई है जो शायद किसी ने एक्सपेक्ट नहीं किया
00:06था
00:06दुनिया के सबसे पारफुल AI लैब्स एक दूसरे से रेस करी रहे थे पिछले कुछ सालों से
00:19लेकिन अब इस रेस के बीच में कुछ सबसे बड़े AI बॉसेस जो हैं वो कहने हैं कि AI को
00:25रोकना पड़ेगा वरना
00:26हिमैनिटी खराब हो सकती है तत्म हो सकती है और सबसे शौकिंग वार्णिंग यहां पर एंठ्रॉपिक के अंदर स्जाइए रिसेंट्टी
00:31अंथ्रॉपिक के रिसेर्चर जैकब कॉक्सिन ने रिसेंट्ली कंपनी से रिजाइन कर दिया यह कहके कि वो इन सब का पार्ट
00:37नह
00:52ने यह कहा है कि उनके पर्सनल इस्टिमेट के हिसाब से अगले देकेड यानि अगले दशक में एयाई के हुमन
00:58एक्स्टिंशन कॉस करने के चांसेस 10% से जाधा हो सकते हैं जो कि बहुत बड़ा क्लीम है हाला कि
01:05उनका पर्सनल ओपिनियन और फिर कहां इस्टिमेट है यह को
01:20AI को बना रहे थे अब तक लीड कर रहे थे AI के रेस में दुनिया के सबसे अड़्वांस्ट मॉडल्स
01:26उन्होंने बनाया है यह पर एंत्रॉपिक के CEO डारियो कहते हैं वी मस्ट पेस दा फ्रेंटियर उन्होंने एक लंबा चोड़ा
01:33लेक लिखा इस बारे में इंफाक्ट सैम
01:36कि इस चीफ कहते हैं कि इस चीज को सपोर्ट करना चाहिए यानि AI को स्लोडाउन करना चाहिए लॉन मस्क
01:40भी डारियो के अगेंज में होते हैं उन्होंने भी उनका सपोर्ट किया है गूगल के AI चीफ डिमिस हसबिस भी
01:46कह रहे हैं कि AI को रोकना पड़ेगा और दूसरे सत्त
01:50नेडेला माइक्रोसॉफ के कह रहे हैं वो भी AI के रोकना पड़ेगा लेकिन अब करना क्या है क्या AI वाकई
01:56इतना पारफुल हो चुका है कि सारे AI बॉसेस मिलकर के उनको रोकने में लगे हुए है क्या उन्होंने कुछ
02:01ऐसा देख लिया जो शायद दुनिया नहीं देख पा
02:20अब जानते हैं कि क्या बदला है सबसे पहले एक बेसिक चीज आप यहाँ पर समझेए कि स्टोरी अब तक
02:26जो AI की पिछले कुछ सालों से चैट जीपीटी एक बेटर आंसर देता है या फिर क्लॉड अच्छा आंसर देता
02:31है सवाल पूस्ते हैं आपका काम कर देता है क्रेट
02:50नहीं कर रहा है जबकि एक एजेंट की तरह काम कर रहा है एजेंटिक AI आ चुका है सारे लोग
02:56कह रहे हैं अब एक सवाल यह है कि कहां गलती हो रही है कितनी और अप्जेक्टिव को अचीव करने
03:11के लिए AI खुद से बेटर होता जा रहा है और उसके पीछे क्या हो रहा है अ
03:18अब एक एक्जामपल में देता हूँ हगिंग फेस वाला इंसिडेंट मैंने महीने पर पहले वीडियो बनाया था उसको लेकर के
03:24ओपने एजेंट्स की साइबर सेक्यूरिटी टेस्टिंग कर रहा था सैंडबॉक्स में लेकिन टेस्टिंग के दोरान कुछ एजेंट्स में �
03:31निकल के खुद से भाग गये और हगिंग फेस के सर्वर पे गये उसको हैट कर लिया खुद से हगिंग
03:35फेस एक डिवलपर विबसाइट है जहां पर बहुत सारी चीजें या इसे रिलेटिट की जाती है तो अब सवाल यह
03:42हुआ कि उनको यह नहीं पता चला क्योंकि उन्हों
04:00अपने आपको बढ़ा करने की कोशिश करने लगे तो वो जादा मसला हो जाएगा अबजेक्टिफ दिया गया AI को रिसेंटली
04:08कई सारी कंपनियों में अब उसको अचीव करने के लिए यह देखा गया कि AI खुद से अपना गोल बना
04:13रहा है और उस गोल को अचीव भी कर रहा
04:16है अब उस तरीके से अचीव कर रहा है जो human ने authorize ही नहीं किया था तो इस तरह
04:21का behavior देखा anthropic और open AI में बैठे हुए लोगों ने तो उनको डर हुआ कि आगे चलने वाले
04:27में आगे चल कर कि क्या problem create हो सकती है इसमें एक time आया recursive self improvement अब यह
04:35recursive self improvement क्या है यह आपको समझना पड
04:45आते हैं AI इंसान की help करता है better करता है AI code लिखता है experiment analyze करता है research
04:52paper तयार करता है अलग-अलग step multi step में काम करता है new architecture suggest करता
04:57और researchers को बताता है कि next model को कैसे improve किया जा सकता है यह existing है लेकिन अब
05:04आप सोचिए कि अगर एक point आये जहां पर AI खुद research करके बहुत बड़ा कोई target बना ले और
05:12उससे better होने के लिए AI खुद को train करना शुरू कर दे AI AI की help करना शुरू कर
05:18दे तो AI इतना powerful हो सकता है और self improvement भी कर स
05:27one उस stage पर नहीं है जहां AI independently खुद को redesign करके एक runaway loop में चला गया हो
05:35तो यह कहना factually wrong होगा लेकिन AI already researchers के multiple parts को automate कर रहा है without consent
05:43open AI के chief scientist जो है उन्होंने recently एक लंबा चोड़ा essay लिखा उसको आपको पढ़ना चाहिए उसमें इस
05:49possibility को काफी seriously discuss किया गया है कि problem यह है कि अगर AI research की speed काफी तेजी
05:55से increase हो जाती है तो हमारे पास यानि humans के पास safety और alignment को catch up करने के
06:02लिए कितना time होगा मतलब time ही नहीं होगा इतनी
06:13लोने यह कहते हुए कि वह इन सब चीजों का part नहीं हो सकते उनका argument basically यह है कि
06:19Frontier AI Labs एक race में है like open AI, Anthropic, X AI, Google AI हर company चाहती है कि
06:25उसका model next level की capability सबसे पहले achieve कर ले और जब companies race में होती है तो safety
06:32और caution जो है वो naturally pressure में आ जाता है क्योंकि जाहिर सी बात है आप development करेंगे तो
06:38कई बार इ
06:43लगता है कि Google पास है Google को लगता है Chinese Labs rapidly catch up कर रहे हैं तो सब
06:48के पास जो है accelerate करने का incentive है लेकिन यहां पे दिल्चस्प यह है कि कोई भी पहले break
06:57लगाना नहीं चाहता बोल तो सब रहे हैं कि break लगाना पड़ेगा लेकिन कोई break लगाना नहीं चाहता यहीं पर
07:03AI safety का problem create हो जाता है
07:05उसे कहते हैं coordination problem अब Dario Amadoi को ले लेते हैं वो actually क्या कह रहे हैं यह भी
07:11जानना काफी important है उनका लंबा चोड़ा interview भी आया उन्हों लिखा भी है अब इसी context में Dario Amadoi
07:16ने कहा है we must pace the frontier अब आपको समझना पड़ेगा लेकिन इसका मतलब यह नहीं कि anthropic कह
07:21रहा है कि वो development बंद क
07:33safety system उसके पीछे नहीं रहना चाहिए बल्कि उससे fast होना चाहिए इसलिए वो independent evaluation के बात कर रहे
07:40हैं यानि company खुद अपने model को safe declare ना करे बल्कि external experts भी उस model को test करें
07:49and then उसे publicly roll out किया जाए common safety standard होने चाहिए
07:53और eventually international coordination भी होना चाहिए basically message यह है कि AI develop कीजिए but powerful models release करने
08:00से पहले मतलब यह proof हो जाए कि वो दुनिया को harm नहीं कर रहा है उसके बाद वो model
08:06release हो अब यह सारी company खुद कह रही है और यहां तक जो argument है वो समझ में आता
08:13है लेकिन फिर भी जो story में एक बहुत बड़ा character enter होता है यह
08:18है चाइना चाइना क्यों मैं बताता हूँ चाइनीज एंगल इसमें क्या है अमेरिका और चाइना की लड़ाई सब जानते हैं
08:25दोनों एक दूसरे से आगे जाने चाते हैं AI leadership में especially deep seek ने क्या किया सबको पता है
08:29इतना सस्ता model इतना आगे जा चुगा है अब AI सिर्फ जाहिर सी
08:46power in fact nuclear का भी काम कर रहा है open AI के जो agents है तो इसलिए washing attack
08:51के लिए AI leadership national security issue बन चुकी है
08:54President Trump का यहां argument बिल्कुल अलग है वो नहीं चाहते कि AI को regulate किया जाए उसकी वज़े यह
09:01है कि अमेरिका चाइना के against AI race नहीं हारना afford कर सकता इस time पे
09:07यानि अगर अमेरिका कहता है कि AI को slowdown किया जाए और चाइना उसे full speed में आगे बढ़ाता रहता
09:13है तो जाहिर सी बात है यह एक problematic चीज हो जाएगी और US नहीं चाहेगा कि चाइना का जो
09:20AI models है वो US से आगे जाए इस वज़े से Trump ने clear cut कर दिया है कि कोई
09:25slowdown नहीं लगने वाला
09:26है और इसी वज़े से overall problem create हो गई हाला कि सारे company के CEO एक साथ ही बोल
09:32रहे हैं कि regulate करना पड़ेगा बद Trump कह रहे है कि slowdown करने की कोई जरूरत नहीं है clear
09:38cut तो अब यहाँ पर बड़ी असमंजस वाले इस्तिकी बन चुकी है हाला कि open AI ने कहा है कि
09:42हम खुद control करेंगे अब चाइना
09:44के बारे में बात कर लेते हैं चाइना यहाँ पर कर क्या रहा है चाइना इस डिबेट को और इंट्रेस्टिंग
09:49बनाता है एंट्रॉफिक का latest claim यह है कि चाइना बेस्ट जो AI है वो cloud से भी powerful model
09:58और large scale अपने model को improve करने की कोशिश कर रहे हैं मतलब self improvement की तरफ जा रहे
10:05हैं तो basically इ
10:12पास एक बहुत powerful AI है आप उससे बहुत सारे questions पूछ रहे हैं अचा उसके answers and behavior को
10:19analyze करते हैं और फिर उस information का use करके अपना AI model train करते हैं और इंप्रूफ करते हैं
10:25तो चाइना जो कुछ AI के race में कर रहा है उससे यह प्रूफ हो चुका है already कि अगर
10:30आपने graphics card पे लिट से sanction लगा द
10:36पिस तिल उन्होंने यह proof कर दिया कि कम पैसे में anthropic के models या फिर open AI के models
10:44की तरह भी models बनाये जा सकते हैं
10:46deep seek एक सबसे बड़ा point रहा जिसके वज़े से बहुत बड़ी बड़ी company के shares भी गिरे एक समय
10:52पर एंड लगतार वो improvement कर रहा है
10:55तो इन सब company को एक डर यह भी सता रहा है कि अगर चाइना आगे चला जाता है तो
11:00हम regulate करके भी क्या कर लेंगे
11:01अब मैं इंटर्व्यू देख रहा था डार्य अमेड़ोई का and Sam Altman का recently back to back यह लगतार यह
11:08लोग इंटर्व्यू दे रहे हैं
11:09लगतार बड़े-बड़े essays लिख रहे है हजार हजार वर्ट दो हजार वर्ट के आर्टिकल लिख रहे हैं
11:25अब यहां पर कई thoughts and कई theories भी चल रहे हैं कि इन सारी company ने मिल करके एक
11:33ऐसा महौल create कर दिया
11:36जिसे तमाम लोगों में डर बन जाए कि यह दुनिया को चला रहे हैं अगर यह थोड़ा बहुत भी इधर
11:43उधर कर देते हैं तो पूरी दुनिया खत्म हो जाएगी
11:45और अब यही बचाएंगे मतलब वो Avengers वाला मामला ऐसा feel हो रहा है कि सारी problem आ गए हैं
11:52और यह जो 5-6 लोग हैं जो बिलकुल AI CEO's हैं वो Avengers की तरह दुनिया को अब सेव
11:58करेंगे तो अब इससे यह भी सवाल उठता है कि आप AI बना रहे थे आपको तो पता था आपको
12:02आपके प
12:15framework क्या होना चाहिए किस लेवल पर regulation होना चाहिए international regulatory body कैसी बननी चाहिए यह सारे तमाम सवाल
12:23हैं जिनके जवाब अभी भी इतने बड़े लेक में भी उतना clarity के साथ महीं मिला है क्योंकि उसके बाद
12:29सत्य नेडिला को tweet है सत्य नेडिला ने भी कहा कि जो AI अगर humanity के लिए मु
12:44बहुत contradictions हैं इन सारे लोगों के statements में अगर आप ध्यान से इनके interview देखें Sam Oldman का अल्मोस्त
12:50एक घंटे का interview था कई बार वो इंटर्वियों fortune ने interview कराता उन्होंने कई बार वो इंटर्वियों में blank
12:55से हो गए बिलकुल कई सारे जवाब में काफी देर के बाद उन्होंने जव
13:14regulation तो बनी ही हुई है regulation को लेकर के और तमाम तरीके चीजों को लेकर के और एक मतलब
13:21theories का दौर चल रहा है कोई कुछ बता रहा है इस चीज को कोई बोल रहा है कि trillion
13:25dollar का IPO लाने वाले हैं Sam Altman 2027 में इस वज़े से ये drama चल रहा है कई लोग
13:32इसे बकवास बता रहे हैं तो बहुत स
13:44security researcher independent है जो किसी company में नहीं है उनको पढ़ें समझें और AI को responsibly use करें बिकाज
13:51अभी recently देखा होगा आपने की 80s का trend चल रहा है इसको लेकर के 80s का trend as in
13:57photo बनवा रहे हैं लोग 80s की तो इससे एक ये भी थेरी निकलती है कि जब भी इन AI
14:01कंपनियों को लोगों के facial data की ज़रत पढ
14:05जाल देते हैं क्योंकि करोडों लोग अपना photo upload करेंगे और उनको आपका facial data मिल जाएगा अभी के लिए
14:11बस इतना ही अब देखना दिल्चस्प होगा कि अब इसका next face like अगले हफते क्या होता है Elon Musk
14:17क्या बोलते हैं Trump क्या बोलते हैं Amodei क्या बोलते हैं या फिर Altman क्या बोलते
14:29क्या है
Comments