00:00पिछले दिनों AI के बेकाबू होने की ख़वरे बहुत चल रहे हैं बताया जा रहा है कि AI किस तरीके
00:04से बेकाबू हो रहा है
00:05रिसेंटली जो एंथ्रॉपिक का एक बहुत पारफुल मॉडल बताया जाता है माइसोस 5
00:11तो माइसोस ने क्या किया खुद से हैकिंग करने की कोशिश करी उच से फिशिंग करने की कोशिश करी अलग
00:18अलग प्लेटफॉर्म पे जा करके
00:19cyber attack करने की कोशिश की
00:22दरसल दो
00:24incidents ऐसे हुए हैं एक तो
00:25anthropic खुद ही testing कर रहा था
00:28तो पता चला कि जो mythos है
00:29उनका model है वो उस testing
00:32ground से निकल करके hugging face नाम की
00:34website है जो developer website है
00:35वहाँ जा करके कोशिश करी cyber attack करने
00:38की और बाद में काफी
00:39समय के बाद FBI को involved
00:41इसमें होना पड़ा पता लगाने के लिए
00:43आखिर hacking को किसने अंजाम दिया
00:45hugging face पे जा करके तो बाद में
00:475-6 दिनों के बाद यह पता चलता है
00:48कि anthropic का जो model है
00:51mythos वो अचानक से
00:54without any permission वो चला गया
00:56internet पे और उसने
00:57try किया कि hack कर लिया जाए
01:00अब वो incident
01:01incident खत्म होता है उसके बाद एक और incident आता है
01:04वो incident UK में होता है
01:06दरसल UK की जो एक AI
01:08scrutiny institute है जिसे रिसी सुनक में
01:11जो पूर PM है वहां के
01:13Britain के उन्होंने शुरू किया था
01:15AI SI तो वो सारे powerful
01:17models को इस वे से टेस्ट करते रहते हैं
01:19ताकि पता चले कि क्या ये कर सकते हैं
01:31US के अलावा दूसरे
01:33countries में US government के order पे
01:35उसे block कर दिया गया था इस वज़े से
01:37क्योंकि US को डर था कि mythos इतना powerful है
01:39तो दूसरे countries में
01:41लोगों को नहीं मिलना चाहिए सिब US
01:43में ही लोगों को मिलना चाहिए
01:45तो अभी recently क्या हुआ कि
01:46cloud mythos 5 जो है वो
01:49UK की AI security institute
01:52AISI जिसे रिसी सुनक ने शुरू करा था
01:55पूर ब्रिटिश PM है
01:57तो cloud mythos 5 को लेकर के
01:59एक experiment किया जा रहा था
02:00तो अब मैं बताता हूँ कि ये पूरा का पूरा
02:03मामला कैसे हुआ
02:04तो उसको जो रिसर्चर्स हैं उन्होंने
02:07cloud mythos 5 को
02:09internet access दिया
02:11code लिखने की permission दी
02:13websites को browse करने की capability दी
02:16और email भेजने की capability भी दे दी
02:18और एक cyber security challenge दिया
02:21सारे लोग ये जान करके हैरान हो गए
02:23कि वो खुद से ही phishing links
02:25बना करके दूसरों को भेजना शुरू कर दिया
02:27वो pretend करने लगा
02:29कि वो cloud कोई इनसान है
02:31और legitimate links
02:33लोगों को भेज रहा है
02:34ताकि उसको hack कर लिया जाए
02:35और ये सब उसने इस वज़े से किया
02:37कि उसको ऐसा लगता था
02:39mythos model है
02:40इस वज़े से बताया जा रहा है किया
02:42ताकि better और खुद को improve करने के लिए
02:45खुद को better करने के लिए
02:46उसने खुद से ही ये सारे चीज़ें कर ली
02:49अब कुछ चीज़ें इसमें unexpected भी होई
02:52like उसने अपने fake online identities भी create कर ली
02:56सोचिए एक AI model जो है
02:58वो खुद ही एक fake AI identity तयार कर ले रहा है
03:01ताकि दूसरों को scam किया जा सके
03:05phishing emails खुद भी लिख लिए
03:06और software developers को convince करने की कोशिश करी
03:10कि malicious code को वो approve कर दें
03:12जो वो भेज रहा था
03:13अपनी activity को hide करने की भी कोशिश करी
03:16तो इससे ये समझ में आता है
03:18कि इस तरह के जो powerful models हैं
03:20ये दो धारी तलवार की तरह काम करते हैं
03:22इससे आपका काम आसान होता ही होता है
03:25बट आगे चल करके अगर
03:26इन सब पे एक
03:28formal restriction अगर नहीं लगाया जाया
03:30तो ये काफी आत्मगाती भी हो सकते हैं
03:33और ये काफी हैरान कर देने वाली बात है
03:35कि खुद से कोई AI agent जा करके
03:37hacking कर रहा है तो आप सोचिए
03:38अगर इस तरह के बहुत सारे agents active हो जाएं
03:41तो cyber security के लिए
03:43आसानी तो होगी बट साथ ही
03:44मुश्किल हो सकती है क्योंकि इनसान इतने
03:46capable है ही नहीं कि जो इस तरह के
03:48agents द्वारा किये गए hacking को detect कर पाएं
03:51FBI को ये चीज़ ढूडने में
03:52काफी समय लगे चीज़ साथ दिन लग दें
03:54तो आप हमें comment में बताईए कि इस तरह के
03:56जो models हैं powerful models हैं
03:58वो क्या India में होने चाहिए
04:01या फिर Indian government को
04:02या फिर US की government को
04:04इस चीज़ को strictly regulate करना पड़ेगा
04:06ताकि आने वाले समय में
04:08ये कोई chaos ना create कर दें
Comments