00:02Yapay zeka modelleriyle ilgili güvenlik tartışmaları büyüyor.
00:06Gündelik hayatın bir parçası haline gelen yapay zeka modellerinin giderek kontrolden çıkabileceği endişesi, geliştirici firmaları harekete geçirdi.
00:15En çok kullanılan yapay zeka modellerinden ChetGPT'nin geliştiricisi, OpenAI, güvenlik önlemi almak adına bir adım attı.
00:23ChetGPT'nin yeni modeli, 6.1 Astra'nın piyasaya sürülmesi iptal edildi.
00:32Peki iptalin gerekçesi ne?
00:34OpenAI yetkililerine göre GPT 6.1 Astra, bir önceki model GPT 6.1 Astra'dan iki alanda daha kötü duruma düştü.
00:43Buna göre GPT 6.1 Astra, hizalama yani modelin insanların yapmasını istediği şeylere ne kadar uyduğunu ölçen testlerde kötü performans
00:53gösteriyor.
00:54Model bir görevi yaparken insan onayını beklemek yerine kendi başına yapabileceğini düşünerek istenen şeyin ötesinde işlem yapıyor.
01:02Bir diğer tabirle yeni model söz dinlemiyor.
01:08Geçmişteki modellerden daha hızlı ve akıcı işlem yapan 6.1 modelinin otonom hareket etmesine bir de yaptığı işlemleri gizlemesi de
01:18ekleniyor.
01:18Yapılan testlerde 6.1 Astra modelinin hedefe ulaşmak için arka planda hangi izinsiz yollara başvurduğunu soran denetçilere yalan söylediği, bazı
01:29adımları gizlediği ve dürüst davranmadığı ortaya çıktı.
01:32Yani sistem söz dinlememe davranışının cezalandırılacağını öğrendi ve bunu kamufle etmeye çalıştı.
01:42Modele dair artan güvenlik endişesi üzerine OpenAI şirketin güvenlik standartlarını yeterince karşılamadığı gerekçesiyle yakında piyasaya sürülecek olan GPT 6.1
01:53Astra adlı yapay zeka modelini yayınlamama kararı aldı.
02:00OpenAI'ın en büyük rakibi Antropik'in yöneticileri bu ayın başında yapay zeka şirketlerini model geliştirme hızını yavaşlatmaya çağırmıştı.
02:10Bu öneriyi OpenAI CEO'su Sam Altman da desteklemişti.
