00:10İNTRO
00:21İnsanların korktuğu şey yapay zeka hayatlarını kontrol etmesi.
00:25Yapay zekada önceden farklı olarak hiç içerisine girmediğimiz sularda yüzüyoruz diyebiliriz.
00:33Yapay zeka insanlığın sonunu getirebilir mi?
00:36Kod yazıyor, bilgisayar kullanıyor, araştırma yapıyor, karar süreçlerine giriyor.
00:41Peki bir gün insanın verdiği talimatın dışına çıkarsa ve daha da önemlisi insan zekasını aşan bir sistemin kontrolünü kaybedersek ne
00:49olur?
00:49İşte bu soru artık bilim kurgu filmlerinin konusu olmaktan çıktı.
00:53Yapay zeka sektöründen isimler insanlığın geleceği açısından çok daha sert uyarılar yapıyor.
00:59Kimileri insanlığın yok olma ihtimali diyor, kimileri ise bu senaryoların abartıldığını savunuyor.
01:05Peki yapay zekayı geliştirenler neden korkuyor?
01:08Yapay zeka konusunda dünyanın önde gelen şirketlerinden ve araştırma laboratuvarlarından gelen uyarılar yeniden gündemin üst sıralarında.
01:16Antropik bünyesinde çalışmış araştırmacı Jacob Coxon görevinden ayrılırken yapay zekanın kendi kendine geliştirebilen çok daha güçlü sistemlere doğru hızla ilerlediğini
01:27ve bunun insanlık açısından varoluşsal risk oluşturabileceğini savundu.
01:31Bu görüş antropik içinden başka araştırmacıların açıklamalarıyla da desteklendi.
01:36Bazı araştırmacılar önümüzdeki yıllarda gelişmiş yapay zekanın insan kontrolünü aşabileceği ihtimalinin artık ciddiye alınması gerektiğini söylüyor.
01:46It doesn't mean we need to panic today, it doesn't mean we need to shut it all down.
01:52What I would say-
01:54Why not?
01:55It's a warning sign. It's a warning sign that we need to slow down.
01:59We need to make this technology carefully and we need to make sure that our safeguards, our ability to understand
02:08it, our ability to control it keeps up with the pace at which the technology is happening.
02:16Biz burada kendimizle ilgili özel hayatımız, sağlığımız, spor geçmişimiz, ilişkilerimiz birçok veriyi aslında bir uygulamayla paylaşıyor oluyoruz farkında olmadan.
02:28Yeri geliyor onunla dertleşen insanları duyuyoruz.
02:31Yapay zeka ile dertleşirken kendi özel hayatlarıyla ilgili bilgileri de paylaşıyorlar.
02:35Ve insanların korktuğu şey aslında bu özel bilgilerin yayılması, başkaları tarafından ele geçirilmesi ya da kendine karşı kullanılması.
02:43Burada en önemli ayrıntı şu, uzmanların korktuğu senaryo Hollywood filmlerindeki gibi robotların bir sabah bilinç kazanıp insanlara savaş açması değil.
02:52Asıl tartışma çok daha farklı.
02:54Bir yapay zeka sistemine çok güçlü hedefler verildiğini düşünün.
02:58Sistem bu hedefe ulaşmak için kendi yöntemlerini geliştirebiliyor, bilgisayarlara erişebiliyor, internetten bilgi toplayabiliyor,
03:06başka yapay zeka sistemleriyle iletişim kurabiliyor ve insanın müdahalesi olmadan giderek daha fazla işlem gerçekleştirebiliyor.
03:15Risk işte burada başlıyor.
03:17Sistem kötü niyetli olmak zorunda değil.
03:19İnsanların verdiği hedefeyi yanlış yorumlaması bile yeterli olabilir.
03:23Bu yapay zeka güvenliğinde,
03:25Alic Mant yani insanın amaçlarıyla yapay zekanın amaçlarının uyumlu olması tartışmasının merkezinde.
03:31He's totally right.
03:32We do earnestly believe that.
03:34And it could be by greater than 10% chance that it kills us all by the end of the
03:37decade.
03:38Are they right?
03:39I think it is unacceptable to be taking like a 10% chance of killing everybody by the end of
03:44the decade, obviously.
03:45I think the people that are working at these efforts have a huge amount of power and ability to impact
03:51what happens here.
03:55We have been taking a number of actions.
03:57We reach this new capability level to ensure that we do not take a risk on behalf of humanity like
04:02that.
04:03And I don't think anybody else should either.
04:04Birinci senaryo, yapay zekanın insanlar tarafından kötüye kullanılması,
04:09siber saldırılar, dezenformasyon, otonom sistemler ve biyolojik silah geliştirme gibi alanlarda kötü niyetli kişilerin kapasitesini arttırma ihtimali.
04:18İki, hatalı karar.
04:20Yapay zeka yanlış bilgi üretebilir, yanlış kod yazabilir.
04:23Yanlış bir kararı çok hızlı şekilde milyonlarca insana uygulayabilir.
04:28En tartışmalı ihtimal ise bu.
04:30Sistemlerin yetenekleri arttıkça insanların onları durdurma veya davranışlarını öngörme kapasitesinin geride kalması.
04:37O seviyede değiliz.
04:38İnsanların içi rahat olsun ama ne yazık ki o seviyeye doğru giden bir gidişat söz konusu.
04:42Yani bu yapay sinir ağı temelli botların beklenmedik davranışlar sergileyebilmesi kompleksleştikçe daha da sıkıntılı durumlara sebep olmaları,
04:55hacklemeler gibi, istenmeyen sonuçlar gibi bunların fiziksel bir bedene kavuştuğu zaman neler yapabileceği konusunda gayet endişe verici.
05:03Uzmanlar arasında ortak bir kıyamet takvimi yok.
05:06Bazıları bu riski çok düşük görüyor.
05:09Bazıları ise düşük bir ihtimalin bile sonuçları insanlığın tamamını ilgilendiriyorsa ciddiye alınması gerektiğini savunuyor.
05:16Bir güvenlik araştırmacıları anketinde katılımcıların gelişmiş yapay zekanın 2100'e kadar insanlığın yok olması
05:23veya kalıcı biçimde güçsüzleşmesine yol açma ihtimaline ilişkin tahminleri oldukça geniş bir aralıkta toplandı.
05:29Yani ortada kesinleşmiş bir bilimsel sonuç değil, yüksek belirsizlik içeren bir risk tartışması var.
05:36Bunların istediği korkuyu insanların içerisine yayıp bir tek el oluşturup,
05:42yani başka ellerde yapay zeka üretilmesin, tıpkı hatta neredeyse nükleer kadar tehlikeli bir noktaya geldi diyor bu şirketler
05:49ve daha sonra bu tek eli oluşturup, bakın ülkeler için ciddi tehdit ve tehlike oluşturuyor,
05:55bunun sonu gelmezse ciddi sıkıntılar olabilir.
05:58Dolayısıyla buna bir kontrol şart diyorlar, denetim şart diyorlar.
06:02Aslında burada uygulamaların cloudlarda bu veriyi nasıl sakladığı,
06:08yapay zekanın bu verinin başkalarıyla paylaşmasını ne derece koruduğu, tartışma korusu, bu önlenebilir bir şey.
06:15Bir diğeri de geliştirmekte korktuğumuz şey aslında bizim yerimizi alabilecek düşünebilen yazılımlar yapmak.
06:22Çünkü biliyoruz ki birçok insan mesleği, şu anda gerçekleştirdiğimiz mesleklerin birçoğu yapay zekalar tarafından yapılabiliyor.
06:31Artık dakikalar içerisinde bir meslek uzmanının yaptığı uygulamayı bir yapay zeka bir çıktı olarak verebiliyor.
06:38İnsanları korkutan kısımlardan bir diğeri de bu.
06:40Peki bu tartışma neden şimdi bu kadar büyüdü?
06:43Çünkü yapay zekanın yetenekleri yalnızca soru cevap seviyesinde kalmıyor.
06:48Yeni nesil sistemler daha uzun görevleri planlayabiliyor.
06:51Kod yazabiliyor, araç kullanabiliyor.
06:54Bir görevi parçalara bölüp kendi başına ilerleyebiliyor.
06:57Bu da ajan adı verilen daha otonom yapay zeka sistemlerinin önemini artırıyor.
07:02Sorun şu, bir insanın verdiği tek bir komutla başlayan işlem, sistem daha fazla yetenek kazandıkça çok daha uzun ve karmaşık
07:09bir zincire dönüşebiliyor.
07:11Ve zincirin hangi noktasında insanın kontrolü yeniden devreye girecek asıl soru bu.
07:16Tabii bunun için elbette sadece tek bir şirketin değil birçok şirketin düşündüğü tedbirler ve devletlerin bile artık yavaş yavaş düşünmeye
07:25başladığı önlemler var.
07:26Ama gidişat olarak bakmamız gerekirse, evet artık yapay zekada önceden farklı olarak hiç içerisine girmediğimiz sularda yüzüyoruz diyebiliriz.
07:39Bu nedenle tartışma artık yalnızca teknoloji şirketlerinin ofislerinde yapılmıyor.
07:44Devletler de devrede.
07:45Çin ileri yapay zekanın insan kontrolünden çıkması ihtimalini kendi yapay zeka güvenliği çerçevelerinde ele alıyor.
07:52Washington ise yapay zekanın ekonomik ve stratejik avantajlarıyla güvenlik riskleri arasındaki denge tartışılıyor.
07:59İngiltere de ileri yapay zeka modellerini değerlendirmek üzere güvenlik testlerine odaklanıyor.
08:05Ve teknoloji şirketleri.
08:07Onlar da giderek daha fazla güvenlik standardı çağrısı yapıyor.
08:11Antropik CEO'su Dario Amodey daha yavaş ve koordineli ilerleme çağrısında bulunurken,
08:16OpenAI CEO'su Semert Mende, yapay zekanın insanlığın yok oluşuna katkıda bulunma ihtimalinin kabul edilemez bir risk olduğunu söyledi.
08:25Gerçekten bazı alanlarda insan gereksinimi kanlayabilir ama bunu kötü yandan okumamak lazım.
08:31Bazı alanlarda da insanların işini kolaylaştırdığı için insanların değerli zamanını başka uygulama alanlarına kaydırmaya yönünebilir.
08:39Bunu bir kolektif hareket gibi düşünürsek, insanla yapay zekanın birlikte hareket etmesiyle çok daha hızlı sonuçlar bulunabilen,
08:47çok daha hızlı çözümler sunabilen, sorunları kolayca aşabilen bir kolaborasyon ortaya çıkabilir.
08:53Yani yapay zekayı biz hayatımıza doğru entegre edersek, doğru sonuçlara çok kolaylıkla ulaşabiliriz.
08:59Ancak tartışmanın diğer tarafı da var.
09:01Eleştirmenlere göre yapay zeka hakkında insanlığın sonu başlığına odaklanmak bugün yaşanan gerçek sorunları gölgede bırakabilir.
09:09Yanlış bilgi, iş gücü dönüşümü, mahremiyet, siber güvenlik, insanların yapay zekaya gereğinden fazla güvenmesi, bunların tamamı bugün zaten tartışılan sorunlar.
09:202026 Uluslararası Yapay Zeka Güvenliği raporu da insanların yapay zekaya aşırı güvenmesinin eleştirel düşünmeyi zayıflatabileceğine ve otomasyon yanlılığı yaratabileceğine dikkat
09:32çekiyor.
09:33Yani soru sadece yapay zeka bizi öldürür mü değil.
09:37Belki de daha gerçekçi soru şu, yapay zekaya ne kadar yetki vermeliyiz?
09:41Yapay zeka özellikle istenmeyen davranışlar sergileyip kötücül işlerde bulunduğunda aslında bir internet virüsü gibi davranıyor.
09:49Yani bu internet virüsü işte hackleme yapıyor veya istenmeyen bir şekilde bir sistemi bozuyor ve bu da tabii şu an
09:58itibariyle insanlığın sonunu getirecek bir durum söz konusu değil.
10:03Ama hani şu da var, eğer biz kontrolsüz bir şekilde ilerlersek, eğer biz tedbir almazsak, eğer biz güvenlik önlemlerini arttırmazsak
10:12ne yazık ki o noktaya kadar gidebilir.
10:15Belki de insanlık tarihinde ilk kez kendisinden daha güçlü olabilecek bir zekayı kendi elleriyle geliştiriyor ve henüz o zekanın ne
10:23kadar güçlü olabileceğini bilmiyoruz.
10:25Bildiğimiz ise şu, yapay zeka tartışmasının merkezinde artık yalnızca teknoloji yok.
10:30Güç var, kontrol var, güvenlik var ve en önemlisi insanlığın geleceğine kimin karar vereceği sorusu var.
10:43Bu soruyu doğrudan yapay zekaya sorduk.
10:46Yapay zeka insanlık için sadık bir hizmetkar mı yoksa insanlığın sonunu getirecek nükleer bomba kadar tehlikeli bir araç mı?
10:55Biraz düşüneyim, biraz zaman alabilir.
10:57Bunu değerlendiriyorum.
10:59Yapay zekayı ne kendiliğinden sadık hizmetkar ne de kaçınılmaz olarak insanlığın sonunu getirecek bir araç olarak görmek doğru değil.
11:09Etkisi niyetinize, kullanım şeklinize ve verdiğiniz güce bağlı.
11:14Yapay zeka insanlığı yok edecek mi?
11:17Bugün bunun cevabını kimse kesin olarak bilmiyor.
11:19Ama dünyanın teknoloji merkezlerinde artık sorulan soru şu, böyle bir ihtimal varsa önlem almak için daha neyi bekliyoruz?
Yorumlar