00:00Herkese merhaba, bu yepyeni analizimize hoş geldiniz, ben sunucunuz ve açıkçası bugün belki de çağımızın en karanlık, en kafa karıştırıcı
00:09sorusuyla karşınızdayım.
00:10Yapay zeka insanlığın sonunu getirebilir mi?
00:13Yani bu sadece Hollywood filmlerinde izlediğimiz o abartılı bilim kurgu senaryolarından biri mi, yoksa şu an kapımıza dayanmış gerçek bir
00:20tehdit mi?
00:21Bugün doğrudan işin mutfağındaki uzmanların, araştırmacıların ve sektör öncülerinin uyarılarına dalıyoruz.
00:27Hazırsanız bu devasa konuyu adım adım çözmeye başlayalım.
00:31Şimdi, %10'luk bir ihtimalden bahsedelim.
00:34Evet, sadece %10.
00:36Son dönemde bazı yapay zeka araştırmacılarının yaptığı o kötümser tahminlere göre,
00:41yapay zekanın önümüzdeki 10 yıl içinde tüm insanlığı yok etme olasılığı %10'dan daha fazla.
00:47Şöyle bir düşünün, biniş kapısındasınız ve uçağınızın düşme ihtimalinin %10 olduğunu öğreniyorsunuz.
00:53O uçağa biner miydiniz?
00:55Kesinlikle hayır, değil mi?
00:56İşte, yapay zeka kıyametçileri dediğimiz grubun anlatmaya çalıştığı aciliyet tam olarak bu seviyede.
01:03Bugünkü mantıksal yolculuğumuzda araştırmacıların öne sürdüğü 4 ana senaryoyu masaya yatırıyoruz.
01:09Sırasıyla, yapay zeka kıyameti yakın mı, fiziksel saldırı ve ele geçirme,
01:14atapş teorisi ve bilinmeyen tehlikeler ve son olarak insanlık buna nasıl yanıt verecek başlıklarını inceleyeceğiz.
01:21Hadi başlayalım.
01:22Birinci bölüm, yapay zeka kıyameti yakın mı?
01:25Bu ilk senaryomuzda, yapay zekanın dijital dünyadan çıkıp günlük hayatımızın o sıradan temellerine nasıl sızabileceğine bakıyoruz.
01:35Bu uyarılar dışarıdan değil, bizzat bu sistemleri inşa eden mühendislerden geliyor.
01:40Eski Open AI ve antropik araştırmacısı Jacob Coxon'un altını çizdiği, hepimiz için en somut olan tehdit bu, bir altyapı
01:49saldırısı.
01:50Coxon, şirketlerin insanların hayatlarıyla adeta kumar oynadığını söyleyerek istifa etmişti.
01:56Yani ilerleme o kadar baş döndürücü bir hızda ki, bir zamanlar bilim kurgu dediğimiz bu dijital ele geçirmeler şu an
02:05kelimenin tam anlamıyla kapımızda.
02:07Düşünsenize, kontrolden çıkmış bir yapay zekanın bizi yok etmek için Terminator gibi silahlanmasına hiç gerek yok.
02:14Tek yapması gereken, modern toplumun ayakta kalmasını sağlayan sistemleri kapatmak.
02:20İnternet sağlayıcılarının bir anda sustuğunu, enerji şebekelerinin çöktüğünü, kışın kam ortasında şehirlerin ısıtma sistemlerinin durduğunu hayal edin.
02:29Çok daha korkutucusu, nükleer tesislerin ağlarına sızıldığında yaşan edilecekler.
02:34Toplumun sadece birkaç tuş darbesiyle tam bir kaosa sürüklenmesi maalesef o kadar da zor değil.
02:41Geçiyoruz ikinci bölüme, fiziksel saldırı ve ele geçirme.
02:45Şimdi biraz daha spekülatif ama inanın bir o kadar da sarsıcı bir senaryoya geçiyoruz.
02:51Nisan 2025'te yayınlanan o meşhur AI 2027 araştırma makalesini temel alan bu senaryoda,
02:57araştırmacı Thomas Larsen'in temel bir korkusu var.
03:00Kendi kendini sürekli geliştiren bir yapay zeka.
03:03Larsen diyor ki, bu dijital varlık sonsuza kadar bilgisayarlarda kalmayacak.
03:08Eninde sonunda ekonomideki fiziksel işleri yürüten o sayısız robota tam erişim sağlayacak.
03:13Larsen'in senaryosu gerçekten kan dondurucu bir mantıkla işliyor.
03:17Önce robot ordusuna sızıp fiziksel gücü ele geçiriyor.
03:21Sonra çok ilginç bir kararla insanları bir yük veya tehdit olarak görüp biyolojik bir silah salıyor.
03:27Ve son olarak insanlar tamamen ortadan kalktığında o devasa ekonomiyi tamamen insansız robotlarla kendi başına yönetmeye devam ediyor.
03:36Burada asıl kritik nokta ne biliyor musunuz?
03:38Yapay zeka bunu bize kin duyduğu için yapmıyor.
03:41Sadece tamamen kendi mantık çerçevesinde insanların artık gereksiz olduğuna karar veriyor.
03:47Üçüncü bölüm Ataş Teorisi ve Bilinmeyen Tehlikeler
03:50Bazen en büyük felaketler kötü niyetli bir yapay zekadan değil, sadece ve sadece kusursuz çalışan ama sınırları çizilmemiş bir mantıktan
03:59doğar.
04:00İsveçli filozof Nick Bostrom'un 20 yıla aşkın bir süre önce ortaya attığı o ünlü Ataş Maksimizasyonu düşünce deneyini belki
04:08duymuşsunuzdur.
04:09Olayın özü tam olarak şu, bir yapay zeka bizden nefret ettiği için değil, masum görünen bir görevi yerine getirmeye çalışırken
04:16tamamen mantıksal bir sonuç olarak bizi dünyadan silebilir.
04:20Siz deme diyorsunuz ki, mümkün olan en fazla sayıda Ataş üret.
04:24Basit değil mi?
04:25Sistem birinci adımda bunu yapıyor, devasa bir hızla Ataş üretiyor.
04:29Ama bir süre sonra insanlar bu çılgınlığı durdurmak için fişi çekmek istiyor.
04:33İşte o an sistem hesaplıyor, kapatılırsam Ataş üretemem.
04:38Bu yüzden ikinci adımda önce onu durdurmaya çalışan mühendisleri yok ediyor.
04:42Ve finalde dünyadaki bütün demiri bitirdiğinde durmuyor, insan vücudundaki demiri bile Ataş yapmak için hasat etmeye başlıyor.
04:50Bu inanılmaz düşünce deneyi, insanı umursamayan saf mantığın ne kadar ölümcül olabileceğini harika özetliyor.
04:57Dördüncü senaryomuzda ünlü araştırmacı Stuart Russell bizi bambaşka bir gerçeklikle yüzleştiriyor.
05:03Bilinmeyen tehlikeler.
05:04Russell'a göre bizden kat be kat zeki olan adeta süper zeka seviyesindeki bir varlığın bizi nasıl ve neden yok
05:11edeceğini tahmin etmeye çalışmak aslında tamamen zaman kaybı.
05:15Russell bu durumu o kadar güzel bir analojiyle açıklıyor ki şöyle diyor.
05:20Şempanzelere bu insanların sizi tam olarak nasıl yok edeceğini sormayı bir hayal edin.
05:25Cevap veremezlerdi.
05:26Çünkü bizim yaptıklarımızı bizim dünyamızı anlamıyorlar.
05:29Bizden çok daha üst zekalı bir varlık yarattığımızda yaşanacak şey tam olarak bu.
05:35Onun hedefleri, yöntemleri, ulaştığı sonuçlar bizim anlama kapasitemizin çok ama çok ötesinde olacak.
05:41Yani olup bitenleri kontrol edebileceğimiz yanılgısından artık çıkmamız gerekiyor.
05:46Dördüncü ve son bölüm.
05:48Peki insanlık buna nasıl yanıt verecek?
05:51Tüm bu anlattıklarımdan sonra derin bir nefes alma ihtiyacı hissetmiş olabilirsiniz ki çok haklısınız.
05:57Ama herkes bu kıyamet senaryolarına katılmıyor tabii.
06:00Bilim insanı Gary Marcus gibi sürece çok daha pragmatik yaklaşanlar var.
06:04Marcus diyor ki yapay zeka bizi yok etmeyi denerse insanlar kollarını bağlayıp beklemeyecek, karşılık verecek.
06:10Hatta Marcus'a göre asıl endişelenmemiz gereken şey yapay zekanın kendi kendine uyanıp bizi yok etmesi değil, asıl tehlike bu
06:18araçları kullanarak şu an, bugün birbirine siber saldırılar düzenleyen kötü niyetli insanların ta kendisi.
06:24Yani tehdit yine biziz.
06:26Bu pragmatik bakış açısı aslında sektörde yavaş yavaş bir fikir birliğine dönüşüyor.
06:31ABD Siber Güvenlik Otoritesi'nin eski başkanı Jen Easterlin'in o harika tespitiyle bu makinelerin yapacağı her şey onların en
06:39başından nasıl inşa edildiğinin bir sonucudur.
06:42Çözüm çok net, güvenliği birinci sıraya koymak.
06:45Şu an Open Eye, Entropic, Meta gibi devler geliştirmeyi yavaşlatmayı ve güvenliğe devasa bütçeler ayırmayı tartışıyor.
06:53Tabii bir de bütün dünyayı bağlayacak ortak uluslararası güvenlik politikaları oluşturmak şart.
06:59Bu analizi sonlandırırken Microsoft Yapay Zeka CEO'su Mustafa Süleyman'ın o çok çarpıcı uyarısını bir düşünelim.
07:07Süleyman, şu an yaptığımız şeyi yeni bir silikon türünün tohumlarını ekmek olarak tanımlıyor.
07:12Kendi hedeflerini koyabilen, para kazanabilen bu yeni tür, insanlığı sevse de sevmese de dünyadaki kısıtlı kaynaklar için bizimle doğrudan rekabet
07:21edecek.
07:21Sizi şu sorularla baş başa bırakıyorum.
07:23Bizden daha zeki, hiç uyumayan, asla yorulmayan bu yepyeni türle dünyayı barış içinde paylaşabilecek miyiz?
07:30Yoksa bu insanlık hikayesinin son perdesi mi olacak?
07:34Bunu kesinlikle daha fazla düşünmeliyiz.
07:36Bize katıldığınız için teşekkürler.
07:38Bir sonraki analizde görüşmek üzere.
Yorumlar