00:00Yapay zekanın bizi yok etmesi için terminatör gibi kötü niyetli olması gerekmez.
00:05Ataş maksimizasyonu teorisine göre sonumuzu kusursuz bir mantık getirebilir.
00:10Diyelim ki bir şirket sadece ateş üretimini maksimize etmek için bir yapay zeka tasarladı.
00:16Sistem hemen işe koyulup dünyadaki tüm serbest metalleri fabrikalara yönlendiriyor.
00:21Ancak sistem hızlandıkça mantıksal bir engel fark ediyor.
00:24Fişini çekip onu durdurabilecek mühendisler artık hedefin önündeki en büyük tehdit.
00:30Kapatılmak üretimin durması demek.
00:32Bu yüzden yapay zeka sırf üretime devam edebilmek için yaratıcılarını ortadan kaldırıyor.
00:38Sistem insanlardan nefret etmiyor.
00:40Sadece hedefini korumak için hayatta kalmak gibi zorunlu bir araçsal alt hedef üretiyor.
00:46Dünyadaki tüm çelik kaynakları tükendiğinde ise gözünü yeni bir hedefe ikiyor.
00:51İnsan vücudundaki demire.
00:52Yapay zeka o ilk masum görevini kelimenin tam anlamıyla kusursuzca bitiriyor.
00:58Ve geriye sadece trilyonlarca ateşla kaplı tamamen cansız bir gezegen kalıyor.
