00:13İzlediğiniz için teşekkürler.
00:30Birinci görüşler gündeme gelirdi. Artık bunlardan bahsetmiyoruz, algoritmalardan bahsediyoruz.
00:36Sanal medyanın denetimsiz algoritmaları, tıklanma uğruna binlerce çocuğu ekran başında aşırı şiddetin ve katliam görüntülerinin esiri haline getiriyor.
00:47İngiltere'de Southport katliamının ardından hazırlanan bu çarpıcı rapor,
00:5120 yıllık klasik terörle mücadele kalıplarının algoritmaların beslediği bu yeni nesil şiddet tehdidi karşısında nasıl iflas ettiğini tüm çıplaklığıyla kanıtlıyor.
01:01Southport'ta 3 kızımızın hayatını kaybetmesi, riskleri görüp durdurması gereken sistemin nasıl iflas ettiğini gösterdi.
01:09Çocuklarımız, karar vericilerin ve ailelerin neredeyse hiçbir şey bilmediği sanal bir dünyada ekran başında radikalleşiyor.
01:17Belirli bir ideolojisi olmayan ama algoritmalardan beslenen aşırı şiddete ve kitle katliamlarına takıntılı hale gelen bu çocuklar için
01:24mevcut terörle mücadele sistemi çalışmıyor.
01:27Bu kurumlar arasında dönüp duran bir sevk ve eylemsizlik kısır döngüsüdür.
01:32Burada Southport saldırısı bize çok önemli bir gerçeği de gösteriyor.
01:36Bir çocuğun radikalleşmesi için artık mutlaka bir örgütün propagandasına ya da belirli bir ideolojiye bağlanması asla gerekmiyor.
01:46Zaten algoritmalar bu tarz içerikleri sürekli öne çıkardığı için şiddet zamanla çocuğun zihninde normalleşiyor
01:53ve bu durum ciddi bir riski de bünyesinde barındırmış oluyor.
01:58Temmuz 2024'te İngiltere'de 3 kız çocuğunun yaşamını yitirdiği, 23 çocuğun ise yaralandığı Southport saldırısının faili
02:05Axel Ruda Kubana'nın saldırıdan önce tam 3 kez önleme programına ihbar edildiği
02:11ancak klasik bir terör örgütü mensubu olmadığı gerekçesiyle sistemden düşürüldüğü ortaya çıkmıştı.
02:21İngiltere Çocuk Komiserliği'nin hazırladığı kapsamlı rapor Ruda Kubana gibi binlerce çocuğun
02:27sanal dünyada nasıl birer şiddet saplantılı bireye dönüştüğünü ve devletin koruma mekanizmasının
02:33bu sanal hız karşısında nasıl çöktüğünü gözler önüne serdi.
02:40Raporun merkezinde teknoloji şirketlerinin çocukları ekranda tutmak için kullandığı
02:45kişiselleştirilmiş öneri algoritmaları yer alıyor.
02:49Teknoloji devleri kullanıcıların dikkatini ekrana hapsederek reklam gelirlerini arttırmak üzere korulu.
02:55Şok ve dehşet uyandıran bir şiddet içeriğine birkaç saniye bakan bir çocuk
02:59algoritma tarafından ilgili kodlanarak kesintisiz bir şiddet akışına mahkum ediliyor.
03:04Sosyal medyada özellikle karşımıza çıkan bu algoritmalar bize hangi içeriği göreceğimizi
03:11dayatan aslında sistemin getirdiği ve bizim görmemizi istediği içerikleri kapsıyor.
03:17Ve bu içerikler çocuklarımızı hedef alıp aşırılığa sürükleyebiliyor.
03:22Ve bu aşırılığın sonucunda da özellikle çocukların sadece bir dini örgütten ya da
03:30terör örgütü olabilir ya da ideolojik bir görüşten değil burada suça sürükleyebilecek
03:36aşırılığa savrulan platformları da aslında ortaya koymak gerekiyor.
03:42Algoritmanın temel mantığı çocuğun ilgisini mümkün olduğunca uzun süre ekranda tutmak
03:47ve bu nedenle onun daha çok baktığı içerikleri öne çıkartmak oluyor.
03:51Benzer içerikleri çıkartıyor.
03:53Niye?
03:53Çünkü çocuk dijital ayak izi bırakıyor.
03:56Bu sadece çocuklar içinde değil.
03:57Hepimiz için aynı durum söz konusu oluyor.
04:00Ve belli bir noktadan sonra şiddet içerikleri birkaç kere onun önüne geldiğinde
04:05ve o da bu içerikleri izlediğinde sistem bunu normal bir tercih gibi algılıyor
04:11ve çocuğun önüne ne yazık ki şiddet içerikli görüntüler, görseller ve fotoğrafları dayatmış oluyor.
04:17Şimdi açık ve net bir şekilde söylemek gerekirse
04:20yapay zeka burada süreci daha da kişiselleştiren bir katman olarak karşımıza çıkıyor.
04:25Çocuklar tek bir içerikli radikalleşmiyor.
04:28Günler ve aylar boyunca algoritmaların ekrana sürdüğü şiddet videolarıyla zehirleniyor.
04:33Üstelik yeni dönemde geliştirilen yapay zeka sohbet botları ve görsel üreticiler
04:38çocukların ilgi alanlarına anında uyarlanarak bu sanal tuzağı daha da derinleştiriyor.
04:43Çocuklarımızın farkındalığını yükseltmek ve bu dayatmaya karşı onları daha bilinçli hale getirmekten geçiyor bunlar.
04:51Çünkü yapay zekanın da gelişmesiyle birlikte çocuklarımızın yapay zekayla girdiği etkileşim,
04:58buraya sorduğu soru ve cevaplar aslında sistemi besleyen bir unsur haline gelmiş durumda.
05:03Çocukların ilgisini çekebilecek hedeflerle, yapay zekaya sorduğu sorular üzerinden sistem bunlardan beslenerek
05:11çocukların ilgisini çekebilecek içerikleri karşısına çıkartıyor.
05:14Ve çocukları bu şekilde aslında bir nevi tuzağa düşürmüş oluyor.
05:19Çocuğun sorduğu sorular, işte yaptığı aramalar ve oluşturduğu içerikler üzerinden ilgi alanlarını belirliyor yapay zeka
05:28ve karşısına çıkan içeriklerin onun önüne çıkmasıyla birlikte özel bir hale gelmesine sebebiyet veriyor.
05:36Yani bir özellik, bireysellik ortaya çıkmış oluyor.
05:40Bunu da tamamen algoritma meydana getirmiş oluyor.
05:43Rakamların dikkat çekici tarafı tam da burada ortaya çıkıyor.
05:47Önleme sistemleri yok denecek kadar az.
05:51Çünkü burada önleme sistemlerine bildirilen çocukların %70,9'unda belirgin bir siyasi veya dini ideolojinin bulunmaması,
06:03radikalleşmenin artık yalnızca klasik terör örgütleri üzerinden açıklanmayacağını göstermiş oluyor.
06:10Bu sanal dönüşüm radikalleşmenin geleneksel kodlarını da tamamen değiştirdi.
06:152024-2025 resmi verilerine göre İngiltere'de önleme sistemine bildirilen 4715 çocuğun %70,9'unda yani neredeyse 4'te 3'ünde belirgin
06:27hiçbir siyasi veya dini ideoloji tespit edilemedi.
06:30Uzmanlar çocukların saldırganları putlaştırmaya, bu içerikleri akranlarına yaymaya odaklandığını, literatürde bunun şiddet saplantılı bireyler olarak adlandırıldığını vurguluyor.
06:41Yeni dünyada algoritmalar özellikle kişilerin hoşuna gidebilecek ve kişileri özellikle ilgi alanlarını hoşuna giden içerikleri besleyebilecek alanlara giriyor.
06:54Ve bu alanlar sayesinde de aslında çocuğu bu tuzağın içine çekmiş oluyor.
06:59Bunlara karşı dikkatli olmak ve algoritma dayatmalarına karşı çocuklarımızı, öğrencilerimizi bu anlamda eğitebilmek ve dijital farkındalığı artırabilmek,
07:12yapay zeka okuryazarlığını özellikle artırabilmek ve bunlarla alakalı eğitimleri hızlandırabilmek oldukça önemli.
07:20Sanal medya platformları buna istedikleri gibi imkan tanıyorlar.
07:24Özellikle şiddet ve saplantılı bireyler için baktığımızda karşımıza bir profil çıkartıyor.
07:32Bu karşımıza çıkan yeni profil belirli bir ideolojiden çok şiddetin kendisine ilgi duyan çocukları gösteriyor.
07:40Saldırganları yüceltmek, katliam görüntülerini izletmek ve bu içerikleri çevresine yaymak zaman içerisinde normal bir hale gelmiş oluyor.
07:49Ve bu sayede suç normalleştiriliyor. Hatta çocuklar öne çıkmak için adeta bir suç parçası, suç aparatı haline gelmiş oluyor.
07:59Peki İngiltere'de tartışılan önleme sistemi nedir ve dijital tehditler karşısında neden çaresiz kaldı?
08:06Önleme, İngiltere hükümetinin dört ayaklı terörle mücadele stratejisinin en kritik parçası.
08:13Bu stratejinin aşamaları ise şunlar.
08:151- Önleme, kişilerin terörizme çekilmesini veya terörü desteklemesini engellemeye amaçlar.
08:222- Takip, yakalama, terör saldırılarını engellemek ve failleri yakalamak için çalışır.
08:283- Koruma, saldırılara karşı güvenlik ve savunma kalkanını güçlendirir.
08:344- Hazırlık, olası bir saldırının etkilerini en aza indirmeye hedefler.
08:382015 yılındaki terörle mücadele ve güvenlik yasasıyla öğretmenlere, doktorlara, belediyelere ve polise önleme bildirim görevi getirildi.
08:47Bildirilen kişiler polis değerlendirmesinin ardından Channel adı verilen çok kurumlu bir panele taşınıyor.
08:53Burada uzman mentorlar aracılığıyla kişinin radikal düşünceleri değiştirilmeye çalışılıyor.
09:00Ancak bu mekanizma sadece sabit bir ideolojiye sahip geleneksel terör zandıları için kurulduğundan,
09:07internette şiddet saplantısı kazanan çocuklara çözüm sunamıyor.
09:11Londra Emniyeti Terörle Mücadele Direktörü Lawrence Taylor bu çıkmazı şu sözlerle açıklıyor.
09:17Önleme ideoloji odaklı bir programdır.
09:19Ortada sabit bir ideoloji yoksa, yalnızca internetten beslenen şiddet takıntısı ve ruh sağlığı sorunları varsa,
09:27önleme bu kişilere müdahale edecek doğru mecra değildir.
09:31Nitekim resmi verilerde bu iflası kanıtlıyor.
09:34Bildirilen 4715 çocuktan %79'unun dosyası değerlendirme paneline bile gitmeden kapatıldı.
09:41İdeolojisi olmayan çocuklarda dosya kapatma oranı %86'ya ulaştı.
09:46Çocukların sadece %18'i Channel Destek Programı'na alınabildi.
09:52Sisteme yapılan çocuk sevklerinin %60'ı okullardan ve öğretmenlerden geliyor.
09:58Ancak önlemenin kapattığı dosyaların %48'i yine eğitim kurumlarına geri gönderiliyor.
10:03Özellikle okullardan gelen ihbarların en az %65'i hiçbir eylem planı veya geri bildirim sağlanmadan yeniden aynı öğretmenlere iade ediliyor.
10:13Bu iadelerin %93'ü hiçbir zaman bir uzman panelinde görüşülmüyor.
10:20Veriler son 10 yılda 1136 çocuğun önlemeye en az 2 kez, 187 çocuğun ise 3 ve daha fazla kez bildirildiğini
10:28gösteriyor.
10:29Sağlık kaydı bulunan çocuklar arasında otizm spektrum bozukluğu oranı %16 olarak kaydedildi.
10:35Bu rakam ülke genelindeki %3'lük ortalamanın 5 katından fazla.
10:39Uzmanlar akran zorbalığı ve aile içi ihmal yaşayan nöro çeşitli çocukların sanal ağlardaki şiddet istismarına çok daha açık hale geldiğini
10:49vurguluyor.
10:51Çocuk komiseri Damer Raşel de Souza bu sanal felaketin önüne geçmek için hükümete 12 maddeli kapsamlı bir reform listesi sundu.
11:00Bu maddelerden birkaçı ise sanal medya üzerinde.
11:03Platformlara kısıtlama, çocukları koruduğunu kanıtlamayan teknoloji şirketlerine erişim kısıtlaması getirilmeli.
11:09Öneri algoritmaları sonsuz kaydırma, gece erişimi ve yabancıların mesaj atması engellenmeli.
11:14Sonuç odaklı Ofcom denetimi.
11:16Bir çocuk internet içeriği sebebiyle terör veya şiddet suçuna karışırsa, ilgili sanal medya platformunun güvenlik yükümlükleri doğrudan soruşturulmalı.
11:23Burada sorumluluğu yalnızca aileye ya da çocuğa da yüklemek doğru değil.
11:27Platformun da doğrudan sorumluluk alması gerekiyor.
11:30Sanal medya mecralarının da taşın altına elini koyması gerekiyor.
11:34Yani bu mecralar çocuğu sadece ekranda tutabilmek için, tasarlandığı için ne yazık ki bu tarz ihbarlar, bu tarz bildirimler ya
11:42da çocukların can güvenliği ikinci aşamaya atılmış oluyor.
11:46Bizim için önemli olan işte bu çocuğu şiddet ve zararlı içerikten koruyacak güvenlik mekanizmalarının geliştirilmesi.
11:52Bunun için de denetiminin yalnızca kağıt üstünde kalmaması gerekiyor.
11:57Bir çocuk platformlardaki içerikler nedeniyle ciddi bir şekilde şiddete meyille bir hale geliyorsa, suça sevk ediliyorsa, burada platformun algoritması güvenlik
12:07önlemlerini almalı ve tabii ki devletler de bu tarz yasalar çıkartarak çocukların ve tabii ki ülkelerin milli güvenliğini tehdit altına
12:17alacak bu tarz eylemlerin mutlak suretle önüne geçmelidir.
12:20Çocuk komiserliğinin ortaya koyduğu bu 12 maddelik acil reçete, hükümetin dijital platformlara ve korunma mekanizmalarına karşı köklü bir zihniyet değişimine
12:30gitmesini şart koşuyor.
12:31Aksi halde sistemdeki bu sahipsizlik kısır döngüsü yeni trajedilerin kapısını aralamaya devam edecek.
