Bugün CNN özel haberiyle acayip bir olay ortaya çıktı.
ABD özel operasyonlar komutanlığında bir analist, Ortadoğu'da seyreden bir Çin gemisinin taşıdığı yükü analiz etmek için yapay zeka kullanıyor. Raporda geminin nükleer silah bileşenleri taşıdığı sonucuna varılıyor. Sonra ordu harekete geçiyor. Askerler gemiye çıkmaya hazırlanıyor, helikopterler vızır vızır.
Operasyon başlamadan hemen önce rapora tekrar bakıyorlar ve yapay zeka ayrıntısını fark ediyorlar. Analiz hatalı. Yapay zeka yükü yanlış teşhis etmiş. Operasyon iptal ediliyor.
Tabii ki konu Çin ve ABD olunca insan "Üçüncü Dünya Savaşı'nın eşiğinden mi döndük?" diyor kendi kendine. Ama aslında bu saldırının gerçekleştiği senaryoları da yaşadık belki.
📌 İran savaşında 300'den fazla kız çocuğunun öldüğü okul bombalanmasını biliyorsunuz. O saldırı planında yapay zeka ne kadar kullanıldı, halen tartışmalı.
Söz konusu okul binası 2016'dan önce Devrim Muhafızları'nın üssüne bağlı. Ama 2016'dan sonra ayrılıyor ve okul yapılıyor. O bölgedeki askeri sistemlerde de Palantir vs gibi firmaların yapay zeka sistemleri kullanılıyor biliyorsunuz. Uydu görüntülerinin analizinde, strateji oluşturmada, saldırı planı hazırlamada kullanılıyor bu sistemler.
Söz konusu saldırıda ne kadar kullanıldığı hâlâ belirsiz. ABD, son onayın insanda olduğunu söylüyor ama her şeyin sonunda evet tuşuna basmak gerçekten de insan kontrolü mü demek?
📌 Biraz daha eskiye gidelim. Palantir, ABD Göçmenlik ve Gümrük Muhafaza Teşkilatı (ICE) ile de çalışıyor. Son dönemde Minnesota'da ICE'ın birden fazla kişinin ölümüyle sonuçlanan ve protesto dalgalarına yol açan sert göçmen operasyonlarında Palantir'in de olası rolü tartışılıyor.
Palantir, 2014'te ICE ile çalışmaya başladı. Son olarak geçen yıl 30 milyon dolarlık iş kapsamında belgesiz göçmenleri takip etmek, tutuklamak ve sınır dışı etmek için bir sistem tasarlamaya başladı. Bu sistem, yakın zamanda duyurulan 'ImmigrationOS'a dönüştü.
📌 Bir de İsrail'in Gazze'deki gözetim ağı var. Şirket 2024'te bir anlaşma yaptı İsrail ile.
Palantir'in yapay zeka makinelerinin yakıt olarak veriye ihtiyacı var; bu veri de işgal altındaki topraklarda yaşayan Filistinlilere dair istihbarat raporlarından oluşuyor. Ünlü ifşacı Edward Snowden'a göre NSA (ABD'nin teknolojik CIA'i), ABD'deki Filistinli Amerikalılar ile işgal altındaki topraklarda yaşayan akrabaları arasındaki ham, sansürsüz telefon ve e-posta yazışmalarını İsrail'e gizlice sağladı.
İsrail ordusu Gazze'deki neredeyse her birey hakkında toplanan devasa istihbarat verilerini (sinyal istihbaratı, sosyal medya, gözetleme görüntüleri) AWS sunucularında depoluyor.
Bulut servislerindeki bu verilerin üzerine oturtulan Palantir yazılımları, böylece Filistinlilerin hareketlerini izleyen devasa bir gözetim ağı ve istihbarat havuzuna dönüşüyor.
📌 Çok daha eskiye gidelim. Şirketin YZ'li tahmin sistemi ABD'nin Irak ve Afganistan'daki işgalleri sırasında da kullanıldı.
Sistem Afganistan’da “pattern of life” yani yaşam örüntüsü analizi için kullanıldı. Sürekli gözetim altında tutulan bölgelerde insanların günlük hareketleri bu sistemle izleniyor, “normal davranış” modeli çıkarılıyor ve bu modelden sapmalar olası tehdit olarak yorumlanıyordu.
📌 Son ABD-Çin geriliminde hangi yapay zeka sistemi kullanıldı bilmiyoruz. Ama olasılığını tartıştığımız şeylerin gerçekte zaten yaşanabildiğini bilmek önemli.