çelişkili ATLAS
Geçen yılın başında, Amerika Birleşik Devletleri ordusu, savaş operasyonlarını yeni bir otomasyon düzeyine taşımak için tasarlanan ATLAS (Gelişmiş Hedefleme ve Ölümcül Destekli Sistem) sisteminin geliştirildiği haberiyle dünyayı uyandırdı. Girişim, sıradan insanlar ve aydınlanmış askeri uzmanlar arasında karışık bir tepkiye neden oldu. Suçun çoğu, ATLAS'ın ahenkli kısaltması adına, "ölümcül" ve "gelişmiş hedef belirleme" terimlerini içeren geliştiricilerde (askeri C5ISR merkezi ve Savunma Bakanlığı Silahlanma Merkezi) idi.. Asi robotların hikayelerinden korkan Amerikalılar, ordunun girişimini eleştirdiler, diyorlar ki, savaş etiğiyle çelişiyor. Özellikle birçoğu, ateş açma hakkının otomatik bir sisteme aktarılmasını yasaklayan Pentagon Direktifi 3000.09'a atıfta bulundu. Protestoculara göre yapay zeka ve makine öğreniminin kara araçlarına entegrasyonu siviller ve dost birlikler arasında ani kayıplara yol açabilir. Eleştirmenler arasında oldukça saygın bilim adamları vardı - örneğin, Berkeley'deki California Üniversitesi'nde bilgisayar bilimi profesörü olan Stuart Russell.
Geliştiriciler, ATLAS'ın, insanlığın ilk "Terminatör" den beri hayalini kurduğu varsayımsal "katil robotlar" ile hiçbir ilgisi olmadığını oldukça makul bir şekilde açıkladılar. Sistem, çeşitli sensör sistemlerini kullanarak hedef bulma, en önemlilerini seçme ve operatörü bu konuda bilgilendirme algoritmalarına dayanmaktadır. Şimdi ABD'de, entegre ATLAS sistemine sahip M113 zırhlı personel taşıyıcı test ediliyor. Silahın operatörüne, yapay zeka algoritmaları ekranda yalnızca en tehlikeli hedefleri göstermekle kalmaz, aynı zamanda garantili yenilgi için mühimmat türünü ve hatta atış sayısını da önerir. Geliştiricilere göre, hedefi vurma konusundaki nihai karar atıcıya aittir ve sonuçtan o sorumludur. ATLAS'ın zırhlı bir versiyondaki ana görevi, potansiyel bir tehdide tepki hızını arttırmaktır - ortalama olarak, bir tank (BMP veya zırhlı personel taşıyıcı), otomatik asistanlı bir hedefe üç kat daha hızlı ateş açar. Doğal olarak, zırhlı bir araç, grup hedefleriyle daha verimli çalışabilir. Bu durumda yapay zeka, tank tehlike sırasına göre hızlı bir şekilde hedefleri seçer, silahı kendi başına yönlendirir ve mühimmat türünü önerir. Ağustos ayının başından bu yana, Aberdeen Proving Ground'da entegre ATLAS sistemlerine sahip çeşitli zırhlı araçlar test edildi. Çalışmanın sonuçlarına dayanarak, askeri testler ve hatta bu tür silahların kabulü konusunda bir karar verilecek.
Tanklar artık savaş alanındaki en muhafazakar hedeflerden biri. Birçoğu, teknik gelişme açısından geçen yüzyılın 70-80'lerinde kalan on yıllardır temelde gelişmedi. Genellikle bu atalet, tek tek ülkelerde tankların yaygın kullanımı ile ilişkilidir. Binlerce kişiden oluşan zırhlı bir orduyu ciddi şekilde modernize etmek için muazzam kaynaklar gerekiyor. Ancak tanklara karşı koyma araçları hızla gelişiyor. Mükemmel bir örnek, Türk ve İsrail insansız hava araçlarının Ermeni tanklarına karşı son derece etkili olduğu Dağlık Karabağ'daki mevcut çatışmadır. Kayıpları göz ardı edersek, bu tür tanksavar silahlarının fiyat/performans oranını hesaplamak onları basitçe savaş alanının kralları yapar. Elbette ATLAS, hava tehditlerine karşı koruma sağlamayacaktır, ancak ATGM ekipleri veya tekli bombaatarlar gibi tank açısından tehlikeli hedeflerin erken uyarısı için iyi bir araç olabilir.
Pentagon, ATLAS sistemini tek bir askeri yapı olarak değil, büyük bir Proje Yakınsamasının parçası olarak görüyor. Bu girişim, birlik bilincini bir sonraki seviyeye taşımalıdır. Amerikalılar, makine öğrenimi, yapay zeka ve savaş alanının dronlarla benzeri görülmemiş doygunluğu sayesinde, birimlerinin savaş kabiliyetini ciddi şekilde artırmayı umuyorlar. Ana fikir yeni değil - savaş alanındaki tüm nesneleri ortak bir bilgi yapısıyla birbirine bağlamak ve çevreleyen gerçekliği dijitalleştirmek. Şu ana kadar ATLAS, "komşularla" veri alışverişi becerilerinin eksikliği nedeniyle Proje Yakınsamasına tam olarak dahil edilmedi, ancak gelecekte tankın yapay beyinleri ortak bir özellik haline gelecek. Bu arada, projenin reklamında Çin ve Rusya, açık askeri hedefler olarak belirlendi.
Elektronikte güven yok
Amerikan birlikleri, silahlı robotik sistemlerle zaten olumsuz bir deneyime sahip. 2007 yılında, M249 makineli tüfeklerle donanmış üç küçük paletli platform SWORDS (Özel Silahlar Gözlem Keşif Tespit Sisteminin kısaltması) Irak'a gönderildi. Ve tam otonom araçlar olmasalar da Bağdat sokaklarında devriye gezerken makineli tüfek namlularının periyodik kaotik hareketleriyle askerleri korkutmayı başardılar. Bu Pentagon'a bir öngörülemezlik işareti gibi geldi ve paletli makineli tüfekler yavaş yavaş evlerine gönderildi. 2012 yılında, otomatik ve uzaktan kumandalı silah sistemlerinin kendi kendine ateş etmemesi gerektiğini belirten bir yönerge yayınlandı. Resmi olarak, ATLAS tamamen bu hüküm çerçevesinde geliştirilmiştir, ancak inovasyon hakkında daha az soru yoktur. Bazı uzmanlar (özellikle, Pennsylvania Üniversitesi'nde siyaset bilimi doçenti olan Michael S. Horowitz), yeniliği bir hedefi vurma sürecini aşırı basitleştirmekle suçluyor. Aslında, arama ve hedef belirlemenin bu düzeydeki otomasyonu, savaşı nişancı için World of Tanks gibi sıradan bir oyuna dönüştürür. ATLAS rehberlik sisteminde, öncelikli hedef kırmızı ile vurgulanır, bir alarm sesi duyulur ve teknik, olabildiğince, bir kişiyi ateş açmaya teşvik eder. Aşırı muharebe koşullarında atış konusunda karar vermek için çok az zaman kalıyor ve ardından “akıllı robot” sizi cesaretlendiriyor. Sonuç olarak, savaşçının durumu eleştirel olarak değerlendirmek için zamanı yoktur ve anlamadan ateş açar. Atış sonrası ATLAS'ın hedefleri nasıl doğru seçtiğini değerlendirmek gerekir. Bu yaklaşım ne ölçüde etik ve kötü şöhretli Amerikan direktifine uyuyor? Bu arada Microsoft, askeriye için kullanıcı boykotu da dahil olmak üzere, kaska takılan böyle bir hedef belirleme sistemi için kamuoyunun kınamasına çoktan girmeyi başardı. Amerika Birleşik Devletleri'nde algılama ve yönlendirme sistemlerinin robotizasyonu konusunda uzun yıllardır bir tartışma var. Örnek olarak, eleştirmenler, halka açık yollardaki otopilot sisteminin hatalarından örnekler veriyor ve bunlar zaten kayıplara yol açtı. Milyonlarca kilometre sürdükten sonra bile, otomatik pilotlar %100 güvenilir olmadıysa, o zaman tankerleri 120 mm'lik bir mermiyle masum bir kişiye ateş etmeye itebilen tamamen yeni bir ATLAS hakkında ne söyleyebiliriz. Modern savaşlar artık çok kanlı çünkü ordu, güvenilir bir bariyerin arkasına saklanarak uzaktan öldürme yeteneğini kazandı. Bahsedilen Dağlık Karabağ örneği bu gerçeği bir kez daha teyit etmektedir. Savaşçı, hedefin parametrelerini eleştirel olarak değerlendirme fırsatından da yoksun bırakılırsa (bu tam olarak ATLAS'ın yol açtığı şeydir), o zaman çok daha fazla kurban olabilir ve cinayetin suçu zaten kısmen makineye kaydırılabilir.
Ve son olarak, pasifist yorumcular arasında ATLAS tipi sistemlere karşı ana argüman, otomatik ateş açma yasağının fiilen yokluğuydu. Şimdi sadece Pentagon'un (birçok çekincesi olan) etik gereklilikleri cinayet sürecini tamamen otomatikleştirmeyi yasaklıyor. ATLAS'ın devreye girmesiyle bunun önünde hiçbir teknik engel kalmayacak. ABD Ordusu, bir tehdide tepki süresini daha da hızlandırmak ve savaşçılarını saldırı altında tutmak için böyle umut verici bir fırsattan vazgeçebilecek mi?
