NATO Yapay Zeka Silahlarını Bağlayabiliyor, Ancak İnsan Kontrolünü Kanıtlayamıyor

NATO, müttefik yapay zeka sistemlerini birbirine bağlama hızını artırırken, makineler harekete geçmeden önce bir insanın neyi onayladığını kanıtlama konusunda geride kalıyor. Birleşik Ordu’nun doğu kanadında yaşanabilecek olası bir krizde; bir müttekinin radarının hareketli bir füze fırlatıcısını tespit etmesi, ikinci müttekinin yapay zeka hizmetinin bunu sınıflandırması ve üçüncü ülkenin komuta düğümünün bir muhribe onay vermesi bekleniyor. Nesneye saldırı düzenlendikten sonra ise bu tanıma itiraz ediliyor. Her başkent, insanın kontrolde kaldığını iddia ediyor; ancak hangi hükümetin o insanın aslında neyi, hangi sınırlar içinde ve hangi makine hareketinden önce onayladığını gösterebileceği sorusu akılda kalıyor.

Bu senaryo kurgusal olsa da, yönetim açığı gerçek. NATO, ulusal sensörleri, veri hizmetlerini ve silahları sınır ötesinde birbirine bağlayarak ortaya çıkan teknolojinin benimsenmesini hızlandırırken, müttefik makinelerin hedef alışverişi yapması ile müttefik hükümetlerin yetki kanıtı paylaşamaması arasında yeni bir kırılganlık doğuruyor. Birleşik Ordu’nun gücünü korumak için her algoritmayı on yıllık bir edinim programı gibi eleme lüksü yok; ancak hızlı entegrasyon, müttefiklerin hedef alışverişi yaparken yetkinin güvenilir kanıtını değiştirememesi halinde yeni bir zaaf yaratıyor.

Sorumluluk ulusal kalırken etkiler ortaklaşıyor

Diplomatik tartışma operasyonel kurallara yaklaşmış durumda. 10 Eylül’de Fransa, Kesin Konvansiyonel Silahlar Sözleşmesi’nin 128 tarafına sahip devletlerin, ölümcil otonom silahlarla ilgili ortak ilkeler, bazı sistemler için açık yasaklar ve kontrol, risk azaltma ve sorumluluk önlemleri içeren bir taslak nihai raporda anlaştığını duyurdu. Uluslararası Kızılhaç Kurumu’nun 16-20 Kasım tarihleri arasındaki İnceleme Konferansı’nyı, bağlayıcı bir aracın müzakere edilmesi için kritik bir fırsat olarak değerlendirmesi dikkat çekiyor.

Bu tartışmanın içinde tekrarlayan kontrol unsurları; gücün kullanımına dair insan yargısı, hedef türleri ile operasyonun zamansal ve coğrafi kapsamına sınırlar ve müdahale veya devre dışı bırakma yeteneği içeriyor. Bunlar anlamlı sınırlardır, ancak egemen kuvvetler koalisyon olarak savaşırken zayıflıkları ortaya çıkıyor.

Sorumluluk ulusal düzeyde kalmaya devam ederken operasyonel etkiler giderek ortaklaşıyor. Bir sistem, kendisinin sahaya sürüldüğü ülkede yasal olarak incelenebilir; ancak önerisini kullanan müttefik komutan için şeffaf olmayabilir. “Bir insan onayladı” şeklindeki ulusal güvence samimi olsa bile, diğer katılımcilar neyin onaylandığını, ne zaman onaylandığını veya sistemin bu yetki içinde kaldığını belirleyemiyorsa koalisyon boyunca kullanılamaz hale gelir.

NATO Yapay Zeka Yönetim Açığı Analizi

Bu durum kanıtlanabilir uyumluluk açığı olarak adlandırılabilir. Birleşik Ordu, egemen kuvvetlerin birlikte savaşabilmesi için nesne çaplarını, veri bağlantılarını ve prosedürleri nesiller boyu standardize etti. Askeri yapay zeka başka bir katman ekliyor: bir ülkenin kanunu ve doktrini altında verilen yetkinin, komutu devretmeden, istihbarat kaynaklarını ifşa etmeden veya tescilli teknolojiyi teslim etmeden diğer ülkeye kanıt olarak okunabilir hale gelmesi gerekiyor.

Sistemi değil, sınırı doğrulamak gerekir

NATO, koalisyon yetkisi-kanıtı standardı oluşturmalı. Kaynak kodu incelemesi, paylaşılan model ağırlıkları, tam sensör kayıtları veya üst-ulusal bir onay zinciri talep etmemeli. Bu talepler stratejik açıdan müdahaleci ve politik olarak gerçekçi olmazdı. Standart tek dar önermeyi doğrulamalı: Makine, ilgili hareketten önce yetkili bir insan tarafından belirlenen yetki sınırında kaldı mı?

Sıkıcı bir kanıt paketi beş soruyu yanıtlayabilir. İnsan onayı daha yüksek yetki moduna geçişten önce mi geldi? Aktif hedef sınıfı, coğrafi alan, zaman penceresi ve muharebe tavanı onaylanan görevle uyumlu muydu? Herhangi bir kritik parametre değişimi geçerli rol-sınırlandırma kimliği taşıyor muydu? Devre dışı bırakma yetkisi, zayıflamış iletişim koşulları dahilinde mevcut muydu? Aktif politika ve yazılım yapılandırması, görevden önce onaylanan sürümle uyumlu muydu?

Kanıt; imzalı onay kayıtları, güvenilir zaman damgaları, korunan yapılandırma taahhütleri ve hile kanıtlayıcı olay zincirleriyle üretilebilir. NIST Yapay Zeka Kaynak Merkezi zaten test, değerlendirme, doğrulama ve validasyon ögelerini operasyonel yapay zeka risk yönetiminin parçası olarak görüyor. Kriptografi meşru bir politika veya iyi bir yargı oluşturamaz; ancak dar bir uyumluluk iddiasının gerektirdiği kör güven miktarını azaltabilir.

Her devlet detaylı kayıtlarını elinde tutabilir ve tatbikatlar veya olay incelemeleri sırasında sınırlı bir beyan sağlayabilir. Bulgu, karar zincirinin kanıtla gerçekten kapsadığı bölümle birlikte GEÇTİ, BAŞARISIZ, BELİRLENEMEZ veya İTİRAZ EDİLİ olarak raporlanabilir. “Belirlenemez” önemli. Kayıtlar onayın hareketten önce geldiğini belirleyemiyorsa, uyumluluk varsayılmamalıdır.

Cenevre’ye gelmeden önce pilot uygulama

NATO’nun küresel bir anlaşma beklemesine gerek yok. Hızlı benimsenme çerçevesi zaten sertifikasyon standartlarının karşılıklı tanınmasını, Yenilik Alanları ve Task Force X tatbikatlarını öngörüyor. Birleşik Ordu’nun 2026 yenileştirilmiş İnovasyon Ölçeklendirme Paketi, Yenilik Alanları üzerinden operasyonel deneyimlemenin sürdüğünü ve ilk Task Force X iterasyonunun zaten devam eden faaliyetler ürettiğini belirtiyor.

Hazır olan müttefiklerin küçük bir grubu, 16-20 Kasım İnceleme Konferansı’ndan önce yetki-kanıtı pilotunu duyurmalı ve kontrollü tatbikatlarla çalıştırmalı. Bir senaryo hedef sınıfını değiştirebilir; ikinci bir coğrafi veya zamansal zarfı genişletebilir; üçüncüsü ise devre dışı bırakma yetkisinin bozulan veya kesikli iletişimler altında hayatta kalıp kalmadığını test edebilir. Bağımsız ulusal ekipler aynı soruları uygulayıp sınıflandırılmış görev verisi paylaşmadan bulguları karşılaştırabilir.

Amerika Birleşik Devletleri bu süreçte öne çıkarak katılmalıdır. Savunma Bakanlığı Talimatı 3000.09 zaten gücün kullanımına uygun düzeyde insan yargısı ve otonom silah sistemlerinin geçerli kurallar ve kısıtlamalar dahilinde kullanılabileceğinin doğrulanması gerektiriyor. Washington, bir silahın nasıl çalıştığını ifşa etmek zorunda kalmaz; seçili iç güvence gereksinimlerini müttefik komutanların ve soruşturucuların tanıyabileceği sıkıcı bir kanıt arayüzüne çevirmelidir.

NATO Koalisyon Yetkisi Kanıtlama Önerisi

Cenevre’ye gelmeden önce pilot duyurusu, diplomasiye çoğu zaman eksik olan bir şeyi sunabilir: önerilen insan kontrolü sınırının, sınırsız şeffaflık talep etmeden test edilebileceğine dair kanıt. Aynı yöntem daha sonra Avrupa ötesinde Amerika önderliğindeki koalisyonları destekleyebilir; farklı hukuk sistemleri, tedarikçiler ve komuta düzenlemeleri üzerine kurulu Hint-Pasifik ortaklıklarını da kapsayabilir.

Sınırlar açık kalmaya devam etmeli. Bir insanın bir muharebeyi onayladığının kanıtı, hedefin meşru olduğunu, sensör raporunun doğru olduğunu veya orantılılık değerlendirmesinin sağlam olduğunu kanıtlamaz. Bu silah incelemesini, muharebe kurallarını, komuta sorumluluğunu veya araştırmayı yerine geçmez. Daha temel bir şeyi ortaya koyar: makineyi yöneten yetki kimin, bu yetkinin neye izin verdiği ve sistemin o sınırda kaldığı.

NATO’nun sıradaki uyumluluk (interoperabilite) zorluğu dolayısıyla yalnızca müttefik yapay zeka sistemlerinin iletişim kurmasını sağlamak değildir. Onları kullanan koalisyon içinde insan yetkisini doğrulanabilir kılmaktır. Bağlanabilecek makineler, ancak kimin karar verme izni olduğu hükümetlerce belirlenemezse bunlar gerçekten uyumlu değildir.

Asmeni yapay zekada, insan yetkisinin kanıtı savaş gücünün bir parçasıdır.