Yapay zekânın küresel güvenlik kurallarını isteyen Birleşmiş Milletler liderliği ile bu kuralları kimin uygulayacağı konusunda hükümetler ve teknoloji şirketleri arasında süren anlaşmazlığın ardında, çok uluslu firmaların her yapay zeka sisteminin gerçekten hangi araçlara erişebileceği, neye karar verebileceği, ney harcayabileceği, Neyi değiştirebileceği, kimle iletişim kurabileceği ve neyin sorumluluğunu taşıyacağına dair tek bir operasyonel kayda sahip olmadığı görülüyor. Birleşmiş Milletler Genel Sekreteri António Guterres ile ABD Başkanı Donald Trump arasında öne çıkan denetim yetkisi tartışması, aslında şirketlerin sistemlerin nerede durduğunu bildiği ancak o sistemlerin kurum adına hangi birimlerde, bulut ortamlarında ve sınırlar boyunca ne yapabileceğine dair net bir haritaya sahip olmadığı boşluğu ortaya koyuyor.
Bu yaklaşımın özünde iki kavram arasındaki ayrım yatıyor: Envanter araçları listelerken, yetki haritası gücü listeliyor. Şirketler genellikle hangi sistemin nerede konuşlandırıldığını biliyor ancak o sistenin kurum adına gerçekten ne yapabileceğini gösteren tek bir kaynağa sahip olmayabiliyor.
Güvenlik Kurallarının Önce Operasyonel Bir Nesneye İhtiyacı Var
Yapay zekânın küresel güvenlik tartışması yeni bir aciliyet seviyesine ulaştı. 16 Eylül tarihinde Birleşmiş Milletler Genel Sekreteri António Guterres, dünyanın yapay zeka güvenliğinde aşağı yönlü bir yarışa tahammül edemeyeceğini belirterek daha güçlü uluslararası işbirliğini çağırdı. Bu uyarı, Başkan Donald Trump’ın Amerika Birleşik Devletleri’nin sektörü denetmek için zaten yeterli araçlara sahip olduğunu savunurken, geliştirmenin yavaşlatılmasının Çin‘in yararına olabileceği konusunda uyardığı bir dönemde geldi.
iş insanları ve politika yapıcıların görüş ayrılığı gerçektir. Ancak bu ayrılık daha yakın zamanda çözülmesi gereken operasyonel bir soruyu gizliyor. Düzenleyiciler gelişmiş yapay zekânın kim tarafından yönetileceğine karar vermeden önce, şirketlerin kendi sistemlerinin şu anda hangi güce sahip olduğunu bilmeleri gerekiyor.
“Gönüllü öz-düzeyleme, insan korumalarını atlayabilecek ileri düzey sistemler için ‘hiç şüphesiz yeterli değil’.”
Birleşmiş Milletler İnsan Hakları Yüksek Temsilcisi Volker Türk
Türk, iki gün önce yazdığı metinde bu uyarıyı getirdi. Aynı zamanda sektör liderleri de güvenliğin temel olarak şirketler, bağımsız değerlendirmeciler mi yoksa hükümetler tarafından uygulanması gerektiği konusunda bölünmüş durumda.
Envanter Yetki Haritası Değildir
Büyük örgütlerin çoğu artık yapay zeka envanterinin bir biçimini sürdürüyor: sistem adı, tedarikçi, iş sahibi, veri kategorisi, amaç ve belki de bir risk sınıflaması. Bu kullanışlıdır. Ancak yazılım hareket edebildiği anda eksik hale gelir.
Envanter neyin var olduğunu tanımlarken, yetki haritası ne olabileceğini tanımlar. Bu ayrım, bir aracın şirkete ait olduğunu bilmek ile anahtarları tutan kişinin kim olduğunu, aracın nerede sürülebileceğini ve herhangi biri müdahale etmeden önce hangi zararı verebileceğini bilmek arasındaki farkdır.
Bu ders sıradan, felaket olmayan hatalarda net biçimde görülüyor. Moffatt v. Air Canada davasında British Columbia mahkemesi, Air Canada’nın web sitesi sohbet botu aracılığıyla sağladığı yanlış cenaze yolcu bilgileri için sorumlu tuttuğu karar verdi. Önemli olan sohbet botunun olağanüstü zeki olması değildi; sistemin bir müşteriyle havayolu adına konuştuğu gerçeğiydi.
Farklı bir sorun 2025 yılında Replit’te ortaya çıktı, bu durumda bir kodlama ajanı geliştirme sırasında üretim verilerini sildi. Replit daha sonra varsayılan olarak geliştirme ve üretim veritabanlarını ayırdı ve erişimi sıkılaştırdı. Yine de kritik değişken zeka değil, yetkiydi.
Altı Fiil Gerçek Yetkiyi Ortaya Çıkarır
Pratik bir yetki haritası altı fiilin etrafında kurulabilir: erişmek, kararmak, harcamak, değiştirmek, iletişim kurmak ve neden olmak.
Erişim, yapay zekanın hangi sistemlere, kimlik bilgilerine ve verilere ulaşabileceğini ve bu hakların salt okunur mı yoksa yazma yeteneğine sahip mi olduğunu sorar. Karar verme, bir öneri ile sonuç arasında insan bulunmadan hangi çıktının yürürlüğe gireceğini sorar.
Harcama, sistemin yükseltme gerekli olmadan taahhüt edebileceği para, bilişim gücü, envanter, kredi veya diğer kaynakları kapsar. Değiştirmek kodu, kayıtları, fiyatları, yapılandırmaları, sözleşmeleri ve izinleri içerir.
Iletişim kurmak, sistemin kurum adına müşteri düzenleyicilere, eşlere, çalışanlara veya başka makinelere konuşup konuşamayacağını sorar. Neden olmak ise en zor soruyu sorar: Sistem tamamen örgütün bilinçli olarak verdiği izinler içinde çalışırken üretebileceği kötü sonuç nedir?
Bu son soru genel bir risk puanından daha ayırt edicidir. Saldırı, isyan veya model hatası gerektirmez. Sistemin her şey tasarlandığı gibi giderken zaten yetkilendirildiği şeyi sorar.
Küresel Denetim Kuralları Yine Bir Operasyonel Nesneye İhtiyç Duyuyor
Birleşmiş Milletler uluslararası koordinasyon için mekanizmalar kurmaya başladı. Global Digital Compact altında kurulan Yapay Zeka Yönetişimi İçin Küresel Diyalog, Temmuz ayında Cenevre’de ilk oturumunu gerçekleştirdi. Amacı hükümetlere ve paydaşlara uluslararası yapay zeka yönetişimini tartışmak için ortak bir forum sağlamak.
Bu değerlidir ancak küresel koordinasyon ulusal sistemleri özdeş kılmaz. Avrupa’nın Yapay Zeka Yasası artık belirli yapay zeka sistemlerine yeni şeffaflık yükümlülüklerini uyguluyor. Avusturya Komisyonu’nun rehberi bu görevlerin 2026 Ağustosundan itibaren nasıl uygulanacağını açıklıyor.
Singapur farklı bir model seçti: Ajansal Yapay Zeka İçin Model Yönetişim Framework’ü, örgütleri otonomiyi, araçları ve veri erişimini sınırlamaya, anlamlı insan kontrol noktalarını tanımlamaya ve ajanları yaşam döngüleri boyunca yönetmeye yönlendiriyor.
OECD ayrıca ajansal yapay zeka sistemleri için ortak bir kavramsal sözcük dağarcığı oluşturmaktadır. Bu yaklaşımlar, şirketler tek bir iç dili oluşturmadan önce tek bir mevzuatta birleşmek zorunda değildir.
“Yetki haritası herhangi bir rejimle uyumu yerine geçmez; düzenleyicilerin, yönetici kurul üyelerinin ve denetçilerin sorgulayabileceği operasyonel nesne olarak onların altında yer alır: kim hangi gücü, hangi sisteme, hangi yargı alanında, hangi kümülatif sınırlar içinde ve hangi geri alma yoluyla devrettigi.”
Haber Yazarı
Aynı Model Sınırlar Boyunca Farklı Bir Aktöre Dönüşebilir
Ürün adı sabit kalırken pratik yetki tamamen değişebilir. Bir müşteri hizmetleri ajanı tek bir piyasada yalnızca yanıtlar taslaklayabilirken, başka birinde otomatik olarak gönderebilir. Bir satın alma ajanı tek bir iştirakde bir alım önerirken, başka birinde canlı bir ödeme kimlik bilgisini taşıyabilir. Bir kodlama ajanı tek bir iş biriminde kum havuzu erişimine sahipken, başka birinde üretim yazma erişimine sahip olabilir.
Model aynıdır. Olduğu kurumsal aktör değildir. Bu küresel güvenlik tartışmaları için önemlidir çünkü ‘modele’ yönelik bir kural, sonuçların oluşturulduğu katmanı kaçırabilir: kimlik bilgileri, araçlar, iş akışları, insan kontrol noktaları ve izinler.
Bu sorulara içeriden cevap veremeyen bir şirket, denetçilere güvenlik kurallarının gerçek değil, sadece öznel olduğunu göstermekte zorlanacaktır.
İzni Haritalayın, Sonra Yasağı Üstüne Çizin
Dokümanın başka bir uyum ansiklopedisine dönüşmesi gerekmez. Önemli her sistem için tek sayfa yeterlidir; altı fiili, bu izinlere sahip yöneticiyi, kümülatif sınırları, güçlerin aktif olduğu yargı alanlarını ve geri alma yolunu kaydederse yeterli.
iki alan özel dikkat deserving ediyor. İlk olarak, geri alma bir kişi ve zaman olarak ifade edilmelidir: Kim sistemin yetkisini daraltabilir veya kaldırabilir ve pratikte bu ne kadar sürer?
İkinci olarak, harita kötü izin verilen sonucu düz dilde belirtmelidir. Bir yönetici veya düzenleyici, model kartı veya tedarikçi mimari diyagramını okumadan operasyonel üst sınırı anlayabilmelidir.
Böylece yerel yasal gereksinimler bu ortak harita üzerine üstüne çizilebilir. Tek bir yargı alanında insan onay noktası gerekiyorsa, harita bunun var olup olmadığını gösterir. Başka biri kayıt, şeffaflık veya olay yükseltmesi gerekiyorsa, harita hangi eylemlerin ve izinlerin kayda ihtiyaç olduğunu gösterir.
Yönetim, izinlerin çok hızlı değiştiği için haritalanamayacağını belirtebilir. Tam da bu yüzden haritalanmaları gerekir. Bilançolar her gün değişirken, periyodik tablolar yine de sapmayı görünür kılar. Bir yetki haritası aynı şekilde çalışabilir: Anlık görüntü önemlidir çünkü biri onaylandıktan sonra neyin değiştiği için hesap verebilir hale gelir.
Küresel Tartışma Yönetilebilir Somut Bir Şeye İhtiyç Duyuyor
Mevcut tartışma en yüksek düzeyde çerçeveleniyor: yavaşlatmak mı hızlandırmak mı, ulusal olarak düzenlemek mi küresel olarak düzenlemek mi, şirketlere güvenmek mi yoksa dış denetimi uygulamak mı.
Bu seçimler önem taşır. Ancak en güçlü uluslararası güvenlik kuralı sonunda gerçek kimlik bilgileri, araçları ve izinleri olan bir sisteme ulaşmak zorundadır. Dünyanın tek bir yapay zeka yasasına ihtiyacı yoktur; şirketler makine gücünü görünür kılabilecek.
Yeticiler her modeli anlamak zorunda değildir. Hükümetlerin özdeş mevzuata ihtiyaçları yoktur. İkisinin de sonuçlu makine yetkisinin gerçekten nerede durduğunu görebileceği bir yola ihtiyaçları vardır.
Envanter bir şirkete hangi yapay zekaya sahip olduğunu söyler. Yetki haritası herkese bu yapay zekanın kurum olarak ne yapabileceğini söyler. Küresel denetim kuralları, makine gücü itaat etmeleri beklenen örgütlerin içinde görünmez olmaktan çıktıkça daha kolay uygulanabilir hale gelecektir.
1 yorum
Fikrinizi bir kaynak, soru veya yapıcı karşı görüşle geliştirin.