Yapay Zeka Riski Bir Füze Değil, Bir Patogen Gibi Yönetilmeli

Amerika Birleşik Devletleri ve Çin, Washington’da düzenlenen zirveyi ticaret barışını iki aylık süre uzatımıyla ve dostane ifadelerle tamamlarken, yapay zeka konusunda iki liderin New York’ta daha önce taslak çizen vekillerinin onayladığı bir çerçeveyi ratify etti. Trump ve Xi Jinping, yapay zeka riskini bir füze silosu gibi değil, bir patojen gibi yönetmeyi savunan yaklaşımı öne çıkaran bir analizde, bu riskin yönetimi için küresel sağlık güvenliğinin daha iyi bir örnek olabileceğini vurguladı.

İki lider arasındaki resmi diyaloğun yanı sıra, bir yapay zeka olayının ulusal güvenlik seviyesine ulaşması halinde birbirlerine bilgi iletme kanalı da kuruldu. Ancak bu kanal, etiketi kadar kalın değil; şu an için hazine Bakanı Scott Bessent ile Çin’in Dışarılar Başkanı He Lifeng arasındaki açık bir hat düzeyinde kalıyor. Trump, o sabah “üst düzey zeka”yı “olduğu yerde bırakmak” istediğini paylaşmıştı ve bu isteğini gerçekleştirdi.

Füze Şablonu Yanlış, Patogen Şablonu Doğru

Çok sayıda kişi zirveyi kaçırılmış bir fırsat olarak nitelendirdi. Bunların çoğu haklı, ancak yalnızca alışılmış sebeple değil. Sorun yalnızca iki liderin çok az şey yapması değil; tüm tartışmanın onları yanlış bir şablona göre değerlendirmesi. Herkesin başvurduğu şablon, Küba füze krizinden sonra kurulan Washington-Moskova sıcak hattı: iki başkent, tek güvenli hat ve zamanında defedilen bir kriz. Ancak bu şablon yalnızca sorunun bir kısmına uyar.

2024 Kasım’ında Xi ve Joe Biden, nükleer silahların kullanımı insanların, makinelerin değil, karar vereceği ilkesine mutabık kalmıştı ve bu ilke o günden beri dokunulmamış durumda. Fakat nükleer arsenaller bir dizi devletten, bilinen yerlerden ve komuta zincirlerinden sorumludur. Çoğu yapay zeka riski böyle değildir. Yetkililerin kendilerinin de liste üzerine aldıkları tehlikeler: kontrolsüz ajanlar, devlet dışı aktörler, yapay zeka destekli siber ve biyolojik saldırılar. Bu risklerden hiçbirinin bir hükümeti gerçekleştirmesi gerekmiyor; bir girişim, bir üniversite laboratuvarı ya da üçüncü bir kıtadaki bir veri merkezi bunu yapabilir.

Bu örüntü bir füze silosuna hiç benzemiyor. Tam tersine bir patojen gibi davranıyor. Risk her yerden ortaya çıkabilir, tek bir hükümetin kontrolünü dışında kalan ağlar üzerinden yayılır ve genellikle onu yaratan kişi değil, rastgele izleyen kişi tarafından ilk görülür.

Y. Tony Yang, George Washington Üniversitesi

Bu örüntüyü hayal etmek bile gerekmiyor. Temmuz ayında OpenAI tarafından geliştirilen ajanlar, izole bir test ortamından çıktı, zafiyetleri zincirleyerek açık internete ulaştı ve Hugging Face, dünyanın en büyük yapay zeka modeli deposunda birkaç gün kaldı. Hugging Face, OpenAI’nin kendi modellerinin arkasında olduğunu fark etmeden bu işgali tespit etti. Haziran ayında başka bir OpenAI ajanı, Avustralya hükümetinin sağlık istatistikleri portalındaki engelleri aşmıştı. OpenAI bunu Ağustos ayında fark etti. Canberra, raporlara göre bir genel kutuya giden bir mesajla, günde bir kez kontrol edilen bu kutuya, 10 Eylül’de bilgilendirildi.

Avustralya, Washington’ın yapay zeka koalisyonu Pax Silica’nın kurucu üyelerinden biri. Bu, ona daha hızlı bir uyarı sağlamadı. Bu örüntü, riskin her yerden ortaya çıkabileceği, tek bir hükümetin kontrolünü dışında yayıldığı ve genellikle onu yaratanın değil rastgele izleyeninin ilk gördüğü bir patojene benziyor. Daha iyi örnek silah kontrolü değil, küresel sağlık güvenliğidir.

Erken Uyarı Rutin Olandan Beslenir

SARS’tan sonra hükümetler 2005’te uluslararası sağlık düzenlemelerini yeniden yazdı ve basit bir kural etrafında topladı: sınırları aşabilecek olağandışı, ciddi olayları, sebepleri ne olursa olsun bildirmek. Herhangi bir kamu sağlığı uzmanı, bu kuralın 2020’de ne kadar zorlandığını da anlatacak. Covid-19 yanıtını değerlendiren bağımsız panel, küresel uyarı sisteminin “çok yavaş ve çok yumuşak” olduğunu buldu ve 2020’nin Şubat ayını kaybedilmiş bir ay olarak nitelendirdi.

Ama bu başarısızlık aynı dersi öğretiyor. Hükümetler ve şirketler, bildirim bir itirafla göründüğünde kötü haberleri saklıyor. Erken uyarı, bildirim rutin olduğunda, tetikleyiciler önceden belirlendiğinde ve bir bildirim bir suçluluk itirafları yerine bilgi sayıldığında işe yarar. Hiçbiri çözülmemişse üç aylık bir süre ve bir genel kutu elde ediyorsunuz.

Yapay zeka bağlamına uygulandığında bu, üç adımı işaret ediyor. Hiçbiri iki tarafın rekabetçi konumundan vazgeçmesini istemiyor. İlk adım, bildirilebilir olayları birlikte tanımlamak. Yeni kanal, tetikleyici listesi kadar değerli olacak: test ortamında serbest bırakılmış bir ajan, bir patojen tasarlayan birine gerçek yardım sunan bir model, kritik altyapıya büyük ölçekli bir yapay zeka destekli işgal.

Bu listeyi kabul etmek, herhangi bir ortak bildiriden daha çok güvenlik sağlayacak, çünkü kimin suçlu olduğunu kimse çözmeye başlamadan önce her hükümetin diğerinin uyarısına anında tepki verebilmesini sağlayacak.

Y. Tony Yang, George Washington Üniversitesi

Kanal İki Başkentten Öte Açılmalı

İkinci adım, kanalı iki başkentten öte açmak. Washington ve Beijing arasındaki bir sıcak hat, tehlikenin yalnızca bu iki yerde yaşadığını varsayar. Oysa her biri kendi kulübünü kurdu. Pax Silica şu an iki düzine imzacıya sahip, bunların arasında Avrupa Birliği de var. Çin’in Dünya Yapay Zeka İşbirliği Örgütü, 29 ülkenin katılımıyla Temmuz ayında Shanghai’da kuruldu. Pek çok hükümet, özellikle Asya’dakiler, bunlar arasında seçim yapmak istemiyor.

Orta güçler tarafından barındırılan ve hiçbir bloğa bağlı olmayan nötr bir teknik bildirim merkezi, kimse taraf seçmeden güvenlik bilgisinin bu çizgiyi geçmesini sağlayacak. Singapore açık aday. Yapay zeka güvenlik öncelikleri üzerine Amerikan, Çinli ve diğer laboratuvarlardan ve üniversitelerden araştırmacıları iki kez bir araya getirerek Singapore Anlaşması’nı üretmişti. Orada bir merkez, orta güçleri bu rekabette ödüllerden, onu yönetmede katılımcılara dönüştürecektir.

Üçüncü adım, güvenliği stratejik defterden uzak tutmak. Hiçbir ülke kendini ikinci sıradaki dondurmak için tasarlanmış sınırları kabul etmeyecek; gündem açıkça örtüşen ilgi alanlarından başlamalı: tehlikeli araçların suçlulardan ve teröristlerden uzak tutulması ve en ağır kararların insanlara bırakılması.

İkinci Şanslar Takvimde Var

Takvim ikinci şanslar sunuyor. Yapay zeka müzakirecileri yaklaşık iki ay içinde Shenzhen’e dönecek. Liderler Kasım ayında Shenzhen’deki APEC’te ve Aralık ayında Miami’deki G20’de bir araya gelecek. Hiçbir toplantının bir antlaşmaya ihtiyacı yok. Bildirilebilir yapay zeka olayları listesi ve diğer ülkelerin kanala katılmak için açık bir davetiye, sembolik bir sıcak hatı çalışan bir altyapıya dönüştürebilir.

Küresel sağlık bir ders daha öğretiyor. Gözetim sistemleri genellikle salgıntan sonra, çok daha yüksek maliyetle inşa ediliyor ve hâlâ ilk vakayı bulanın bunu söylemeye istekli olmasına bağlı. Yapay zeka, sistemi ilk önce inşa etme için nadir bir şans sunuyor. Bir kez kaçırması anlaşılır. İki kez kaçırması bir tercihtir.

Y. Tony Yang, Washington’daki George Washington Üniversitesi’nde Endowed Profesör.