AI Güvenliğinde “Durdurma” Değil, Kanıta Dayalı Hareket Kuralları Gerekiyor

Yapay zeka (YZ) gelişiminin hızı ile güvenliği arasındaki dengeyi yeniden tanımlamaya çalışan yeni bir çerçeve öneriyor: Genel bir yavaşlama değil, her teknolojik aşamanın kanıt durumuna göre durdurulmasına dayanan “aşama özgü durdurma” kuralının benimsenmesi gerekiyor. Bu yaklaşımda, YZ modellerinin eğitimine genel bir duraklama yerine; belirli bir yetkinlik geçişinde güvenliği sağlayan kanıt çöktüğünde o özel iznin askıya alınması öne çıkıyor.

Çerçevenin merkezinde ABD Başkanı Donald Trump ile Anthropic CEO’su Dario Amodei arasındaki görünür çatışma yatıyor. Trump, YZ yarışında geri kalinmasının kabul edilemez olduğunu vurgularken; Amodei, güvenlik çalışmalarının yetişmesi için ileri düzey geliştiricilerin büyüme hızını yavaşlatması gerektiğini savunuyor. Ancak önerilen model bu iki görüşü birleştiriyor: Kanıt artık desteklemediği anda durdurulacak olan tüm alan değil, o belirli yetkinlik geçişini mümkün kılan izin.

İki Karşıt Görüşün Ötesinde Bir Politika Seçeneği

Bir gün önce Amodei, ileri düzey YZ geliştiricilerinin kapasite büyümesini yavaşlatması çağrısında bulunmuştu. Buna karşılık Trump, Pazar günü düzenlenen bir açıklamada ABD’nin Çin üzerindeki üstünlüğünü koruması gerektiğini, “YZ’yi kazanan kazanır” mantığıyla bu yarışta önde kalınmasının şart olduğunu belirtmişti; buna rağmen güvenlik önlemlerinin (guardrails) hala yer alabileceğini kabul etmişti.

Politika seçeneği manşetlerin ima ettiği kadar ikili değil. Amodei’nin “We Must Pace the Frontier” başlıklı yazısında, hızı ayarlamanın model eğitimini ya da teknik ilerlemeyi durdurmak anlamına gelmediğini açıkça belirtiyor. Önerisi; gömülü dış değerlendirmeciler, ileri düzey şirketler arasındaki koordinasyon ve uluslararası işbirliğine dayanıyor.

Trump’ın YZ yarışında geri kalmayı bir strateji olarak görmemesi doğru. Amodei’nin ise kanıt çöktüğünde ileri düzey kapasite büyümesinin anlamlı sınırlamalara ihtiyaç duyması doğru. Bu iki görüş arasındaki köprü retoriğe değil, kurumsala dayanıyor.

Yapay zeka güvenliği çerçevesini özetleyen analiz

Aşama Özgü Durdurma Kuralının Mantığı

Genel bir yavaşlamanın stratejik açıdan ham, operasyonel sonuçları olmayan güvenlik taahhütlerinin ise kurumsal açıdan zayıf olduğunu vurgulamak önemli. Daha iyi model, aşama özgü bir durdurma kuralıdır. Araştırma sürdürebilir; ancak o adımı destekleyen kanıt çöktüğünde belirli bir izin, dağıtım adımı veya özerklik genişlemesi askıda tutulmalıdır.

Aynı kontrol ilkesi dağıtım sonrası aşamaya da uygulanır. Güvenilen bir YZ hizmeti güvensiz hale geldiğinde operatörler, çevrelerindeki hizmeti kapatmadan etkilenen yetkinliği geri çekebilir olmalıdır. Gelişim tarafında ise bu işlemin ayna görüntüsü gereklidir: Başarısız bir güvenlik koşulu, etrafındaki her şeyi durdurmak için bir argüman haline gelmeden, aslında zedilediği yetkinlik geçişini askıya almalıdır.

Dış Değerlendirmecilerin Gücü ve Sınırları

Amodei’nin önerisi bu sorunu somutlaştırıyor. Bir değerlendirmeci gözlemleyebilir, raporlayabilir, önerebilir, geciktirebilir veya engelleyebilir; bunlar farklı güçlerdir. Bir şirket kapsamlı bir erişim sağlarken ilerlemeye tamamen kendi takdirine bırakılmış özgürlük koruyabilir. Bu şeffaflığı artırabilir ancak tek başına şeffaflık zorlayıcı bir güvenlik sınırı oluşturmaz.

Değerlendirmeci, şirketin genel müdürü ya da yerine geçen bir düzenleyici olmak zorunda değildir. Aksine, somutlanmış bir bulgu tanımlanmış bir karar sürecini tetiklemelidir. Kurum önceden hangi kararların gözden geçirileceğini, her karara kimin sahip olduğunu ve ileri adım için hangi kanıtın gerekli olduğunu belirtmelidir.

Sınırlı bir deneyin sürdürülmesi, bir modelin dış sistemlere erişiminin artırılması ve yeni bir yetkinliğin yayımlanması farklı geçişlerdir. Her biri farklı risk taşır ve farklı bir kanıt eşiğine sahip olmalıdır. Bu ayrıntıcılık, durdurma kuralının ilerleme ile uyumlu olmasını sağlar.

Kanıta Dayalı Yeniden Başlatma Kuralı

Bir örnekle düşünürsek: Sınırlı bir ortamda test edilen varsayılan bir ajanın onayı, kısmen o sınıra dışarıdan ulaşamayacağı varsayımına dayanır. Değerlendirmeciler bu sınırın atlanabileceğini keşfederse, daha yüksek görev performans puanı başarısız içeriye kapanma (containment) varsayımını tamir etmez. Dış erişimin genişletilmesi; kanıt o spesifik hatayı giderene kadar beklemelidir.

Bu yanıt, her anomalinin tüm YZ araştırmalarını durdurmasını gerektirmez. Hatanın üzerine çalışılmaya daha güçlü sınırlar altında sürdürülebilirken planlanan genişleme askıda kalmalıdır. Önemli bir bulgu çözülmedikçe etkilenen izin askıda kalmalıdır. Değerlendirmeciler daha sonra bu bulgunun hatalı ya da alakasız olduğunu belirlerse, bu kararı kimin verdiğini ve onu hangi kanıtın gerekçelendirdiğini gösteren bir kayıt tutulmalıdır.

Yeniden başlatma kuralı, durdurma kuralı kadar önemlidir. Bir şirket ilerlemek için hangi yeni kanıtın yeterli olacağını, bunun kimi inceleyeceğini ve tamir edilen düzenek orijinal hataya karşı test edilip edilmediğini belirtmelidir. Zaman geçmesi, revize bir basın açıklaması ya da daha iyi bir toplam puan, bu konuları gidermeyen koşulları otomatik olarak yerine getirmemelidir.

Koordinasyon Riskleri ve Jeopolitik Boyut

Değerlendirmecilerin bağımsızlığı da sıfat değil, uygulama gerektiriyor. Değerlendirmeciler erişimlerindeki önemli sınırları tarif edebilmeli ticari ve güvenlik yargıların çatıştığı durumlarda üst mercilere başvurabilmelidir. Ciddi bir bulgu raporlama yetenekleri; o bulgunun tehdit ettiği ekibin takviminin onu onaylamasına bağlı olmamalıdır.

Rakip riskler de var. Kötü tasarlanmış bir coordinasyon, yerleşik firmaları kök salabilir, küçük araştırmacılara yük bindirebilir ya da rekabeti kontrol etmek için bir mekanizmaya dönüşebilir. Bu nedenle herhangi bir sektör çapında düzenleme; tanımlanmış bir kamu amacı, şeffaf bir kapsam ve uygun hukuki gözetim gerektiriyor. Güvenlik, yalnızca en büyük katılımcıların güvenli olarak adlandırdığı şey anlamına gelemez.

Çin sorunu hassasiyeti daha da önemsiyor. Amodei kendisi, demokrasiler içinde hızı ayarlamanın ABD ve müttefiklerinin üstünlüğünü koruma ihtiyacıyla sınırlı olduğunu kabul ediyor; çip kontrollerinin sıkılaştırılması, yetkisiz distilasyon ve model ağı (model-weight) hırsızlığına daha sıkı kontroller öneriyor. Aşama özgü durdurma kuralı, uniform bir fren yerine bu gerçeğe daha iyi uyuyor.

Seri bir hızı ayarlama politikası dolayısıyla satın alınan ek zamanın ne sağladığını rapor etmelidir: Kurum içeriye kapanma açığını kapatmış mı, dış eylemlere dair görünürlüğü artırmış mı ya da dahili bir yargıyı devirebilecek bağımsız bir değerlendirmeyi kurmuş mu? Yalnızca daha yavaş gelişim, güvenli gelişimin kanıtı değildir.

Nihayetinde amaç, ilerlemenin o kadar koşullu hale getirilmesidir ki ciddi bir bulgu aslında sorgulatılan şeyi durdurabilsin ama geri kalanını değil. Frenler tam olarak neyi durdurmaları gerektiğini bildiğinde hız ve güvenlik daha az çelişkili hale gelir.