Çin‘in yapay zeka (AI) sektörü, ABD’den gelen son uyarıların aksine, teknolojinin hızla gelişmesiyle paralel olarak kapsamlı bir denetim ve güvenlik çerçevesi oluşturdu. Anthropic şirketinin yöneticisi Dario Amodei’nin hükümetlerden AI geliştirmesini yavaşlatmak için müdahale etmelerini istemesinin ardından ortaya çıkan anlatıda, Asya süper gücünün küresel yönetim sisteminin son ve zorlu katılımcısı gibi sunulması, aslında Çin’in bu alanda zaten çok daha ileride olduğunu gizliyor.
Bu gelişme, ABD merkezli teknoloji şirketlerinin yöneticilerinin son dönemde artan uyarılarıyla gündeme gelirken, aynı anda Çin’in yıllardır hayata geçirdiği düzenleyici mimariyi de ortaya koyuyor. Analize göre, dünyanın öbür AI süper gücü olan Çin’de bugün ABD’de acil bir talep olarak sunulan değerlendirme, şirket sorumluluğu, risk sınıflandırması, düzenleyici bildirim ve teknik standartlar gibi işlevler zaten yerleşik durumda.
Çin’in Adım Adım Gelişen AI Düzenlemeleri
Beijing’in 2022 yılında yürürlüğe giren algoritma öneri hizmetlerine ilişkin kuralları, çevrimiçi içeriği kullanıcılara seçme, sıralama, filtreleme veya önerme teknolojilerini kapsıyor. Bu kurallar, algoritmaları kullanan şirketleri sistemlerinin nasıl çalıştığını incelemeye, kullanıcıların kişisel bilgilerini korumaya, kullanıcılara belirli kontroller sunmaya ve çalışanlar, tüketiciler, çocuklar ve yaşlılar için güvence getirmeye zorluyor.
Çin’in Ocak 2023’ten itibaren geçerli olan derin sentez (deep synthesis) hükümleri ise düzenlemeyi sentetik veya AI tarafından üretilmiş metin, görsel, ses ve videolarına kadar genişletti. Bu çerçevede şirketlerin kullanıcıları kimliklendirme, verileri koruma, ilgili kayıtları saklama, sistemlerini değerlendirme ve gerçek sanılabilecek sentetik içeriği tespit etme yükümlülüğü taşıması isteniyor.
Jeneratif yapay zeka hizmetlerine ilişkin geçici ölçüler Ağustos 2023’te getirildi. Bu ölçüler, halka açık jeneratif AI’lar için kamuoyunu etkileyebilecek veya kullanıcıları başka biçimlerde ikna edebilecek faaliyetlere yönelik ek kurallar ekledi.
Bu düzenlemeler, eğitim verilerinin yasallığı ve kalitesi, kullanıcıların kişisel bilgileri, fikri mülkiyet hakları ve korunan özelliklere dayalı ayrımcılık konularını kapsıyor. Kuralların ayrıca AI şirketlerinin şeffaflığını ve ürünlerin doğruluk ile güvenilirliğini de düzenlediği belirtiliyor.
Sıfır Risk İlkesi: Güvenlik Yönetimi Çerçevesi 3.0
Beijing’in en son önlemi olan “AI güvenlik yönetimi çerçevesi 3.0”, Eylül 2026’da yayımlandı. Bu çerçeve, AI sistemlerinin yaşam döngüsünün tamamında riskleri belirleme, sınıflandırma ve bunlara yanıt verme konusunda geniş bir yaklaşım ortaya koyuyor.
Daha önceki sürümlere dayanarak çerçeve, AI modelleri ve verilere ilişkin riskler, açık kaynaklı modellerdeki (kullanıcıların özgürce değiştirebildikleri) açıklar, AI’nın istihdam ve toplumdaki etkileri ile giderek otonomlaşan sistemleri kapsıyor. Çerçeve, hızlı gelişen AI ajanlarına (kullanıcının talimatıyla görev yapan sistemler) ilişkin özel bir risk yönetim mekanizmasını da içeriyor.
Silicon Valley’de bugün endişe uyandıran otonom sistemlerin kötüye kullanımı, kimyasal, biyolojik ve nükleer teknolojilerin suistimali ile gelişmiş AI’nın insancan kaybetme ihtimali gibi bazı tehlikeleri ele alan çerçeve, sürekli güvenlik değerlendirmeleri, risk temelli güvenceler, insan denetimi acil müdahale mekanizmalarını öneriyor.
“Ağırlıklı ve müdahalci düzenleyici önlemlere gerek kalmadan ileri düzey güvenliğini ilerletme” çabası olarak tanımlayan Çin’in bu çerçeveyi, küresel rekabet ortamında öne çıkma stratejisinin bir parçası olarak okumak gerekiyor.
Amerikan Carnegie Uluslararası Barış Vakfı’nın bağımsız analizi
Bu değerlendirme, Çin’in güvenlik kaygılarını düzenleyici yük altında eriterek sektörünü koruma altına alma hedefini ortaya koyuyor.
Hukuki Sonuçlar ve Küresel Sorumluluk Tartışması
Bunların hiçbiri, Çin’in AI kurallarının başka ülkelere kopyalanabileceği anlamına gelmiyor. Çin’in kurumları, düzenleyici gelenekleri ve teknolojik öncelikleri farklı.
Günümüzde ABD’de acil bir talep olarak sunulan değerlendirme, AI şirketlerinin sorumluluğu, AI sistemleri için risk sınıflandırması, düzenleyici bildirim, teknik standartlar ve hükümet denetimi gibi birçok işlev zaten dünyanın öbür AI süper gücünün yönetim mimarisinde yerleşik durumda.
Amerika Birleşik Devletleri’nin piyasaya dayalı sistemin ekonomik ve stratejik çıkarlarına en iyi hizmet edeceği sonucuna varma özgürlüğü bulunuyor. Trump yönetimi, AI’ya yönelik “asgari derecede yük getiren” ulusal bir yaklaşımı tercih etti ve daha yoğun devlet düzeyindeki düzenlemeleri sınırlamaya çalıştı.
Ancak piyasaya dayalı model, AI’nın kazancının özelleştirilmesi ancak risklerinin dışarıya aktarılması anlamına gelmemeli. ABD şirketleri ticari kazançları ele alırken, başka ülkelerin hükümetlerinin bu teknolojilerin başarısız olduğu durumlarda güvenlik olaylarını araştırmak, kamu sistemlerini korumak ve daha geniş maliyetleri karşılamak zorunda kalması söz konusu.
Australia’nın eyalet sağlık hizmetine izinsiz erişen OpenAI ajanı, AI risklerinin nasıl aktarıldığını gösteriyor. Washington, sistemler piyasaya çıkmadan önce kapsamlı kontrolleri reddederse, ABD’nin bu AI modellerinin yol açtığı zararlar için kimin sorumlu olacağını değerlendirecek güvenilir bir hukuk rejimine ihtiyacı var.
Aksi halde, yabancı AI sistemlerine bağımlı ülkeler, hangi teknolojiye ve hangi koşullarda güvenecekleri konusunda giderek zorlanan seçimlerle karşı karşıya kalacak. Silicon Valley’in uzun süredir benediği “hızla hareket et ve şeyleri kır” yönetimi, halk hayatının derinliklerine dokunan teknolojiler için her zaman tartışmalı bir ilkeydi.
Çin, AI sektörünü kamu sorumlulukları, düzenleyici denetim ve risk değerlendirmesinin gelişen bir çerçevesiyle çevreledi. Bu tür yönetimi geleceğe dair bir hedef gibi ele alan küresel tartışma, en azından bir ülkenin zaten bu konuda önde olduğunu tanımalı.
Madeline Carr, küresel politika ve siber güvenlik profesörü; UCL.
1 yorum
Fikrinizi bir kaynak, soru veya yapıcı karşı görüşle geliştirin.