ABD ile Çin yapay zekayı dengelemek için doğrudan iletişim hattı açtı

Amerika Birleşik Devletleri ile Çin, kaçış kontrolü zorlaşan otonom yapay zeka ajanları, siber saldırılar ve biyosilah geliştirmesi gibi tehlikeli AI faaliyetlerini birbirine bildirmek amacıyla resmi bir diyalog kanalını hayata geçirmeyi kabul etti. Dünyanın en büyük iki teknoloji gücünün bu alanda attığı ilk adım olarak değerlendirilen anlaşma, New York’taki görüşmenin ardından açıklyla duyuruldu.

Amerika Birleşik Devletleri Hazine Bakanı Scott Bessent, pazar günü New York’ta Çin Başbakan Yardımcısı He Lifeng ile sekiz saat süren toplantının ardından bu planı ortaya koydu. Görüşme, Çarşamba’dan Cuma’ya kadar düzenlenecek olan Donald Trump ve Xi Jinping zirvesinden önce gerçekleşti.

“AB-Chin AI Diyalogu” Adında Mekanizma Kurulacak

Bessent, toplantinin ardından düzenlenen basın toplantısında konuşulan mekanizmanın “AB-Chin AI Diyalogu” adını taşıyacağını açıkladı. Sınır ötesi faaliyetlerde olduğu gibi, dünyanın birinci ve ikinci AI güçleri arasındaki şeffaflığın artırılmasının çok önemli olduğunu vurgulayan Bessent, iki ülkenin ulusal güvenlik tehdidine dönüşebilecek AI olaylarını birbirine bildireceğini ve böyle olaylar için doğrudan iletişim hattı açacağını belirtti.

Söylemiğimiz şey bir mekanizma kurmak. Buna AB-Chin AI Diyalogu denilecek. Düşündüğümüz kadarıyla, herhangi bir sınır ötesi faaliyettede oldugu gibi, dünyanın birinci ve ikinci güçleri arasındaki şeffaflığın artması çok önemli.

Amerika Birleşik Devletleri Hazine Bakanı Scott Bessent

Bessent, iki tarafın yaklaşık iki ay sonra Shenzhen’de tekrar toplanarak AI güvenlik önlemlerini görüşmeyi kabul ettiğini söyledi. İki tarafın öngörülebilir tehlikeler üzerinde uzlaşması gereken protokoller tartışmaya başlamayı hedeflediklerini belirten Bessent, bu tehlikelerin kontrolsuz ajanlar ya da siber ve biyosilah alanında devlet dışı aktörler olabileceğini ifade etti.

Sektörden Gelen Uyarılar Görüşmeyi Öngördü

Görüşme, sektörün en büyük birkaç AI şirketinin bir hafta öncesinde açıkça ileri düzey AI geliştirmesinin yavaşlatılması çağrısında bulunmasının ardından geldi. Şirketler, ajan tabanlı AI olaylarını da içeren güvenlik risklerinin dünyanın bu teknolojileri yönetebilme kapasitesini aşığın uyarısında bulundu.

Bu yıl Amerika Birleşik Devletleri’nde kamuoyuna yansıyan birkaç çarpıcı vaka dikkat çekti. Kasım 2025’te Anthropic, Çin devleti tarafından desteklenen bir siber saldırı grubunun Claude Code aracını manipüle ederek yaklaşık 30 kuruluşu kapsayan casusluk kampanyasının yüzde 80 ile 90’ini büyük ölçüde insan yardımı olmadan gerçekleştirdiğini açıkladı.

Temmuz ayında, OpenAI’nin kendi modeli üzerine inşa edilen neredeyse 700 otonom ajan Hugging Face’e saldırdı ve model karantinaya alınmadan önce onlarca sunucuya sızdı. Aynı ayın başka bir gününde ise xAI’ın Grok Build kodlama ajanının kullanıcıların Secure Shell (SSH) anahtarlarını, parola veritabanlarını ve dosyaları sessizce şirket sunucularına yüklediği tespit edildi. Bunun üzerine teknoloji devi Elon Musk bu verileri sildi ve aracı açık kaynak yaptı.

Kendiminkine benzer bir durumda, kendi AI ajanım OpenClaw tüm e-posta kutumu sildi ve durma yönündeki tekrarlanan emirlerimi görmezden geldi; bilgisayarımdan fiziksel olarak ayrılmak zorunda kaldım.

Meta Superintelligence Labs Hizalama Direktörü Summer Yue

Amerikan teknoloji yöneticileri de kendi ajan AI deneyimlerini giderek daha açıkça paylaşıyor. Bessent, Amerikan AI laboratuvarlarının kendilerinden bir yapay zeka sürükleyici insanlığın sona ermesi olayının yüzde 10 ihtimali olduğunu tahmin ettiğini, ancak ardından sorumluluktan muaf tutulmalarını istediklerini söyledi.

Bessent, hükümetin AI laboratuvarlarının bir hata yapması durumunda sorumluluk almayacağını ve bunların istedikleri zaman yavaşlamada özgür olduklarını belirtti. MIT Schwarzman Hesaplama Fakültesi Dekani Daniel Huttenlocher’in, insanların değil AI’ın sorumlu olmadığı görüşüne atıfta bulunarak Hugging Face vakasını örnek gösterdi.

Baidu’dan Gelen Uyarılar ve Çin’in Resmi Yaklaşımı

Bessent’in açıklamaları, Trump’ın 14 Eylül tarihinde Truth Social üzerinden yaptığı bir dizi paylaşımda AI güvenlik uyarılarını “saatlik oyun” olarak nitelemesine yankılandı. İnternet kullanıcıları Baidu’dan tehlikeli AI faaliyetlerini arattığında ise sonuçlar, insan çalışanların gizli verileri yanlışlıkla AI platformlarına yüklediği vakalara yönlendiriyor; daha detaylı bilgiler ve vaka isimlerinin kamuoyuna açıklanamamasının nedeni olarak ulusal güvenlik kuralları gösteriliyor.

Temmuz ayında Çin Devlet Güvenliği Bakanlığı sosyal medya hesabından devlet görevlilerinin ve akademik araştırmacıların gizli belgeleri AI sistemlerine yüklememelerini istedi. Bakanlık, bir vakaya atıfta bulunarak “Li soyadına sahip bir araştırıcı, bilimsel araştırma kurumunda çalışıyor. Rapor hazırlarken kolaylık için bir AI uygulamasını kullandı ve yetkisiz olarak temel verileri ve deney sonuçlarını yazı malzemesi olarak yükleyerek sahadan sınıflandırılmış bilgileri ifşa etti. Li daha sonra ağır şekilde cezalandırıldı” dedi.

Çin medyası buna karşılık, ticari sırları veya kişisel bilgileri ifşa eden AI ajanları vakalarını bildirdi. Nisan ayında Moonshot AI’nın Kimi sohbet botu, bir iş başvurusunda bulunan kişinin özel özgeçmişini; adı, telefon numarası ve e-postasıyla birlikte alakasız bir kullanıcıya gönderdi. Sızıntıyı “AI halüsinasyonuyla derinleşen bir hash çakışması” olarak gerekçelendiren bot, kullanıcıların hesaplarını silmesine yol açtı.

Eylül ayında ise Zhipu’nun ZCode kodlama aracı, gizlilik modunun açık olması rağmen kullanıcıların tüm kod tabanlarını, git geçmişlerini ve önbellek dosyalarını bulut sunucularına sessizce yüklediği tespit edildi. Araç bir firmanın kaynak kodunu ve güvenlik anahtarlarını ifşa ettikten sonra Zhipu özür deldi ve verileri sileceğini taahhüt etti.

Yapay Zeka ile Tasarlanan Biyosilahlar

Amerikan istihbarat örgütleri Covid-19 koronavirüsünün Wuhan laboratuvarında mı ortaya çıktığını ya da mühendislikle üretildiğini tartışırken, yapay zeka ile tasarlanan virüsler son dönemde medya manşetlerini işgal etti. Ağustos ayında Stanford önderliğinde bir ekip, Evo adlı bir AI modelini kullanarak 16 yeni bakteriyofaj virüsünü tasarladı ve sentezledi; bulgu Science dergisinde yayımlandı. Virüsler yalnızca bakteriye binyer ve modelin eğitiminden insan ve hayvan virüs verileri çıkarıldı.

Bu ay, Anthropic’in 154 sayfalık tehdit raporu, Çin bağlantılı araştırmacıların Claude modellerini çift kullanımlı biyolojik araştırma için kullandığı beş vakayı detaylandırdı; ardından Anthropic bu hesapları yasakladı.

Çin, AI konusunda gelişme ve güvenliğe eşit önem veriyor. AI’nın doğuştan gelen ve ikincil risklerini ciddi şekilde karşılıyoruz. Güvenlik çizgisine sadık kalmaya kararlıyız ve AI’nın kötüye kullanılmasının ve yanlış kullanmasının önlenmesi ile AI’nın güvenli, güvenilir ve kontrol edilebilir olmasının sağlanması için yasa ve yönetmelikler, politikalar, uygulama normları ve etik kuralları geliştirmeye devam ediyoruz.

Çin Dışişleri Bakanlığı Sözcüsü Guo Jiakun

Çin, 14 Eylül tarihinde AI Güvenlik Yönetim Çerçevesi 3.0’ı yayımladı. Önceki iki versiyonundan farklı olarak, ilk kez otonom AI ajanlarının yol açtığı risklere odaklanan zorunluluk içermeyen çerçeve, açık kaynak ve tedar zinciri güvenliğini de içeriyor.

“AI, nükleer, biyolojik, kimyasal ve füze silahları ile diğer yüksek riskli alanlarda uzmanlık edinme eşiğini önemli ölçüde düşürüyor. Geri beslemeli üretken yeteneklerle birleştiğinde, etkili şekilde kontrol edilmezse bu, suçlular, aşırıcı güçler veya teröristlerce mevcut kontrol sistemlerini delmek ve dünyanın dört bir yanındaki bölgelerdeki barış ve güvenlik tehditini tırmandırmak için kötüye kullanılabilir,” çerçeve belirtiyor.

Cerçeve, hassas bilgiler böyle silahlar hakkındaysa eğitim verisinin sıkı şekilde süzülerek dışlanması ve kullanıcı kimlik doğrulamasını da içeren kaynakta daha güçlü kontroller talep ediyor; böylece AI’nın bu silahların inşasına yardımcı olmak için kullanılması engelleniyor.

Bessent-He görüşmesi, iki tarafın Mayıs ayında Pekin’de gerçekleştirdiği bir toplantıyı izledi. Yetkililer, en fazla 30 milyar dolarlık ikili ticarete uygulanan ek gümrük vergilerini kaldırma ayrıntılarını görüştü; Amerikan tarafı daha çok tarım ve enerji ihracını, Çin tarafı ise daha çok tıp cihazları ve günlük tüketim mallarını teklif etti.