ABD Dışişleri Bakanlığı eski yetkilisi ve ekonomist Robert Reich, yapay zekanın asıl güvenlik meselesinin hangi süper gücün liderlik edeceği değil, insanlığın bu sistemlerin başında kalıp kalmayacağı olduğunu vurguladı. Reich’e göre bu kontrolü sürdürmek yalnızca ABD ya da Çin‘in tek başına başarabileceği bir durum değil; ancak iki ülkenin rekabetçi yaklaşımı bu işbirliğini neredeyse imkânsız kılıyor. Çin Devlet Başkanı Şi Cinping’in bu hafta ABD’ye yapacağı ziyaret, tam da bu yeni zihniyet için bir fırsat olarak görülmekte.
Reich, söz konusu meseleyi şu şekilde özetliyor: “İnsanların yapay zekanın başında kalmasını sürdürmesi, Çin ve ABD’nin —dünyanın iki önde gelen yapay zeka gücü— bu hedefi birlikte aramaları olmadan mümkün olmayacak; ama bizzat bu hakimiyet mücadelemiz bunu neredeyse imkânsız kılıyor.”
Şi’nin İnsan Kontrolü Vurgusu ile Çin’in Güç Kaygısı Arasındaki Çelişki
Şi Cinping’in bu hafta Shanghai’da düzenlenen Dünya Yapay Zeka Konferansı’nda verdiği konuşmada, yapay zekanın “güvenli ve kontrol edilebilir” olmasının, aşırı genişletilmiş bir ulusal güvenlik bahanesi olmaması gerektiği yönündeki ifadeleri, Çin’in üst düzey casus başkanı Chen Yixin’in devlet dergisinde yayımladığı uyarıyla keskin bir zıtlık oluşturuyor. Chen Yixin, yapay zekanın Çin Komünist Partisi’nin iktidarda kalma konumuna doğrudan bir tehdit olabileceğini belirterek, partinin yapay zeka üzerindeki kontrolünü ve devlet denetimini sıkılaştırmayı savunmuştu.
“Yapay zekanın güvenli ve kontrol edilebilir olmasını sağlamalıyız. Yapay zeka insanlığın güvenebileceği bir araç olmalı. Yapay zekanın tetikleyebileceği çeşitli iç ve ikincil riskleri ciddiye almalıyız. Güvenlik çizgisini güçlendirmek, kötüye kullanımı ve kötü niyetli kullanımı önlemek amacıyla yasalar, düzenlemeler, teknolojik izleme, erken uyarı ve acil müdahale sistemleri kurmalıyız ve yapay zekanın her zaman insan kontrolünde olmasını sağlamalıyız. Aynı zamanda yapay zeka alanında ulusal güvenlik kavramını aşırı genişletmeyi ve bir ülkenin güvenliğini diğerlerinin güvenliğinin üstüne koymayı birlikte reddetmeliyiz.”
Şi Cinping, Shanghai Dünya Yapay Zeka Konferansı’ndaki konuşması
Reich, Şi’nin bu ifadeleri, Çin’in öncelikli olarak insanlığın yapay zeka üzerindeki kontrolünü koruduğunu gösteriyormuş gibi görünüyor. Ancak Çin’in diğer yetkilileri, aslında ABD’nin yapay zeka hakimiyetinden daha fazla endişe duyuyor gibi duruyor.
Amerika’nın Hakimiyet Odaklı Yaklaşımı ve Tekrarlayan Kendini İyileştirme Korkusu
Washington’da Trump ve hazine bakanı Scott Bessent, hakimiyet odaklı bir çizgide yer alırken, diğer yapay zeka liderleri insan kontrolü konusunda benzer şekilde endişeli görünüyor. Anthropic şirketinin CEO’su Dario Amodei, insan gözetimi olmadan yapay zekanın kendi sonraki neslini inşa etme yeteneğinin arttığını uyarıyor. Bu dinamiğe “tekrarlayan kendini iyileştirme” deniyor ve bu durum Anthropic dahil tüm sektörde başlangıç aşamasında gerçekleşiyor.
“Denetimden kaçırılırsa, bu sistemleri anlamamızı ve kontrol etme yeteneğimizi aşabilir; bu nedenle —eğer yapılacaksa— çok dikkatli bir şekilde, hatta mümkünse hiç pursuit edilmeden ilerletilmelidir.”
Dario Amodei, Anthropic CEO’su
Amodei, hızlanan yetenek gelişiminin ışığında şunları ekliyor: “Yapay zeka yeteneği gelişiminin hızlanan seyri göz önüne alındığında, 6 ila 12 ay içinde bir ajan sürüsü, kalıcı bir bot ağının yardımıyla tüm interneti ele geçirebilecek kapasitede olabilir —potansiyel olarak yüzlerce milyar dolarlık hasar yaratabilir— ve yapay zeka gerekli koruyucu önlemler olmadan daha güçlü hale gelirse, hasarın ölçeği bundan sonra da artmaya devam edecektir.”
Aynı açık mektupta Amodei, demokratik ülkelerin yalnızca Çin’e teknolojik liderliklerini koruyarak ve genişleterek kendi yapay zeka gelişimlerini yavaşlatmaya hak kazanabileceklerini savunuyor.
“Demokratiler içindeki hızı, ABD şirketlerinin otoriter rejimler —öncelikle Çin Komünist Partisi— önündeki liderliği sınırlayacaktır. Bu miktarın ötesinde yavaşlarsak, (hızlı seyreden) Çin Komünist Partisi’ne bağlı projeler öne çıkarak önemli bir ulusal güvenlik riski oluşturacaktır. Çin’in yapay zekada liderliği ABD ve dünyaya ciddi bir tehlike oluşturacağına Bessent Bakan ile katılıyorum. Çin Komünist Partisi’ne bağlı projeler, ABD şirketlerinin dikkatle önlem aldığı hizalama risklerini taşıyacaktır; hatta bu risklerden kaçınırlarsa bile, demokratileri askeri olarak domine edecek konuma gelebileceklerdir —örneğin yapay zeka destekli dronlar ile. Dolayısıyla demokratiler içindeki hızın ana unsurlarından biri, demokratilerin otoriter rejimler üzerindeki yapay zeka liderliğini mümkün olduğunca büyük tutmaktır, böylece etkili bir şekilde hızlanmak için gerekli olan nefes alma alanına sahip oluruz.”
Dario Amodei, Anthropic CEO’su
Amodei, Çin’in ilerlemesini yavaşlatmak ve ABD’nin liderliğini genişletmek için güçlü yapay zeka çiplerinin Çin’e satışına yönelik kısıtlamaları destekliyor.
İkna Edilmeye Değil, Beklentilerin Düşük Tutulmasına Çağrı
Reich, siyasi ve kurumsal liderlerin sözlerini her zaman olduğu gibi yüzeyde aldığını hatırlatarak şüpheci bir yaklaşımı tavsiye ediyor. Yine de şüphe yok ki, Çin ve ABD’nin bazı liderleri, yapay zekanın kendi kendine sonraki neslini inşa etmeye ne kadar hızlı ilerlediğini ve bunun insan türü için —insanların Çin’de, ABD’de ya da gezegenin başka bir yerinde yaşamasından bağımsız olarak— ne kadar tehlikeli olabileceğini fark etmiş durumda.
Bu sürecin yaşanmasını durdurmak için Çin ve ABD’nin birlikte çalışması şart; ancak iki ülke birbirine o kadar şüpheyle bakıyor ki bunu mümkün kılıyorlar değil. Reich, bu haftaki Şi’nin ABD ziyaretine yönelik beklentileri düşük tutmayı, ama aynı zamanda insanlık için risklerin ne kadar yüksek olduğunu da göz önünde bulundurmayı çağırıyor.
Reich’in bu değerlendirmesi, devletlerarası rekabetin insanlığın ortak kaderine yönelik potansiyel tehlikesiyle çelişen iki zıt vizyonu aynı anda ortaya koyuyor: biri insanlığın yapay zeka karşısındaki egemenliğini korumayı, diğeri ise bu egemenliği iki süper gücün arasında bir hakimiyet mücadelesi olarak görüyor. Hangi vizyon baskın olursa olsun, Reich’in uyardığı asıl mesele, insanlığın bu teknoloji karşısında ne kadar kontrolünü koruyabileceği.
