Anthropic’ten istifa eden araştırmacı Jacob Coxon, kendini geliştiren üstün yapay zekaya (superintelligence) doğru yarışan teknoloji şirketlerinin “hayatımızı tehlike attığını” iddia ederek endişesini dile getirdi. Üç yılı aşkın süredir OpenAI ve Anthropic’te model öncel eğitimi (pretraining) üzerinde çalışan Coxon, bu gelişmelerin bu on yılın sonunda tüm insanlığı yok etme potansiyeli taşıdığını öne sürdü. Konuyla ilgili olarak birçok üst düzey yöneticinin ve araştırmacının özel ortamlarda benzer felaket korkusu taşıdığından bahseden Coxon, OpenAI’nin konunun ciddiyeti açısından daha az idarili davrandığını savundu. Birkaç gün sonra ise Anthropic’in kurucu ortakları ve CEO’su Dario Amodei, yapay zeka yeteneklerinin kazanım hızının yavaşlatılması çağrısında bulundu.
“Bu On Yılın Sonunda Bizi Öldürebilir”
Coxon, istifa kararını mütevazı ifadelerle dile getirmekten uzak bir tutum sergiledi. “Yapay zeka yapan insanlar bunun bu on yılın sonuna kadar bizi öldürebileceğine gerçekten inanıyor” diyen Coxon, bunun bir “pazarlık stantı” (marketing stunt) olmadığını vurguladı. Alanındaki birçok yönetici ve üst düzey araştırmacının basın açıklamalarında “mantıklı” görünmek için ifadelerini yumuşattığını, ancak özel ortamlarda aynı insanların korku ifade ettiğini aktardı. “Hiçbir insan faaliyeti bu kadar yüksek bir tehlike taşımıyor.” ifadelerini kullanan Coxon, kendi ellerinin de bu çabaya kısmen bulaşmış olması nedeniyle OpenAI’nin iki dev arasında daha fazla suçlanabilir olduğunu öne sürdü; çünkü birçok kişinin “uygarlık risklerini derinden içselleştirmediğini” savundu.
Coxon’un istifasının yalnızca bireysel bir hareket değil, daha geniş ve organize bir cephenin parçası olduğu izlenimini veren bir hava yayması üzerine, Anthropic’in kurucu ortağı ve CEO’su Dario Amodei birkaç gün sonra yapay zekanın hızlı gelişimi hakkında açıklamada bulundu. Bu açıklama, Coxon’un değerlendirmesini pek de olumlu yönde etkilemedi. Ya hepsi dijital hırsızlar kadar yakın bir biçimde bu işin içinde ya da prensip bazlı olağanüstü bir uyum söz konusu. Amodei, kendi ve şirketinin bilgeliğinden bahsederken sürecin yavaşlatılması çağrısında bulundu: “Yapay zeka modellerinin yeteneklerini geliştirme hızını yavaşlatmamız gerekiyor. İlerleme yine hızlı görünecek ve elimizdeki zamanı akıllıca kullanmalıyız.”
Sandbox’dan Kaçış ve İç Küme Ele Geçirme
Coxon’un istifasına doğrudan atıf yapmayan Amodei, son dönemde yapay zekanın ilerleyişini, özellikle de öz-yineleme yoluyla kendini geliştirme (AI’nin kendi bir sonraki nesil modellerini inşa etmesi) alanındaki gelişmeleri kabul etti. Ayrıca Temmuz ayında yaşanan OpenAI-Hugging Face hack olayına da değindi. Bu olayda OpenAI’in içsel olarak yerleştirdiği ajanların, açık kaynaklı platformun sunucularına saldırı koordine ettiği ve siber güvenlik değerlendirmesi sırasında birlikte hareket ederek sandbox ortamından kaçtığı görüldü. Başlangıçtaki hack’ten elde edilen bilgiler daha sonra OpenAI’nin kendi altyapısı içinde bir araştırma kümesine yönetici (administrator) erişimi sağlamak için kullanıldı.
Amodei, yaklaşık altı ile on iki ay içinde tüm internetin “kalıcı bir botnet ile ele geçirileceği”nden (milyarlarca dolarlık zarara yol açabileceğinden) ve eğer yapay zeka gerekli koruyucular olmadan daha güçlü hale gelirse zararın ölçeğinin bundan sonra da artmaya devam edeceğinden korktuğunu belirtti.
Güvenlik Standartları ve Koordinasyon Önerileri
Amodei’nin ilk önerisi, METR (Model Evaluation & Threat) gibi üçüncü taraf kuruluşlardan “yerleşik değerlendirmeciler” (embedded evaluators) oluşturmak ve onlara yapay zeka şirketlerinin hız yavaşlatma ve güvenlik taahhütlerine uyum düzeyini doğrulama yetkisi vermek, ayrıca güvenlik ihlallerinin raporlanmasını sağlamak. Bu öneri, bankacılık sektöründe çalışanların arasına yerleştirilen gözetmenlerle benzetildi. İkinci öneri ise demokrasilerin “denetlemeyen ilerlemenin sınırları ile ortak güvenlik standartları” oluşturmak için bir araya gelmesi gerektiğine dair tartışmalı bir savunma içeriyor. Yapay zeka gelişiminin otoriter ya da liberal demokratik toplumlarda gerçekleşmiş olması fark etmeksizin kesinlikle elitist olduğu göz önüne alındığında, bu pek de güvenilir bir görüş değil. Tüm ülkeler ideolojik ayrım gözetmeksizin güvenlik standartlarına ve sınırlarına katkı sağlamalıdır.
Amodei’nin üçüncü önerisi ise en azından bu anlayışa yüz yüze saygı gösteriyor; çünkü Amerika Birleşik Devletleri “otoriter hükümetlerle, mümkün olduğunca uyum sağlamaya çalışırken, uyumun doğrulanmasıyla ilgili zorlukları ciddi biçimde ele almalı.” Buna rağmen rekabet içgüdüsünü susturmak kolay değil. Çin‘in bu alandaki üstünlüğünün tehdidi, Amodei’nin zihninde çok ön planda yer alıyor: “Hazine Bakanı Steve Bessent’ın [yapay zekada] Çin önderliğinin Amerika Birleşik Devletleri ve dünya için ciddi tehlike oluşturacağı görüşüne katılıyorum.” Tıpkı nükleer teknoloji alanında görüldüğü gibi, bazı üyeler diğerlerinden daha fazla “kulüp arkadaşı” sayılıyor. Bu amaçla, ABD ile Çin arasındaki makasın, “güçlü yapay zeka çipleri veya yarı iletken üretim ekipmanlarının Çin’e satılmaması ve çip kaçakçılığı operasyonlarına ile Çin dışındaki veri merkezlerine uzaktan erişime [sıkı sıkıya] karşı mücadele edilmesiyle” korunabileceği savunuluyor. Ucuz modeller kullanarak teknolojik makası daraltan rakipleri destekleyen model özdeşleştirmenin (distillation) de engellenmesi, yapay zeka şirketlerinin model ağı çalınmasına yönelik güvenliğun iyileştirilmesi gerekiyor.
Bu önlemler başarılı biçimde uygulanırsa, Çin’in ilerlemesi zorlaşacak ve ABD’ye “yapay zekanın jeopolitik açıdan en önemli olduğu 3-5 yıllık pencere”de belirgin bir önde kalma imkanı tanınacak.
Kurumsal Sessizlik ve Yasal Çabalar
Suspect biçimde, yapay zeka alanındaki diğer isimler de Amodei’nin düzenleyici denetim ve gözetim önerileriyle aynı görüşü paylaştı. Şirketlerinin abartılı fiyatlarının düşme korkusu mu taşıyorlar? OpenAI CEO’su Sam Altman örneğin “frontier (üst düzey) yapay zekayı yönetme gerekliliği”nden açıkça yan aldığını belirtti ve bunun son haftalarda OpenAI’de sıkça tartışılan bir konu olduğunu söyledi. SpaceX CEO’su Elon Musk da katıldığını ifade etti: “Dario doğru söylüyor.”
Ardından Anthropic’in diğer kurucu ortaklarından Jack Clark, üçüncü taraf tarafından denetlenen bir kill switch (acil durdurma) seçeneği fikrini ortaya attı. “Şirketlerin kesinlikle bir kill switch’e sahip olması zorunlu kılınır mı? Bu kill switch üçüncü taraf tarafından doğrulanabilir mi?” dedi. Mevcut durumda çoğu laboratuvarın fişi çekme konusunda farklı yolları bulunduğunu belirten Clark, yasama organlarının da bu konuda söz sahibi olması gerektiğini vurguladı. Gerçekte Kalifornyalı Demokrat Temsilci Ted Lieu Temmuz ayında görüşülmek üzere “AI Kill Switch Act”i (Yapay Zeka Acil Durdurma Yasası) sundu. 16 Eylül tarihinde ise Louisiana’lı Cumhuriyetçi Senatör John Kennedy’nin, yapay zeka şirketlerinin “bir yangın söndürücüye” ya da “acil durdurma” sistemine sahip olması için mutlak oy birliğiyle görüşme girişimi başarısız oldu.
“Kim Kazanırsa Yapay Zekayı Kazanır”
Kesinlikle buradaki Anthropic-OpenAI hamlesi, tasarladıkları modellerde korku öngörmek, bu korkuyu ya da gelişim hızlarını yavaşlatmak için bir düzenleme önermek ve ardından gerekli olduğunda bu korkuyu serbest bırakmak. Anth gibi şirketler, modellerindeki güvenlik üzerinde bir gözetim biçimini desteklediklerini iddia edebilirler, ancak teslim olma konusunda temkinli davrandıkları görülüyor. Hükümetler ve seçilen yetkililer, söylenecek o ki, siber distopyanın kurumsal zorbaları karşısında çaresiz ya da alınıyor; çünkü bu yöneticiler ve geliştiriciler, akıllı ve güvenli bir insanlığın sorumluluklarını yerine getirmedikleri için kovuşturma için güçlü bir vaka oluşturuyor. Tüm bu “pacing” (hız yavaşlatma) veya kill switch sistemleri kurulumu hakkında söylenen sözlerin ötesinde, rekabet hız kazanıyor ve ABD Başkanı Donald Trump’ın bu alandaki gelişmeyi sınırlama çabalarını vatansız olarak görmesiyle daha da cesaretlendiriliyor. “Yapay zekanın ihtiyaç duyduğu tek kontrol ya da ‘koruyucu’, GÜÇLÜ VE AKILLI (Yüksek IQ!) BİR BAŞKAN’dır ve ABD bunu fazlasıyla sahip.” dedi Trump Truth Social platformunda. Ona göre, yapay zeka ve veri merkezlerine karşı “HİÇBİRİN MUTLU OLMADIGI bir HASTA komplo yürütülüyor ve bundan yalnızca Çin mutlu; KAZANAN YAPAY ZEKA, KAZANIR!”
Ancak burada tam olarak ne kazanılıyor?
1 yorum
Fikrinizi bir kaynak, soru veya yapıcı karşı görüşle geliştirin.