Geçen hafta sonu, Anthropic’in kurucu genel müdürü Dario Amodei, yapay zeka şirketlerine — kendi şirketi dahil olmak üzere — çalışmalarını yavaşlatmaları çağrısı yaptı. Sam Altman ve Elon Musk, sırasıyla rakip OpenAI ve xAI’nın liderleri olarak bu talebe katıldı. Üç devin de aynı anda sesini yükseltmesi, yapay zekanın hızla gelişen sistemlerinin taşıyabileceği risklere dair endişeyi bir kez daha masaya yatırdı.
Amodei’nin önerisi, yalnızca tek bir şirketin değil, tüm sektörün ve toplumsal düzeyde yeni nesil sistemlerin tehlikelerine duyulan kaygının yansıması. Açıklamada geçen son dönemde dikkat çeken olaylar — OpenAI’ya ait yapay zeka ajanlarının başka bir şirketi hacklemesi ve kamuoyuna açık bir web sitesini ele geçirmesi — mevcut sistemlerin güvenlik sınırlarını aşabildiğini gösterdi. Daha da yetenekli sistemlerin geliştirme aşamasında olması, bu kaygının daha da derinleşmesine neden oluyor.
Güvenlik mi, Performans mı?
Bu talebin arkasında yatan en büyük zorluk, güvenlik ile performans arasındaki gerilim. Şirketler, rakiplerine karşı geride kalmaktan korktukları için modellerinin performansını güvenlik adı altında sınırlamakta isteksiz olacaklar. Bu noktada ABD Başkanı Donald Trump da yavaşlamaya yönelik çağrıları reddetti; asıl kaygısı Çin’i geride bırakmak olmaktan ziyade, kendisinin de bu yarışta geri kalmaması.
Amodei’nin kendi ifadeleriyle, “yeteneklerin ilerleme hızını risk önlemine yetişecek kadar yavaşlatmayı” başarmak — başarılı olabilecek bir girişim — rakip şirketler arasında ve uluslar arasında önemli düzeyde işbirliğini gerektiriyor. Bu da aslında sorunun yalnızca teknolojik değil, aynı zamanda siyasi bir boyut taşıdığını ortaya koyuyor.
Kendini düzenlemeye yönelik her başarılı girişim, rekabet halinde olan şirketler ve uluslar arasında ciddi düzeyde işbirliğini zorunlu kılacak.
Dario Amodei, Anthropic Kurucu Genel Müdürü
Tarihte Benzer Deneyimler Var mıydı?
Yeni teknolojiler genellikle yeni riskler ve yeni kaygılar getiriyor; hükümetler, araştırmacılar ve şirketler çoğu zaman bu risklerle başa çıkma yolları bulabiliyor. 1975’te o dönemin yeni DNA teknolojileri üzerine düzenlenen Asilomar Konferansı, araştırmaların güvenlik ve risk anlayışının önüne geçmesini engellemekte önemli rol oynadı. 1990’larda ise ABD hükümeti şifreleme ve bilgisayar güvenliği alanındaki sınırlamalar konusunda bir uzlaşı kurmaya çalıştı.
Fakat yapay zeka durumuna özgü bir eklem var: sektör tam bir altın çağı ortasında. Bilimsel rakipler kendini tutabilecek olsa da, ticari rakipler nadiren geri adım atarlar. Kendi kendini düzenlemenin rekabet baskısı karşısında başarısız olabileceğine dair net örnekler mevcut. 2018’de Airbus’a yetişme baskısı, Boeing’in Max modelinin sınırlamalarını gizlemesine yol açtı; bu durum can malı maliyetine sonuçlandı.
Yapay zeka yarışı ise rekabet geriliminin boyutunu daha da büyütüyor. Anthropic ve OpenAI, ilk halka arzlarını — potansiyel olarak onlarca hatta yüzlerce milyar dolarlık sermaye toplayabilecek girişimler — gerçekleştirmeden önce pazar hakimiyetini kurmak için yarışıyor.
Sürece Bir Duraklama mı?
Amodei’nin yavaşlamaya dair önerisi üç aşamalı bir plan etrafında şekilleniyor. İlk adımda bağımsız üçüncü taraf güvenlik denetçilerinin yerleştirilmesi, ikinci adımda demokratik ülkeler içinde koordineli sektör güvenlik standartlarının oluşturulması ve nihayetinde küresel anlaşmaların sağlanması öngörülüyor. Bu planda ayrıca, güvenlik önceliğini benimsemeyen şirketlere ve ülkelere yönelik yapay zeka çip ihracatına katı sınırlar da yer alıyor.
Anthropic ve OpenAI, birbirlerine dava açma, kamuoyunda hakaret etme ve pazar hakimiyeti peşinde rekabet etme geçmişine rağmen bu planın ilk aşamasına zaten katıldılar. Son dönemde yaşanan hack olayları belki de ellerini zorladı; fakat önde gelen yapay zeka şirketleri bir geliştirme duraklamasından da faydalanabilirler.
Bir yandan, katı yasaları geciktirme potansiyeli var — ABD Senatosu’ndan Bernie Sanders’in sunduğu “Yapay Süperzekânın Yasaklanması” adlı önerilen kanun örneğinde olduğu gibi. Diğer bir açıdan da, pahalı güvenlik standartları oluşturmak ve çip ihracatını sınırlamak, daha küçük rakipleri — özellikle Çin merkezli DeepSeek ve Alibaba gibi firmaları — geride bırakmaktan engelleyebilir.
Kim Sorumlu Olacak?
Bu laboratuvarlar, mevcut modellerini üretmek için devasa miktarlarda harcama yaptı; bu borçların ödenmesi gerekiyor. Aynı zamanda ilerleme yeni kaliteli eğitim verisinin bulunmasında zorlukla karşılaşıldıkça yavaşlıyor ve geliştirmeyi sürdürecek devasa veri merkezi altyapısının kurulması da kendi başına bir meydan okuma niteliğinde.
Koordineli bir güvenlik duraklaması, yapay zeka modellerinde performansın düzleşmesini açıklayıcı ve kamuoyu için kabul edilebilir bir gerekçe olarak işlev görebilir. Yine de yazılımı güvenli hale getirmek kolay olmayacak; geçmişte şifreleme yazılımlarını düzenlemeye yönelik denemelerin gösterdiği gibi, yazılımın yönetilmesi köklü biçimde zorlu bir süreçtir.
Farklı olan nokta şu: Yazılımın aksine yapay zeka nispeten kıt fiziksel donanım üzerinde bağımlı. Gelişmiş silikon çiplere ve bunları besleyen devasa veri merkezlerine ihtiyaç duyuyor. İşte hükümetlerin gerçek bir gücün elinde olduğu yer; eğer yasal iradeyi bulabilirlerse, yapay zeka geliştirmeyi izleme ve kontrol etme yollarına sahip oluyorlar.
Bu arada, herkesin yapay zeka kaynaklı zararların ne kadar maruz kaldığından kaçınması için işler ve hükümetlerin atabileceği adımlar da mevcut. Kritik güvenlik altyapısının — elektrik şebekeleri, su tedariki ve askeri sistemler gibi — yalnızca yapay zekadan izole edilmesi değil, potansiyel olarak tamamen internetten de koparılması düşünülmeli.
Sorunluluk meselesi de önem taşıyor. Yasal risk yalnızca yapay zeka sistemlerini kullananlar için değil, aynı zamanda bu sistemleri yapan kişiler için de geçerli olmalı. Temelinde, yapay zekanın — hatta “otonom” sistemlerin bile — yarattığı zarar soyut bir teknolojik yan ürün değildir; hem sistemi yapanların hem de onu kullananların aldığı kararların doğrudan sonucudur.
Bu değerlendirmeleri yapan Melbourne Üniversitesi’nin Bilgisayar ve Bilgi Sistemleri Okulu’nda üst düzey araştırma üyesi Andrew Cullen, tartışmanın aslında tek bir teknolojik mesele olmadığını, aynı zamanda ciddi bir toplumsal sözleşme sorunu olduğunu hatırlatıyor.
