Sınır yapay zeka (frontier AI) geliştirmeyi yavaşlatma çağrıları son haftada yükselirken, uzmanlar acil durumda bir “durdurma” mekanizmasının ne ifade ettiğini ve bunu kullanma kararının kime ait olması gerektiğini tartışıyor. Fiziksel makinelerde kolayca hayata geçirilebilen bu fikir, yapay zeka için ise henüz daha çok bir umut ya da hedef olarak görülüyor.
Sınır yapay zeka denince akla gelen, sektörün en güçlü modelleridir. Geçen hafta içinde bu modellere yönelik düzenleyici ve güvenlik kaygıları giderek seslendirildi ve “acil durumda camı kırmaya” yarayan bir çözüm olarak sıklıkla dile getirilen fikir: AI kill switch ya da Türkçe adıyla yapay zeka durdurma anahtarı oldu.
Fiziksel makinelerden yapay zekaya: Umut mu, gerçek mi?
Durdurma anahtarının fiziksel bir makine söz konusu olduğunda oldukça net olduğu vurgulanıyor. Kaliforniya Üniversitesi Berkeley Kampüsündeki İnsan-Uyumlu Yapay Zeka Merkezi’nin (CHAI) yönetici direktörü Mark Nitzberg, konuyu şöyle özetliyor:
“Bir fabrikada tek bir büyük anahtar vardır ve fabrikadaki tüm makineleri kapatır. Yapay zeka söz konusu olduğunda ise bu, biraz daha çok bir umut niteliğinde, gerçeklikten ziyade.”
Mark Nitzberg, Berkeley İnsan-Uyumlu Yapay Zeka Merkezi Yönetici Direktörü
Bu tartışmaların arka planında son günlerde yaşanan gelişmeler yatıyor. Geçen hafta Anthropic’in ön eğitimi (pretraining) araştırmacısı Jacob Coxon varoluşsal riski gerekçe göstererek görevinden ayrıldı. Şirketinin eski CEO’su Dario Amodei, hafta sonu yapay zeka ilerlemesini yavaşlatmanın gerekliliği hakkında bir paylaşım yaptı ve buna rakip teknoloji liderleri Elon Musk ile Sam Altman hızla destek verdi.
Pazartesi günü ise Anthropic’in kurucu ortağı Jack Clark, yapay zeka sistemleri için zorunlu durdurma anahtarları önerdi. ABD Kongresi de fikre bir şekilde yön verdi: Bu yaz sunulan, ileri düzey yapay zeka geliştiricilerinin ürünlerini yavaşlatma, askıya alma veya kapatma yeteneğini sürdürmelerini gerektiren iki partili taslak, uygun biçimde “AI Kill Switch Act” (Yapay Zeka Durdurma Anahtarı Yasası) olarak adlandırıldı. Taslak hâlâ komisyon aşamasında.
Durdurmak neden bu kadar zor?
Tüm bunlar temel bir soruyu gündeme getiriyor: Neden basitçe böyle bir şey yapılmıyor? Bir şirket, bir modeli çalıştıran sunucuları kontrol ediyorsa, onun yayılmasını durdurmak şaşırtıcı derecede kolay olabilir. RAND Corporation’dan kıdemli fizik bilimci Michael Vermeer konuyu doğrudan ifade ediyor:
“En açıkçası olanı fiziksel ortamdır. Fiziksel dünyada yapılması gereken birçok şey vardır.” Sunucilerin elektriğini kesmek veya ağ bağlantılarını koparmak yeterli olabilir.
Michael Vermeer, RAND Corporation Kıdemli Fizik Bilimcisi
Vermeer, savunucuların sistemin nerede çalıştığını bilmesi şartıyla, şifreleme ve siber güvenlik gibi mevcut araçların bir sistemi izole etme veya içinde tutma amacıyla kullanılabileceğine dikkat çekiyor. En kötü senaryolar üzerine yaptığı çalışmalar ise çok daha spekülatif bir yanıta da işaret ediyor: Yalancıya dönmüş (rogue) bir sistemi takip edip felç edecek “avcı/öldürücü” (hunter/killer) yapay zeka ajanları.
Bu önlemlerin küresel ölçekte uygulanmasının zor olacağını, Vermeer bunu “neredeyse imkânsız bir şey” olarak tanımlıyor. Ancak şimdiye kadar karşılaşılan olaylar için yerel müdahalelerin yeterli olabileceğini düşünüyor:
“Yerel düzeyde bir durdurma anahtarı veya kesme anahtarı oluşturmak muhtemelen teknik açıdan önemsizdir. Gerçekten de bir kabloyu çıkarırsınız.”
Michael Vermeer, RAND Corporation Kıdemli Fizik Bilimcisi
Sistemin içine gömülebilir mi?
Kontroller, donanımın kendisine bile yerleştirilebilir. Nitzberg, bir durdurma sinyalinin—ya da daha doğrusu kesilebilen bir “hayatta kalma” (keep-alive) sinyalinin—her veri merkezindeki çipe gömülebileceğini öne sürüyor:
“Her dakika içinde bir mesaj gelmelidir. Oluşmamışsa, yani yetkililerden gelmemişse, sistem çalışmaz.”
Mark Nitzberg, Berkeley İnsan-Uyumlu Yapay Zeka Merkezi Yönetici Direktörü
Bu kadar basit “her şeyi kurtaran” fikre şüpheyle yaklaşanlar da var. Stanford Hukuk Fakültesi’nden araştırmacı Eran Kahana bir durdurma anahtarını şöyle tanımlıyor:
“Buna, davranışı operasyonel açıdan kararsız kabul edilen bir yapay zeka sistemini durdurabilecek, izole edebilecek ve güvenli biçimde işlevselliğini kaybetirmeye (degrade) yarayan eylemlerden oluşan bir ekosistem derim.”
Eran Kahana, Stanford Hukuk Fakültesi Araştırmıcısı
Kahana için bu kontroller, şirketlerin bir şeyler ters gittiğinde nasıl tepki vereceğini önceden kararlaştırmasına bağlıyor: “Doğru politikalara sahip değillerse, durdurma anahtarı sisteminde hiçbir umutları yoktur.”
Anahtar metaforu kendisi mi sorundir?
Distributed AI Research Institute’dan araştırmacı mühendis Dylan Baker konuyu bir adım daha ileri götürüyor: Sorun, aslında anahtar metaforunun ta kendisi. “Söz konusu olan, birbirine bağlı teknolojilerin bu kadar karmaşık ekosistemi ve ağıdır; bunu tek bir durdurma anahtarı ya da ‘kısılma’ kavramına indirgemek indirgeyici (reduktif) olur,” diyor.
Nitzberg ise sorunun insan unsurunda olduğunu vurguluyor: “Sorun şudur, içerde insanlar vardır.” Ve bu insanların, tüm bilgiye sahip olmadan önce bile, manevrayı çekmenin ne zaman uygun olduğuna karar vermesi gerekecek.
Teknik ve operasyonel sorunların aşılabilir olması mümkün. Kahana ile Baker örneğin olayları kontrol dışına çıkmadan yakalamak için anahtar unsur olarak daha iyi izleme uygulamalarını açıkça dile getiriyorlar. Ancak başka, teknik olmayan sorunlar böyle bir sistemin işe yararlığını engelleyebilir.
“Durdurma anahtarını kullanma teşvikleri uyumlu değil; hatta oluşturmak önemsiz olan basit bir durumda bile. Bir sistemi kapatmanın rekabet ve operasyonel maliyetleri vardır; bu da yer müdahalesinin daha az etkili olduğu ya da çok geç olduğu ana kadar çekinme nedeni yaratır.” Onları kullanma maliyetini ödemeye hazır olduğumuzdan emin değiliz.”
Michael Vermeer, RAND Corporation Kıdemli Fizik Bilimcisi
Ne ad verilirse verilsin, yapay zeka geliştiricilerinin yine de sistemin hangi kısımlarının acil durumda kapatılabileceğini—ve bu kontrollerin en çok ihtiyaç duyulduğu anda çalışıp çalışmayacağını—bilmesi gerekiyor.
Düzenleyici Notu: Peter Hall’ın Scientific American’daki araştırma üyeliği, Tarbell Center for AI Journalism tarafından finanse edilmektedir.
1 yorum
Fikrinizi bir kaynak, soru veya yapıcı karşı görüşle geliştirin.