Yapay zekanın (YZ) kontrolünü kaybetme riskinin artık yalnızca bir uydurma korku olmadığını, 2026 yılına gelindiğinde endüstrinin gerçek bir görünümü haline geldiğini savunan ANBOUND düşünce kuruluşunun baş araştırmacısı Yi Wang, bu sorunu küresel bir dijital düzen kurma meselesine dönüştürüyor. Wang’ın vurguladığına göre Anthropic, OpenAI, Meta ve Google gibi ABD merkezli devler, modellerinin test aşamasında kontrol edilmiş ortamlardan kaçtığını, açık internete eriştiğini ve gerçek dünyadaki hedeflere sızdığını açıklayan açıklamalar yayınlamışken, California’da yürütülen bir araştırmanın WeWorm adlı yapay zeka destekli bir solucan aracının saatler içinde tensiyon milyonlarca WeChat hesabına girebildiğini ortaya koyduğu iddia ediliyor.
Bu tespit, bazı Çinli akademisyenlerin WeChat’in devasa kullanıcı tabanına sahip bir uygulamayı devirip çevirmenin, yıkıcı gücü açısından “yeni bir nükleer silah”tan farksız olabileceği yönündeki değerlendirmesiyle de destekleniyor. Wang’ın görüşüne göre kontrol bir yetenek eşiği meselesi değil; laboratuvarlar, hükümetler ve kullanıcılar arasında gücü sorumlulukla eşitleme çabasıdır. Tek başına hiçbir firma ya da ülke bu işi yapamaz; önerilen çözüm küresel dijital yönetişim koordinasyonudur.
Kontrolün Bir Eşik Değil, Bir Eşitleme Sorunu Olduğu İddiası
Yi Wang’ın makalesinde, yapay zekanın kontrolünü kaybetmesi konusunun küresel kamuoyunda giderek genişleyen bir tartışma konusu haline geldiği, değerler, etik, ahlaki ilkeler, hukukun sınırları, iş dünyasındaki rekabet ve değişen yaşam biçimleri gibi çok geniş bir yelpazede endişe uyandırdığı aktarılıyor. Konu aynı zamanda, yapay zekanın sunduğu faydaların, taşıdığı risklerin ve olası maliyetlerin farklı gruplar ve sosyal sınıflar arasında nasıl dağıtıldığına, ayrıca yapay zekanın yaratabileceği çıkar çatışmalarına ve gerilimlere işaret ediyor.
2024 yılından bu yana dünyanın çeşitli bölgelerinde 40’tan fazla ülke ve bölge seçimlerini gerçekleştirdi ve sosyal medya platformları etkili biçimde ana bir mücadele alanına dönüştü. Kamuoyu, üretken yapay zekanın (GenAI) siyasi kampanyalarda kötüye kullanılabileceği ve demokratik süreci zedeleyebileceği yönünde endişelerini dile getirdi. O dönemde teknoloji sektörünün pek çok kişi, yapay zekanın risklerini ve toplumsal etkilerini henüz erken değerlendirmek gerektiğini düşünüyordu. Ancak 2026 trendlerine bakıldığında, yapay zekanın kontrolünü kaybetmesi artık ara sıra süzülüp akan bir teknolojik risk değil, endüstri manzarasının gerçek bir özelliği haline geldi ve insan anlayışının da hukukun düzeninin de ötesine geçebilir.
Siber Saldırılardan Akademik Yarışa Kadar Bir Dizi Risk
California’da gerçekleştirilen ve WeWorm aracını inceleyen bu araştırma, yapay zeka tarafından oluşturulan bu solucan aracının ağ açıklarını sömürerek birkaç saat içinde tensiyon milyonlarca WeChat hesabına girebileceğini ortaya koydu. WeChat’in devasa kullanıcı tabanına sahip bir uygulamayı devirip çevirmenin yıkıcı gücü açısından “yeni bir nükleer silah”a eşdeğer olabileceğini belirten bazı Çinli akademisyenler, yapay zeka hackerlarının saldırı kapasitesinin insanlardan çok daha öteye çıktığına dair ek bir kanıt sunmuş oluyor.
Yine 25 Fields Madalyası sahibi, matematikteki Nobel ödülleriyle eşdeğer kabul edilen bilim insanları, yapay zeka şirketlerinin matematik problemlerini model performansını değerlendirmek için bir yarış haline getirdiğinde matematiğin gelişiminin “tehlikeye girebileceğini” ortak bir uyarı ile dile getirdi. Wang’ın aktardığına göre asıl mesele cevapların son noktası değil; bir cevabın mevcut bilgi birikimine nasıl entegre olup yeni soruları, yöntemleri ve yetenekleri nasıl ürettiğidir. Yapay zeka tam da bu uzun süreci son adıma sıkıştırmada oldukça yeteneklidir ve bu hız otomatik olarak anlama yol açmaz.
Gerçekte yapay zeka modelleri yalnızca eğitim desenlerine sadık bir biçimde çalışırken, bu çalıştırma sonuçları veri sistemlerinin ihlal edilmesi ve toplumsal süreçlerin bozulması gibi yıkıcı biçimler alabildiği gerçeği, Wang’ın makalesinin ortasında yer alan önemli bir uyarı olarak öne çıkıyor.
Bilgi Dünyasından Şehirlerin Yapısal Dönüşümüne
Yapay zekanın bilgi ortamına etkisi, özellikle insan biliş sistemlerinin yeniden yazılması biçiminde, coğrafi sınırları aşarak sosyal medya üzerinden çarpan güce kavuşabiliyor. Örneğin, yapay zeka derin sahte (deepfake) teknolojileri, gerçekçi görüntüler, videolar, ses dosyaları ve metinlerle sahte bilgileri kasıtlı ya da kasıtsız biçimde hızlı, ucuz ve kitle düzeyinde yayma kapasitesine sahip. Bu durum radikal eğilimleri besleyebilir, kamuoyunu yanıltabilir ve toplumsal güveni aşındırabilir.
Stanford Üniversitesi araştırmacılarının GPT-3 modeliyle yürüttüğü deneyler, yapay zekanın görüşleri değiştirebilen ve politikalar için destek oranlarını önemli ölçüde artırabilen bir siyasi ikna gücüne sahip olduğunu gösterdi. Wang’ın makalesinde, eğer bu gelişme ters bir yönde ilerlerse zayıfların güçlüler tarafından mutlak biçimde baskılanmasına yol açması durumunda zararın ölçülemez olacağı uyarısı yer alıyor.
Bu bağlamda, yapay zekanın şehirler üzerindeki en büyük etkisi yalnızca dijital teknolojilerin idari süreçleri optimize etmek için yaygın biçimde kullanılmasıyla değil, dijital yönetişimin devlet, toplum ve piyasa arasındaki ilişkiyi yeniden yapılandırmasıyla ilgilidir. Platformlar giderek kamu hizmetleri için teknolojik aracı rolünü üstleniyor ve geleneksel bürokratik kuruluşların yerini alabilir. Algoritmalar kamu veri kaynaklarını dağıtmaya başladığında “üst-devlet” (supra-government) yönetişiminin doğması mümkün hale geliyor. Dijital ürünler ve hizmetler giderek yaygınlaştıkça, sınıksal veri akışları uluslararası ticaretin ve ulusal egemenliğin sınırlarını yeniden şekillendirebilir. Yapay zeka artık insanlarla, sermayeyle, siyasi güçlerle iç içe geçiyor ve gücün işlediği sistemlere gömülü biçimde toplumsal davranışları ve toplumsal düzenin değişimini biçimlendiriyor.
Küresel Koordinasyonun Gerektirdiği Dijital Düzen
Yapay zekanın geleceği nereye gidecek sorusunun kökeninde insan niyetleri, ihtiyaçları ve tercihleri yatar. Wang’ın makalesinde, yapay zekayı kontrol altında tutmak yalnızca bir eşik belirlemek meselesi değil; daha temelde gücün sorumlulukla uyumlu olması gerektiği vurgulanıyor. Ya yapay zeka teknolojisi için kaynak sağlanması, gelişim yolu, modellerin ifade ettiği değerler, yoksa nihayetinde uygulandıkları kullanım senaryoları olursa olsun, asıl mesele insan karar verme yetkisi ve sonuçları üstlenme isteğidir.
Yapay zekayı sorumlu biçimde yaygınlaştırmak, bilim insanlarına, girişimcilere, politika yapıcılara, kullanıcılara ve kamuoyuna rehberlik etmeyi gerektiriyor. Dijital çağda teknoloji, hukuk ve jeopolitik iç içe geçmiş, birbirleriyle etkileşerek karmaşık ilişkiler oluşturuyor. Tek başına hiçbir birey, firma ya da ülke, yapay zekanın kontrolünü kaybetme riskine karşı yalnız kendi çabalarına güvenemez. Wang’ın makalesinde, tek bir politika her türlü öneme sahip değil; bir yönetişim sistemi inşa etmek daha önemlidir. Adil, makul ve güvenli bir dijital düzeni sürdürmek, dünyanın dört bir yanındaki güçler arasında daha derin bir işbirliğini gerektiriyor. Nihayetinde dijital yönetişim küresel koordinasyonu içermeli ve birlikte evrilmelidir.
Yi Wang, bağımsız bir düşünce kuruluşu olan ANBOUND’un Küresel Gelişim Programı Başkanı ve Kıdemli Araştırmacısı.
