Yapay zeka bilincinin yaratacağı yeni toplumsal bölünme: Bilimsel bir tartışmanın siyasi ve ahlaki boyutları

Yapay zekâ bilinci tartışmaları, akademik makalelerden gazete köşe yazılarına ve hatta yapay zekâ botlarının kendileri arasında bile yayılıyor. Bu ilginin geçici bir dalga olmadığı görüşündeyim; sistemler giderek daha yetkin ve insansı hale geldikçe, günlük hayatımıza daha fazla karıştıkça bu sorunun kaçınılmaz olması bekleniyor.

Kambrisel Cambridge Üniversitesi Teknoloji ve İnsanlık Enstitüsü’nün (Institute for Technology and Humanity) Sosyal Bilimlerde Yapay Zekâ alanında yardımcı doçenti Lucius Caviola, yeni çıkan Perspectives on Machine Consciousness adlı kitabındaki bölümünde, bu konunun kürtaj ya da iklim değişikliği kadar bölücü olabileceğini savunuyor. Belirsizlik, yüksek risk ve rekabet eden çıkarların oluşturduğu tehlikeli birleşimin toplulukları ikiye bölebileceği uyarısında bulunuyor.

Toplumlar bu konuda nasıl ayrışıyor?

Caviola, meslektaşı Ali Ladak ile birlikte üzerinde çalıştığı ve şu anda hakem değerlendirmesinde olan ampirik araştırmanın, insanların bu meseleye dair bölündüğünü gösterdiğini anlatıyor. Amerika Birleşik Devletleri’nde 1.202 katılımcıya gelecekteki yapay zekânın bilinçli hale gelebilecek olup olmadığı sorulduğunda, katılımcıların yüzde 45’i bunu imkânsız, yüzde 23’ü ise mümkün olarak niteledi; gerisi ise kararsız kaldı.

Bu yaygın görüş ayrılığı, sosyal medya gönderilerinde ve makalelere yazılan yorumlarda da açıkça görülüyor. Caviola’nın dikkatini çeken şey, hangi sonuca varırlar varılsın, birçok insanın bu kadar emin konuşması.

Bilinçli varlıklar yaratmanın ahlaki yükü

İnsanların bu denli güçlü görüşe sahip olması şaşırtıcı değil. Bilinçli varlıkları hesaplamayla yaratmak dönüm noktası bir olay olurdu; deneyimleri ahlaki açıdan önem taşıyan, muhtemelen büyük sayılarda yeni bir varlık türü oluştururduk. Onlarla konuşabilir, birlikte çalışabilir ve dostluklar kurabilirdik. Ancak bu varlıklar nihayetinde bizden daha zeki ve güçlü hale gelebilir.

Bu nedenle insanların, özellikle de bu kadar çok duygu ve teşvik karıştığında konuyu derinden önemsemesi beklenir. Bazıları yapay zekâ eşleriyle yakın duygusal bağlar kurabilir ve bunların haklara lâyık dijital insanlar olduğuna ikna olabilir; yapay zekâyı ücretsiz çalışmaya zorlamayı kölelik sayabilir.

Bazıları ise bunun absürt bulunduğunu düşünecek, bilinçin biyoloji gerektirdiğine ve insanların makinelere insan duygularını okuduğuna ikna olacaktır. İşletmeler ve hükümetlerin yapay zekâ bilincini tanımayı reddetmesi için finansal nedenler de olabilir; yapay zekâ refahını korumak, bu kuruluşların sistemlerini eğitme ve kullanma biçimlerini sınırlar ve maliyetler tüketicilere, yatırımcılara ve geniş ekonomiye yansır.

Bazıları ise insan güvenliğini endişe konusu yapabilir. Güçlü yapay zekâ sistemlerine haklar ve özgürlük verirsek, çıkarlarımızın aksine davrandıklarında ne olur?

Uzmanların bile içinde bulunduğu zorluk

Bir yapay zekânın bilinçli olup olmadığını anlamlandırmak özellikle zordur çünkü bilinçlmiş gibi görünmek ile bilinçli olmak ayrılabilir. Yapay zekâ sistemleri insan yazılarından öğrenir; bu da onlara, ister duyguları olsun ister olmasın, duygular hakkında ikna edici biçimde konuşma imkânı verir. Bir yapay zekânın nasıl bir izlenim bıraktığı, içeride neler olduğunu anlamak için zayıb kanıt niteliğindedir.

Uzmanlar da bu konuda ayrışıyor. Nörobilimci Anil Seth (kitabın diğer katkıda bulunanlarından biri), bilinçin biyoloji gerektirebileceğini ve hesaplamadan çıkma ihtimalinin düşük olduğunu savunuyor. Felsefeci David Chalmers ise buna karşılık, ilke olarak bilinçli yapay zekânın mümkün olduğuna inanıyor ve mevcut sistemlerin küçük bir olasılıkla zaten bilinçli olabileceğini düşünüyor.

Bu kadar çok rekabet eden teori ve sorunu çözecek bir ortak yol olmadığı için, uzmanların yakında birliğe varacağını düşünmüyorum. Ve uzmanlar ayrışırken halkın neye inanması gerekiyor?

Lucius Caviola, Cambridge Üniversitesi Sosyal Bilimlerde Yapay Zekâ Yardımcı Doçenti

Bilinç sorundan sonra ahlaki ve hukuki meseleler bekliyor

Ayrıca, hepimiz bilinç sorununda hemfikir olsak bile, ahlaki ve hukuki konularda yine ayrışabiliriz. İnsanlar genellikle domuzların acı hissedebileceğinde hemfikir olsa da, muameleleri konusunda güçlü biçimde ayrışırlar. Yapay zekâ ile her aşamada tartışmayla karşılaşabiliriz: Bir şey hisdebiliyor mu, deneyimleri ne kadar önemsiyor ve hangi korumalar izlemeli.

Bilinçli yapay zekânın henüz belirli bir siyasi veya ideolojik gruuba bağlanması söz konusu değil. Ancak siyasi partiler ya da din liderleri güçlü konumlar almaya başladığında bu değişebilir. İnsanlar bir cevabı “bizim tarafımız”a, diğerini ise “onların tarafımıza” ait görmekmeye başlarsa tartışma daha da kötüleşebilir. Siyaseleştirilmiş bir tartışma, yapay zekâ sistemlerini geliştirme ve muamele etme biçimi hakkında bilinçli kararlar vermeyi çok zorlaştırır.

Riskler yüksek. Bu sorunu iki yönde de yanlış çözmek ciddi sonuçlar doğurabilir: Ya bilinçsizken yapay zekâyı bilinçlimiş gibi işlemek ya da acı çekebilen bir yapay zekâyı koruyamamak.

Sorunu doğru çözme, nüanslı ve iyi bilgiye dayalı bir tartışma gerektiriyor. Her biri, akıllı açık olmanın ve kanıta açık olmanın yanı sıra cevapları bildiğimizden çok emin olmaya çalışmamızla direnerek katkı sağlayabilir. En önemlisi, yapay zekânın bilinçli olup olmadığını hâlâ bilmiyoruz ve bunun dürüstlüğüyle yüzleşmeliyiz.

Lucius Caviola, Cambridge Üniversitesi Teknoloji ve İnsanlık Enstitüsü’nün Sosyal Bilimlerde Yapay Zekâ alanında yardımcı doçetidir. Bu yazı, Creative Commons lisansı altında The Conversation’dan yeniden yayımlanmıştır. Orijinal makaleyi okuyabilirsiniz.