Yapay Zeka Kendini İnşa Edebilir mi? Bilim İnsanları “İnsanların İnşa Ettiği Son Yapay Zeka”ya Giden Yolu Haritaladı

Çin’li bilim insanları, kendi haleflerini oluşturabilen güçlü, kendini geliştirebilen bir yapay zekâ (YZ) sistemi olan “insanlar tarafından inşa edilen son YZ”nin geliştirilmesi için ne gerektiğini inceliyor.

Yeni bir makalede araştırmacılar, özyinelemeli kendini geliştirme (ÖSG) yaklaşımlarının, giderek daha ileri düzeyde YZ modelleri geliştirmenin artan finansal ve hesaplama maliyetleriyle nasıl başa çıkılabileceğini inceleyeceklerini aktarıyor.

ÖSG, geleceğin YZ modellerinin kendi eğitimini ve gelişimini yönlendirebileceği fikrini ifade ediyor; bu modeller, her gelişim turundan edindikleri bilgileri kullanarak sonraki gelişim turlarını yönlendirebiliyor.

Bu özyinelemeli geri bildirim döngüsü, zamanla YZ sistemlerinin, minimal insan girişiyle daha yeni ve daha güçlü nesil modeller geliştirmesini sağlayabilir.

Eylül ayında arXiv ön baskı veritabanına yüklenen ancak hakem değerlendirmesinden geçmemen çalışma, YZ sistemlerini kendi geliştirme yeteneklerine göre 1. Seviye (en düşük) ile 5. Seviye (en yüksek) arasında sınıflandıran bir çerçeve öneriyor.

Düşük seviyelerde gelişim büyük ölçüde insan önderliğinde sürüyor. YZ sistemleri ölçeğinde yukarı çıktıkça, zayıf yönlerini belirleme ve bunları nasıl gidereceğine karar verme konusunda giderek daha yetenekli hale geliyorlar; sonunda kendi “meta-gelişimlerini” yapma yeteneği kazanıyorlar — yani kendilerini nasıl geliştirdiklerini geliştiriyorlar.

Kendini geliştiren YZ ‘saçmalıktan’ mı geliyor?

YZ’nin bu düzeyde sürdürülebilir bir自我-gelişime ulaşabilmesi, hâlâ cevaplanmamış bir soru. Önceki deneyler bununla birlikte, daha sınırlı biçimlerde ÖSG gösterdi.

Bu yılın başlarında A-Evolve-Training adlı bir YZ sistemi, 30 milyar parametreli büyük bir dil modeli (LLM)nin performansını iyileştirme göreviyle yüklendi.

Dört tur boyunca A-Evolve-Training, farklı eğitim tekniklerini test ederek ve sonuçları kullanarak sonraki deneylere yaklaşımını değiştirerek LLM’nin benchmark performansını mütevazı biçimde geliştirdi.

Dijital biyoloji profesörü Peter Bentley, University College London’dan böyle deneylerin ÖSG’ye inandırıcı bir yol sunup sunmadığını sorguladı.

“Bazı bir AI’nın büyülü bir şekilde kendi kendine giderek daha iyi A’lar üretmeye başlayacağı fikri saçmalıktır,” Bentley, bir e-postada Live Science’a söyledi.

Bentley, kendini geliştiren bilgisayar sistemlerinin on yıllardır mevcut olduğunu belirtti. Örneğin evrimsel hesaplama ve pekiştirmeli öğrenme, her ikisi de sistemlerin geri bildirimlere yanıt olarak zamanla performanslarını iyileştirmeleri ilkesine dayanmaktadır.

AI gerçekten kendini geliştirebilir mi? Bazı uzmanlar şüpheci.

(Görsel kredisi: Mina De La O/Getty Images)

Çok daha büyük meydan okumanın, dediği gibi, daha güçlü haleflerini oluşturmak için gereken araştırmayı otonom olarak yürütebilen A’lar geliştirmek—insan uzmanlığına ve fiziksel hesaplama altyapısına bağımlılıklarını aşmak da dahil—olduğu.

“Kendi eğitimini, kendi donanımını iyileştirebilir ve gerçek dünya ortamlarında tükenmeden test edebilirsen, ancak ‘özyineveli kendini geliştirebilirsin’,” Bentley ekledi.

Gerçek RSI’nin meydan okuması

Araştırmanın yazarları bu zorlukların bir kısmını kabul etti. RSI yeteneğine sahip sistemler geliştirmek, büyük ölçekte hesaplama gücü yatırımları ve ardışık iyileştirmelerin anlamlı kazanımlar sağladığını güvence altına almak için insan gözetimi gerektirebilir. Geliştirme ve sonraki A modellerini test etmek için gereken kaynaklar, sundukları herhangi bir faydayı aşarsa, bunun tümü etkili bir şekilde gereksiz hale gelir, yazarlar not düştü.

Sadece Live Science Pro’ya özel

• Kötü bir dijital tanrı uyandırmaya yakınız—AI’ın sonunun büyük bir hayal kırıklığıyla sonuçlanması çok daha olası
• Google DeepMind’in en son AI aracı, genetik araştırmalar için yeni bir çağ vaat ediyor, ancak uzmanlar tahminlerini dikkatle değerlendirmesi gerektiğini uyarıyor
• OpenAI, AGI çağına girdiğimizi iddia ediyor—GPT-6 Astra gerçekten genel zekâyı kanıtladı mı?

Bilim insanlarının aynı zamanda bir yapay zeka sisteminin gerçekten her döngüde daha yetkinleşipleşmediğini, yoksa yetkinliğini ölçmek için kullanılan testlerin zayıf yönlerini sömürüp sömürmediğini belirleyebilecek güvenilir bir yola da ihtiyaçları var. Bu, modellerin test yöntemlerini sömürerek veya sonuçları seçerek daha yüksek puanlar elde etmesiyle bilinen bir yapay zeka geliştirme sorunudur.

Oxford Üniversitesi’nde yapay zeka araştırmacısı ve Oxford China Policy Lab’ın kurucu ortağı Kayla Blomquist, makalenin RSI için pratik bir yol haritası sunmadığını, ancak geliştiricilerin ve politika yapıcıların giderek daha otonom hale gelen yapay zeka sistemleriyle ilişkili teknik zorlukları ve güvenlik risklerini anlamalarına yardımcı olabileceğini söyledi.

Aynı zamanda yapay zekanın insan gelişiminden tamamen bağımsız hale geldiği açık bir anın var olup olmayacağını da sorguladı. “Makale, tek bir andan ziyade sorumluluğun kademeli bir şekilde devredilmesini betimler, bu nedenle insanlar tarafından inşa edilen açık bir ‘son’ model hiç oluşmayabilir,” diye ekledi Blomquist.

Live Science Pro’yu geliştirmemize yardımcı olun: İçeriğimizi her zaman daha iyi hale getirmeye çalışıyoruz. Pro hakkında geri bildiriminizi buradan bırakın.