Yapay Zeka Düşünmeden Ürettiklerinden Öğreniyor: Bu Hem Makineler Hem de Bizim İçin Bir Sorun

noparrit / Getty Images

Bir galeriden geçip duvardaki tabloları beğenirken gördüğünüz şeyler bitmiş ürünlerdir. Sayısız saatlik öğrenme, pratik ve deneme-yanılma sürecinin ürünüdürler, ancak bunun hiçbir gösterilmez.

Gördüğümüz uzman işlerinin çoğu böyledir. Müzik kayıtları hatalı kayıtları ve caz seanslarını içermez, yayımlanan kitaplar dağınık taslakları atlar, bilimsel makaleler ise yıllarca süren yanlış başlangıçların ve çıkılmaz sokakların bahsetmez.

Yani aslında gördüğümüz şey, ürünü üreten gerçek sürecin bir izidir. Bu izler, yapay zekâ (YZ) modellerinin eğitildiği şeylerdir – ve bu nedenle kendileri de iz üretirler; bunlar düşünce ürünlerine benzer biçimde olur ancak aynı yöntemle üretilmek zorunda değildir.

Yeni bir makalede, izlere odaklanıp süreci dışarıda bırakmanın güncel YZ sistemlerini felç ettiğini – ve aynı sorunun bu sistemleri kullanan kişilerde de ortaya thểbileceğini savunuyoruz.

İzler ve sürtünme

Yenilerinden “muhakeme” yapan modeller adımlarının bir raporunu ekrana basmış olabilir, ancak bu raporlanan muhakeme bile başka bir izdir. Sık sık cevabı üreten gerçek hesaplamayla örtüşmez.

Ajan sistemler gerçek düşünmeye biraz daha yakındır. Burada büyük bir dil modelinin etrafındaki yazılım “kayışı” bir döngü çalıştırır, sonuçları geri besler ve sürece gerçek bir deneme-yanılma düzeltmesi getirir. Ancak ortadaki düşünce zinciri – büyük dil modeli tarafından üretilen kısım – yine bir izdir.

Açık en yaratıcı alanlarda en genişidir. Ressam ve müzisyenler işlerinin, tuşanın beklenmedik bir şekilde akması ya da bir çalının “perışık” çıkması gibi üretirken yaşadıkları kazalar ve sürtünmelerle nasıl dönüştüğünden söz ederler. YZ modelleri böyle hiçbir şeyle karşılaşmaz.

Kullan ya da kaybet

Bu sorunun insan biçimi YZ’den çok daha eskidir. 1997’de American Airlines’a ait bir kaptan, pilotların “magenta çizginin çocukları” haline geldiğini uyardı.

Düzey uyarı bilgisayарına bu kadar sadık kaldılar ki, manuel uçuş becerileri bozuldu. Havacılık, o günden beri otomasyona bağımlılığı yönetmek için adımlar attı.

Aynı şey, bazı kliniklerin AI destekli kolonoskopi uygularken, canlı kamera görüntüsünde olası polipleri işaretleyen yazılımı kullanmaya başlamasıyla da yaşandı. Bir süre sonra, insan hekimlerin becerileri aşınmaya başladı: AI sisteminin devreye girmesinden önceki kadar polip tespit edemediler.

Bu etki, sınıflarda da görüldü. Sınırsız üretken AI desteği verilen lise matematik öğrencileri, araç kullanılabilirken akranlarından daha iyi performans gösterdi, ancak kaldırıldıktan sonra daha düşük puan aldı.

Bu bozulma hızlı bir şekilde gerçekleşebilir. Bir çalışma, yaklaşık on dakikalık AI desteğinin, insanların AI olmadan daha kötü performans göstermesini ve problemlerden daha erken vazgeçmesini yeterli bulunduğunu buldu.

Başarısızlıklar ve hatalar öğretmendir

Bu sorun için ne yapılabilir? Yanıt, denkleme daha fazla süreceği getirmek olabilir.

AI için bu, kendisi daha fazla insansı süreç kullanan sistemler inşa etmek anlamına gelir. Bir asistan, biri sorunun nasıl çerçevelendiğini sorguladığında, güncel sistemlerin sık yaptığı gibi yalnızca onaylamak yerine yanıtını gözden geçirebilir. Ya bir ajan, dünyadan gelen itirazın onu görevle nasıl ele aldığına malien etkide bulunmasını sağlayarak başarısızlıklardan ve hatalardan öğrenebilir.

İnsanlar için bu, zekânın süreçlerini bir kişi içinde koruyan AI araçları tasarlamak anlamına gelir. Harvard’daki bir denemede, iyi inşa edilmiş bir AI fizik özel derslisiyle öğretilen öğrenciler, aktif öğrenme sınıflarındaki akranlarından daha fazla ve daha hızlı öğrendi, çünkü özel dersli onları üretken çalışmayı sürdürdü.

İyi bir AI özel derslisi, çoğu zaman yalnızca yanıtı vermek yerine, yanıt yolundaki bir sonraki soruyu daha sık sunmalıdır. Bazen bir belirsizliği gidermek yerine yükseltmelidir, çünkü sağlam yargı, çoğu zaman bir bilmediğimiz şeyler üzerinde yavaş muhakeme sonucunda ortaya çıkar.

Süreç, süreç, süreç

Süreç, gerçek zeka ve yaratıcılığın ortaya çıkmasını sağlayan şeydir. Bu süreçten daha fazlasını içeren bir yapay sistem, gerçeğe daha yakın bir biçimde benzer.

İnsan öğrenmesi de sürece ihtiyaç duyar. Eğitimde ve herhangi bir beceri gerektiren alanda, yapay zeka sistemlerinin nasıl tasarlandığı ve kullanıldığı düşünülerek, düşünme ve öğrenme sürecinden daha fazlasının korunması göz önünde bulundurulmalıdır.

Günümüzde makinelerin düşünmenin daha fazla izini üretmesi kolaydır, ancak süreç kurmak çok daha zordur. Bunu doğru yaparsak, makinelerimiz bizi daha az zeki kılmadan daha zeki hale gelebilir.

Bu makale, Rachel W. Kallen, Ayeh Alhasan, Cassandra Crone ve David M. Kaplan ile birlikte yazılmıştır. Manuel Varlet, M. Paula Diaz Monfort, Patrick Nalepka ve Mark Dras ile yürütülen araştırmalardan yararlanmaktadır.

• Yapay zeka (AI)
• Büyük dil modelleri
• Yeni araştırmalar, Avustralya ve Yeni Zelanda