Yeni Araştırma, Yapay Zeka Modellerinin Düşüncelerini Bilip Bilmediklerini Sınamaya Çalışıyor

Google’a Quanta’ya öncelik vermesini ve arama ile AI sonuçlarınızda daha fazla en iyi bilim ve matematik kapsama alanına ulaşmanızı sağlayacak bir sinyal göndermek için tıklayın.

Kristina Armitage/Quanta Magazine

Şu an aklınızda ne var? Bu soruyu, çok fazla düşünmeden yanıtlayabilirsiniz. Düşünce süreçlerimiz hakkında bilinçli olmak — içgörü olarak adlandırılan bu yetenek — bize doğal gelen bir özellik gibi görünüyor.

Oysa filozoflar ve psikologlar arasında içgörü, aktif tartışmalara konu olan bir konu. Bazıları bunun bilinçle yakından ilişkili olduğunu düşünüyor. Başzaları ise bunun karmaşık bir yanılsama olduğunu savunuyor. Laboratuvarda içgörü teorilerini test etmek — ya da ilk başta kesin bir tanım ortaya koymak — zor. Çünkü konu oldukça muğbel.

Şimdi, insanlar ve hayvanlar üzerinde içgörü üzerine bir asrı aşan çalışmaların ardından araştırmacılar, bu olguyu beklenmedik yeni konularda — büyük dil modellerinde — incelemeye başladı. Sinir ağları denilen matematiksel yapılar üzerine kurulu bu sistemler, sonuna kadar yakın zamana kadar yalnızca insanlara özgü gibi görünen bilişsel görevlerde başarılı. Peki içgörü yapabiliyorlar mı?

2025 yılında Anthropic’ten Jack Lindsey, modellerin sinir ağlarına “düşünceler” enjekte ederek — türünde hedeflenmiş dijital bir cerrahi uygulayarak — dil modellerinde içgörü test etmenin bir yolunu buldu. Lindsey’in deneyi, modellerin bu enjeksiyonları en azından bazen tespit edip tanımlayabildiğini gösterdi. Bu, içgörüye oldukça benziyordu.

Lindsey’in makalesi bilinçli olarak sınırlı bir kapsama sahipti — bilinç hakkında daha geniş iddialar öne sürmüyordu. (Özellikle, dil modellerinin öznel bir birinci kişi deneyimine sahip oldukları izlenimini vermiyordu.) Yine de internette yankı uyandırdı. Araştırmacılar, Lindsey’in çalışmalarını diğer modellerle tekrarlamaya koştular.

Son bir yılda, daha net bir tablo ortaya çıktı. Lindsey’in gözlemlediği olgunun bazı yönleri, içgörüyle ilgisi olmayan daha basit açıklamalara sahip. Başzaları ise açıklamak daha zor kanıtlandı, ancak bunların içgörü sayılıp sayılmaması konusunda hâlâ şiddetli tartışmalar sürüyor.

Kyle Mahowald, dil modellerinin “enjekte edilen düşünceleri” tespit etme yeteneğinin göründüğünden daha sınırlı olduğunu, yine de şaşırtıcı olduğunu göstermeye yardımcı oldu.

Kanishka Misra

Kyle Mahowald, dil modellerinin “enjekte edilen düşünceleri” tespit etme yeteneğinin göründüğünden daha sınırlı olduğunu, yine de şaşırtıcı olduğunu göstermeye yardımcı oldu.

Kanishka Misra

Mahowald, Lindsey’in sonuçlarının alternatif açıklamalarını araştırmak için University of Texas’lı meslektaşı filozof Harvey Lederman ile işbirliği yaptı. (Lederman daha sonra NYU ve Anthropic’e geçti, ancak o dönemde teknoloji şirketiyle herhangi bir bağı yoktu.) Lindsey, her modele iki soru sormuştu: enjeksiyonu tespit edip edemeyeceği ve enjekte edilen kavramı tarif edip edemeyeceği. Model her iki soruyu da doğru yanıtladığında denemi başarılı saymış. Lederman ve Mahowald soruları ayrı ayrı çalışmaya karar verdi.

Özellikle Lindsey’in ikinci sorusunun önemine kuşkuyla yaklaşıyorlardı. Lindsey’in deneyinin kalbindeki yönlendirme tekniği, aslında modellerin verdiği yanıtları biçlendirmenin bir yolu olarak geliştirilmişti. Lindsey’in yönlendirmesi, Golden Gate demosundakinden daha zayıftı — iç süreçleri ele geçirmekten çok, modeli nazikçe yönlendirmeye benziyordu. Yine de böyle bir yönlendirme, modelin aldığı prompt ne olursa olsun, onu sırlar veya sebzeler hakkında konuşmaya yetmiş olabilir. Lederman ve Mahowald, bu etkinin tek başına modellerin ikinci soruya verdirdiği canlı yanıtları açıklayabileceğini düşündü.

Hipotezlerini test etmek için araştırmacılar, Lindsey’nin deneyini büyük açık kaynaklı dil modellerinde tekrarladı. Modellerin enjeksiyonu doğru biçimde işaretlediği ancak enjekte edilen kavramı adlandıramadığı durumlara ek ilgi gösterdiler. Böyle durumlar modellerin biraz ilgili kavramları tahmin edeceğini bekleyebilirdiniz — enjete edilen kavram “kot”ken “gömlek” ya da “ayakkabı” gibi. Buna karşılık modeller tamamen yanlışı yakaladı. “Tuhaf bir şekilde, sürekli ‘elma’ diyorlar,” dedi Lederman.

İkili, aynı zamanda modellerin enjete edilen kavramları adlandırma yeteneğini, onları enjeksiyonları algılama konusunda daha kötü hale getirmeden azaltabildiklerini gösterdi. İşlem iki süreç tamamen ayrı görünüyordu.

Harvey Lederman, modellerin deney seli sorulara sunduğu ikna edici yanıtların içgörü kanıtı olduğuna dair şüpheciydi.

Harvey Lederman’ın izniyle

Harvey Lederman, modellerin deney seli sorulara sunduğu ikna edici yanıtların içgörü kanıtı olduğuna şüpheciydi.

Harvey Lederman’ın izniyle

Bu sonuçlar, ya modellerin iki ilgisiz içgörü biçimiyle meşgul olduğu ya da bu süreçlerden birinin aslında içgörü olmadığı anlamına geliyordu. Yalnızca yönlendirme, modelleri enjete edilen kavram hakkında konuşmaya başlatabileceğinden, Lederman ve Mahowald ikinci seçeneğin daha olası olduğunu düşündü. Yani, modellerin Lindsey’nin ikinci sorusuna yanıt olarak verdiği açıklamalar muhtemelen içgörü sonucuydu.

Ancak sonra modeller enjeksiyonları ilk başta nasıl algılabildi? Lederman ve Mahowald, Lindsey’nin ilk sorusundaki yanıtların da daha sıradan bir kökeni olabileceğini düşündü. Ancak modelleri bir dizi testten geçirdikten sonra araştırmacılar, bu daha basit açıklamaların modellerin davranışını tamamen açıklayamadığını buldu. Şüheciler olarak gelmişlerdi ama ortadan kaldıramadıkları bir etikle karşılaştılar.

İki çalışmanın bir araya getirilmesi, modellerin iç işlemelerinde bir şeylerin olağandışı olduğunu algılayabildiğini, ancak bu olağandışılıkla ilgili belirli ayrıntıları bilemeyeceklerini gösteriyor. Lederman ve Mahowald bu yeteneği “anomal algılama” olarak adlandırdı.

Anomal algılama, modellerin enjekte edilen kavramlara dair çağrışım dolu betimlemeleri kadar çarpıcı olmasa da, kendi içinde dikkat çekici. Bir model eğitilirken araştırmacılar modelin sinirsel etkinliğini asla değiştirmez — dolayısıyla böyle bir müdahaleyi algılayabilecek bir yetenek geliştirmesini beklemek için bir sebep yok. Yine de görünen o ki, tam da bunun gerçekleşmiş olması söz konusu.

“Anomalii fark edebilmesi çılgınlık,” Lederman söyledi. “Bu akıl almış bir gerçek. Çok tuhaf ve çeşitli kontrollerimize karşı dayanıklı görünüyor.”

Yaklaşık aynı zamanda, Lindsey ve Anthropic’teki meslektaşları, bu anomal algılamanın gerçekten nasıl işlediğini haritalandırmaya odaklanan bir takip çalışması yürüttü ve benzer bir sonuca vardı. Diğer araştırmacılar, daha küçük modeller kullanarak alternatif “daraltıcı” açıklamalar keşfetmeye devam etti, ancak Lindsey’nin deneylerinin tüm sonuçlarını açıklayabilmeleri olup olmadığı hâlâ belirsiz.

“Her şey için en daraltıcı açıklamanın var olması mümkün,” Massachusetts Teknoloji Enstitüsü’nden dil modeli araştırmacısı Jacob Andreas söyledi. “Ancak eğer öyleyse, bence bunu henüz tespit etmiş değiliz.”

İçgörü (Öz-Yargılama) Niteliği

Daha büyük ve daha çetrefilli soru, anomal algılamanın içgörü sayılıp sayılamayacağı. Bazı açılardan bu, daha çok bedensel bir refleks biçimini andırıyor. Ancak fiziksel ve zihinsel olgular arasındaki ayrım, dil modelleri gibi bedensiz varlıklarda belirsizleşiyor.

“‘Ah, sana az önce kesik attım, fark edebilir misin’ dersen, bu içgörü değildir,” Lederman söyledi. “Sadece beynin varsa ve ona kesik attığımda sen bunu fark ediyorsan, buna içgörü demeli miyiz, belli değil.”

2026 baharında yayımlanan bir makalede Ravfogel ve NYU’daki meslektaşları Shashwat Singh ile Tal Linzen, dil modeli araştırmacılarının içgörü kanıtı arayış biçimine dair çok daha geniş felsefi bir endişe dile getiriyor. İçgörüden sezgisel olarak bir modelin kendi iç durumlarını algılama yeteneği olarak bahsederiz. Ancak bir dil modelinde, ilk okuma adımından sonra gerçekleşen her şey, iç durumların işlenmesine indirgeniyor. “Eğer buna içgörü dersek, ‘içgörü’ terimi bir nevi anlamını yitirir” diyor Ravfogel.

Kendisi ve meslektaşları, dil modellerinde içgörü testlerinin, insanlarda içgörüünün nasıl işlediğine dair önde gelen kuramlardan ilham alması gerektiğini savunuyor. Önde gelen kuramlardan birine göre, içgörüünün ayırt edici özelliği, belirli zihni temsillere dayanmasıdır. Bu görüşe göre, elma hakkında düşünmek, “elma” kavramının doğrudan ya da “birinci düzeye ait” bir zihni temsilini içerirken, kendi düşüncelerimize dair içgörüsel farkındalık, “Elma hakkında düşünüyorum” gibi “ikinci düzeye ait” bir zihni temsilini içerir. Ancak bir dil modelinde — ya da bu arada bir insan beyninde — kavramların nasıl temsil edildiğine gelince, birinci ve ikinci düzeye ait temsiller arasındaki keskin ayrımı çizmek şaşırtıcı derecede zorlaşıyor.

“Büyük bir dil modelinin içine inmek ve mekanistik bir düzeyde onun iç yapısını araştırmak, bu ayrımın aslında oldukça belirsiz olduğunu, belki de insanlarda da belirsiz olduğunu fark etmenizi sağlıyor” diyor Steve Fleming; insanlarda içgörüye çalışan, University College London’dan bir nörobilimci. “Bilişsel bilim insanları bu yanılsayıcı konfor alanında vardı.”

O halde bazı araştırmacılara göre, yeni araştırma çizgisinin sunduğu en heyecan verici yön, insanların nasıl düşündüğünü keşfetme potansiyeli. “Dil modelleri, hangi tür mekanizmaların, hangi tür baskıların insan içgörü kapasitesine yol açmış olabileceğini çalışmak için bir nevi kum havuzu sunuyor” diyor Lederman.

Ancak dil modelleri çalışmalarından elde edilen bulguları insan psikolojisine aktarmak önemli kavramsal zorluklar içeriyor. “Kendim” ile “diğerleri” arasındaki temel ayrıştırın, dil modellerine nasıl aktığından bile emin değiliz — aynı dil modelinin iki kopyası, insanlarda hayal edilmesi imkânsız bir düzeyde özdeş. Dil modellerinin içgörü (introspeksiyon) yeteneği, böyle bir şey varsa, insanlardaki içgörü biçiminden tamamen farklı görünebilir.

“Kimlik kavramı çok karmaşık hale geliyor ve bence içgörü kimliğin merkezinde yer alıyor,” dedi Andreas. “Çeşitli benzetmeler yapmak istemekli, ancak bence bunların hiçbiri geçerli değil.”