REA: Viral Yapay Zeka Tersine Mühendislik Araçının Geliştiricisiyle Özel Röportaj

5 dk okuma

Yapay zeka, herkesin her şeyi tersine mühendislikle çözebilmesini sağlıyor. Bu işin merkezindeki geliştiriciyle konuştuk

Scientific American’a konuşması için bir araya geldiğimiz, yazıcılar, akıllı televizyonlar, arabalar ve daha fazlası için açılmaması tasarlanmış yazılımları parçalayabilen REA adlı bir yapay zeka aracı. İsimlerini gizleyen yaratıcısı, herkesin bir bakış atabilmesini istiyor

Yeni bir araba satın alırsınız ve aracı dışarıdan boyamak ya da yeni jantlar takmak size bırakılır. Ancak gösterge paneli görüntüsünü ve diğer elektronik bileşenleri kontrol eden kodu düzenlemenize ise izin verilmez. Bir kez paketlenip gönderilen yazılım, üreticinin istediği şekilde kalmaya mahkumdur.

Morluto, Scientific American’a isminin gizli kalması şartıyla görüşme fırsatı bulmuş bir yazılım mühendisi ve bu durumu bir meydan okuma olarak karşıladı. Tersine Mühendislik Her Şey (Reverse Engineer Anything) ya da REA adlı aracı, yapay zeka ajanlarının programları parçalayıp kullanıcıların istediği gibi yeniden birleştirmesine olanak tanıyor.

Merakı, oyunların tersine mühendisliğinin bir köşesi olan oyun decompile işleminden geldi; bu alanda hayranlar video oyunlarının kodunu özenle geri inşa ediyor. Böyle bir iş, yapay zeka desteği olmadan yıllar alıyor. Şimdi Morluto—ismi eski bir oyun içi takma adından geliyor—çok daha geniş kullanım alanları görüyor. REA’nın Discord topluluğu, her şeyi yazıcıdan televizyonlara kadar değiştiren insanların örneklerini içeriyor. Proje, GitHub’da popülerliğinin kabaca bir göstergesi olan 400.000’den fazla yıldız topladı.

“Yazılımın etrafımızı tamamen çevirdiği gerçeğine alıştık ama hiçbirinin bizden etkilenebileceği bir şey değil,” diyor. Yapay zeka destekli tersine mühendisliğin bunu düzeltebileceğini umuyor: “Kod sihirliyse, biz de hepimiz buna yetinliyiz,” diyor Morluto.

Onlarca yıldır yazılım üreticileri sıkıcı bir güvenlik hissi içinde yaşadı: derlenmiş bir programı parçalamak bu kadar zor bir işti ki, uğraşan az kişi vardı. Ancak bu paketleme aynı zamanda bizi kendi aletlerimizin iç dünyasından da uzak tuttu. ChatGPT aboneliğine ya da açık ağırlıklı bir modele sahip herhangi biri bu işi üstlenebilirse, bir aygıt üzerindeki kontrol, niyetinden ne olursa olsun içeriye bakmak isteyen eline geçiyor. “Bu, ticari sırrı ve telif hakkı hukuku için bir kriz oluşturacak,” diyor Cornell Tech hukuk profesörü James Grimmelmann.

Morluto, bunu insanların kullandıkları teknolojiyle arasındaki ilişkinin doğal bir gelişimi olarak görüyor. Sohbetimiz boyunca, çalışmalarını şekillendiren teknoloji girişimcilerini sürekli hatırlattı—Apple’dan Steve Jobs, Nvidia‘dan Jensen Huang, Y Combinator’dan Paul Graham. “Geçmişteki yaratıcıların çoğu,” diyor, “gençliklerini hackerlar ve denemeciler, deneyiciler olarak geçiren kişilerdi.” REA’nın kullanıcılarını bu tür bir yaratıcı haline getirebileceğine inanıyor. “Sadece sihir yapmakla kalmıyor, aynı zamanda güzel şeyler yaratmak da sizin elinizde,” diyor Morluto.

Kendi görüşüne göre teknoloji, duvarlarla çevrili bahseden bir sanayi haline geldi ve yapay zekâ sayesinde “bu duvarların, sandıkları kadar sağlam olmadığı ortaya çıktı.”

Bu duvarlar, yazılımların çalıştırılabilir programlar içine paketlenmesinden kaynaklanıyor. Bir program çalışmadan önce, insanların Python gibi bir programlama diliyle yazdığı kodun, bilgisayara gerçekten ne yapması gerektiğini söyleyen 1’ler ve 0’lardan oluşan bir dizi olan ikili (binary) sisteme çevrilmesi, yani derlenmesi gerekiyor. Yazılımda tersine mühendislik yapmak, bu çeviriyi geriye doğru çalıştırmayı, yani derleme sürecinde ikili sistemi okunabilir bir koda dönüştürmeyi içeriyor.

Tersine mühendisler, bunu uzun zamandır Ghidra gibi araçlarla yapıyor; Ghidra, ABD Ulusal Güvenlik Kurumu’nun siber güvenlik çalışmalarının bir parçası olarak geliştirdiği bir program. REA, bir yapay zekâ ajanının Ghidra ve diğer programları kendi başına yönetmesini sağlayan hatları sağlıyor.

“Tersine mühendislik, biraz desen eşleştirme gibi,” diyor Morluto. “Yapay zekâ, son derece güçlü akıl yürütme ve desen eşleştirme becerilerine sahip.”

“Tersine mühendislik, biraz desen eşleştirme gibi,” diyor Morluto. “Yapay zekâ, son derece güçlü akıl yürütme ve desen eşleştirme becerilerine sahip.”

2026’ya kadar decompile etme (kaynak koda dönüştürme) çalışması, tersine mühendisliği inceleyen Georgia Üniversitesi’nde yardımcı doçent olan Zion Basque’a göre, seçkin birkaç uzmanın alanındaydı. Şimdi, neredeyse herkesin buna bulaşabileğini söylüyor. Araştırma grubu, REA’ın yapay zeka ajanlarına sağlayabileceği decompiler’lardan biri olan Kuna’yı geliştirdi. REA ile insanların yaptığı tersine mühendislik türleri daha önce de yapılabilirdi, sadece bu kadar büyük ölçekte hiç yapılmadı. “Bunun sınırlarının nerede olduğunu henüz görmedim,” diyor.

Elle yapıldığında, bu tür bir işin uzmanları aylarını alacağını, üstelik başarılı olabilseler bile, Grimmelmann’a göre. Şimdi sınırın, ödeyebileceğiniz şey olduğunu söylüyor. “Token’larınız varsa, onu neredeyse her yazılıma salabilirsiniz,” diyor.

Yazılım endüstrisinin bazı kesimlerinde bu, yasanın kolayca tamir edemeyeceği varoluşsal bir sorun. Telif hakkı, Grimmelmann’a göre, bir programın kodunu korur ancak kodun uyguladığı algoritmaları ve fikirleri korumaz. “Bu, yazılım yaygınlaştırdığınızda insanların elde ettiği öndeliği ciddi biçimde azaltan modların, yeniden düzenlemelerin ve birbirleriyle uyumlu yeni istemcilerin tüm bir dünyasını açıyor,” diyor.

REA, bu öndeliği yiyen tek şey değil. Ekim’in erken bir gününde Anthropic’in Claude Opus 5.5’i, sıkı kontrolleri ve yüksek fiyatlarıyla bilinen Adobe’nin Creative Cloud programlarının açık kaynak klonlarını bir geliştiricinin yapmasına yardımcı oldu.

Joey Castillo, açık kaynaklı bir geliştirici ve Cornell Teknoloji Enstitüsü’nde résidans teknolojist, daha küçük bir şeyle uğraştı. Geçmişte çeşitli araçları tersine mühendislik yoluyla çözmüştü, ancak bunu yapmak için yapay zeka kullanmayla ilk karşılaşması, Shenzhen, Çin’de satın aldığı bir akıllı yüzükü düzenlemeyi denediğinde geldi. Yapay zeka modelinin yüzüğü tersine mühendislikle çözebilmesi ve aynı zamanda ona öğretebilmesi onu etkiledi. “Claude’nin çalışmasını izleyerek çok şey öğrendim,” diyor.

Dolanma isteği, satın aldığınız şeylerin kontrolünü ele alma arzusundan geliyor, Castillo’ya göre. “Bu nesneyi satın aldım ve bana karşı kapalı tutuluyor,” diyor. “Şimdi onu istediğim şeyi yapmasını sağlayacak güce sahip olacağım.”

Bu kapıların bazıları önemli bir amaca hizmet ediyor olsa da. Yapay zânânın güvenlik sistemlerini delmede ne kadar yetenekli olduğunu göstermesi gibi, dijital hak yönetimi ve cihazlara gömülü korumalı firmware gibi şeyleri demonte etmede de oldukça başarılı olduğunu kanıtlıyor.

REA gibi projeler, amatörlerin bir tür sentetik uzmanlığa ulaşmasını da kolaylaştırabilir. Castillo ve açık kaynaklı arkadaşları, insanların tam olarak anlamadıkları cihazların içini karıştırmalarından endişe ediyor. “Bütün bunlar, biri firmware’yi ‘ruh haliyle’ kodlayıp uçuş sırasında bataryanın alev almasına yol açana kadar eğlence ve oyun olmaya devam edecek,” diyor Castillo. Hangi modifikasyonların yapılacağına karar verirken mühendislik tersine mühendisliği uzmanlarının getirdiği öngörünün yapay zânâya sahip olmadığından şüphe ediyor, çünkü yapay zânânın “yalnızca ‘evet, ve…’ diyebilir. ‘Hayır, ama…’ diyemiyor.”

Morluto ile ilk görüşmemizden sonra, bazı sosyal medya kullanıcıları OpenAI ve Anthropic’in REA kullanımını yasakladığını veya engellediğini bildirdi. X üzerindeki bir yanıttan bir OpenAI araştırmacısı, tersine mühendisliğe yönelik engeli “çoğunlukla kazavi” olarak niteledi.

Morluto endişeli değil. Aksine, diyor ki, bu “facia” projeye ve ulaşmak istediği türden keşfe daha fazla dikkat çekiyor. “Tersine mühendisliğin özü işte bu,” diyor. “Sana ne istediğini sorgulamanı sağlayan bir yol bu.”

Kazavi olsun ya da olmasın, böyle engeller cihazlarını gerçekten tersine mühendislik yoluyla çözmek isteyenleri durdurmayacak. Castillo’ın GLM-5.3’te bir yedek planı var, Çinli Z.ai şirketinden açık ağırlıklı bir model. Bir kez indirildi mi, onu kimse alamaz. “Anthropic ve OpenAI tersine mühendislik için hesabımı yasaklamaya karar verirlerse, GLM-5.3’ü çalıştırıp akıllı yüzüğü tersine mühendislikle çözeceğim,” diyor, “çünkü bu şeyi istediğimi yapmaya zorlamanın gerçekten havalı olduğunu düşünüyorum.”

Bilimsel Amerikan Baş Redaktörü