Yapay zekâdaki “yavaşlama” tartışmasının, model eğitildikten sonra ortaya çıkan risklerin görmezden gelindiğini savunan yazar, Trump ile Çin arasındaki rekabetten Dario Amodei, Sam Altman ve Elon Musk’ın hız görüşlerine, Avrupa Komisyonu Başkanı Ursula von der Leyen’in önde gelen modeller için duraklama çağrılarından Mark Zuckerberg’in buna muhalefetine kadar uzanan bu çatışmanın piyasalar tarafından “yongalar aşağı, yazılım yukarı” şeklinde okunduğunu belirtiyor. Ancak bu haritanın çok basit olduğunu vurgulayan yazar, bir sonraki önde gelen modelin geç gelmesi durumunda bile üretimdeki sistemlerin değişmeye devam edeceğini ifade ediyor.
Tartışma artık araştırma laboratuvarlarından çıkıp politikanın, piyasaların ve jeopolitiğin alanına yerleşti. Yazar, eğitim ile canlı olarak çalışan çalıştırılabilir kod arasında TVM ve MLIR gibi derleyicilerin, nicelemenin (quantization), operatör birleştirmenin, dinamik toplama (batching) ve yönlendirmenin bulunduğunu; bu işlemlerin maliyeti düşürüp hızı artırabilse de sayısal özdeşliği bozarak izleyicinin ihtiyaç duyduğu ara durumu gizleyebileceğini veya tek bir gecikme iddiasını çok sayıda kuyruk dalına bölebileceğini açıklıyor. Aynı ürün adının bulutlar, uç cihazlar ve ülkeler arasında farklı zamanlama ve gözlemlenebilirlikle karşılık bulabileceğini belirten yazar, yalnızca “Model X v4″i onaylamanın yeterli olmayacağını savunuyor.
Siyaset ve Piyasaların Okuması
Trump, yapay zekânın yavaşlatılmasının Çin’e yardımcı olabileceğini öne sürdü; Avrupa ve sanayi liderleri önde gelen gelişimin zamanlanması gerektiği konusunu tartışıyor. Ancak donuk bir model bile derleyici, niceleme, toplama ve donanım optimizasyonuyla aslında çalışan çalıştırılabilir kod yeniden şekillendiğinde değişmeye devam edebilir.
Tartışma araştırma laboratuvarlarından çıkıp politika, piyasa ve jeopolitiğe ulaştı. Başkan Donald Trump, ABD yapay zekâ gelişiminin yavaşlatılmasının Çin’i güçlendirebileceğini öne sürdü. Anthropic CEO’su Dario Amodei, önde gelen yeteneklerin ilerlemesinin zamanlanması için çağrı yaptı; OpenAI CEO’su Sam Altman ve Elon Musk daha güçlü önlemleri desteklediklerini ifade etti. Çarşamba günü, European Commission President Ursula von der Leyen backed calls to slow frontier developmentken, Meta CEO Mark Zuckerberg rejected the case for a coordinated slowdown ve laboratuvarların zaten güvenli bir hızda ilerlemek için teşviklere sahip olduğunu savundu.
Piyasalar bu çatışmayı bir yatırım haritasına dönüştürmeye çalışıyor. Çip hisseleri keskin biçimde gerilerken yazılım şirketleri yükseldi; yatırımcılar başlangıçta yavaşlayan önde gelişimi, eğitim altyapısı için daha az uygun ve mevcut yapay zekâyı kullanan şirketler için potansiyel olarak daha avantajlı görüyor.
Model ile Makine Arasındaki Gizli Katman
Modern yapay zekâ yerleştirmesi, eğitilmiş bir modeli sunucuya kopyalamaktan ibaret değildir. Eğitim ile üretim arasında bir dönüşüm katmanı oturur. TVM ve MLIR gibi TVM ve MLIR derleyici sistemleri hesaplamayı grafikler, operatörler ve donanım hedefleri boyunca yeniden düzenler. Operatörler birleştirilebilir. Aritmetik kaymalı virgülden daha düşük doğruluktan nicelenebilir. İstekler dinamik biçimde toplanabilir. Koşullu sistemler farklı girdileri farklı hesaplama yolları üzerinden yönlendirebilir.
Bu tekniklerin her biri faydalı olabilir. Hiçbiri otomatik olarak güvence-nötr değildir. Niceleme en kolay örnektir. Lower-precision inference bellek kullanımını azaltıp verimi artırabilir; bu da uç cihazlar ve kısıtlı donanım için değerlidir. Ancak yerleştirilen çalıştırılabilir kod artık referans hesaplamasıyla sayısal açıdan özdeş değildir. Bu, nicelemeyi güvensiz yapmaz. Bir sayısal uygulamaya karşı doğrulanmış bir iddiaın, o farkın güvence verilen özellik açısından önemli olup olmadığını kontrol etmeden otomatik olarak başka birine miras kalmayacağını means eder.
Mühendislik kazancı ve güvence yükümlülüğü birlikte gelir.
Hızlanmak Aynı Zamanlarda İzlenebilirliği Zorlaştırabilir
Derleyici optimizasyonu farklı bir sorun yaratır. Diyelim ki bir çıkarım hattı birkaç aşamadan oluşuyor ve izleyici bu iki aşama arasındaki ara durumu inceliyor. Bir optimize edici, bunu yapmanın yükü azaltması nedeniyle o aşamaları daha büyük bir çekirdeğe birleştirebilir. Performans artar. Ancak izleyicinin güvendiği ara durum kaybolabilir.
Sistem hızlanırken, güvenlik durumunda görünürlüğün beklendiği tam noktada daha az izlenebilir hale gelir.
Bu ayrım önemlidir çünkü kuruluşlar hâlâ farklı özellikleri tek bir performans fikrinde birleştirme eğilimindedir. Hız, izlenebilirlik değildir. Bellek verimliliği, üretilebilirlik değildir. Verim, müdahale yeteneği değildir. Sayısal benzerlik, sayısal özdeşlik değildir.
Bir yerleştirme bir eksen üzerinde iyileşirken, başka bir eksende kanıtı sessizce geçersiz kılabilir.
Tek Bir Zamanlama Rejimi Olmayabilir
Koşullu yürütme ve toplama, sorunu daha da zorlaştırır çünkü tek bir sistem-seviyesi iddiasını birden fazla iddiaya dönüştürebilirler. Koşullu bir model, kolay girdileri kısa bir yol üzerinden, harder girdileri ise uzun bir yol üzerinden yönlendirebilir. Ortalama gecikme mükemmel görünebilirken, önemli vakaların çok daha uzun sürdüğü bir kuyruk saklayabilir.
Dinamik toplama zıt bir ödünleşim yaratır. Ağyük altında, toplama verimi ve donanım kullanımını artırabilir. Hafif yük altında, bir sunucu hesaplamaya başlamadan önce ek istekler için kısa süre bekleyebilir. NVIDIA’s Triton Inference Server exposes batching and queue-delay controls çünkü gecikme ve verim hizmet politikasına bağlıdır.
O halde toplama hızlı mı yoksa yavaş mı? Her iki cevap da doğru olabilir. Eksik değişken iş yüküdür.
Aynı Model Sınırlar Arasında Farklı Sistemlere Dönüşebilir
Bu durum, aynı model farklı yargı alanları ve altyapılar üzerinden yerleştirildiğinde yalnızca bir yazılım mühendisliği sorunundan daha fazlasına dönüşür. Çok uluslu bir şirket, tek bulut bölgesinde tam doğruluklu bir sürümü, başka bir yerde yerel uç donanımında nicelenmiş bir sürümü ve yerel altyapı veya veri konumu kurallarının yerel işlemeyi tercih ettiği bir yerde farklı optimize edilmiş bir yapıyı çalıştırabilir. Ürün adı değişmeden zamanlama, sayısal davranış, izlenebilirlik ve müdahale pencereleri farklılaşabilir.
Bu, yavaşlama tartışmasının jeopolitiğinin ihmal edilen bir parçasıdır. Washington Çin ile rekabeti tartışırken, Brussels önde risk kontrollerini görüşüyor. Yapay zekâ laboratuvarları zamanlama konusunda koordinasyon yapıp yapmayacaklarını tartıyor. Ancak operasyonel güven nihayetinde belirli bir yığın üzerinde, belirli bir iş yükü altında ve belirli bir yargı alanında çalışan çalıştırılabilir bir nesneye bağlanır.
Eurasia Review önceki yazılarımda yapay zekâ onaylarının modeller, veriler, tedarikçiler veya kullanım şekilleri değiştiğinde eskiyebileceğini savunuyordum. Bu, daha az görünen eşlik eden sorundur: nominal model sabit kalırken dönüşüm zinciri, dünün kanıtının aslında uygulandığı nesneyi değiştirir.
Güveni Onayla, Yalnızca Modeli Değil
Gerçekte çalışan hangi çalıştırılabilir koddur ve model, derleyici ayarları ve yapıyla üretilebilir biçimde bağlanabilir mi? İlgili iş yükü altında ölçülen hangi gecikme dağılımı veya sınırı var? Sonucu destekleyen hangi donanım, bellek ve hesaplama varsayımları mevcut? Optimize edildikten sonra hangi iç durumlar izlenebilir kalır? İzleyici veya operatör hâlâ nerede müdahale edebilir, yönlendirebilir veya geri dönebilir? Dönüştürülen çalıştırılabilir kod referans modelinin çıktılarından ne kadar sapar? Bu iddialar hangi istek oranları, toplama politikası, ortak kiracılık ve yönlendirme koşulları altında belirlendi?
Bu cevaplar birlikte bir güvence kanıt sözleşmesi oluşturur. Fikir, run-time assurance for learning-enabled systems üzerinden geniş mantığı izler: güven yalnızca nominal model özdeşliğine değil, çalışan sistemde izlemek, sınırlamak ve müdahale etmek için mevcut olan kanıta bağlıdır.
Sözleşme sözcüğü evrensel bir eşik ima etmez. Tıp cihazı, lojistik sistemi, otonom platform ve öneri motoru farklı sınırlar gerektirir. Sözleşme hangi kanıtın hangi operasyonel iddiayı desteklediğini ve bu kanıtın geçerli kaldığı koşulları belirler.
Yavaşlama Yerleştirmeyi Dondurmaz
Bu, onay sorunu değiştirir. “Model X, sürüm 4” yeterli değildir. Onaylanan nesne, çalıştırılabilir sistemi üreten dönüşüm zincirini içermelidir.
Nicelemeyi değiştirin ve semantik-sapma kanıtının yenilenmesi gerekebilir. Derleyici geçişlerini değiştirin ve izlenebilirliğin yeniden test edilmesi gerekebilir. Toplama politikasını değiştirin ve zamanlama kanıtı artık geçerli olmayabilir. Önemli ölçüde farklı donanıma geçin ve kaynak veya gecikme kanıtı basitçe miras alınmamalıdır.
Bu, her zararsız derleyici yaması için bir yönetim kurulunu yeniden açmak anlamına gelmez. Kural daha darındır: Bir dönüşüm güvence iddiasının bağlı olduğu bir özelliği değiştirdiğinde, o özellik için kanıtı yenileyin.
Bunun büyük kısmı otomatikleştirilebilir. Modern yapı sistemleri zaten sürümleri, bağımlılıkları, eserleri, benchmark’ları ve derleyici yapılandırmalarını izler. Eksik adım, bu kayıtları mühendislik atığı olarak muamele etmeyi bırakıp güvence durumunda bir parçası olarak muamele etmektir.
Son birkaç gün tek bir şeyi netleştirdi: önde yapay zekânın yavaşlatılması gerekip gerekmediğine, kimin bu teslimati dayatacağına veya tam olarak neyin yavaşlatılacağı konusunda tek bir konsensüs olmadığı açık. The industry itself is divided. Sektörün kendisi bölünmüş durumdadır; hükümetler farklı konumlar alıyor ve piyasalar hâlâ bu tartışmanın çipler, bulutlar ve yazılım için ne anlama geldiğini belirlemeye çalışıyor.
Ancak çıkarım katmanı bu tartışmanın yatışması için beklemez. Mevcud modeller daha ucuz ve hızlı olma baskısı kaldığı sürece derlenecek, sıkıştırılacak, yönlendirilecek, toplanacak ve yeni donanımlara taşınmaya devam edecek.
İşte bir sonraki güvence sorunu yalnızca modelin değişip değişmediği değildir. Dünün kanıtının bugün çalışan çalıştırılabilir kodu tanımlamayı bırakmasını sağlayacak bir şeyin değişip değişmediğidir.
Donuk bir model hâlâ hareket eden bir hedef haline gelebilir.
1 yorum
Fikrinizi bir kaynak, soru veya yapıcı karşı görüşle geliştirin.