Şirketiniz Artık Var Olmayan Bir Yapay Zeka Sistemi İçin Onay Verdi

Bir şirket, başlangıç onayını aldıktan sonra sürekli değişen bir yapay zeka sistemi için yeşil ışığı yakmış olabilir; ancak sistem sürümü, veri kaynağı, kullanım amacı veya tedarikçi yapılandırması gibi bileşenler değişse de orijinal onay rozeti aynı kalarak “eski onay” sorunu yaratıyor. Bu durumda dün geçerli olan kanıt, bugün gerçekten çalışan sistemin durumunu artık yansıtmıyor. Etkili yönetişim ise onayların açıkça belirlenen bir sistem sürümü, veri rejimi, kullanım amacı, dağıtım ortamı, tedarikçi yapılandırması ve izleme planına bağlanmasını gerektiriyor; köklü değişikliklerin ya da yalnızca zamanın geçmesinin yeniden gözden geçirme kararı vermesini istiyor.

Kurumsal yapay zeka uygulamalarında sık rastlanan bu durum, sistemlerin ilk onayı aldıktan sonra yeni model sürümleri, veri kaynakları, genişletilen kullanım alanları, tedarikçi değişiklikleri veya artan otomasyon nedeniyle evrilmesine rağmen orijinal yeşil ışık rozetinin aynı kalmasıyla ortaya çıkıyor. Böylece dün geçerli olan kanıt, bugün gerçekten çalışan sistemin artık tarif edemediği bir tablo oluşuyor.

Sistem Değişiyor, Onay Aynı Kalmaya Devam Ediyor

Bir şirket bir yapay zeka sistemini onaylar. Altı ay sonra onay rozeti hâlâ yeşildir. Ancak sistem aynı olmayabilir. Model sürümü değişmiştir. Tedarikçi hizmetinde değişiklik yapmıştır. Yeni veri eklenmiştir. Ürün yeni bir müşteri grubuna yayılmıştır. Orijinalinde metin yazan bir araç artık seçenekleri sıralıyor veya eylem önermektedir. İzleme süreci değişmiştir. Hiçbirinin kullanılmaması nedeniyle yedek (fallback) işlemi ortadan kaybolmuştur.

Buna rağmen orijinal onay bu değişikliklerin tümünün üzerinde ayakta kalmaya devam eder. Kurumsal yapay zeka, aslında bir “eski onay” sorunu yaşıyor.

Şirketler yapay zekayı genellikle statik bir ürüne yeşil ışık verirlermiş gibi yönetir. Ancak modern yapay zeka sistemleri, daha çok sürekli değişen operasyonel düzenlemelere benzer: model, veri, altyapı, tedarikçi, iş akışı, kullanıcı davranışı ve insani yetki birbirini etkiler. Bu bileşenlerden birini değiştirdiğinizde, orijinal karara destek olan kanıt artık üretimdeki sistemi tarif etmeyebilir.

Onay Bir Sürüme Bağlanmalı

3 numaralı sürüme verilen yeşil ışık, 7 numaralı sürümü sessizce yönetmemelidir. Bu, sürekli bürokrasi çağrısı değildir; onayların bir kapsama sahip olması çağrısıdır.

Bir onay, belirlenen bir sistem sürümüne, veri rejimine, kullanım amacına, dağıtım ortamına, tedarikçi yapılandırmasına, izleme planına ve yetki düzeyine bağlanmalıdır. Bu koşullar köklü biçimde değiştiğinde şirket, eski kanıtın hâlâ geçerli olup olmadığını yoksa yeni bir gözden geçirmenin gerekli olduğunu karar vermelidir.

Söyleyin isterse, yapay zeka onayı kanıt geçerliliğini kaybettiği zaman sona ermelidir.

Yaşam Döngüsü Kararlarıyla Bağlantılı Yetişim

Bazı kuruluşlar bu mantığın parçalarını halihazırda sergiliyor. SAP’nin kamuya açık Etik Yapay Zeka El Kitabı, fikir verme, doğrulama, gerçeğe uygunlaştırma, ürüne dönüştürme ve operasyon gibi iş yapay zekası yaşam döngüsünün aşamaları boyunca gereklilikleri eşliyor. Sony ise ticarileştirmeyle bağlantılı ve grup çapında bir yönetişim yapısı ile ilişkilendirilen sorumlu yapay zeka incelemelerini tanımlıyor.

Bu kamuya açık materyaller etkinliği kanıtlamaz, ancak yönetişimin tek seferlik bir damga olarak değil, yaşam döngüsü kararlarıyla bağlantılı olduğunda daha iyi işlediğini gösteriyor.

Sona Erme İçin İş Mantığı

Sona ermenin iş gerekçesi, ilk bakıştan daha güçlüdür. Bir yapay zeka sistemi gelişirken aynı zamanda yönetilemez hale gelebilir. Bir tedarikçi, çıktı davranışını değiştiren daha yetkin bir model yayabilir. Bir ürün ekibi, müşteriler onu sevdiği için sistemi genişletebilir. Çalışanlar, orijinal incelemenin hiçbir parçası olmayan yeni kullanımları keşfedebilir. Yönetim, görünüşte iyi giden aylardan sonra otomasyon derecesini artırabilir.

Her değişiklik ekonomik değeri artırabilir. Her biri aynı zamanda eski onayı daha az bilgilendirici hale getirebilir.

Bu durum işletmeciliğin diğer alanlarında tanımadır. Sigorta poliçelerinin süreleri vardır. Kredi onaylarının koşulları vardır. Sertifikalar tanımlı ürün ve süreçlere uygulanır. Varsayımlar köklü biçimde değiştiğinde sermaye projeleri yeniden değerlendirilir. Hiçbirisi, şirket adı aynı kaldığı için tek bir işlem için yazılan bir uygun inceleme (due-diligence) metninin gelecekteki her işlemi yönetmesini beklemez.

Yapay zeka bu mantıktan özel muafiyet almamalidir.

Yeniden Gözdenirme Ne Zaman Tetiklenmeli?

Pratik soru, yeniden gözdenirmenin ne zaman tetiklenmesi gerektiğidir. Bir şirket, her küçük yazılım yaması için süreci baştan başlamaz. Ancak bazı değişiklikler açıkça köklüdür: temel-model sürüm değişikliği, yeni bir veri kaynağı, yeni bir nüfusa genişleme, danışmanlık çıktısından sıralanmış önerilere geçiş, farklı bir iş akışıyla bütünleşme, ciddi bir olay, bağımsız inceleyicinin kaybı, denetlenebilirliği azaltan bir tedarikçi koşulu değişikliği veya daha önce test edilen koşulların dışında sürüklenme kanıtı.

Tetikleyici aynı zamanda zamanın kendisi de olabilir. Kanıt, sistem tanımlayıcısı değişmese bile eskir. Bir yıl önce yapılan bir doğrulama, bugünün kullanıcıları, verileri, tehditleri, tedarikçi yapılandırması veya işletme teşvikleri hakkında az şey söyleyebilir.

Bir sona erme tarihi, yönetimi “kendi onayladığını sandığı sistemin hâlâ var olup olmadığı” sorusunu sormaya zorlar.

Kurultay Seviyesinde Sorumluluk

Yapay zeka gelir, müşteri sonuçları, operasyon sürekliliği, iş gücü kararları veya stratejik bağımlılık açısından önemli olduğunda bu soru kurultay (board) seviyesine aittir. Yönetim Kurulu üyelerinin ham model gösterge tablolarına ihtiyaçları yoktur. Hangi sürümü ve kullanımı onarladıklarını, hangi kanıtın güncel olduğunu, son karardan sonra neyin değiştiğini ve varsayımlar başarısız olursa sistemi daraltabilecek veya durdurabilecek kişiyi bilmeleri yeterlidir.

Sona erme aynı olaydan sonra sorumluluğu da artırır. Tanımlı bir onay süresi olmadan herkes eski yeşil ışığa işaret edebilir. Zaman ve kapsama bağlı bir kararla araştırmacılar, hangi kanıtın hangi yapılandırmaya destek olduğunu ve köklü bir değişikliğinin yeniden gözdenirmeyi atlayıp geçmediğini belirleyebilir.

Bu yaklaşım hatta yeniliği koruyabilir. Ekipler, değişikliklerin hangisinin sıradan, hangisinin yönetişimi yeniden açtığını bildikleri için daha hızlı hareket eder. Bir lansmanda yasal, güvenlik, veri veya risk ekiplerinin sistemin orijinal yetkisinden uzaklaştığına inandığını geç keşfetmekten öngörülebilir bir tetikleyici çok daha az rahatsız edicidir.

Sonuç Yerine Gerçek Soru

Alternatif, hareket hedefe yapıştırılmış kalıcı bir etikettir: onay tiyatrosudur. Sona erme tarihi olmayan bir yapay zeka onayı, siz satın aldıktan sonra değişmeye devam eden ürüne verilmiş bir garantidir.

Şirketlerin her model güncellemesini yavaşlatmaya ihtiyaçları yoktur. Ancak dünün kanıtının yarının sistemini otomatik olarak yönettiğini varsaymayı bırakmaları gerekir. Sorun, şirketin yapay zekayı bir kez onaylayıp onaylamadığı değildir. Sorun, bugün gerçekten çalışan yapay zekayı kimin onayladığıdır.