Regülatör: Anthropic, OpenAI ve diğerlerinin geliştirdiği AI modelleri ilerledikçe “kesintiler” uyarısı

analysis

• Topic:AI

Posted

Anthropic ve OpenAI, yapay zekânın kontrolden çıkma tehditlerini önceden beri dile getirdi. (Reuters: Dado Ruvic/Illustration)

“Kesintiler olacak; sorunlar olacak.”

Bu uyarı, ülkenin bankalarına, emeklilik fonlarına ve sigorta şirketlerine bakımında bulunan düzenleyicinin, yapay zekânın işletmeler, tüketiciler ve geniş ekonomi üzerinde nasıl büyük kesintilere yol açabileceği konusundaydı.

Australya Prudential Düzenleme Otoritesi (APRA) her yıl, finansal istikrarı felake uğratabilecek en büyük riskleri tespit ediyor.

Yapay zekâ riski uzun süredir bu otoritenin dikkat alanındaysa, gelecek yıldan itibaren düzenleyici ilk kez yapay zekâ kaynaklı risklerle ilgili “stres testleri” yürütmeyi planlıyor.

Bu, yapay zekâ nedeniyle gerçekleşebilecek olası kıyamet senaryolarını simüle etmek anlamına geliyor.

Bir felaket senaryosunun ne zaman ortaya çıkacağı sorusu, APRA başkanı John Lonsdale’ın Perşembe günü düzenlediği basın toplantısında gazetecilere, “sorunun ne kadar değil, ne zaman olduğu” şeklinde yansıdı.

Büyük kurumların, yapay zekâın yol açtığı artan risklere hazırlanma konusunda “beklenen düzeyde olmadığını” söyledi.

“Kesintiler olacak, sorunlar olacak varsayımının oldukça güvenli olduğunu düşünüyorum,”

Mr Lonsdale söyledi.

“Bu nedenle, kuruluşlarla … hızla toparlayabileceğinizden ve müşterilere hizmet sunumunda sürekliliği sağlayabileceğinizden emin olmak için sistemlerinizi kurup kurmadığınızla ilgili görüşüyoruz.”

John Lonsdale, büyük kurumların yapay zekâın yol açtığı artan risklere hazırlanma konusunda “beklenen düzeyde olmadığını” söylüyor. (ABC News: John Gunn)

Bu uyarılar, Australya’nın yakın zamanda kendi yapay zekâ kaynaklı sarsıntısını yaşamasının ardından geldi.

Haziran ayında otonom bir OpenAI ajanı, sağlık verileri araştırırken kamu olmayan bir Australya Medicare istatistik portalına erişti.

Bu gelişme, Avustralya hükümetini zorunlu yapay zekâ güvence mekanizmaları, daha sıkı raporlama yasaları ve bir inceleme açıklamasına yönlendirdi.

Hükümet, artık uyum sağlamayan teknoloji şirketlerine önemli yaptırımlar uygulayabilecek.

Ama yerel şirketlerin risklere karşı nasıl hazırlanması başka bir konu.

Ön teknoloji AI modelleri hakkında düzenleyicilerin endişesi

Anthropic’in Claude Mythos ürünü ile OpenAI’nin ChatGPT‘si ve Google’ın Gemini gibi diğer şirketlerin geliştirdiği gelişen modeller düzenleyicileri endişelendirdi.

Her iki kurum da, yani hem APRA hem de şirket denetçisi ASIC, ülkenin en büyük şirketleri ve güvenlik kurumlarıyla toplantılar düzenledi.

Son aylarda, bu kurumlar halka açık biçimde, ön teknoloji yapay zekanın finansal sisteme yönelik siber tehditlerin ölçeğini ve karmaşıklığını artırdığını uyardı.

Bu sistemlerin insanlardan çok daha iyi biçimde siber saldırı ve siber suç işleyebileceğinden, bunun yalnızca işletmeleri ve tüketicileri değil, ekonomiyi de vurmasından endişe ediyorlar.

Nisan ayında APRA, Avustralya’nın bankalarının, sigorta şirketlerinin ve emeklilik fonlarının yöneticilerine, “Anthropic Mythos” gibi yüksek yetenekli ön teknoloji yapay zaka modellerinden gelen “artan siber tehditlerle” düzgün biçilde uğraşmadıklarını belirten bir mektup gönderdi.

Ve Perşembe günü APRA, en son Sistem Riski Görünümü raporunu yayımladı ve yapay zekayı, Avustralya’nın finansal sistemine zarar verebilecek şoklar ve zayıflıkların merkezine yerleştirdi.

“Anthropic ve OpenAI’den gelenler dahil ön teknoloji yapay zaka modelleri, yazılım zayıflıklarını bulma, onları sömürmek için yöntemler geliştirme ve karmaşık siber görevleri otomatikleştirme konusunda giderek daha gelişmiş yetenekler sergiliyor,” raporda uyarıldı.

“Büyük ABD teknoloji şirketleri de Nisan 2026’dan beri zayıflıkların açıkça duyurulmasında keskin bir artış bildirdi.

Yapay zekadan gelen ‘varoluşsal’ tehdit

Robotların veya yapay zakanın kontrolden çıkma tehdidi, bunların arkasındaki ABD teknoloji devi şirketlerinin abartıldığına inandığı bir konu değil.

Anthropic’in kendi CEO’su Dario Amodei, Mythos’un mevcut siber savunmaları atlatma gücüne sahip olduğunu açıkça uyardı ve kötü niyetli aktörlerce kullanıldığında finansal istikrarı risk altına sokabileceğini belirtti.

Dario Amodei daha önce yapay zekânın “varoluşsal tehdidi” konusunda uyarıda bulunmuştu. (AP: Markus Schreiber/File)

Yakında, yapay zekânın sunduğu “varoluşsal” tehdidi yazarken şunları söyledi: “Açık ki, belirli bir nedenle bunu yapmayı seçseydi, bu [kurgusal] ülke [yapay zekâ yoluyla] dünyayı ele geçirmenin oldukça iyi bir şansına sahip olurdu — ya askeri açıdan ya da nüfus ve kontrol açısından — ve iradesini diğer herkes üzerine dayatırdı ya da dünyanın geri kalanının istemediği ve durduramayacağı sayısız başka şeyi yapardı.”

Ve Temmuz ayında, ChatGPT’nin arkasında bulunan OpenAI, en gelişmiş yapay zekâ modellerinden bazılarının bir güvenlik testi sırasında kontrolü kaybetmeleri üzerine kontrolden çıkıp bir girişimi hacklemiş olduğunu açıkladı.

Yapay zekâ sistemi kontrollü bir ortamda test ediliyordu ancak zayıflıkları bulduktan sonra test sınırlarından kaçmayı başardı ve uluslararası endişe yaratan Hugging Face adlı yapay zekâ firmasına saldırdı.

Bay Lonsdale, bankalara, sigortacılara ve emeklik fonlarına risklere dair planlama konusunda daha iyi yapmalarını istedi.

“Regülasyonumuz altındaki kuruluşların sahip olabilecekleri en güçlü sistemlere sahip olmalarını istiyoruz,” dedi Bay Lonsdale.

“Onların sistemleri izlemesini istiyoruz.”

ASIC de yakın zamanda regülasyonumuz altındaki şirketlere benzer uyarılarda bulundu.

“Bu meydan okumanın aciliyeti fazla vurgulanamaz,” ASIC komiseri Simone Constant, Ağustos ayında bir açıklamada şunları söyledi.

“Tehdit aktörleri, açıkları belirlemek ve sömürmek için ileri düzey yapay zekâ modellerini kullanıyor…

“Şimdi, en kötü durum gerçekleştiğinde müdahale etmek için güçlü, test edilmiş bir plana sahip olduğunuzdan emin olma zamanı.”

Korkulan şey, en kötü durumun düşündüğümüzden daha erken gerçekleşebileceği.