Anthropic’den Uyarı: Yapay Zeka Kaynaklı Silahlar Tehlikesi Öncü Laboratuvarı Yavaşlatabilir

2 min okuma

Anthropic, yapay zekâ ile üretilen silahların riskinin ileri düzey modelleri yavaşlatabileceğini uyardı

Yeni belgeler, laboratuvarın teknolojisini kontrol altına alma umuduyla birlikte yapay zekânın yapabileceklerinin sınırlarını zorlamayı nasıl hedeflediğini gösteriyor

Samuel Boivin/Shutterstock

Yapay zekâ öncüsü Anthropic halka açılmaya hazırlanırken, şirket Pazartesi günü siber güvenlik ve güvenlik tehditlerinin modellerin getirdiği yararların önüne geçme riski nedeniyle gelişmiş modellerin gecikebileceğini bilim insanları da dahil olmak üzere kullanıcıları uyardı.

Anthropic’in beklenen halka arz öncesi Sermaye Piyasası Kurumu’na sunduğu belgelerde, yapay zekâ laboratuvarı, yeni herhangi bir ürünü yayımlamadan önce modellerinin kamu yararına etkilerini tartacağını taahhüt etti.

“Hızlı ilerlemek yapay zekânın yararlarını daha erken getirir, ancak çok hızlı ilerlemek dünyanın yapay zekâ sistemlerini güvenli hale getirme kapasitesini geride bırakabilir,” şirket yazdı.

Belgede Anthropic, geleceğinin giderek daha yetkin ve karmaşık büyük dil modellerini geliştirme yarışında rakiplerini geride bırakmasına bağlı olduğunu kabul etti. Ancak aynı zamanda yapay zekânın biyolojik veya kimyasal silahlar geliştirmek gibi zararlı amaçlar için kullanılma riskini de dile getirdi.

“Bu kötüye kullanım kategorilerini tespit edip engelleyecek şekilde özel olarak tasarlanmış otomatik sınıflandırıcılar dahil teknik korumalar uyguluyoruz,” şirket uyardı. “Ancak böyle korumalar eksiktir, gelişen tehdit modelleri ışığında güncelliğini yitirebilir ve geçmişte olduğu gibi gelecekte de tekrar atlanabilir.” Yorumlar, ardışık yapay zekâ ihlalleri ve siber saldırıları sonrasında yeterli güvenlik testinin nasıl görünmesi gerektiğine dair yapay zekâ uzmanları arasındaki tartışmayı yansıtıyor.

Yine de Anthropic, biyoloji ve tıp bilimlerinde yeni keşiflerin potansiyeline, kârlılığa giden temel yol olarak işaret etti—şirket şu anda milyarlarca dolarlık bir zararda faaliyet gösteriyor. Anthropic, son zamanlarda CRISPR ile bazı benzerlikler taşıyan bir DNA parçasını keşfeden yaşam bilimleri laboratuvarını, yeni pazarlara nasıl erişebileceğine dair bir örnek olarak gösterdi. Şirket, bu genişlemenin de tehlikeler taşıdığını kabul etti, çünkü daha geleneksel bilim ve araştırma, güncel uzmanlık alanının dışında kalıyor.

“Bu faaliyetler, bizi işyerinde yaralanma ve çevresel kirlenme dahil olmak üzere, ana işimizle ilişkilendirilenlerden farklı sorumluluk kategorilerine maruz bırakıyor,” şirket, kabul etti.

Anthropic, yatırımcılara ayrıca şirketin, ilk bakışta “sorumluluk bilimi olmayan” görünebilecek hesaplama gücü yatırımları yapmasının muhtemel olduğunu da uyardı. Bu geniş ödemeler, yapay zekânın “patlayıcı üstel” büyüme göstereceğine dair yapılan bir bahsin parçası.

“Önümüzdeki fırsatı tam olarak değerlendirmek için, daha yavaş değişen bir teknolojik rejimde faaliyet gösteren bir işletmeden daha agresif bir şekilde yatırım yapmamız gerekiyor,” şirket, yazdı.

Scientific American, Baş Editör