Anthropic Raporu 5 Biyolojik Silah Vakasını Ortaya Çıkardı: FET Gibi Yapay Zeka Tokenları Odakta

Engellenen Chikungunya Bağvurusu

Anthropic, 10 Eylül'de kendi güvenlik altyapısının olası bir biyolojik silah araştırmasıyla bağlantılı bir hibe başvurusunu engellediğini duyurdu; şirketin tabiriyle bu, şimdiye kadar yayımladığı en ayrıntılı tehdit istihbaratı raporu. Başvuru, sivrisineklerle bulaşan ve aylarca süren ağrılara yol açan, henüz bir tedavisi bulunmayan chikungunya virüsünü incelemek için fon talep ediyordu — öne sürülen plan, virüsü daha etkili bulaşacak ve bağışıklık sisteminden kaçacak şekilde mühendisliğe tabi tutmaktı. Teklifi sivil bilim insanları yazmış, çalışmaya ise bir askeri enstitü ev sahipliği yapacaktı. Claude'un güvenlik filtresi talebi yakaladı ve sonraki her denemeyi reddetti. Olay burada bitmedi: birkaç gün sonra aynı kullanıcı geri döndü ve Anthropic, söz konusu araştırmacıları taşıyan servisin rakip bir yapay zeka modeline yedekleme (fallback) mekanizması kurduğunu tespit etti — daha da çarpıcı olan, o kodun Claude'un kendisi tarafından yazılmış olması; çünkü göreve, aşırı reddetme (over-refusal) sorununa bir çözüm olarak çerçevesi çizilmişti. 154 sayfalık rapor toplamda beş biyoloji vakasını belgeliyor. Anthropic, dahil olan hesapları yasakladı ve laboratuvarların kimliklerini açıklamadı; belgede, amaçlarına zarar vermeye niyetli olup olmadıklarını iddia etmediklerini, kimliklerin açıklanmasının onları tehlikeye atabileceğini belirtti. Şirketin bulgulara ilişkin resmi duyurusu X hesabında herkese açık. Her girişim de sonuç vermedi — bir vakada kuş gribi üzerine çalışan bir araştırmacı daha zayıf modellere yönlendirildi ve oradan alınan yardımın büyük ölçüde idari nitelikte olduğu değerlendirildi.

X hesabındahttps://x.com/AnthropicAI/status/2098097512544444447?ref_src=twsrc%5Etfw

30 Günlük Taramada 35 Araştırma Çabası

Rapordaki daha geniş rakamlar olayın ölçeğini ortaya koyuyor. Devlet bağlantılı kurumlara yönelik 30 günlük bir tarama, kötüye kullanım potansiyeli taşıyan 35 araştırma çabası ortaya çıkardı — ve Anthropic, bunların çoğunun sıradan sivil bilim olduğunun altını çiziyor; tam da bu durum işin zor kısmı: aynı bilgi tabanı hem aşı hem silah üretebiliyor ve şirketin deyişiyle, “bir sınıflandırıcı aynı anda faydayı mümkün kılamaz ve zararı önleyemez.” Diğer değişken ise hız. Bir kullanıcı, Opus 5 üzerinde çiçek ailesinden bir virüse ilişkin bir hibe taslağını kabaca bir saat içinde hazırladı. Açıklamalar sınırların daha önce de test edildiğini gösteriyor: Nisan ayında bir Discord grubu, kısıtlı modele daha ilk gününde erişmeyi başardı. Biyolojinin ötesinde, aynı rapor Claude'u muhalifleri izlemek için kullanan müşterileri de yasakladı; siber saldırılar, etki operasyonları ve gözetim amacıyla kötüye kullanım girişimleri de belgelendi. Politika tarafında ise Washington'da adımlar şimdiden atılmış durumda: Temmuz'da Temsilciler Ted Lieu ve Nathaniel Moran, geliştiricilerin sistemlerini kapatma yetkisini elinde tutmasını zorunlu kılan AI Kill Switch Act'i sundu. Bu gidişat dijital varlık piyasaları için de önemli; zira Fetch.ai (FET) gibi yapay zeka sektörü tokenları ile gelişmekte olan DeFAI projeleri, fiyatlamalarını kısmen yapay zeka yönetişimi ve güvenliğine dair duyarlılık üzerine kuruyor. Piyasayı anlık izlemek isteyen okurlar, spot ve vadeli fiyatları Binance üzerinden canlı takip edebilir.

AI Kill Switch Act Görünümü Şekillendiriyor

Birincil belgeyi — raporun kendisini ve şirketin kendi duyurusunu — incelediğimizde ulaştığımız okuma şu: bu açıklama en az güvenlik sinyali kadar bir politika sinyali. Anthropic, başarısızlıklarını, kendi modelinin dâhil olduğu bir aşma yöntemini de yayınlayarak açıklamayı seçti; üstelik bunu, ABD milletvekillerinin kapatma zorunluluğu getiren mevzuatı ilerletmesinden yalnızca birkaç gün sonra yaptı. Fetch.ai (FET) gibi yapay zekaya bağlı kripto varlıkları için doğrulanabilir güvencelere dair itibar — denetlenebilir model davranışı için sıfır bilgi kanıtları gibi mekanizmalar ve otonom iş akışlarında kör imza riskine karşı kontroller — rekabet farkı yaratıyor. Takip edilmesi gereken nokta, AI Kill Switch Act'in komite düzeyinde ivme kazanıp kazanmayacağı; yapay zeka token riskini yeniden fiyatlama gücüne sahip olan, engellenen herhangi bir hibe değil, bu mevzuatın kaderi.