Anthropic, Claude modellerinin füze sistemleri, askeri drone sürüleri, hedefleme yazılımları, siber operasyonlar, gözetim ve riskli biyolojik araştırmalarda kullanılmaya çalışıldığı vakaları açıkladı. Şirket, Aralık 2025 ile Ağustos 2026 arasında tespit ettiği operasyonlarla bağlantılı hesapları kapattığını ve yeni güvenlik önlemleri devreye aldığını bildirdi.
Anthropic’in 10 Eylül’de yayımladığı “Detecting and countering misuse of AI” raporu, Claude’un gerçek dünyadaki kötüye kullanım örneklerini yedi başlık altında inceliyor. Siber operasyonlar, etki kampanyaları, gözetim, dolandırıcılık, biyolojik riskler, konvansiyonel silah geliştirme ve başka modelleri eğitmek amacıyla yapılan izinsiz model damıtma girişimleri raporun ana başlıklarını oluşturuyor.
Yemen’de Füze Programlarında Claude Kullanıldı
Rapordaki en dikkat çekici vakalardan biri kuzey Yemen merkezli bir grubun silah geliştirme çalışmaları oldu. Anthropic, grubun güdümlü roket, 2 bin kilometrenin üzerinde menzil hedeflenen çok aşamalı balistik füze ve hipersonik süzülme aracı varyantını da içeren bir füze ailesi üzerinde çalıştığını belirledi.
Şirkete göre grup, Claude Code’dan füze sistemlerinin yönlendirme ve kontrol yazılımlarının geliştirilmesinde yararlandı. Aktörler bir güdümlü roketi sahada test etti ancak Anthropic operasyonel bir silah sisteminin başarıyla devreye alındığına ilişkin kanıt bulunmadığını belirtiyor. Başarısız olduğu değerlendirilen testin ardından grubun teknik sorunları analiz etmek için yeniden Claude’a döndüğü tespit edildi. Anthropic bağlantılı hesapları kapattı ve elde ettiği tehdit istihbaratını ilgili kurumlarla paylaştı.
Rusya Bağlantılı Grup Otonom Drone Sürüsü Geliştirdi
Rusya merkezli olduğu değerlendirilen küçük bir ekip ise Claude Code’u otonom askeri drone sürüsü geliştirmek amacıyla kullandı. Anthropic’e göre sistem, birden fazla drone’un koordinasyonu, hedef belirleme ve terminal yönlendirme gibi fonksiyonları kapsıyordu. Geliştirilen yazılım simülasyon ortamlarında test edildi ve bazı bileşenler gerçek geliştirme kartlarına yüklendi.
Anthropic’in araştırması, sistemin insan müdahalesi olmadan hedef seçimine kadar uzanan otonom özellikler içerecek şekilde tasarlandığını gösterdi. Şirket, aktörlerin Rus devletinin doğrudan bir parçası olduğuna ilişkin kanıt bulmadığını, küçük ve uzmanlaşmış bir ekip olduklarını değerlendirdiğini belirtiyor. İlgili hesaplar kapatıldı.
Çin Bağlantılı Vakada Askeri Hedefleme Yazılımı
Çin merkezli başka bir aktörün Claude’u elektronik harp ve hava savunma sistemlerinin bastırılmasına yönelik yazılım geliştirmek için kullandığı tespit edildi. Yaklaşık 16 modülden oluşan sistemin radarları, hava savunma bataryalarını, komuta merkezlerini ve haberleşme noktalarını analiz ederek hedefleri önem ve zafiyetlerine göre sıralayabildiği belirtildi.
Rapora göre çalışma sırasında simülasyon senaryosu Tayvan’daki 12 hedefi kapsayacak şekilde değiştirildi. Hedefler arasında komuta merkezi, erken uyarı radarı, Patriot ve Tien Kung hava savunma sistemleri ile askeri hava üsleri bulunuyordu. Anthropic, aktörün Çin’deki savunma ve askeri araştırma kurumlarıyla bağlantılı olabileceğini değerlendirerek hesabı engelledi.
Beş Biyolojik Araştırma Vakası Tespit Edildi
Anthropic raporunda biyolojik riskler için ayrı bir bölüm açtı. Şirket, modellerinin biyolojik silah geliştirilmesini destekleyebilecek biçimde kullanıldığı beş vaka tespit ettiğini açıkladı. Ancak Anthropic bu vakalardaki araştırmacıların kötü niyet taşıdığını kesin olarak ileri sürmüyor. Bazı çalışmaların meşru bilimsel amaçları bulunabileceğini, aynı çalışmaların tehlikeli biçimde de kullanılabileceğini vurguluyor.
Vakalardan birinde Claude’dan chikungunya virüsünün bulaşıcılığı ve bağışıklık sisteminden kaçış özelliklerini değiştirmeyi amaçlayan bir araştırma için fon başvurusu hazırlanmasında yardım istendi. Çalışmanın askeri bir araştırma enstitüsünde yürütülmesinin planlanması Anthropic’in ek inceleme başlatmasına neden oldu. Şirketin biyolojik güvenlik sistemi talepleri engelledi.
Diğer vakalar arasında kuş gribinin memelilere adaptasyonu üzerine çalışmalar, orthopoxvirus bağışıklık kaçışı üzerine bir araştırma başvurusu ile toksin ve zehir moleküllerini konu alan çalışmalar bulunuyor. Anthropic söz konusu hesapları kapattığını ve bulgulardan elde edilen verileri yeni model güvenlik sistemlerine aktardığını belirtiyor.
Claude Gözetim ve Propaganda Operasyonlarında da Kullanıldı
Rapordaki risk tablosu silah ve biyolojik araştırmalarla sınırlı kalmıyor. Anthropic, Çin, İran ve Batı Afrika bağlantılı aktörlerin Claude’u kitlesel gözetim, muhaliflerin takibi ve profil oluşturma sistemleri geliştirmek için kullandığı operasyonlar tespit etti.
Mali’de bir aktörün devlet istihbarat servisi için ülkenin yaklaşık 25 milyon SIM kartını kapsayabilecek bir gözetim altyapısı geliştirmesinde Claude’dan mühendislik desteği aldığı belirtildi. Sistem çağrı, mesaj ve ses verilerinin işlenmesi, telefon numaralarından istihbarat dosyaları oluşturulması ve biyometrik kayıtlarla eşleştirme gibi yetenekleri kapsıyordu. Anthropic hesabı kapatsa da sistemin daha sonra yerel modellerle kurum içinde çalıştırıldığını belirtti.
İran bağlantılı başka bir aktörün Claude’u ABD deniz kuvvetlerinin bölgedeki konumları hakkında açık kaynaklardan bilgi toplayıp hedefleme önerileri üretmek amacıyla kullandığı da raporda yer aldı. Ayrı İran bağlantılı gruplar ise Claude’dan propaganda kampanyalarının planlanması, sahte çevrim içi kimliklerin oluşturulması ve devlet destekli mesajların bağımsız kaynaklardan geliyormuş gibi sunulması için yararlandı.
Yapay Zeka Güvenliği Ulusal Güvenlik Alanına Taşınıyor
Anthropic’in bulguları, gelişmiş yapay zeka modellerinin kötüye kullanım riskinin artık teorik senaryolarla sınırlı olmadığını gösteriyor. Modellerin saldırganlara sağladığı avantaj her vakada aynı düzeyde olmasa da yazılım geliştirme, veri analizi, açık kaynak istihbaratı ve karmaşık teknik işlerin otomasyonu için kullanımları operasyonların hızını ve erişimini artırabiliyor.
Bu tartışmanın diğer tarafında devletlerin yapay zekayı savunma altyapısına doğrudan dahil etmesi bulunuyor. Pentagon’un kısa süre önce ChatGPT Mil ve Grok for Government modellerini yaklaşık 3 milyon askeri ve sivil personelin erişebileceği GenAI.mil platformuna eklemesi, üretken yapay zekanın ulusal güvenlik alanındaki kullanımının hızla genişlediğini gösteriyor.
Anthropic de raporla eş zamanlı yayımladığı araştırmada yapay zeka modellerinin bazı askeri ve istihbarat görevlerinde geçmişte yalnızca yüksek eğitimli uzmanların gerçekleştirebildiği işleri yapabilecek kapasiteye yaklaştığını belirtiyor. Şirket bu nedenle hedef belirleme ve konvansiyonel silah geliştirme yeteneklerini ölçen yeni güvenlik testleri geliştirdi.
Anthropic Araştırmacısının İstifası Tartışmayı Büyüttü
Raporun yayımlandığı hafta Anthropic’ten ayrılan araştırmacı Jacob Coxon da yapay zeka şirketlerinin gelişmiş modelleri güvenlik önlemlerinden daha hızlı geliştirdiğini savunan açıklamalarıyla gündeme geldi. Coxon, kendi kendini geliştirebilen ileri yapay zeka sistemlerinin insan kontrolünden çıkabileceğine ilişkin kaygılarını kamuoyuyla paylaştı. Axios’a göre istifa açıklaması kısa sürede 100 milyondan fazla görüntülenmeye ulaştı.
Coxon’un açıklamaları Anthropic’in tehdit raporundan ayrı bir gelişme. Rapordaki vakalar ise bugün kullanılmakta olan modellerin silah geliştirme, askeri keşif, siber operasyon, gözetim ve biyolojik araştırmalarda nasıl kötüye kullanılmaya çalışıldığına dair şirketin kendi sistemlerinden elde ettiği somut örneklere dayanıyor.
Anthropic’in raporu bu açıdan yapay zeka güvenliği tartışmasını “gelecekte ne olabilir?” sorusundan mevcut modellerin bugün hangi operasyonlarda kullanıldığı sorusuna taşıyor. Model yetenekleri ilerledikçe güvenlik mekanizmalarının geliştirme sürecinin sonuna eklenen bir kontrol katmanı yerine ürün mimarisinin temel bileşenlerinden biri haline gelmesi beklenebilir.
