Anthropic'ten kritik uyarı: Claude askeri ve siber amaçlarla kötüye kullanıldı

Anthropic, yapay zeka modeli Claude'un kamikaze insansız hava aracı sürüleri, füze navigasyon sistemleri ve biyolojik silahlar dahil çeşitli potansiyel askeri uygulamalar geliştirmek amacıyla kötüye kullanıldığını açıkladı.

Şirketin tehdit istihbaratı ekibinin perşembe günü yayımladığı rapora göre son bir yılda İran, Rusya, Çin ve Yemen'in de aralarında bulunduğu ülkelerden kullanıcıların Anthropic'in ileri modellerini kötüye kullandığı tespit edildi.

Yedi farklı tehdit alanı belirlendi

Raporda, Aralık 2025 ile Ağustos 2026 arasında engellenen faaliyetler ele alındı. Kötüye kullanım vakaları siber operasyonlar, etki operasyonları, gözetim, dolandırıcılık, biyolojik kötüye kullanım, konvansiyonel silah geliştirme ve model damıtma olmak üzere yedi alanda sınıflandırıldı.

Vakalarda Claude Haiku, Sonnet ve Opus modelleri kullanıldı. Yasa dışı bir model damıtma vakası dışında Claude Fable veya Mythos sınıfı modellerin kötüye kullanıldığına ilişkin bir bulguya rastlanmadı.

Anthropic, tespit edilen faaliyetlerin engellendiğini, edinilen bilgiler doğrultusunda güvenlik önlemlerinin güçlendirildiğini ve gerekli durumlarda istihbaratın yetkililer ile sektör ortaklarıyla paylaşıldığını bildirdi.

Devlet destekli gruplardan dolandırıcılara kadar uzanıyor

Raporda incelenen tehdit aktörleri arasında devlet destekli olduğu düşünülen gruplar, mali kazanç amaçlı suçlular, ticari casus yazılım satıcıları, devlet propaganda kurumları ve siyasi motivasyonlu kişiler yer aldı.

Vakalar, kullanıcıları dolandırmak amacıyla oluşturulan sahte flört uygulamaları ağından muhalifleri tespit edip izlemek için geliştirilen gözetim sistemlerine kadar uzandı.

Raporda ayrıca Rus casusluğu, ShinyHunters grubunun fırsatçı saldırıları, güvenlik açığı geliştirme ve otonom saldırı sistemleri, yapay zeka tedarik zincirinin hedef alınması ve Avrupa'daki siyasi kuruluşlara yönelik saldırılar gibi olaylara yer verildi.

Gelişmiş saldırılar için uzmanlık eşiği düştü

Anthropic, yapay zekanın sağladığı siber güvenlik yeteneklerinin devlet destekli ve güçlü kaynaklara sahip operasyonlarla bireysel saldırganlar arasındaki iş gücü ve araç farkını azalttığını belirtti.

Yapay zeka kullanımının keşif ve araç geliştirmeden veri işleme ve istismara kadar saldırı sürecinin her aşamasını hızlandırdığı; saldırıların kapsamını ve derinliğini artırdığı kaydedildi.

Şirkete göre saldırganların yapay zeka kullanımı yalnızca sohbet botlarına soru yöneltmenin ötesine geçti. Operasyonların çoğunda keşif, istismar ve veri sızdırma işlemlerini yürüten çok ajanlı sistemler kullanıldı. İnsanlar ise saldırı hedeflerini belirlemeyi ve sızdırılan verileri incelemeyi sürdürdü.

Bir vakada saldırganın, güvenlik ürünleri tarafından tespit edildiğinde kullandığı araçları otomatik olarak yeniden oluşturan ve devreye alan yapay zeka destekli bir iş akışı geliştirdiği belirlendi. Anthropic, modeller geliştikçe bireysel saldırganlardan organize yapılara kadar daha fazla aktörün daha hızlı ve geniş ölçekli siber saldırılar için yapay zeka sistemlerini benimseyeceğini öngördü.

Anthropic'ten kritik uyarı: Claude askeri ve siber amaçlarla kötüye kullanıldı

Bunlar da İlginizi Çekebilir