Google, insan müdahalesi olmadan güvenlik açıklarını istismar eden bir yapay zeka sistemini ilk kez tespit etti
Google Tehdit İstihbaratı Grubu, insan müdahalesi olmadan güvenlik açıklarını istismar eden bir yapay zeka sistemini ilk kez tespit etti.
ForInvest Haber'e gönderilen açıklama şöyle:
"Google Siber Tehdit İstihbaratı Grubu (GTIG - Google Threat Intelligence Group), dördüncü çeyrekAI Threat Trackerraporunu yayımladı. GTIG, ilk kez bir tehdit aktörünün insan müdahalesi olmadan güvenlik açıklarını tespit etmek ve bu açıklardan yararlanmaya yönelik saldırı yöntemleri geliştirmek için bir yapay zeka ajanı kullandığını gözlemledi. Bu bulgu, siber saldırıların yaşam döngüsünde önemli bir değişime işaret ediyor. Yapay zeka, daha önce uzmanlık gerektiren ve deneyimli kişiler tarafından yürütülen görevlerin giderek daha büyük bir bölümünü üstlenerek, kamuya açık bir güvenlik yamasından hareketle ilgili güvenlik açığını istismar etmeye yönelik bir saldırı girişimi geliştirmek için gereken zaman ve çabayı azaltıyor.
Öne Çıkan Bulgular
GTIG, insan müdahalesi olmadan gerçekleştirilen istismarın ilk örneğini tespit etti:Yapılandırma dosyalarında Rusça açıklamalar bulunan, exploit_agent adlı büyük dil modeli (LLM) tabanlı sistem, yama öncesi ve sonrası kodu sürekli karşılaştırarak güvenlik açıklarını belirliyor ve hiçbir insan müdahalesi olmadan otomatik olarak istismar kodu geliştiriyor.
Saldırganlar, gerçek sızma operasyonlarında açık kaynaklı yapay zeka ajanlarını kullanıyor:GTIG, hem finansal motivasyonlu hem de muhtemelen siber casusluk amaçlı tehdir aktörlerinin, bir saldırının farklı aşamalarını otomatikleştirmek için CAIRN, PentAGI ve CyberStrikeAI gibi açık kaynaklı, ajan tabanlı sızma testi araçlarını kullandığını gözlemledi. Bir vakada ise bir saldırgan, ABD havacılık ve uzay sektörünü hedef alan bir sızma girişimi sırasında CAIRN'i devreye aldı.
Yapay zeka, yabancı kaynaklı etki kampanyalarının daha geniş kitlelere ulaşmasına ve daha gerçekçi görünmesine yardımcı oluyor:GTIG'in GTIG, bilgi operasyonlarında (IO) büyük dil modellerinin (LLM) artık yalnızca içerik üretimi amacıyla kullanılmadığını; devlet destekli grupların ve ticari "Influence-as-a-Service" (Hizmet Olarak Etki) sağlayıcılarının bu modellerden otomatik iş akışları oluşturmak, teknik altyapı tasarlamak ve tespit edilmekten kaçınmak için de yararlandığını tespit etti.Bir vakada saldırganlar, bulut tabanlı telefon çiftlikleri aracılığıyla 100 binden fazla sentetik hesabı yönetmek üzere tasarlanan platformları Gemini API üzerinden geliştirdi. Bu platformlar, üretilen içeriğin daha gerçekçi görünmesi için akıllı telefon kameralarındaki kusurları taklit eden özellikler de içeriyordu.
Devlet destekli aktörler, yapay zekayı casusluk ve hedefleme faaliyetlerinde kullanıyor:GTIG, Çin Halk Cumhuriyeti bağlantılı aktörlerin çalınan verileri istihbarat ürünlerine dönüştürmek için LLM'lerden yararlandığını gözlemledi. GTIG ayrıca, kripto para şirketlerini yapay zeka tarafından oluşturulan sahte kimliklerle hedef alan Kuzey Kore bağlantılı faaliyetleri de takip etti. Bu kimliklerin bir kısmı SynthID filigranı taşıyordu. GTIG, bu faaliyetlerin yanı sıra otonom kodlama asistanlarının yapılandırmasını manipüle etmeye yönelik girişimleri de izledi.
Raporda ayrıca Google'ın Gemini hizmetlerinin kötüye kullanımını tespit ederek engellediği, ilişkili hesapları devre dışı bıraktığı ve bu bulgular doğrultusunda güvenlik önlemlerini güçlendirdiği adımlar ayrıntılı biçimde yer alıyor."
ForInvest Haber
Burada yer alan yatırım bilgi, yorum ve tavsiyeler yatırım danışmanlığı kapsamında değildir. Yatırım danışmanlığı hizmeti, aracı kurumlar, portföy yönetim şirketleri, mevduat kabul etmeyen bankalar ile müşteri arasında imzalanacak yatırım danışmanlığı sözleşmesi çerçevesinde sunulmaktadır. Burada yer alan yorum ve tavsiyeler, yorum ve tavsiyede bulunanların kişisel görüşlerine dayanmaktadır. Bu görüşler mali durumunuz ile risk getiri tercihlerinize uygun olmayabilir. Bu nedenle, sadece burada yer alan bilgilere dayanılarak yatırım kararı verilmesi beklentilerinize uygun sonuçlar doğurmayabilir.